Депутат заксобрания Петербурга Павел Крупник выступил с инициативой маркировки генеративносозданного контента с помощью нейросети. Необходимость таких нововведений объясняется тенденцией роста дипфеков, (включая фотографии и видеоролики, искажающие реальность), фейковых новостей и прочее.
Павел считает, что такой контент представляет опасность, так как может вводить пользователей в заблуждение или нанести урон репутации. Такой контент может использоваться в корыстных целях для провоцирования негативной реакции общества.
«Учитывая высокую общественную опасность явления, считаю необходимым внедрить правила обязательного маркирования любого нейросетевого контента, находящегося в общественном доступе», — Павел Крупник.
Кроме этого, предлагается ввести ответственность за распространение ИИ-контента без маркировки. Так, Минцифры, помимо вопросов маркировки, обсуждает и введение уголовной ответственности за ИИ-контент, произведенный без согласия изображенных или озвученных лиц, сообщают «Известия». Вопросом, помимо Минцифры, заинтересован и Институт социально-экономического анализа и программ развития, где предлагают фокусироваться на наказании именно распространителей ИИ-контента, включая тех, кто репостит фейковый контент, особенно если это делается умышленно.
Необходимость правового регулирования ИИ-контента подтверждается и недавним исследованием, которое показывает низкий уровень доверия аудитории к ИИ-контенту. Так, только 10% пользователей доверяют ему на уровне с оригинальными публикациями. При этом, каждый второй респондент относится с недоверием к генеративному контенту, а треть считают себя обманутыми, когда видят ИИ-публикации, в которых отсутствует сноска на его происхождение. И 71% респондентов считают, что маркировка ИИ-контента при публикации обязательна.
В связи с нарастающей потребностью, российские разработчики уже начали работу над сервисами для маркировки генеративно созданного контента. Так, «Яндекс» совместно с Институтом системного программирования Российской академии наук (ИСП РАН) разрабатывает систему маркировки для фото-, видео- и аудиоконтента, сгенерированного ИИ, в частности нейросетью компании «Шедеврум», сообщают Ведомости.
