В России готовят поправки, которые могут обязать пользователей маркировать контент, созданный с помощью нейросетей. Проект разрабатывает рабочая группа Совета при президенте по кодификации гражданского законодательства под руководством Павла Крашенинникова. Изменения предлагают внести в Гражданский кодекс и закон об искусственном интеллекте.
Сейчас в законе об ИИ обязанности помечать сгенерированные материалы нет. Новый проект должен исправить этот пробел, но пока в нем остается много неясностей. Формат, содержание и порядок размещения маркировки должен определить уполномоченный государственный орган, однако конкретное ведомство не называется.
Главная проблема — слишком широкая формулировка. Если маркировать нужно все, что «создано с применением» ИИ, под требование могут попасть не только полностью сгенерированные тексты, изображения или видео, но и материалы, которые нейросеть лишь немного отредактировала. В таком случае маркировка может затронуть огромную часть интернет-контента.
Не определен и порог участия ИИ. Непонятно, нужна ли пометка, если нейросеть помогла исправить ошибки, улучшить стиль, подобрать заголовок, обработать фотографию или сделать короткую расшифровку. Без точных критериев пользователи, авторы, редакции, блогеры и платформы не будут понимать, когда маркировка обязательна, а когда нет.
Еще один спорный вопрос — кто именно должен ставить отметку. Контент может создать один человек, опубликовать другой, а распространить третий. Если маркировки нет, остается непонятным, кто будет отвечать за нарушение: автор, владелец площадки, администратор канала, пользователь, сделавший репост, или сервис, через который был создан материал.
Эксперты сомневаются, что такая мера эффективно поможет бороться с фейками. Те, кто намеренно создает поддельные изображения, видео или тексты, могут просто не ставить маркировку и пользоваться иностранными нейросетями. При этом российские сервисы и добросовестные авторы получат дополнительную нагрузку, потому что им придется выполнять новые требования.
Идея обязательной маркировки уже обсуждалась при подготовке закона об ИИ, но тогда от нее отказались. Один из аргументов был в том, что маркировать пришлось бы слишком большую часть интернета. Сейчас проблема стала еще заметнее: нейросети используются в текстах, дизайне, монтаже, музыке, рекламе, программировании, переводах и редактуре.
Поправки касаются не только маркировки. В том же пакете предлагается признать обучение нейросетей способом использования объектов авторских прав. Если такое правило примут, разработчики ИИ должны будут выплачивать вознаграждение правообладателям, если те заранее не запретили использовать свои произведения для обучения моделей.
Этот пункт может серьезно повлиять на рынок ИИ. Разработчикам придется учитывать права авторов, договариваться с правообладателями, вести учет обучающих данных и закладывать выплаты в экономику проектов. Для крупных компаний это будет сложный юридический и финансовый процесс, а для небольших команд — потенциально высокий барьер входа.
Главный вывод: в России готовят поправки об обязательной маркировке контента, созданного с помощью нейросетей. Но проект пока требует доработки: неясно, какой объем участия ИИ требует пометки, кто должен ее ставить, кто будет контролировать исполнение и какая ответственность грозит за нарушение. Если правила примут в слишком широком виде, они могут затронуть не только фейки, но и большую часть обычного цифрового контента.