Facebook будет помечать изображения, созданные искусственным интеллектом

Социальные сети уже заполонили изображения и видео, созданные с помощью искусственного интеллекта (ИИ). Наряду с безобидными материалами, созданными обычными пользователями с помощью свободного программного обеспечения, это часто поддельные и манипулятивные визуализации. Компания Meta, управляющая популярными социальными сетями Facebook и Instagram, планирует помечать такие изображения специальными "стикерами". Но, судя по всему, это будет не так просто.

Компания уже использует это для маркировки контента, созданного ее собственными системами. Теперь это будет распространяться и на посты других пользователей.

Однако, как признался представитель компании Ник Клегг, мы можем ожидать повсеместного распространения маркировки контента ИИ через несколько месяцев. Выступая перед BBC, Клегг признал, что технологии, необходимые для распознавания контента ИИ, еще не достигли достаточного уровня и, конечно, не будут применяться для видео- или аудиоконтента.

Эксперт по ИИ из Мэрилендского университета Сохейл Фейзи сомневается, что Мета добьется успеха. По его словам, ИИ всегда будет иметь преимущество.

"Они действительно могут обучить детектор предупреждать о некоторых изображениях, специально сгенерированных определенными моделями, но такие детекторы будут легко обойдены с помощью легкой, дополнительной модификации изображения", - отметил Фейзи.

По его словам, также высок риск ошибок в другом направлении, то есть система будет отмечать подлинный контент как поддельный.

В последнее время Meta подверглась критике в Великобритании и США за подделанный компьютером контент. В одном из фальшивых видео президент США Джо Байден неуместно прикасается к собственной внучке.

Недавно в сети X появились фальшивые порнографические изображения с участием поп-звезды Тейлор Свифт. Одно из них набрало 45 миллионов просмотров, а 24 000 пользователей поделились им.