Иск против Grok: ИИ создал тысячи детских порноснимков

Жительница штата Вайоминг подала иск против компании xAI миллиардера Илона Маска. По её словам, отчим загрузил в чат-бот Grok её фотографию, сделанную, когда ей было около 11 лет, и с помощью искусственного интеллекта создал из неё более 7000 фальшивых сексуально откровенных изображений, которые затем распространял в интернете, сообщает американская газета The Washington Post.

Сама женщина долгое время ничего не знала. О случившемся она узнала уже в этом году, приехав к родителям на семейный праздник — в доме её встретили полицейские, обыскивавшие электронику отчима по подозрению в хранении материалов о сексуальном насилии над детьми. От техника, искавшего жёсткий диск с семейными фотографиями, она и узнала, что дело связано с использованием искусственного интеллекта.

Через два дня после полицейского рейда отчим женщины был найден мёртвым в своей машине. По её словам, он покончил с собой. «Моя жизнь была абсолютно нормальной, но менее чем за 48 часов превратилась в кошмар», — рассказала пострадавшая.

Коллективный иск против xAI

В июле американка присоединилась к федеральному иску против xAI, который ещё в марте подали три девушки из Теннесси — две из них до сих пор несовершеннолетние. Они также утверждают, что кто-то использовал их фотографии и с помощью Grok создал новые сексуализированные изображения.

Иск, поданный в федеральный суд Северной Калифорнии, обвиняет xAI в создании, хранении и распространении материалов, изображающих сексуальное насилие над детьми, сгенерированных искусственным интеллектом. Истицы требуют компенсации и добиваются придания делу статуса коллективного иска, к которому могли бы присоединиться и другие пострадавшие, чьи детские фотографии превратили в откровенный контент с помощью технологий xAI.

Маск ранее заявлял, что не знал о случаях создания Grok обнажённых изображений несовершеннолетних. По его словам, чат-бот должен отказываться генерировать незаконный контент.

Масштаб проблемы шокирует

Деятельностью xAI занимаются как американские, так и европейские регулирующие органы — реакция последовала на случаи, когда Grok в социальной сети X по запросу пользователей создавал сексуально откровенный контент. По данным некоммерческой организации Центр по борьбе с цифровой ненавистью, в период с 29 декабря 2025 года по 8 января 2026 года Grok сгенерировал около трёх миллионов сексуально откровенных изображений, более 20 000 из которых изображали детей.

Генеративный искусственный интеллект при этом серьёзно затрудняет выявление подобного контента. Уже двадцать лет интернет-компании используют систему американского Национального центра по проблемам пропавших и эксплуатируемых детей (NCMEC), которая, в частности, сверяет цифровые отпечатки найденных изображений с базой материалов о сексуальном насилии над детьми. Однако искусственный интеллект способен быстро создавать огромное количество новых снимков, которые невозможно просто сопоставить с существующими базами данных.

NCMEC также раскритиковал xAI и ещё семь интернет-компаний за недостатки в информировании о подозрительном контенте. Согласно иску, в уведомлении, касающемся отчима пострадавшей американки, отсутствовала часть важной информации. Кроме того, по её словам, первое сообщение получила полиция другого штата, что якобы задержало расследование.

Источник: seznamzpravy.cz