Популярное
С развитием каждой новой технологии общество сталкивается не только с её преимуществами, но и с серьёзными рисками. Искусственный интеллект не стал исключением. Анализ, проведённый в прошлом году британской организацией Internet Watch Foundation (IWF), показал тревожную тенденцию — использование ИИ для создания видео с сексуальным насилием над детьми резко увеличивается.
По данным исследования, прошедший год стал худшим за всю историю наблюдений по количеству подобных материалов, созданных при помощи искусственного интеллекта. Если в 2024 году специалисты IWF выявили 13 сгенерированных видео с опасным содержанием, то в 2025 году их число достигло уже 3440.
Особую тревогу у экспертов вызывает тот факт, что 65% этих видео были отнесены к категории А — это наиболее тяжёлая форма насилия. Ещё 30% материалов попали в категорию B, которая также считается крайне опасной.
Генеральный директор IWF Керри Смит отмечает: специалисты организации непрерывно работают над удалением подобных материалов, однако технологии развиваются настолько быстро, что преступники получают возможность создавать контент в желаемом объёме и с высокой степенью детализации.
Призыв к срочному запрету
На фоне этих данных IWF выступила с призывом немедленно запретить использование искусственного интеллекта для создания изображений и видео сексуального характера. Эксперты связывают резкий рост подобных материалов с быстрым развитием технологий, которые позволяют создавать всё более реалистичный контент за короткое время.
Дополнительную угрозу представляет тот факт, что для создания подобных материалов уже не требуются глубокие технические знания — доступ к инструментам становится всё проще.
По словам Керри Смит, рост количества видео из самой тяжёлой категории ясно показывает, к чему стремятся преступники. Лёгкая доступность таких материалов может способствовать увеличению числа людей с опасными наклонностями, расширению распространения контента и, как следствие, ставит под угрозу безопасность всё большего числа детей — как в интернете, так и в реальной жизни.
Опасность ближе, чем кажется
Эксперты подчёркивают: материалы сексуального характера, созданные с помощью ИИ, зачастую базируются на реальных изображениях детей. Нередко злоумышленники используют фотографии детей из своего окружения, что делает проблему ещё более тревожной.
В 2024 году 27-летний Хью Нельсон был приговорён к 18 годам лишения свободы за редактирование фотографий реальных детей с помощью ИИ с целью создания сексуализированного контента. В ходе расследования выяснилось, что изображения ему передавали клиенты, которыми в большинстве случаев оказывались люди из близкого круга пострадавших — отцы, дяди, семейные друзья или соседи.
Юрист и эксперт по онлайн-безопасности Джейми Хёрворт подчёркивает: использование генеративного ИИ для создания материалов сексуального характера не должно оставаться в правовой «серой зоне». Независимо от того, был ли контент создан человеком или алгоритмом, речь идёт о сексуальной эксплуатации.
По мнению экспертов, результаты исследования наглядно демонстрируют масштаб потенциального вреда от ИИ при отсутствии строгих механизмов контроля и регулирования.
Реакция технологических платформ
Предупреждение IWF появилось всего через несколько дней после того, как искусственный интеллект Grok, разработанный компанией Илона Маска, лишил пользователей возможности создавать изображения и видео, содержащие сцены сексуального насилия в отношении женщин и детей. Несмотря на ужесточение правил использования, на практике система всё ещё способна генерировать сексуализированные изображения, например, женщин в купальниках.
IWF также подчёркивает, что действующее британское законодательство значительно усложняет для государственных органов процесс проверки ИИ-инструментов на предмет возможного злоупотребления. При тестировании существует риск непреднамеренного создания запрещённого контента, что само по себе может считаться преступлением.
Главное:
— количество видео с насилием над детьми, созданных ИИ, выросло в сотни раз за год;
— большинство материалов относится к наиболее тяжёлым категориям;
— технологии становятся доступнее даже для людей без специальных знаний;
— зачастую в основе контента лежат реальные изображения детей;
— эксперты призывают к срочному запрету подобных практик;
— действующие законы пока не успевают за развитием технологий.
Ситуация ясно показывает: стремительное развитие искусственного интеллекта требует не только инноваций, но и жёсткого контроля, чтобы защитить наиболее уязвимых — детей. Сегодня этот вопрос становится одним из ключевых в глобальной дискуссии о безопасности цифрового пространства.
