14 мая 2025, 22:00 Общество

Комиссар призывает запретить AI-приложения, создающие обнажённые изображения детей: девочки — главные жертвы

Английский детский комиссар Рэйчел де Соуза призывает правительство Великобритании полностью запретить приложения, использующие искусственный интеллект для создания сексуально откровенных изображений детей. По её словам, даже после принятия новых законов, запрещающих владение, создание и распространение подобных AI-инструментов, государство по-прежнему не осуществляет должного контроля за такими технологиями. Это уже оказывает разрушительное воздействие в реальном мире — в первую очередь на детей и подростков, особенно девочек.

Рэйчел де Соуза требует полного запрета приложений, способных создавать так называемые «нюдификации» — когда фото реальных людей с помощью AI обрабатываются так, будто они обнажённые.

«Технологии, которые лежат в основе этих инструментов, сложны. Они искажают реальность, вызывают зависимость и привлекают внимание пользователей. А дети сталкиваются с терминами и образами, которые они просто не в состоянии понять», — написала комиссар на сайте организации Children’s Commissioner.

Она подчеркнула, что развитие таких технологий идёт с такой скоростью и в таких масштабах, что сложно даже осознать все риски, которые они несут.


AI и шантаж: хищники используют технологии для манипуляций

По словам де Соузы, эти технологии непропорционально нацелены на девушек и молодых женщин. Многие подобные приложения работают исключительно с изображениями женских тел, поскольку были обучены именно на таких данных. Об этом сообщает BBC.

«Почти все сексуализированные deepfake-изображения касаются женщин и девочек. Доказательства указывают, что большинство таких инструментов работают только с изображениями женщин — именно на них они были натренированы», — отмечает комиссар.

Девушки, осознавая риск, всё чаще избегают публикации своих фото или любой активности в интернете, чтобы не попасть в ловушку подобных технологий. Это похоже на их поведение в реальной жизни: например, многие не ходят по ночам одни, чтобы обезопасить себя.

Мальчики тоже подвергаются рискам, хоть и иного рода. Исследования показывают, что подростки мужского пола уязвимы к экстремистским онлайн-сообществам, в том числе содержащим сексуализированный контент, особенно созданный с помощью AI.


Создание и распространение откровенных deepfake-фото — незаконно

Согласно Закону о безопасности в интернете, передача или даже угроза передачи откровенных deepfake-изображений является уголовным преступлением. В феврале правительство Великобритании уже одобрило законы, направленные на борьбу с созданием с помощью AI изображений сексуального насилия над детьми.

Законы запрещают не только хранение, но и создание или распространение таких AI-инструментов.

«Распространение изображений, изображающих сексуальное насилие над детьми — включая созданные с помощью искусственного интеллекта — отвратительно и незаконно. Согласно закону, все онлайн-платформы обязаны удалять подобный контент, иначе им грозят крупные штрафы», — заявил представитель Министерства науки, инноваций и технологий.

Великобритания стала первой страной в мире, внедрившей отдельные уголовные нормы, касающиеся сексуального насилия над детьми с применением AI. Но комиссар считает, что этого недостаточно.

«Эти законы — лишь первый шаг. Не должно существовать ни одного приложения, создающего обнажённые изображения, даже если оно не попадает под классификацию как инструмент для генерации изображений насилия над детьми», — подчеркнула де Соуза.


AI и дети: лавинообразный рост и угроза вне контроля

Комиссар призывает обязать разработчиков генеративных AI-инструментов учитывать и устранять риски, которые их технологии несут детям. Также она требует внедрения системного механизма удаления сексуализированных deepfake-изображений детей из интернета, а также официального признания такого контента как формы насилия над женщинами и девочками.

Тревогу бьют и эксперты из британского благотворительного фонда Internet Watch Foundation (IWF), частично финансируемого технологическими компаниями. Они подтверждают: использование AI для создания изображений сексуального насилия над детьми выросло более чем в четыре раза всего за год.

Так, в ходе недавнего 30-дневного исследования IWF обнаружил 3 512 AI-снимков на одной лишь странице в даркнете. Причём количество изображений самой опасной категории A за год выросло на 10%, сообщает The Guardian.

Хотя большинство таких изображений создаются на основе вымышленных лиц, были зафиксированы и случаи, когда использовались реальные фотографии или голоса детей. Позже эти изображения применялись для шантажа и втягивания детей в повторные злоупотребления.

«Мы знаем, что такие приложения используются даже в школах, а изображения мгновенно теряют контроль. Это критически важная проблема, требующая немедленного внимания. Иначе технологии обгонят законы и образование», — заключил временный исполнительный директор IWF Дерек Рэй-Хилл.

Похожие новости

Жесткие меры: Всетинские школы внедряют запрет на использование мобильных телефонов
Родственники жертв декабрьской стрельбы в Философском факультете Карлова университета направили президенту полиции Мартину Вондрашеку официальную жалобу с требованием признать ошибки, рассказать всю правду, извиниться и принять ответственность.
Трагедия предотвращена благодаря случайному посетителю аквапарка. В аквапарке Йиглавы произошел инцидент, который мог закончиться трагедией. Две маленькие девочки, трех и пяти лет, остались без присмотра своей 22-летней матери.
После трехлетнего перерыва немцы вновь стали крупнейшими иностранными владельцами чешских компаний. Граждане и компании из Германии вложили в уставный капитал чешских фирм почти 180 миллиардов крон. На второе место переместился Люксембург
Во вторник, незадолго до полудня, на трассе из Брно в Угерске-Градиште произошла серьезная авария, в результате которой столкнулись три легковых автомобиля и фургон. ДТП полностью заблокировало движение на участке дороги недалеко от Славкова-у-Брно.
В истории родильного отделения Краевой больницы Т. Бати в Злине произошло значимое событие — на свет появился малыш с рекордным весом в 5320 граммов. «В нашей роддоме даже летом мы не теряем оборотов и устанавливаем новые рекорды»
В некоторых регионах на обследование магнитно-резонансной томографией (МРТ) или компьютерной томографией (КТ) приходится ждать более двух месяцев.
В ходе проверки, проведенной Чешской торговой инспекцией, большинство моделей солнцезащитных очков не соответствовали установленным стандартам. Об этом сообщил пресс-секретарь инспекции Франтишек Котрба.
Четыре чешских туриста, заблудившихся во время пешего похода на полуострове Пелешац, были спасены и доставлены в безопасное место. По данным портала Index.hr, группа отправилась на вершину Святого Илии утром в понедельник.
Известное пророссийское хакерское движение NoName057(16) взяло на прицел интернет-сайты нескольких чешских городов. Хакеры планируют атаковать веб-сайты Праги, Брно, Остравы и Пльзеня с помощью волонтерской платформы DDosia.
Полицейские задержали 21-летнего иностранца, мчавшегося на своем Audi A5 по дороге со скоростью 171 км/ч. В момент задержания по радио играла песня Ханы Загоровой "Спешу". Причину своей спешки водитель не объяснил, но права он лишился.
В понедельник в хорватском городе Дарувар произошла трагедия: в результате стрельбы в доме престарелых погибли по меньшей мере шесть человек. Еще пятеро получили ранения, один из них находится в критическом состоянии.