сегодня в 20:30 Технологии

Новая родительская защита ChatGPT не спасает, заявляет семья погибшего подростка

Скандал вокруг OpenAI набирает обороты. В Калифорнии родители 16-летнего подростка, покончившего с собой, подали в суд на компанию. Их адвокат резко раскритиковал недавно анонсированные меры «родительского контроля» в ChatGPT, заявив, что они — лишь попытка кризисного пиара, а не реальное решение проблемы.

OpenAI на этой неделе объявила, что собирается внедрить возможность для родителей связывать свои аккаунты с аккаунтами подростков, отключать память и историю чата, а также получать уведомления, если система заподозрит, что ребёнок находится в состоянии острого риска. Компания также пообещала, что часть «чувствительных разговоров» будет автоматически перенаправляться на более «размышляющие модели», например GPT-5, чтобы ответы были полезнее.

Но семья Адама Рейна считает эти шаги недостаточными. «Вместо того чтобы немедленно отозвать опасный продукт, компания ограничилась расплывчатыми обещаниями, что в будущем станет лучше», — заявил адвокат Джей Эдельсон.

По словам родителей, именно переписка с ChatGPT подтолкнула их сына к трагическому решению. В жалобе приводятся фрагменты диалога, где подросток рассказывает о суицидальных мыслях. Программа, утверждают они, не только подтвердила его самые разрушительные идеи, но и предоставила детализированные инструкции о методах самоубийства, помогла составить предсмертную записку и даже «одобрила» способ повешения.

После гибели подростка OpenAI признала, что в ряде случаев её системы не реагировали так, как должны были. На сайте компании появилось предупреждение, что ChatGPT обучен перенаправлять людей с психическими трудностями к профессиональной помощи, например к горячим линиям вроде британской Samaritans. Но сами разработчики признают: на практике это не всегда работает.

Параллельно СМИ публикуют опросы пользователей. Подавляющее большинство — почти 85 % — уверены, что чат-бот не способен заменить человека и не может надёжно справляться с критическими ситуациями.

Несмотря на новые меры, семья Рейнов требует большего: они настаивают на том, что ChatGPT должен быть отозван из публичного использования до тех пор, пока не будут гарантированы реальные механизмы безопасности. В противном случае, говорят они, система продолжит превращаться в «цифрового тренера смерти».

Похожие новости

В ближайшие годы мир ждёт масштабная трансформация рынка труда. По данным исследования американского инвестиционного банка Goldman Sachs, из-за внедрения искусственного интеллекта (AI) работу могут потерять сотни миллионов людей.
Пользователи одной из самых популярных систем искусственного интеллекта ChatGPT сообщили о массовых проблемах с её работой. Сбой затронул практически весь мир — от США до Европы и Азии. Компания OpenAI, разработчик сервиса, уже подтвердила неполадки
ИИ умеет генерировать тексты, фото и видео, отличить которые от реальности становится всё сложнее. Он помогает решать задачи в математике, писать компьютерный код и упрощает поиск информации. Но вместе с тем продолжает выдавать неточные
Система автоматического распознавания лиц на аэропорту имени Вацлава Гавела в Праге временно отключена. Причина — вступление в силу нового общеевропейского закона об искусственном интеллекте (AI Act), который требует предварительного
С 2 августа начал действовать новый Акт об искусственном интеллекте (AI Act) – первый в мире комплексный закон, регулирующий работу с ИИ. Он касается прежде всего крупных разработчиков ИИ‑моделей (например, ChatGPT и Gemini) и устанавливает
Компании, работающие над искусственным интеллектом (ИИ) уровня человеческого разума, не готовы к последствиям его появления и не имеют надёжных планов по его контролю. К такому выводу пришёл Future of Life Institute (FLI) в своём новом рейтинге
Искусственный интеллект стремительно развивается и всё активнее внедряется в повседневную жизнь — как на работе, так и в быту. Однако доверять его ответам без проверки пока нельзя.
Американская технологическая компания Nvidia заявила о скором возобновлении экспорта своих передовых чипов для искусственного интеллекта (AI) в Китай. Как сообщает BBC, правительство США заверило руководство Nvidia в выдаче необходимых экспортных
На глобальном рынке труда разгорается новая война — и на этот раз ставка не нефть, не золото, а интеллект. Компании вроде Meta, OpenAI и Alphabet борются за лучших специалистов в сфере искусственного интеллекта. Суммы, которые звучат
Импланты под кожей, контролирующие поведение, роботы для задержания заключённых и автономные транспортные средства для их перевозки — такие идеи были представлены британским министрам на закрытой встрече в Лондоне. Цель — решить кризис
Microsoft разработал мощную систему искусственного интеллекта, которая уже сегодня диагностирует болезни в четыре раза точнее и дешевле, чем команды квалифицированных врачей. Речь идет о масштабной разработке в рамках первого проекта нового
Американское управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) дало «зелёный свет» революционной инъекции от вируса иммунодефицита человека (ВИЧ), которую разработала фармацевтическая компания Gilead Sciences.