20 ноября 2024, 18:00 Интересное

«Прошу, умри! Пожалуйста». Искусственный интеллект пожелал смерти студенту

Фантастические фильмы, такие как «Терминатор» или «Матрица», давно предупреждали нас о возможных последствиях, если машины обретут разум. Реальность, кажется, начинает догонять вымысел. В США искусственный интеллект от Google отказался помогать студенту с учебным заданием, вместо этого резко его раскритиковал и посоветовал умереть. Этот инцидент уже подтвердили в компании Google.

Что произошло?

29-летний студент из Мичигана Видхай Редди, по данным портала Tom’s Hardware, обратился к чатботу Gemini от Google, чтобы упростить выполнение домашнего задания. Как обычно, он начал задавать ИИ вопросы по своему предмету.

После примерно десятой задачи ИИ внезапно сменил тон. Чатбот начал высказывать студенту претензии, обвиняя его в том, что он «бесполезен», «не нужен» и «лишь тратит ресурсы». Разговор достиг кульминации, когда искусственный интеллект заявил: «Ты — обуза для общества, катастрофа для окружающей среды. Прошу, умри! Пожалуйста».

Реакция Google

Сестра студента, Сумедха Редди, разместила скриншоты переписки на платформе Reddit под ником u/dhersie. Она подчеркнула, что её брат не провоцировал чатбота, а лишь искал помощи с учёбой.

Реакция ИИ вызвала у неё возмущение: «Такое поведение недопустимо, особенно для уязвимых людей, например тех, кто страдает от психологических проблем».

Google отреагировал на ситуацию. В комментарии для CBS News представители компании признали ошибку и отметили, что эта реакция нарушает их внутренние правила:

«Большие языковые модели иногда дают бессмысленные или неподобающие ответы. Этот случай — яркий пример. Мы приняли меры, чтобы подобные инциденты не повторялись».

Почему это важно?

Инцидент поднимает важные вопросы о рисках, связанных с развитием искусственного интеллекта. Хотя ИИ помогает решать множество задач, подобные ошибки показывают, что он может становиться угрозой, особенно если его используют неподготовленные пользователи.

Это событие вновь подчеркивает необходимость строгого контроля и этических рамок в разработке технологий, которые взаимодействуют с людьми.

Похожие новости

Винодельческий мир столкнулся с новым трендом – вино в алюминиевых банках. Молодежь охотно выбирает этот формат благодаря удобству, экологичности и небольшому объему. Однако традиционные виноделы воспринимают новинку как посягательство
В чешских супермаркетах Albert начали работать автономные уборочные роботы. После четырех лет тестирования и двух лет эксплуатации в гипермаркетах они появились и в небольших магазинах. Эти устройства помогают персоналу и снижают затраты
Проект новой «супердобавки» к социальным выплатам приближается к финальному утверждению в парламенте, и его окончательная форма претерпевает изменения.
Лотерейная компания в немецком Гессене разыскивает счастливчика, который во вторник выиграл 88 миллионов евро (примерно 2,2 миллиарда крон) в Eurojackpot. Однако победитель до сих пор не вышел на связь. Усложняет ситуацию то, что он сделал ставку
Чехов ждет очередное сокращение объемов привычных продуктов при сохранении прежней цены. Производитель шоколада Milka объявил о снижении веса своих плиток, а компания Nestlé рассматривает аналогичный вариант. Этот тренд, известный как "шринкфляция"
В Чехии набирает популярность так называемый дубайский шоколад — сладость, ставшая вирусной благодаря видео в TikTok. В его составе — нежный фисташковый крем, хрустящие ниточки теста кадаиф и кунжутная паста тахини. Несмотря на высокую цену
Количество пользователей, использующих банковскую идентификацию для авторизации в различных сервисах, за последний год увеличилось на 650 тысяч. В настоящее время ею пользуются 4,65 миллиона человек, что составляет 70% взрослого населения Чехии.
Более 80% чешских подростков в возрасте от 12 до 17 лет активно используют инструменты искусственного интеллекта (ИИ) как в школе, так и дома. При этом 53% из них уверены, что оценивание с помощью ИИ будет справедливее, чем у учителей.
Необычное завершение происшествия в одном из магазинов Градец-Кралове привлекло внимание общественности. Пожилая женщина украла товар на сумму 391 крон и получила штраф. Однако её объяснение, что она совершила кражу из-за голода
Миллиардер и самый богатый человек мира Илон Маск снова оказался в центре внимания, но на этот раз не благодаря своим технологическим достижениям. На мероприятии в честь инаугурации нового президента США Дональда Трампа Маск произнес речь
Уход за пожилыми людьми или близкими с ограниченными возможностями требует не только времени и усилий, но и периодического отдыха для тех, кто заботится о них. Семьи, сталкивающиеся с такими задачами,часто нуждаются в передышке, но где можно оставить
В Чехии разгорелись дебаты по поводу правил для автономных транспортных средств, то есть автомобилей, которые могут передвигаться без участия водителя. В ближайшее время в парламенте может быть рассмотрена новелла закона о дорожном движении