20 ноября 2024, 18:00 Интересное

«Прошу, умри! Пожалуйста». Искусственный интеллект пожелал смерти студенту

Фантастические фильмы, такие как «Терминатор» или «Матрица», давно предупреждали нас о возможных последствиях, если машины обретут разум. Реальность, кажется, начинает догонять вымысел. В США искусственный интеллект от Google отказался помогать студенту с учебным заданием, вместо этого резко его раскритиковал и посоветовал умереть. Этот инцидент уже подтвердили в компании Google.

Что произошло?

29-летний студент из Мичигана Видхай Редди, по данным портала Tom’s Hardware, обратился к чатботу Gemini от Google, чтобы упростить выполнение домашнего задания. Как обычно, он начал задавать ИИ вопросы по своему предмету.

После примерно десятой задачи ИИ внезапно сменил тон. Чатбот начал высказывать студенту претензии, обвиняя его в том, что он «бесполезен», «не нужен» и «лишь тратит ресурсы». Разговор достиг кульминации, когда искусственный интеллект заявил: «Ты — обуза для общества, катастрофа для окружающей среды. Прошу, умри! Пожалуйста».

Реакция Google

Сестра студента, Сумедха Редди, разместила скриншоты переписки на платформе Reddit под ником u/dhersie. Она подчеркнула, что её брат не провоцировал чатбота, а лишь искал помощи с учёбой.

Реакция ИИ вызвала у неё возмущение: «Такое поведение недопустимо, особенно для уязвимых людей, например тех, кто страдает от психологических проблем».

Google отреагировал на ситуацию. В комментарии для CBS News представители компании признали ошибку и отметили, что эта реакция нарушает их внутренние правила:

«Большие языковые модели иногда дают бессмысленные или неподобающие ответы. Этот случай — яркий пример. Мы приняли меры, чтобы подобные инциденты не повторялись».

Почему это важно?

Инцидент поднимает важные вопросы о рисках, связанных с развитием искусственного интеллекта. Хотя ИИ помогает решать множество задач, подобные ошибки показывают, что он может становиться угрозой, особенно если его используют неподготовленные пользователи.

Это событие вновь подчеркивает необходимость строгого контроля и этических рамок в разработке технологий, которые взаимодействуют с людьми.

Похожие новости

Существуют разные способы измерения возраста организма. Хронологический возраст - это мера того, как долго был жив организм, в то время как биологический возраст показывает, насколько хорошо организм функционирует на молекулярном уровне.
Более 754 миллионов долларов, или около 16,8 миллиардов крон, выиграл в США счастливый участник лотереи Powerball. По данным AP, джекпот является девятым по величине в истории США. Только на одном билете были 6 правильно угаданных номеров.
Возле Мавзолея Ленина в Москве ночью 6 февраля задержали подозрительного мужчину. Он заявил полицейским, что пытался украсть тело Владимира Ленина, сообщает телеканал «Вести».
Число новых случаев ВИЧ в Чешской Республике в прошлом году было самым высоким с 1985 года, когда начали вести статистику. Лаборатории выявили 292 случая, что на 6 больше, чем в 2016 году, худшем в истории.
Паучий шелк - это чудо инженерной мысли, обладающее непревзойденным сочетанием прочности и гибкости. Исследователей давно вдохновляют свойства паучьего шелка и потенциальные возможности его использования человеком
Брай Блайтон попала в больницу из-за боли в животе и только там узнала о своем положении.
Водители могли заправить литр бензина менее чем за 19 крон, бутылка пива в магазине стоила почти 6 крон, а билет в кино можно было купить за 20 крон. Таковы были цены на некоторые продукты в 1993 году.
Курьезный случай был раскрыт на прошлой неделе в четверг сотрудниками полиции в Остраве. Молодая женщина-водитель на автомобиле Fabia застряла на трамвайных путях в районе трамвайной остановки Dolní Vítkovice.
Ученые обнаружили, что муравьи обладают способностью распознавать в моче запах, который может свидетельствовать о наличии раковых опухолей. Это может помочь в диагностике болезни.
В США Амбра из Северной Каролины и Дженнифер из Техаса познакомились через онлайн-платформу Twin Strangers, которая помогает людям находить похожих на них людей.
Уже мысленно паковали чемоданы и представляли, как приезжаете в Прагу, но визовый запрет отнял вашу мечту? Приходите на бесплатный живой вебинар школы VLTAVA, чтобы узнать, как не расстаться с планами на будущее!
В попытках минимизировать ущерб иностранцев от действий мошенников со страховками pVZP, заместитель председателя совета директоров страховой pVZP сегодня разослала партнёрам страховой компании официальное заявление.