20 ноября 2024, 18:00 Интересное

«Прошу, умри! Пожалуйста». Искусственный интеллект пожелал смерти студенту

Фантастические фильмы, такие как «Терминатор» или «Матрица», давно предупреждали нас о возможных последствиях, если машины обретут разум. Реальность, кажется, начинает догонять вымысел. В США искусственный интеллект от Google отказался помогать студенту с учебным заданием, вместо этого резко его раскритиковал и посоветовал умереть. Этот инцидент уже подтвердили в компании Google.

Что произошло?

29-летний студент из Мичигана Видхай Редди, по данным портала Tom’s Hardware, обратился к чатботу Gemini от Google, чтобы упростить выполнение домашнего задания. Как обычно, он начал задавать ИИ вопросы по своему предмету.

После примерно десятой задачи ИИ внезапно сменил тон. Чатбот начал высказывать студенту претензии, обвиняя его в том, что он «бесполезен», «не нужен» и «лишь тратит ресурсы». Разговор достиг кульминации, когда искусственный интеллект заявил: «Ты — обуза для общества, катастрофа для окружающей среды. Прошу, умри! Пожалуйста».

Реакция Google

Сестра студента, Сумедха Редди, разместила скриншоты переписки на платформе Reddit под ником u/dhersie. Она подчеркнула, что её брат не провоцировал чатбота, а лишь искал помощи с учёбой.

Реакция ИИ вызвала у неё возмущение: «Такое поведение недопустимо, особенно для уязвимых людей, например тех, кто страдает от психологических проблем».

Google отреагировал на ситуацию. В комментарии для CBS News представители компании признали ошибку и отметили, что эта реакция нарушает их внутренние правила:

«Большие языковые модели иногда дают бессмысленные или неподобающие ответы. Этот случай — яркий пример. Мы приняли меры, чтобы подобные инциденты не повторялись».

Почему это важно?

Инцидент поднимает важные вопросы о рисках, связанных с развитием искусственного интеллекта. Хотя ИИ помогает решать множество задач, подобные ошибки показывают, что он может становиться угрозой, особенно если его используют неподготовленные пользователи.

Это событие вновь подчеркивает необходимость строгого контроля и этических рамок в разработке технологий, которые взаимодействуют с людьми.

Похожие новости

Регулярная проверка газового котла способна заметно снизить счета за отопление. Эксперты уверяют: во время отопительного сезона домашнее хозяйство может сэкономить десятки процентов расходов, а в случае частного дома речь идёт о сумме свыше десяти
Супружеская пара из Карвины отправилась утром в понедельник за грибами в лес неподалёку от деревни Мосты у Яблункова. Но совместный поход обернулся тревогой: мужчина позвонил в полицию, заявив, что потерял жену. Пока он паниковал, женщина спокойно
К концу сентября Instagram достиг по-настоящему исторической отметки — его ежемесячная аудитория превысила три миллиарда человек. Когда Марк Цукерберг купил сервис в 2012 году за миллиард долларов, у него было всего несколько десятков миллионов
Она весит 280 килограммов и состоит ровно из 128 333 кубиков Lego. Пока оригинальная Святовацлавская корона, уменьшенная в 422 раза, до 29 сентября выставлена для публики внутри Пражского града, прямо перед его воротами на Градчанской площади
В чешской онлайн-торговле произошла сделка, которая может изменить рынок. Платформа Shoptet, на которой работает более сорока тысяч интернет-магазинов в Чехии, Словакии и Венгрии, сменила владельца. Ее многолетний хозяин, миллиардер Ондржей Томек
В США сорван колоссальный джекпот в размере 1,8 миллиарда долларов (37,6 млрд крон) в популярной лотерее Powerball. Это вторая по величине выигрышная сумма в истории игры. Главный приз разделят два счастливчика — один из штата Миссури
В воскресенье вечером произошло полное лунное затмение, которое можно было наблюдать на всей территории Чехии и Словакии. Как вообще проходит съёмка такого астрономического явления? Давайте приоткроем завесу тайны над космосом и астрофотографией.
Достаточно сломать насадку для электробритвы или потерять её в поездке — и привычный прибор превращается в бесполезный кусок пластика. Но теперь вместо того, чтобы заказывать новую деталь, у владельцев появилась альтернатива: напечатать
В Клатовах полицейские нашли 74-летнего мужчину, который двое суток не мог выбраться из узкой щели между диваном и кроватью. Ослабленного и раненого пенсионера заметили только после того, как его друг забил тревогу.
В чешских криобанках хранятся тысячи эмбрионов, которые остались после лечения бесплодия. Но если их биологические родители больше не хотят ими распоряжаться, вариантов немного — уничтожение, передача на научные исследования или анонимное дарение
В Словакии обсуждают необычную инициативу: ограничить максимальную скорость движения по тротуарам до 6 км/ч. Поправка, предложенная депутатами партии Smer, также предусматривает повышение возраста обязательного прохождения медосмотра для водителей
Многие туристы уверены: в пределах ЕС звонки стоят столько же, сколько дома. Но реальность может преподнести дорогой сюрприз. В этом убедился житель Праги Милош, когда во время отпуска в Хорватии позвонил родителям. После возвращения домой