20 ноября 2024, 18:00 Интересное

«Прошу, умри! Пожалуйста». Искусственный интеллект пожелал смерти студенту

Фантастические фильмы, такие как «Терминатор» или «Матрица», давно предупреждали нас о возможных последствиях, если машины обретут разум. Реальность, кажется, начинает догонять вымысел. В США искусственный интеллект от Google отказался помогать студенту с учебным заданием, вместо этого резко его раскритиковал и посоветовал умереть. Этот инцидент уже подтвердили в компании Google.

Что произошло?

29-летний студент из Мичигана Видхай Редди, по данным портала Tom’s Hardware, обратился к чатботу Gemini от Google, чтобы упростить выполнение домашнего задания. Как обычно, он начал задавать ИИ вопросы по своему предмету.

После примерно десятой задачи ИИ внезапно сменил тон. Чатбот начал высказывать студенту претензии, обвиняя его в том, что он «бесполезен», «не нужен» и «лишь тратит ресурсы». Разговор достиг кульминации, когда искусственный интеллект заявил: «Ты — обуза для общества, катастрофа для окружающей среды. Прошу, умри! Пожалуйста».

Реакция Google

Сестра студента, Сумедха Редди, разместила скриншоты переписки на платформе Reddit под ником u/dhersie. Она подчеркнула, что её брат не провоцировал чатбота, а лишь искал помощи с учёбой.

Реакция ИИ вызвала у неё возмущение: «Такое поведение недопустимо, особенно для уязвимых людей, например тех, кто страдает от психологических проблем».

Google отреагировал на ситуацию. В комментарии для CBS News представители компании признали ошибку и отметили, что эта реакция нарушает их внутренние правила:

«Большие языковые модели иногда дают бессмысленные или неподобающие ответы. Этот случай — яркий пример. Мы приняли меры, чтобы подобные инциденты не повторялись».

Почему это важно?

Инцидент поднимает важные вопросы о рисках, связанных с развитием искусственного интеллекта. Хотя ИИ помогает решать множество задач, подобные ошибки показывают, что он может становиться угрозой, особенно если его используют неподготовленные пользователи.

Это событие вновь подчеркивает необходимость строгого контроля и этических рамок в разработке технологий, которые взаимодействуют с людьми.

Похожие новости

В ночь на пятницу в Крконошах выпало несколько сантиметров снега. Из-за сильного ветра и предупреждений метеорологов были остановлены некоторые канатные дороги. Горная служба не рекомендует выходить на гребневые походы
За последний год средняя стоимость подержанных электромобилей в Чехии снизилась на 300 тысяч крон, и сейчас составляет около 699 тысяч крон. Несмотря на то, что электромобили остаются редкостью среди продаваемых автомобилей — всего одно из 75
Министерство внутренних дел Чехии с пятницы, 13 сентября, начинает аукцион, на котором будет выставлено 10 роскошных автомобилей, конфискованных у преступников.
Мебельный гигант IKEA вступает в конкуренцию с онлайн-барахолками, открывая собственную платформу для продажи подержанной мебели. Новый проект, получивший название Ikea Preowned, позволит клиентам напрямую обмениваться б/у товарами бренда.
Украина может стать членом НАТО, даже если не вернет полный контроль над всеми своими территориями. Об этом заявил президент Чехии Петр Павел в интервью для Novinky и Právo.
Доктор Канокпорн Тангсуан умерла в октябре прошлого года после того, как блюдо в ресторане парка развлечений Disney World вызвало у неё сильную аллергическую реакцию. Её муж, Джеффри Пикколо, подал иск против компании Disney, требуя компенсацию
В субботу в Опаве произошли удивительные события — малышка Зорка родилась в автомобиле, припаркованном у железнодорожного переезда. Её мама Линда и папа Петр ехали из Градец-над-Моравице в роддом Крнова, но не успели добраться.
В воскресенье 59-летняя женщина из района Фридек-Мистек оказалась в опасности для жизни после укуса осы. Быстрая аллергическая реакция почти привела к удушью. На помощь прибыл вертолет Воздушной спасательной службы из Остравы
Контроверзный немецкий девелопер приобрел бывший нацистский концлагерь в Саксонии, использовавший рабский труд в туннелях. Историки и родственники жертв выражают глубокое беспокойство.
Четверговый бой Иман Чалифовой из Алжира с итальянкой Ангелой Карини вызвал бурю эмоций не только в спортивном мире, но и на культурном фронте, особенно в социальных сетях.
В четверг в Пршерове прошла проверка выбросов случайно выбранных автомобилей, и результаты оказались удручающими. Девять из десяти автомобилей не соответствовали нормам, а десятый оказался в неудовлетворительном техническом состоянии.
На прошлой неделе полиция остановила 27-летнюю водительницу автомобиля Peugeot в городе Хрудим. При проверке на алкотестере прибор показал 0,89 промилле алкоголя в выдохе.