20 ноября 2024, 18:00 Интересное

«Прошу, умри! Пожалуйста». Искусственный интеллект пожелал смерти студенту

Фантастические фильмы, такие как «Терминатор» или «Матрица», давно предупреждали нас о возможных последствиях, если машины обретут разум. Реальность, кажется, начинает догонять вымысел. В США искусственный интеллект от Google отказался помогать студенту с учебным заданием, вместо этого резко его раскритиковал и посоветовал умереть. Этот инцидент уже подтвердили в компании Google.

Что произошло?

29-летний студент из Мичигана Видхай Редди, по данным портала Tom’s Hardware, обратился к чатботу Gemini от Google, чтобы упростить выполнение домашнего задания. Как обычно, он начал задавать ИИ вопросы по своему предмету.

После примерно десятой задачи ИИ внезапно сменил тон. Чатбот начал высказывать студенту претензии, обвиняя его в том, что он «бесполезен», «не нужен» и «лишь тратит ресурсы». Разговор достиг кульминации, когда искусственный интеллект заявил: «Ты — обуза для общества, катастрофа для окружающей среды. Прошу, умри! Пожалуйста».

Реакция Google

Сестра студента, Сумедха Редди, разместила скриншоты переписки на платформе Reddit под ником u/dhersie. Она подчеркнула, что её брат не провоцировал чатбота, а лишь искал помощи с учёбой.

Реакция ИИ вызвала у неё возмущение: «Такое поведение недопустимо, особенно для уязвимых людей, например тех, кто страдает от психологических проблем».

Google отреагировал на ситуацию. В комментарии для CBS News представители компании признали ошибку и отметили, что эта реакция нарушает их внутренние правила:

«Большие языковые модели иногда дают бессмысленные или неподобающие ответы. Этот случай — яркий пример. Мы приняли меры, чтобы подобные инциденты не повторялись».

Почему это важно?

Инцидент поднимает важные вопросы о рисках, связанных с развитием искусственного интеллекта. Хотя ИИ помогает решать множество задач, подобные ошибки показывают, что он может становиться угрозой, особенно если его используют неподготовленные пользователи.

Это событие вновь подчеркивает необходимость строгого контроля и этических рамок в разработке технологий, которые взаимодействуют с людьми.

Похожие новости

Мессенджер WhatsApp, принадлежащий компании Meta Platforms, официально объявил: в приложении начнут показываться рекламные объявления. Пользователи уже в ближайшее время смогут увидеть их в разделе «Обновления» (Aktualizace)
Илон Маск снова в центре внимания. Во вторник он выложил на своей платформе X (ранее Twitter) результаты теста на наркотики. Документ, подписанный лабораторией Fastest Labs of South Austin из Техаса, датирован 11 июня. По нему — все анализы
Около 150 лебедей исчезли из исторического центра Праги, и это вызвало настоящий резонанс. Сначала интернет взорвался теориями — от съеденных лебедей вьетнамцами на рынке Sapa до варки супа украинцами. Но спустя месяц расследований
В Германии за прошлый год был установлен исторический рекорд по числу выданных гражданств — 292 тысячи человек стали новыми гражданами страны. Лидерами по числу получивших паспорт стали сирийцы, но в пятёрке самых активных национальностей
Представьте: автомобиль мчится на всех парах, полиция преследует его с включённой сиреной... А затем — никакой погони, никакой блокировки дорог, ни шипов на трассе. Машина просто сама останавливается. Всё — по команде с планшета.
Выходные стали настоящим праздником для чешских покупателей, решивших заглянуть на сайт интернет-магазина Reebok. Из-за технической ошибки цены на товары остались в евро, но отображались как кроны — без пересчёта по курсу. В результате кроссовки
Удивительная и почти сказочная сцена разворачивается в самом центре города Броумов в районе Начодно. Прямо на короне барочной статуи Девы Марии, венчающей марианскую колонну на Мировой площади, пара белых аистов начала строить гнездо.
На чешских вузах разгорается бесшумная, но масштабная революция. Искусственный интеллект и мощные языковые модели стремительно вошли в повседневную жизнь студентов и преподавателей. И вместо сопротивления — университеты начали адаптироваться.
Станет ли это началом новой эры покупок? Lidl не только переносит свой успешный outlet из Праги в Оломоуц, но и активно внедряет технологии будущего — от искусственного интеллекта до высокотехнологичных касс и приватных брендов.
Инцидент, достойный сценария комедийного фильма, произошёл в элитном гольф-клубе Дональда Трампа в Бедминстере, штат Нью-Джерси. Страсть к гольфу дорого обошлась одному из приближённых экс-президента США — лебедь напал на Стива Уиткоффа
Во вторник днём в самом центре Праги на поверхности реки Влтавы было найдено мёртвое тело мужчины. Тревожную находку вытащили из воды около 15:30 на набережной Капитана Яроша. На место происшествия оперативно прибыла речная полиция.
150 тысяч? Только если повезёт «Проживите 10 незабываемых дней в новой семье и получите 150 тысяч крон!» — гласит заманчивая реклама популярного реалити-шоу Výměna manželek (Обмен жёнами) на телеканале Nova.