20 ноября 2024, 18:00 Интересное

«Прошу, умри! Пожалуйста». Искусственный интеллект пожелал смерти студенту

Фантастические фильмы, такие как «Терминатор» или «Матрица», давно предупреждали нас о возможных последствиях, если машины обретут разум. Реальность, кажется, начинает догонять вымысел. В США искусственный интеллект от Google отказался помогать студенту с учебным заданием, вместо этого резко его раскритиковал и посоветовал умереть. Этот инцидент уже подтвердили в компании Google.

Что произошло?

29-летний студент из Мичигана Видхай Редди, по данным портала Tom’s Hardware, обратился к чатботу Gemini от Google, чтобы упростить выполнение домашнего задания. Как обычно, он начал задавать ИИ вопросы по своему предмету.

После примерно десятой задачи ИИ внезапно сменил тон. Чатбот начал высказывать студенту претензии, обвиняя его в том, что он «бесполезен», «не нужен» и «лишь тратит ресурсы». Разговор достиг кульминации, когда искусственный интеллект заявил: «Ты — обуза для общества, катастрофа для окружающей среды. Прошу, умри! Пожалуйста».

Реакция Google

Сестра студента, Сумедха Редди, разместила скриншоты переписки на платформе Reddit под ником u/dhersie. Она подчеркнула, что её брат не провоцировал чатбота, а лишь искал помощи с учёбой.

Реакция ИИ вызвала у неё возмущение: «Такое поведение недопустимо, особенно для уязвимых людей, например тех, кто страдает от психологических проблем».

Google отреагировал на ситуацию. В комментарии для CBS News представители компании признали ошибку и отметили, что эта реакция нарушает их внутренние правила:

«Большие языковые модели иногда дают бессмысленные или неподобающие ответы. Этот случай — яркий пример. Мы приняли меры, чтобы подобные инциденты не повторялись».

Почему это важно?

Инцидент поднимает важные вопросы о рисках, связанных с развитием искусственного интеллекта. Хотя ИИ помогает решать множество задач, подобные ошибки показывают, что он может становиться угрозой, особенно если его используют неподготовленные пользователи.

Это событие вновь подчеркивает необходимость строгого контроля и этических рамок в разработке технологий, которые взаимодействуют с людьми.

Похожие новости

На чешских вузах разгорается бесшумная, но масштабная революция. Искусственный интеллект и мощные языковые модели стремительно вошли в повседневную жизнь студентов и преподавателей. И вместо сопротивления — университеты начали адаптироваться.
Станет ли это началом новой эры покупок? Lidl не только переносит свой успешный outlet из Праги в Оломоуц, но и активно внедряет технологии будущего — от искусственного интеллекта до высокотехнологичных касс и приватных брендов.
Инцидент, достойный сценария комедийного фильма, произошёл в элитном гольф-клубе Дональда Трампа в Бедминстере, штат Нью-Джерси. Страсть к гольфу дорого обошлась одному из приближённых экс-президента США — лебедь напал на Стива Уиткоффа
Во вторник днём в самом центре Праги на поверхности реки Влтавы было найдено мёртвое тело мужчины. Тревожную находку вытащили из воды около 15:30 на набережной Капитана Яроша. На место происшествия оперативно прибыла речная полиция.
150 тысяч? Только если повезёт «Проживите 10 незабываемых дней в новой семье и получите 150 тысяч крон!» — гласит заманчивая реклама популярного реалити-шоу Výměna manželek (Обмен жёнами) на телеканале Nova.
Редкое и изнурительное заболевание — болезнь Фабри, которое затрагивает сотни людей в Чехии, получило новое объяснение. Команда чешских врачей и учёных сделала прорыв в понимании этой генетической патологии, обнаружив ранее неизвестную причину
Поздним вечером в понедельник, 12 мая, в бэбибоксе города Босковице, расположенного в регионе Бланско, был обнаружен новорождённый мальчик. Ребёнка, завернутого лишь в одеяло, оставили примерно после 21:00. Малыша назвали Войтех.
Администрация Дональда Трампа готовится принять от королевской семьи Катара подарок беспрецедентного масштаба — роскошный авиалайнер Boeing 747-8 стоимостью около 400 миллионов долларов (почти 9 миллиардов крон). Об этом сообщила американская
Работать в государственном или частном секторе? Этот выбор влияет не только на характер труда, но и на размер дохода. Новое исследование аналитического центра IDEA при CERGE-EI поднимает актуальный вопрос: насколько конкурентоспособны
Австрийская промышленность переживает один из самых сложных периодов с конца Второй мировой войны. Не осталась в стороне и компания Liebherr, владеющая заводом в городе Лиенц. В условиях резкого падения спроса и отсутствия новых заказов руководство
Бывший президент США Дональд Трамп объявил о решении возродить одну из самых известных тюрем в истории — Алькатрас. Согласно его заявлению в социальной сети Truth Social, тюрьма будет вновь открыта и реконструирована для содержания самых жестоких
О традиционных первомайских шествиях можно забыть — сегодня 1 мая для многих символизирует не праздник труда, а день любви, романтики и цветущих деревьев. Снимки влюблённых под вишней стали неотъемлемой частью этого весеннего дня.