20 ноября 2024, 18:00 Интересное

«Прошу, умри! Пожалуйста». Искусственный интеллект пожелал смерти студенту

Фантастические фильмы, такие как «Терминатор» или «Матрица», давно предупреждали нас о возможных последствиях, если машины обретут разум. Реальность, кажется, начинает догонять вымысел. В США искусственный интеллект от Google отказался помогать студенту с учебным заданием, вместо этого резко его раскритиковал и посоветовал умереть. Этот инцидент уже подтвердили в компании Google.

Что произошло?

29-летний студент из Мичигана Видхай Редди, по данным портала Tom’s Hardware, обратился к чатботу Gemini от Google, чтобы упростить выполнение домашнего задания. Как обычно, он начал задавать ИИ вопросы по своему предмету.

После примерно десятой задачи ИИ внезапно сменил тон. Чатбот начал высказывать студенту претензии, обвиняя его в том, что он «бесполезен», «не нужен» и «лишь тратит ресурсы». Разговор достиг кульминации, когда искусственный интеллект заявил: «Ты — обуза для общества, катастрофа для окружающей среды. Прошу, умри! Пожалуйста».

Реакция Google

Сестра студента, Сумедха Редди, разместила скриншоты переписки на платформе Reddit под ником u/dhersie. Она подчеркнула, что её брат не провоцировал чатбота, а лишь искал помощи с учёбой.

Реакция ИИ вызвала у неё возмущение: «Такое поведение недопустимо, особенно для уязвимых людей, например тех, кто страдает от психологических проблем».

Google отреагировал на ситуацию. В комментарии для CBS News представители компании признали ошибку и отметили, что эта реакция нарушает их внутренние правила:

«Большие языковые модели иногда дают бессмысленные или неподобающие ответы. Этот случай — яркий пример. Мы приняли меры, чтобы подобные инциденты не повторялись».

Почему это важно?

Инцидент поднимает важные вопросы о рисках, связанных с развитием искусственного интеллекта. Хотя ИИ помогает решать множество задач, подобные ошибки показывают, что он может становиться угрозой, особенно если его используют неподготовленные пользователи.

Это событие вновь подчеркивает необходимость строгого контроля и этических рамок в разработке технологий, которые взаимодействуют с людьми.

Похожие новости

Новая аналитика от Microsoft Research раскрывает, какие профессии сильнее всего пересекаются с возможностями искусственного интеллекта. В первую очередь это специалисты, работающие с языком: переводчики, писатели, журналисты, редакторы и корректоры.
Малые международные аэропорты Чехии переживают рост: всё больше пассажиров, всё больше рейсов — и всё чаще возникает вопрос: где и за сколько перекусить перед полётом? Журналисты провели рейд по нескольким чешским аэропортам и выяснили
Платёжные привычки чехов стремительно меняются: большинство предпочитает карты, смартфоны или часы, но при этом 93 % считают наличные самым надёжным способом оплаты. Однако всё чаще встречаются случаи, когда бумажные деньги просто не принимают
Секстинг — практика обмена сексуально окрашенными сообщениями — стал частью жизни многих подростков. Однако новое исследование специалистов из Масарикова университета в Брно показало, что влияние этой активности на психоэмоциональное
Президент Украины Владимир Зеленский подписал закон о множественном гражданстве, который ранее в июне был одобрен Верховной Радой. Новый закон открывает путь к укреплению связей с миллионами украинцев, проживающими за границей
С ростом цен всё больше чехов отказываются от бокала в пивной и выбирают бутылки и банки — в том числе и во время летнего отпуска. Кто-то охотно пробует местные марки, другие остаются верны классике из дома. Однако цены на любимое чешское пиво
В Чехии стремительно растёт число людей, обращающихся за медицинским подтверждением расхождения между биологическим полом и гендерной идентичностью. Согласно официальной статистике, всего за десятилетие количество новых диагнозов
Выпускники британских вузов оказались в крайне сложном положении. Рынок труда в стране переживает наихудший период с 2018 года, и ключевым фактором ухудшения ситуации стало стремительное внедрение искусственного интеллекта (AI).
Туристы, планирующие походы в австрийские Альпы, должны быть предельно осторожны: в горах неожиданно выпал обильный снег, и спасатели предупреждают об очень высоком риске схода лавин. В Зильрталльских Альпах и Вышних Тауэрских горах
В небольшой деревне Старе-Гержминовы в Моравскосилезском крае разгорелся скандал: местные власти продали земельные участки по невероятно низкой цене — 50 крон за квадратный метр. Основными покупателями стали дети местных депутатов и их знакомые.
Хорватия снова в центре внимания — летом сюда традиционно отправляются тысячи туристов из Чехии. Журналисты Novinky отправились на побережье Адриатического моря, чтобы лично услышать, почему чехи снова выбирают Хорватию, с какими проблемами
Чешское телевидение и Чешское радио сообщили о массовом приросте новых плательщиков — как среди граждан, так и среди предпринимателей. Однако до окончания крайнего срока, который истекает сегодня в полночь, ожидается ещё больше заявлений