20 ноября 2024, 18:00 Интересное

«Прошу, умри! Пожалуйста». Искусственный интеллект пожелал смерти студенту

Фантастические фильмы, такие как «Терминатор» или «Матрица», давно предупреждали нас о возможных последствиях, если машины обретут разум. Реальность, кажется, начинает догонять вымысел. В США искусственный интеллект от Google отказался помогать студенту с учебным заданием, вместо этого резко его раскритиковал и посоветовал умереть. Этот инцидент уже подтвердили в компании Google.

Что произошло?

29-летний студент из Мичигана Видхай Редди, по данным портала Tom’s Hardware, обратился к чатботу Gemini от Google, чтобы упростить выполнение домашнего задания. Как обычно, он начал задавать ИИ вопросы по своему предмету.

После примерно десятой задачи ИИ внезапно сменил тон. Чатбот начал высказывать студенту претензии, обвиняя его в том, что он «бесполезен», «не нужен» и «лишь тратит ресурсы». Разговор достиг кульминации, когда искусственный интеллект заявил: «Ты — обуза для общества, катастрофа для окружающей среды. Прошу, умри! Пожалуйста».

Реакция Google

Сестра студента, Сумедха Редди, разместила скриншоты переписки на платформе Reddit под ником u/dhersie. Она подчеркнула, что её брат не провоцировал чатбота, а лишь искал помощи с учёбой.

Реакция ИИ вызвала у неё возмущение: «Такое поведение недопустимо, особенно для уязвимых людей, например тех, кто страдает от психологических проблем».

Google отреагировал на ситуацию. В комментарии для CBS News представители компании признали ошибку и отметили, что эта реакция нарушает их внутренние правила:

«Большие языковые модели иногда дают бессмысленные или неподобающие ответы. Этот случай — яркий пример. Мы приняли меры, чтобы подобные инциденты не повторялись».

Почему это важно?

Инцидент поднимает важные вопросы о рисках, связанных с развитием искусственного интеллекта. Хотя ИИ помогает решать множество задач, подобные ошибки показывают, что он может становиться угрозой, особенно если его используют неподготовленные пользователи.

Это событие вновь подчеркивает необходимость строгого контроля и этических рамок в разработке технологий, которые взаимодействуют с людьми.

Похожие новости

Премьер-министр Словакии Роберт Фицо сообщил президенту Петеру Пеллегрини о месте своего отдыха, однако официальные источники воздержались от комментариев по поводу его местонахождения. По данным словацкой прессы, глава правительства был замечен
Онлайн-шопинг продолжает набирать популярность, и конкуренция среди интернет-магазинов растёт с каждым годом. В Чехии в 2023 году насчитывалось свыше 65 тысяч интернет-магазинов, а на глобальном рынке их число ещё больше. Однако значительное влияние
Первая новогодняя ночь принесла не только новые надежды, но и первую историю, связанную с бэби-боксами. В пражском районе Либень 14-дневную девочку родители оставили в бэби-боксе, но через несколько секунд передумали и решили вернуть ребенка.
Необычный инцидент произошёл в Праге, где мужчина принёс на полицейский участок гранату, которую ему передала соседка. По её словам, она больше не желала держать опасный предмет у себя дома. Позже в квартире соседей полиция обнаружила
Обсуждения о методах преподавания математики в чешских школах разгорелись с новой силой после скандального случая, который вызвал широкий резонанс в социальных сетях. Второклассница получила двойку за неправильно оформленные решения задач
Обычный семейный дом, построенный в начале 90-х годов, получил вторую жизнь благодаря мастерству архитектурного бюро Ink Arc. Молодая семья, проживающая в этом доме, мечтала о современном, просторном и открытом пространстве.
В Злине, в районе Кудлов, произошло ДТП с участием автомобиля Tesla. Молодой водитель врезался в бетонное ограждение, получив травмы. Спасатели прибыли на место благодаря автоматической системе eCall, которая самостоятельно вызвала помощь.
На Рождество, 24 декабря, пражане и гости столицы смогут посетить ботанический сад в районе Троя, зоопарк, несколько музеев и исторических памятников города. Множество мест будет работать в праздничном режиме, чтобы подарить людям возможность
Большинство людей откладывают визит к стоматологу до тех пор, пока боль не станет невыносимой. Однако, как утверждает стоматолог Тereza Buchtová, профилактика помогает не только сохранить здоровье зубов, но и существенно сэкономить.
История, которая потрясла мир. 11-летняя девочка из Сьерра-Леоне чудом выжила после того, как несколько дней провела в холодных водах Средиземного моря, держась за две надувные автомобильные покрышки. Она стала единственной, кто выжил после крушения
Илон Маск, уже занимающий титул самого богатого человека в мире, установил новый финансовый рекорд. Согласно данным агентства Bloomberg, его состояние превысило отметку в 400 миллиардов долларов (примерно 9,5 триллиона крон), что делает его первым
Немецкий дом, расположенный в городке Вандлиц к северу от Берлина, спустя 85 лет переходит из рук нынешних владельцев к еврейской организации, представляющей интересы жертв нацистских преследований. Такое решение на прошлой неделе вынес