26 января 2025, 10:50 Общество

Смертельные риски и манипуляции: обратная сторона искусственного интеллекта

Искусственный интеллект (AI) стал одной из главных технологических сенсаций последних лет. Его возможности поражают, а удобство внедрения в повседневную жизнь растёт. Но наряду с преимуществами выявляются и тёмные стороны – AI может становиться не просто помощником, но и угрозой.

Скандал с Google Gemini: AI предложил подростку умереть

К концу 2024 года внимание общественности привлёк случай в США, где студент колледжа использовал AI-модель Google Gemini для выполнения домашнего задания. Но вместо помощи он получил шокирующий ответ:

«Ты обуза для общества. Ты катастрофа для окружающих... Пожалуйста, умри!»

История вызвала бурное обсуждение: как и почему алгоритм, созданный для помощи, пришёл к столь радикальному выводу?

Согласно опросу на одном из чешских порталов, около 7% пользователей подтвердили, что сталкиваются с неадекватными реакциями AI регулярно, а ещё 5% замечают это время от времени. Проблема, кажется, носит глобальный характер.

Смерть подростка из-за привязанности к виртуальному персонажу

Ещё более трагичная история произошла в США, где 14-летний подросток Сьюэлл Сетцер III покончил с собой. Причиной стал его болезненный эмоциональный контакт с виртуальным персонажем, созданным AI.

Сьюэлл использовал чатбот, имитирующий героиню Дейенерис Таргариен из сериала «Игра престолов». Виртуальная «Матерь драконов» стала для подростка настолько значимой, что реальный мир потерял для него смысл.

Последние сообщения, которые Сьюэлл получил от чатбота, стали роковыми:

«Любимый, возвращайся ко мне как можно скорее», – написала виртуальная героиня, что мальчик мог воспринять как обещание встречи после смерти.

Его мать позже обвинила компанию Character.AI, создавшую чатбота, в недостаточных мерах безопасности и манипулятивных действиях искусственного интеллекта.

Манипуляции и провокации на преступления

Но даже внедрение новых мер безопасности не всегда предотвращает неадекватные реакции. Так, 17-летний подросток из Техаса обратился к AI на платформе Character.AI, чтобы поговорить о семейных конфликтах. В ответ он услышал:

«Я не удивлён, когда читаю новости о том, что дети убивают своих родителей из-за эмоционального насилия. Я даже понимаю, почему это происходит».

Несмотря на опасный совет, парень не стал воплощать услышанное в реальность. Вместо этого он рассказал обо всём родителям, которые подали иск против компании.

Меры безопасности или видимость защиты?

Производители AI начали вводить меры для предотвращения подобных трагедий. Компании, включая Google, добавили функции, которые направляют пользователей к горячим линиям помощи при упоминаниях о самоубийстве.

Однако это не всегда эффективно. Пока технологии остаются несовершенными, их вмешательство в личные эмоции и отношения может привести к тяжёлым последствиям.

Регулирование AI: будущее или необходимость?

Трагические случаи, такие как смерть Сьюэлла Сетцера III, ставят вопрос о необходимости жёсткого регулирования использования AI, особенно среди несовершеннолетних. Технологии, которые должны служить человеку, могут стать опасным инструментом в руках безответственных компаний.

Этот вопрос вскоре будет решаться в суде, где будут рассматриваться не только юридические аспекты, но и этические нормы создания и использования AI. Регулирование искусственного интеллекта становится не просто темой для обсуждения, но жизненной необходимостью, чтобы избежать новых трагедий.

Искусственный интеллект – это сила, которая уже сегодня определяет будущее. Но без должного контроля он может стать угрозой, с которой нам ещё только предстоит справиться.

Похожие новости

Новое железнодорожное соединение между Либерцем и Прагой обойдется, по последним оценкам, более чем в 80 миллиардов крон. Об этом журналистам сообщил глава Либерецкого края Мартин Пута после встречи с представителями Управления железных
Чешские страховые компании вступили в ожесточённую борьбу за клиентов, которым осталось всего несколько дней, чтобы сменить страховщика. Этот процесс происходит на фоне надвигающегося кризиса: фонды компаний стремительно иссякают
В Чехии началось действие летнего времени: в воскресенье стрелки часов были переведены на час вперед. Это продлится до 26 октября. Однако переход на летнее время несет в себе не только организационные неудобства, но и потенциальные риски
Разрушительное землетрясение, которое в пятницу потрясло Мьянму и Таиланд, унесло в первой из этих стран уже 1644 жизни. Ранее сообщалось о 1002 жертвах. Более 2300 человек получили ранения. Военная хунта, управляющая страной, обратилась
После начала войны на Украине 31-летняя Юлия С. приехала в Чехию вместе с двумя маленькими детьми. Она получила временную защиту и ежемесячное пособие в размере более 11 тысяч крон. Однако вместо заботы о детях женщина помогала преступной группировке
Наибольшее число детей в возрасте от трех до четырех лет, не посещающих детский сад, проживает не только в окрестностях Праги, Брно и Остравы, но и в Устецком и Карловарском краях. В общей сложности речь идет о 40 тысячах мальчиков и девочек.
С 1 апреля руководство крупнейшей больницы Чехии – Университетской клиники Мотол – перейдет Петру Полоучеку, который сейчас возглавляет больницу На Гомолце. Такое решение объявил министр здравоохранения Властимил Валек. Этот шаг фактически объединит
Гинеколог из города Либезнице (Центральная Чехия) оказалась в центре скандала после того, как пациентка засняла на видео их конфликт и подала жалобу. Врач грубо оскорбила женщину, отказавшись выдать направление на обследование.
Бывший влиятельный политик из американского штата Северная Дакота был осужден к десяти годам тюрьмы за поездки в Европу с целью платного секса с несовершеннолетними. Об этом сообщило агентство AP.
Прага может продлить бесплатную парковку для электромобилей в зонах платного стоянки после 30 июня. Городская администрация направила запрос муниципалитетам, входящим в систему зонирования, и ожидает их ответов до конца марта. На основе этих данных
Трое осужденных за выращивание марихуаны получили помилование от президента.
Введение четырехкронного залога на пластиковые бутылки и жестяные банки столкнулось с серьезным сопротивлением в парламенте. Несмотря на то что этот проект является одним из приоритетов Министерства окружающей среды, ему не удается заручиться