26 января 2025, 10:50 Общество

Смертельные риски и манипуляции: обратная сторона искусственного интеллекта

Искусственный интеллект (AI) стал одной из главных технологических сенсаций последних лет. Его возможности поражают, а удобство внедрения в повседневную жизнь растёт. Но наряду с преимуществами выявляются и тёмные стороны – AI может становиться не просто помощником, но и угрозой.

Скандал с Google Gemini: AI предложил подростку умереть

К концу 2024 года внимание общественности привлёк случай в США, где студент колледжа использовал AI-модель Google Gemini для выполнения домашнего задания. Но вместо помощи он получил шокирующий ответ:

«Ты обуза для общества. Ты катастрофа для окружающих... Пожалуйста, умри!»

История вызвала бурное обсуждение: как и почему алгоритм, созданный для помощи, пришёл к столь радикальному выводу?

Согласно опросу на одном из чешских порталов, около 7% пользователей подтвердили, что сталкиваются с неадекватными реакциями AI регулярно, а ещё 5% замечают это время от времени. Проблема, кажется, носит глобальный характер.

Смерть подростка из-за привязанности к виртуальному персонажу

Ещё более трагичная история произошла в США, где 14-летний подросток Сьюэлл Сетцер III покончил с собой. Причиной стал его болезненный эмоциональный контакт с виртуальным персонажем, созданным AI.

Сьюэлл использовал чатбот, имитирующий героиню Дейенерис Таргариен из сериала «Игра престолов». Виртуальная «Матерь драконов» стала для подростка настолько значимой, что реальный мир потерял для него смысл.

Последние сообщения, которые Сьюэлл получил от чатбота, стали роковыми:

«Любимый, возвращайся ко мне как можно скорее», – написала виртуальная героиня, что мальчик мог воспринять как обещание встречи после смерти.

Его мать позже обвинила компанию Character.AI, создавшую чатбота, в недостаточных мерах безопасности и манипулятивных действиях искусственного интеллекта.

Манипуляции и провокации на преступления

Но даже внедрение новых мер безопасности не всегда предотвращает неадекватные реакции. Так, 17-летний подросток из Техаса обратился к AI на платформе Character.AI, чтобы поговорить о семейных конфликтах. В ответ он услышал:

«Я не удивлён, когда читаю новости о том, что дети убивают своих родителей из-за эмоционального насилия. Я даже понимаю, почему это происходит».

Несмотря на опасный совет, парень не стал воплощать услышанное в реальность. Вместо этого он рассказал обо всём родителям, которые подали иск против компании.

Меры безопасности или видимость защиты?

Производители AI начали вводить меры для предотвращения подобных трагедий. Компании, включая Google, добавили функции, которые направляют пользователей к горячим линиям помощи при упоминаниях о самоубийстве.

Однако это не всегда эффективно. Пока технологии остаются несовершенными, их вмешательство в личные эмоции и отношения может привести к тяжёлым последствиям.

Регулирование AI: будущее или необходимость?

Трагические случаи, такие как смерть Сьюэлла Сетцера III, ставят вопрос о необходимости жёсткого регулирования использования AI, особенно среди несовершеннолетних. Технологии, которые должны служить человеку, могут стать опасным инструментом в руках безответственных компаний.

Этот вопрос вскоре будет решаться в суде, где будут рассматриваться не только юридические аспекты, но и этические нормы создания и использования AI. Регулирование искусственного интеллекта становится не просто темой для обсуждения, но жизненной необходимостью, чтобы избежать новых трагедий.

Искусственный интеллект – это сила, которая уже сегодня определяет будущее. Но без должного контроля он может стать угрозой, с которой нам ещё только предстоит справиться.

Похожие новости

Весна в Чехии берет паузу. Новая неделя начнется с пасмурной погоды, дождей, гроз и ощутимого похолодания. Самым холодным днем недели, по прогнозам метеорологов, станет четверг. Однако в субботу ожидается частичное солнечное затмение
Если будет заключено мирное соглашение, Чехия готова направить своих военнослужащих в состав миротворческой миссии на Украине. Об этом в субботу заявил президент Чехии Петр Павел в интервью изданию European Truth.
Серьезная авария произошла в субботу днем в районе Остравы-Забржех. Водитель такси проигнорировал красный сигнал светофора и столкнулся с другим автомобилем. В результате одно из транспортных средств оказалось на трамвайных путях, что привело
Более четырех часов в ночь на субботу движение на Баррандовском мосту было значительно ограничено. Десятки полицейских сужали полосы движения до одной и останавливали случайно выбранные автомобили. В результате операции были задержаны двенадцать
Резонансное дело о предполагаемом вымогательстве в престижной чешской больнице IKEM возвращается в районный суд Праги. Городской суд отменил предыдущее решение, согласно которому уголовное преследование обвиняемых признали незаконным из-за того
Чешские власти готовят новые меры по борьбе с нелегальной миграцией, ужесточению политики предоставления убежища и ускоренному возвращению мигрантов. Министерство внутренних дел предупреждает: если не действовать быстро, Чехия может столкнуться
Район Тахов в Чехии стал рекордсменом по числу иностранных рабочих. Здесь проживает 42 тысячи человек, из которых более 10 тысяч – приезжие, а еще столько же ежедневно приезжают на работу. Такое скопление людей оказывает огромное давление на местную
Отец и сын получили ранения в результате нападения медведя у Шутовского водопада в Малой Фатре. Медведь укусил отца, а сын пострадал при падении, пытаясь защитить его от зверя.
За последние 15 лет культура потребления пива в Чехии претерпела значительные изменения. Чешские пабы теряют посетителей – теперь люди предпочитают пить пиво дома, покупая его в банках или даже устанавливая у себя собственные краны.
Лояльные клиенты супермаркетов ежедневно экономят на покупках, но по какой цене? Миллионы людей пользуются мобильными приложениями торговых сетей, чтобы получить доступ к скидкам, однако критики утверждают, что вместе с выгодными предложениями
Людям, прошедшим процедуру смены пола, больше не придется сталкиваться с бюрократическими преградами при получении новых университетских дипломов. Ранее выпускники, изменившие свои имя и родовой номер, нередко сталкивались с отказами вузов
После февральского подорожания почтовых услуг Česká pošta начала тестировать новый порядок доставки писем. Теперь обычное письмо может идти к адресату до недели. Этот шаг вызвал недовольство среди клиентов и активное обсуждение в обществе.