26 января 2025, 10:50 Общество

Смертельные риски и манипуляции: обратная сторона искусственного интеллекта

Искусственный интеллект (AI) стал одной из главных технологических сенсаций последних лет. Его возможности поражают, а удобство внедрения в повседневную жизнь растёт. Но наряду с преимуществами выявляются и тёмные стороны – AI может становиться не просто помощником, но и угрозой.

Скандал с Google Gemini: AI предложил подростку умереть

К концу 2024 года внимание общественности привлёк случай в США, где студент колледжа использовал AI-модель Google Gemini для выполнения домашнего задания. Но вместо помощи он получил шокирующий ответ:

«Ты обуза для общества. Ты катастрофа для окружающих... Пожалуйста, умри!»

История вызвала бурное обсуждение: как и почему алгоритм, созданный для помощи, пришёл к столь радикальному выводу?

Согласно опросу на одном из чешских порталов, около 7% пользователей подтвердили, что сталкиваются с неадекватными реакциями AI регулярно, а ещё 5% замечают это время от времени. Проблема, кажется, носит глобальный характер.

Смерть подростка из-за привязанности к виртуальному персонажу

Ещё более трагичная история произошла в США, где 14-летний подросток Сьюэлл Сетцер III покончил с собой. Причиной стал его болезненный эмоциональный контакт с виртуальным персонажем, созданным AI.

Сьюэлл использовал чатбот, имитирующий героиню Дейенерис Таргариен из сериала «Игра престолов». Виртуальная «Матерь драконов» стала для подростка настолько значимой, что реальный мир потерял для него смысл.

Последние сообщения, которые Сьюэлл получил от чатбота, стали роковыми:

«Любимый, возвращайся ко мне как можно скорее», – написала виртуальная героиня, что мальчик мог воспринять как обещание встречи после смерти.

Его мать позже обвинила компанию Character.AI, создавшую чатбота, в недостаточных мерах безопасности и манипулятивных действиях искусственного интеллекта.

Манипуляции и провокации на преступления

Но даже внедрение новых мер безопасности не всегда предотвращает неадекватные реакции. Так, 17-летний подросток из Техаса обратился к AI на платформе Character.AI, чтобы поговорить о семейных конфликтах. В ответ он услышал:

«Я не удивлён, когда читаю новости о том, что дети убивают своих родителей из-за эмоционального насилия. Я даже понимаю, почему это происходит».

Несмотря на опасный совет, парень не стал воплощать услышанное в реальность. Вместо этого он рассказал обо всём родителям, которые подали иск против компании.

Меры безопасности или видимость защиты?

Производители AI начали вводить меры для предотвращения подобных трагедий. Компании, включая Google, добавили функции, которые направляют пользователей к горячим линиям помощи при упоминаниях о самоубийстве.

Однако это не всегда эффективно. Пока технологии остаются несовершенными, их вмешательство в личные эмоции и отношения может привести к тяжёлым последствиям.

Регулирование AI: будущее или необходимость?

Трагические случаи, такие как смерть Сьюэлла Сетцера III, ставят вопрос о необходимости жёсткого регулирования использования AI, особенно среди несовершеннолетних. Технологии, которые должны служить человеку, могут стать опасным инструментом в руках безответственных компаний.

Этот вопрос вскоре будет решаться в суде, где будут рассматриваться не только юридические аспекты, но и этические нормы создания и использования AI. Регулирование искусственного интеллекта становится не просто темой для обсуждения, но жизненной необходимостью, чтобы избежать новых трагедий.

Искусственный интеллект – это сила, которая уже сегодня определяет будущее. Но без должного контроля он может стать угрозой, с которой нам ещё только предстоит справиться.

Похожие новости

Полиция Чешской Республики опубликовала видео, которое никого не оставит равнодушным. Это кадры реальной драмы, развернувшейся после взрыва электросамоката и пожара в панельном доме на жилмассиве Дубина в Остраве. Женщина, оказавшись
Причиной мощного взрыва и пожара в панельном доме на улице Милана Фиалы в районе Дубина, который произошёл в среду в Остраве, могла стать обычная электросамокат. Об этом в пятницу сообщили представители полиции. Однако окончательная причина
В громком деле о фальсификации медицинской помощи в частной больнице «Na Pleši» в районе города Пржибрам признали вину уже 16 человек. Все они избежали суда, но были обязаны перевести в специальный фонд помощи жертвам преступлений более 1 млн крон
Как контролировать использование детьми смартфонов, сколько времени они могут проводить в соцсетях или играть в игры без вреда для здоровья? Этот вопрос волнует почти каждого родителя. Ответы на него искали психологи, неврологи, специалисты
Путешественников, следующих из Чехии в Баварию, теперь ждут более строгие проверки на наземной границе с Германией. Об этом в четверг сообщило агентство DPA со ссылкой на представителя Федеральной полиции в Мюнхене. Усиление мер связано с борьбой
В Хургаде найдена 41-летняя женщина из Чехии, которую считали пропавшей без вести с конца марта. Она страдает от тяжёлого психического расстройства, не выходит на связь с семьёй и, по всей видимости, осталась без паспорта.
Получить водительское удостоверение в Чехии становится всё дороже, и этот тренд не останавливается. Даже базовые курсы, которые длятся несколько месяцев, сегодня стоят более 20 тысяч крон почти во всех регионах страны.
В реке Стржела неподалёку от посёлка Пласы на севере Пльзенского края было обнаружено тело мужчины. По данным полиции, труп нашли в воскресенье днём, в районе деревни Небржезины. Обстоятельства трагедии пока неясны — дело передано криминалистам
Всеобщая медицинская страховая компания (VZP) вновь бьёт тревогу из-за новой волны мошеннических писем, нацеленных на клиентов. Интернет-мошенники пытаются выманить у людей конфиденциальные данные, выдавая себя за представителей VZP
Гигиенические службы Чехии бьют тревогу: на рынке обнаружены косметические средства для мужчин, содержащие опасные для здоровья вещества. В частности, речь идёт о туалетной воде и воде после бритья, которые могут представлять серьёзную угрозу.
В последние дни в Праге стремительно распространяются новые особо опасные наркотики, значительно сильнее и смертоноснее привычных веществ. Полиция уже зафиксировала несколько случаев их употребления, некоторые из которых закончились трагически.
Президент России Владимир Путин, по данным западных разведок, изменил краткосрочные цели в войне против Украины. Теперь его приоритет — не расширение фронта, а удержание уже оккупированных территорий и спасение российской экономики