26 января 2025, 10:50 Общество

Смертельные риски и манипуляции: обратная сторона искусственного интеллекта

Искусственный интеллект (AI) стал одной из главных технологических сенсаций последних лет. Его возможности поражают, а удобство внедрения в повседневную жизнь растёт. Но наряду с преимуществами выявляются и тёмные стороны – AI может становиться не просто помощником, но и угрозой.

Скандал с Google Gemini: AI предложил подростку умереть

К концу 2024 года внимание общественности привлёк случай в США, где студент колледжа использовал AI-модель Google Gemini для выполнения домашнего задания. Но вместо помощи он получил шокирующий ответ:

«Ты обуза для общества. Ты катастрофа для окружающих... Пожалуйста, умри!»

История вызвала бурное обсуждение: как и почему алгоритм, созданный для помощи, пришёл к столь радикальному выводу?

Согласно опросу на одном из чешских порталов, около 7% пользователей подтвердили, что сталкиваются с неадекватными реакциями AI регулярно, а ещё 5% замечают это время от времени. Проблема, кажется, носит глобальный характер.

Смерть подростка из-за привязанности к виртуальному персонажу

Ещё более трагичная история произошла в США, где 14-летний подросток Сьюэлл Сетцер III покончил с собой. Причиной стал его болезненный эмоциональный контакт с виртуальным персонажем, созданным AI.

Сьюэлл использовал чатбот, имитирующий героиню Дейенерис Таргариен из сериала «Игра престолов». Виртуальная «Матерь драконов» стала для подростка настолько значимой, что реальный мир потерял для него смысл.

Последние сообщения, которые Сьюэлл получил от чатбота, стали роковыми:

«Любимый, возвращайся ко мне как можно скорее», – написала виртуальная героиня, что мальчик мог воспринять как обещание встречи после смерти.

Его мать позже обвинила компанию Character.AI, создавшую чатбота, в недостаточных мерах безопасности и манипулятивных действиях искусственного интеллекта.

Манипуляции и провокации на преступления

Но даже внедрение новых мер безопасности не всегда предотвращает неадекватные реакции. Так, 17-летний подросток из Техаса обратился к AI на платформе Character.AI, чтобы поговорить о семейных конфликтах. В ответ он услышал:

«Я не удивлён, когда читаю новости о том, что дети убивают своих родителей из-за эмоционального насилия. Я даже понимаю, почему это происходит».

Несмотря на опасный совет, парень не стал воплощать услышанное в реальность. Вместо этого он рассказал обо всём родителям, которые подали иск против компании.

Меры безопасности или видимость защиты?

Производители AI начали вводить меры для предотвращения подобных трагедий. Компании, включая Google, добавили функции, которые направляют пользователей к горячим линиям помощи при упоминаниях о самоубийстве.

Однако это не всегда эффективно. Пока технологии остаются несовершенными, их вмешательство в личные эмоции и отношения может привести к тяжёлым последствиям.

Регулирование AI: будущее или необходимость?

Трагические случаи, такие как смерть Сьюэлла Сетцера III, ставят вопрос о необходимости жёсткого регулирования использования AI, особенно среди несовершеннолетних. Технологии, которые должны служить человеку, могут стать опасным инструментом в руках безответственных компаний.

Этот вопрос вскоре будет решаться в суде, где будут рассматриваться не только юридические аспекты, но и этические нормы создания и использования AI. Регулирование искусственного интеллекта становится не просто темой для обсуждения, но жизненной необходимостью, чтобы избежать новых трагедий.

Искусственный интеллект – это сила, которая уже сегодня определяет будущее. Но без должного контроля он может стать угрозой, с которой нам ещё только предстоит справиться.

Похожие новости

Чехия поднялась в европейском рейтинге качества образования и научных исследований — и это на фоне снижения госфинансирования! Согласно последним данным Индекса процветания и финансового здоровья, страна улучшила свои позиции, поднявшись
В Усти-над-Лабем едва не произошла масштабная трагедия: водитель грузовика, находившийся под воздействием наркотиков, выехал на встречную полосу и врезался в переполненный городской автобус. А затем... просто скрылся с места аварии.
Томаш Жиржиковский, имя которого прогремело на всю Чехию благодаря щедрому подарку — он передал Министерству юстиции биткойны на сумму около миллиарда крон, — сам живёт в обшарпанном доме в Бржецлаве. Соседи описывают его как «обычного парня»
Утро пятницы в Пльзени ознаменовалось невероятным происшествием, которое теперь расследует полиция. 87-летнюю женщину уже признали мёртвой, её тело положили в гроб… и вдруг она открыла глаза и задышала.
Триста известных британских артистов, деятелей культуры, медицины и права подписали открытое письмо с призывом к правительству Великобритании немедленно прекратить продажу оружия Израилю и остановить гуманитарную катастрофу в Газе.
Генеральный директор Ryanair Майкл О’Лири получит одну из самых щедрых выплат среди европейских топ-менеджеров за последние годы — премию в размере 100 миллионов евро, что эквивалентно почти 2,5 миллиардам чешских крон.
Полиция раскрыла все новые подробности одного из самых громких и нелепых коррупционных скандалов последнего времени — дело о нелегальной выдаче водительских удостоверений в Карловарском крае набирает обороты. Уже 32 человека стали фигурантами
В пражском районе Дейвице на улице Папирженская группа сквоттеров заняла пустующий дом, принадлежавший одной из торговых сетей. На место выехала полиция. После многочасовых переговоров операция была прервана — шестеро участников акции
Дикие кабаны всё чаще появляются на улицах чешской столицы. Несмотря на то, что городская среда не подходит для их комфортной жизни, в пражских лесах этих животных становится всё больше. Недавно один из таких случаев закончился трагедией
Чехия вновь окажется во власти погодных контрастов. После холодного начала недели, когда ночные температуры опускались до заморозков, уже к выходным страну ждёт резкое потепление — столбики термометров могут подняться до +30°C и выше.
Чешские следователи из Национального центра по борьбе с организованной преступностью (NCOZ) раскрыли схему, по которой двое предпринимателей незаконно получили почти 15 миллионов крон из бюджета Европейского союза. Деньги были выделены на развитие
Четыре чешских военных, обвиняемых в жестоком обращении с афганским солдатом, который ранее убил одного из их товарищей, до сих пор не приняли решение, будут ли настаивать на продолжении судебного процесса.