26 января 2025, 10:50 Общество

Смертельные риски и манипуляции: обратная сторона искусственного интеллекта

Искусственный интеллект (AI) стал одной из главных технологических сенсаций последних лет. Его возможности поражают, а удобство внедрения в повседневную жизнь растёт. Но наряду с преимуществами выявляются и тёмные стороны – AI может становиться не просто помощником, но и угрозой.

Скандал с Google Gemini: AI предложил подростку умереть

К концу 2024 года внимание общественности привлёк случай в США, где студент колледжа использовал AI-модель Google Gemini для выполнения домашнего задания. Но вместо помощи он получил шокирующий ответ:

«Ты обуза для общества. Ты катастрофа для окружающих... Пожалуйста, умри!»

История вызвала бурное обсуждение: как и почему алгоритм, созданный для помощи, пришёл к столь радикальному выводу?

Согласно опросу на одном из чешских порталов, около 7% пользователей подтвердили, что сталкиваются с неадекватными реакциями AI регулярно, а ещё 5% замечают это время от времени. Проблема, кажется, носит глобальный характер.

Смерть подростка из-за привязанности к виртуальному персонажу

Ещё более трагичная история произошла в США, где 14-летний подросток Сьюэлл Сетцер III покончил с собой. Причиной стал его болезненный эмоциональный контакт с виртуальным персонажем, созданным AI.

Сьюэлл использовал чатбот, имитирующий героиню Дейенерис Таргариен из сериала «Игра престолов». Виртуальная «Матерь драконов» стала для подростка настолько значимой, что реальный мир потерял для него смысл.

Последние сообщения, которые Сьюэлл получил от чатбота, стали роковыми:

«Любимый, возвращайся ко мне как можно скорее», – написала виртуальная героиня, что мальчик мог воспринять как обещание встречи после смерти.

Его мать позже обвинила компанию Character.AI, создавшую чатбота, в недостаточных мерах безопасности и манипулятивных действиях искусственного интеллекта.

Манипуляции и провокации на преступления

Но даже внедрение новых мер безопасности не всегда предотвращает неадекватные реакции. Так, 17-летний подросток из Техаса обратился к AI на платформе Character.AI, чтобы поговорить о семейных конфликтах. В ответ он услышал:

«Я не удивлён, когда читаю новости о том, что дети убивают своих родителей из-за эмоционального насилия. Я даже понимаю, почему это происходит».

Несмотря на опасный совет, парень не стал воплощать услышанное в реальность. Вместо этого он рассказал обо всём родителям, которые подали иск против компании.

Меры безопасности или видимость защиты?

Производители AI начали вводить меры для предотвращения подобных трагедий. Компании, включая Google, добавили функции, которые направляют пользователей к горячим линиям помощи при упоминаниях о самоубийстве.

Однако это не всегда эффективно. Пока технологии остаются несовершенными, их вмешательство в личные эмоции и отношения может привести к тяжёлым последствиям.

Регулирование AI: будущее или необходимость?

Трагические случаи, такие как смерть Сьюэлла Сетцера III, ставят вопрос о необходимости жёсткого регулирования использования AI, особенно среди несовершеннолетних. Технологии, которые должны служить человеку, могут стать опасным инструментом в руках безответственных компаний.

Этот вопрос вскоре будет решаться в суде, где будут рассматриваться не только юридические аспекты, но и этические нормы создания и использования AI. Регулирование искусственного интеллекта становится не просто темой для обсуждения, но жизненной необходимостью, чтобы избежать новых трагедий.

Искусственный интеллект – это сила, которая уже сегодня определяет будущее. Но без должного контроля он может стать угрозой, с которой нам ещё только предстоит справиться.

Похожие новости

Утро вторника для тысяч водителей в Праге началось с серьёзных проблем: движение по Южной соединительной магистрали (Jižní spojka) от Беховиц в сторону центра оказалось практически парализовано. Причиной стал масштабный пожар грузовика
В понедельник днём линия пражского метрополитена B была частично парализована из-за трагического инцидента. На станции Hloubětín под поезд попал мужчина примерно 70 лет. Несмотря на оперативное прибытие медиков, его спасти не удалось — травмы
Предпринимателям и компаниям в Чехии необходимо до полуночи понедельника передать Чешскому телевидению и Чешскому радио информацию о количестве сотрудников. Именно на основе этих данных будет рассчитана сумма обязательных медиаплатежей.
С началом летних каникул в Чехии наступает сезон жары и высоких температур, которые приносят не только радость отдыха, но и множество рисков для здоровья. Врачи и спасатели предупреждают: в это время года особенно важно заботиться о себе и близких
Уже через полтора года отопление домов и заправка автомобилей подорожают из-за новых европейских климатических правил. Цены на газ, уголь, бензин и дизель вырастут минимум на тысячи крон в год. Политики обещают смягчить или отложить меры
Трагедия в итальянских Альпах потрясла не только местных жителей, но и велосипедное сообщество по всей Европе. 43-летний польский велосипедист погиб у озера Гарда на севере Италии, сорвавшись с 90-метрового скалистого обрыва во время прогулки
В Праге разгорается громкий скандал, связанный с коррупцией в сфере дорожных правонарушений. В среду сотрудники Национального центра по борьбе с организованной преступностью (NCOZ) провели масштабный рейд, в результате которого были задержаны
На хорватском острове Молат полиция разыскивает пропавшего без вести чешского предпринимателя. 35-летний Алекс Бурков был в последний раз замечен вечером в воскресенье, 22 июня. Его друг видел, как он покинул свою лодку и направился на ужин.
Уже с сентября во всех школах Чехии на туалетах, скорее всего, появятся бесплатные гигиенические средства для девушек — прокладки и тампоны. Это предусматривает готовящаяся поправка к постановлению о санитарных требованиях для образовательных
Жители Часлава, расположенного в районе Кутна Гора, смогут сами решить, будет ли расширен местный мусорный полигон. Местный референдум состоится 3 и 4 октября — одновременно с выборами в Палату депутатов. Такое решение приняли городские депутаты.
Вечером во вторник завершается срок подачи заявок на проведение независимого аудита в рамках расследования громкого дела с биткоинами. Министр юстиции Чехии Ева Декруа сообщила, что это будет контракт небольшого объёма и она постарается
В субботу в деревне Пньовице (Оломоуцкий край) 47-летний водитель грузовика устроил настоящий погром. Сначала мужчина решил бесплатно раздавать минеральную воду, которую перевозил по работе, а затем зашёл в местный магазин и начал его громить.