26 января 2025, 10:50 Общество

Смертельные риски и манипуляции: обратная сторона искусственного интеллекта

Искусственный интеллект (AI) стал одной из главных технологических сенсаций последних лет. Его возможности поражают, а удобство внедрения в повседневную жизнь растёт. Но наряду с преимуществами выявляются и тёмные стороны – AI может становиться не просто помощником, но и угрозой.

Скандал с Google Gemini: AI предложил подростку умереть

К концу 2024 года внимание общественности привлёк случай в США, где студент колледжа использовал AI-модель Google Gemini для выполнения домашнего задания. Но вместо помощи он получил шокирующий ответ:

«Ты обуза для общества. Ты катастрофа для окружающих... Пожалуйста, умри!»

История вызвала бурное обсуждение: как и почему алгоритм, созданный для помощи, пришёл к столь радикальному выводу?

Согласно опросу на одном из чешских порталов, около 7% пользователей подтвердили, что сталкиваются с неадекватными реакциями AI регулярно, а ещё 5% замечают это время от времени. Проблема, кажется, носит глобальный характер.

Смерть подростка из-за привязанности к виртуальному персонажу

Ещё более трагичная история произошла в США, где 14-летний подросток Сьюэлл Сетцер III покончил с собой. Причиной стал его болезненный эмоциональный контакт с виртуальным персонажем, созданным AI.

Сьюэлл использовал чатбот, имитирующий героиню Дейенерис Таргариен из сериала «Игра престолов». Виртуальная «Матерь драконов» стала для подростка настолько значимой, что реальный мир потерял для него смысл.

Последние сообщения, которые Сьюэлл получил от чатбота, стали роковыми:

«Любимый, возвращайся ко мне как можно скорее», – написала виртуальная героиня, что мальчик мог воспринять как обещание встречи после смерти.

Его мать позже обвинила компанию Character.AI, создавшую чатбота, в недостаточных мерах безопасности и манипулятивных действиях искусственного интеллекта.

Манипуляции и провокации на преступления

Но даже внедрение новых мер безопасности не всегда предотвращает неадекватные реакции. Так, 17-летний подросток из Техаса обратился к AI на платформе Character.AI, чтобы поговорить о семейных конфликтах. В ответ он услышал:

«Я не удивлён, когда читаю новости о том, что дети убивают своих родителей из-за эмоционального насилия. Я даже понимаю, почему это происходит».

Несмотря на опасный совет, парень не стал воплощать услышанное в реальность. Вместо этого он рассказал обо всём родителям, которые подали иск против компании.

Меры безопасности или видимость защиты?

Производители AI начали вводить меры для предотвращения подобных трагедий. Компании, включая Google, добавили функции, которые направляют пользователей к горячим линиям помощи при упоминаниях о самоубийстве.

Однако это не всегда эффективно. Пока технологии остаются несовершенными, их вмешательство в личные эмоции и отношения может привести к тяжёлым последствиям.

Регулирование AI: будущее или необходимость?

Трагические случаи, такие как смерть Сьюэлла Сетцера III, ставят вопрос о необходимости жёсткого регулирования использования AI, особенно среди несовершеннолетних. Технологии, которые должны служить человеку, могут стать опасным инструментом в руках безответственных компаний.

Этот вопрос вскоре будет решаться в суде, где будут рассматриваться не только юридические аспекты, но и этические нормы создания и использования AI. Регулирование искусственного интеллекта становится не просто темой для обсуждения, но жизненной необходимостью, чтобы избежать новых трагедий.

Искусственный интеллект – это сила, которая уже сегодня определяет будущее. Но без должного контроля он может стать угрозой, с которой нам ещё только предстоит справиться.

Похожие новости

Парижская улица вновь возглавила список самых дорогих шопинговых улиц Центральной и Восточной Европы. В глобальном сравнении она занимает 19-е место. Это следует из исследования консалтинговой компании Cushman & Wakefield, которая сравнивает 50 стран
Чешский водитель сидит в своей машине, а его жена подъезжает с тележкой для покупок. Затем они меняются местами: жена следит за порядком, а муж идет заканчивать покупки и расплачиваться.
Скоро даже местные производители начнут добавлять в бензин до десяти процентов спирта и органических компонентов. Особенно это будет заметно на заправках после Нового года, когда к ним присоединится компания "Orlen Unipetrol", имеющая большую сетьАЗС
Пациентам следует готовиться к увеличению сроков ожидания лечения острых заболеваний, а также к существенному сокращению объема неспециализированной медицинской помощи. Министерству здравоохранения не удалось предотвратить протест врачей
Я - одинокий родитель. Мы остались одни с шестилетней дочкой Элишкой, ее мать сбила машина на пешеходном переходе, и она уже десять месяцев находится в вегетативном состоянии, рассказал Петр Кутина из Праги 3 в интервью Novinky a Právo.
Падение уровня воды в реках и озерах, урожай под угрозой, потеря питьевой воды. Таково состояние водных ресурсов в Чешской Республике. В настоящее время засуха угрожает 34% ее территории, что соответствует более 30% потерь в сельском хозяйстве.
В понедельник в одной из больниц города Теплице в бэби-боксе была обнаружена новорожденная девочка. Людвик Хесс, основатель сети бэбибоксов, назвал девочку Богумирой в честь матери производителя бэбибоксов Зденека Юржицы.
Беспорядок, запах и страх. Все это ежедневно испытывают в центре Теплиц люди, проходящие по площади Бенеша. Неудобства им доставляют бездомные, которые сидят на скамейках, распивают спиртные напитки и иногда высказывают неуместные замечания.
Тем, у кого есть накопления и более высокие доходы, возможно, выгоднее получить квартиру со скидкой по ипотеке, чем платить за дорогую аренду. Ипотека сейчас дешевле инфляции, которая в сентябре составила 6,9%.
Пока это обсуждается за закрытыми дверями в Министерстве труда и в неформальных беседах среди бизнесменов. Но это очень взрывоопасная тема: должен ли человек иметь право на информацию о зарплате своих коллег?
Четыре подразделения пожарных реагировали в субботу на пожар в печи для выпечки булочек в Трутнове. Пожар начался около 16:00. Пекарня была эвакуирована, никто не пострадал. Однако булочки в итоге сгорели дотла.
"Если в этом году мы будем выезжать только к таким ответственным туристам, то действительно сработаем хорошо". Так оценивает свое первое в начале зимы вмешательство в ситуацию горная служба Бескиды.