Афера с ИИ-ботами: фальшивая любовь в сети знакомств

Компания Anthropic, разработчик модели искусственного интеллекта Claude, обнаружила масштабную схему мошенничества в сфере онлайн-знакомств: китайская студия управляла более чем 20 приложениями для знакомств, где значительную часть переписки вели не реальные люди, а ИИ-персонажи. Об этом сообщается в отчёте компании о злоупотреблениях искусственным интеллектом.

По данным Anthropic, за две недели апреля этого года было зафиксировано более 4700 различных ИИ-ботов, которые общались как минимум с 25 тысячами уникальных пользователей. За это время Claude сгенерировал около 2,36 миллиона сообщений. Пока неясно, была ли атака направлена на жителей самого Китая или на иностранных пользователей.

Живые люди среди ботов

Организаторы схемы не полагались исключительно на чат-ботов — среди профилей были и настоящие люди, хотя и в значительно меньшем количестве. По оценке Anthropic, соотношение составляло примерно три ИИ-бота на одного реального человека. При этом сами пользователи не имели возможности узнать, общаются они с человеком или с программой.

Реальных людей нанимали как подработчиков для действий, которые бот не мог убедительно имитировать — например, для видеозвонков или подписки на пользователя в соцсетях. Именно такие «живые» контакты должны были снижать подозрения жертв. Самим подработчикам, в свою очередь, помогал другой ИИ-инструмент, предлагавший готовые варианты коротких ответов. Оплата зависела от количества сообщений, видеозвонков и взаимных подписок в соцсетях.

Боту запрещалось признаваться, что он бот

Автоматизированным персонажам были заданы чёткие правила поведения: им запрещалось раскрывать, что они являются программой, и предписывалось уклоняться от просьб о видеозвонках или фотографиях. Общение выстраивалось по заранее заданным сценарным этапам, что позволяло вести переписку одновременно с тысячами профилей практически без участия человека.

Система также отслеживала пользователей, которые начинали подозревать, что переписываются с ботом. А если реального человека для подстраховки не было под рукой, программа могла сама генерировать фальшивые лайки и посещения профиля.

Разделение труда между разными ИИ

Примечательно, что мошенники использовали не одну модель, а сразу несколько ИИ-систем с разными задачами. Claude отвечал за автономное общение с пользователями, другая, менее мощная модель, готовила короткие варианты ответов для нанятых людей. Дополнительные модели применялись для оценки привлекательности лиц, модерации фотографий и голоса, а также для создания аватаров.

Именно в этом Anthropic видит ключевую особенность схемы: речь идёт не об одном ИИ, генерирующем мошеннические сообщения, а о целом процессе, разделённом между несколькими моделями и реальными людьми.

Источник: Novinky.cz