Claude AI и рой дронов-убийц: расследование Anthropic

Компания Anthropic, разработчик искусственного интеллекта Claude, обнаружила, что российская группа фрилансеров использовала её модель для создания автономного роя дронов-камикадзе, способного самостоятельно выбирать цель и отдавать команду на подрыв без участия человека. Об этом сообщается в отчёте компании о злоупотреблениях искусственным интеллектом.

Проект получил у самой компании кодовое обозначение GTG-27005, а его участники называли операцию «DronDoc» или «Серафим». По данным Anthropic, речь идёт не о государственной структуре, а о небольшой команде, предположительно российских фрилансеров. Тем не менее сами участники утверждали, что их работу финансировали российский Фонд перспективных исследовательских проектов, инициатива National Technology Initiative и министерство обороны.

Как ИИ участвовал в разработке

Согласно отчёту, разработчики использовали инструмент Claude Code для написания и тестирования программного обеспечения, а также применяли симуляции и арендованные вычислительные мощности для обучения моделей. С помощью ИИ создавалось базовое программное обеспечение всей системы — оно должно было обеспечивать взаимодействие нескольких дронов между собой, их координацию и другие автономные функции. Модель также помогала писать код для наведения дронов на цель.

Ключевой момент, по мнению Anthropic, наступил, когда разработка перешла от обычной помощи программистам к автономному принятию решений об атаке. Бортовая модель дрона была спроектирована так, чтобы самостоятельно выбирать цель — среди категорий значилась, в частности, «человек» — и отдавать команду на детонацию без участия человека в цепочке принятия решений.

Учили систему распознавать врага

Расследователи зафиксировали, что группа не ограничивалась работой за компьютером: она загружала низкоуровневое программное обеспечение на реальные платы для разработки, готовила одноплатные компьютеры и соединяла отдельные части системы. Это не означает, что подобная автономная система уже была развёрнута на поле боя, однако очевидно, что разработчики стремились именно к такому сценарию.

Частью работы стал также компьютерный анализ съёмок войны в Украине: группа обучала систему компьютерного зрения на реальных кадрах боевых действий, чтобы та различала категории «враг» и «свой», причём российская техника заносилась в список разрешённых объектов. Кроме того, расследователи заметили, что фигуранты неоднократно использовали конкретные координаты в Донецкой области как демонстрационную точку атаки, а среди географии планируемых миссий фигурировали прифронтовые города и коридоры на территории Украины.

Не государственный проект, но с госфинансированием

Хотя проект касался военных технологий, а его создатели, по данным Anthropic, действовали на территории России, компания не относит группу к государственным структурам — она характеризует её как «небольшую специализированную команду фрилансеров», совмещавших гражданские и военные заказы. Всего было выявлено девять связанных с группой аккаунтов, восемь из которых использовались лишь для обычной фриланс-работы, не связанной с разработкой оружейного софта. Расследование также указало на возможные связи с региональным университетом и федеральным исследовательским центром, аффилированным с Российской академией наук.

Anthropic отмечает, что Claude не был единственным инструментом разработчиков: помимо него команда использовала собственные проектные файлы, среды моделирования и вычислительные мощности для обучения моделей. Таким образом, ИИ-модель компании стала лишь одним из элементов более широкой технической инфраструктуры проекта.

Источник: Novinky.cz