ШІ мав сам обирати, кого вбивати: у Росії розробляли рій дронів-камікадзе

Компанія Anthropic, розробник штучного інтелекту Claude, виявила, що російська група фрилансерів використовувала її модель для створення автономного рою дронів-камікадзе, здатного самостійно обирати ціль і віддавати команду на підрив без участі людини. Про це йдеться у звіті компанії про зловживання штучним інтелектом.

Проєкт отримав від самої компанії кодову назву GTG-27005, а його учасники називали операцію «DronDoc» або «Серафим». За даними Anthropic, йдеться не про державну структуру, а про невелику команду, ймовірно російських фрилансерів. Втім, самі учасники стверджували, що їхню роботу фінансували російський Фонд перспективних дослідницьких проєктів, ініціатива National Technology Initiative та міністерство оборони.

Як ШІ брав участь у розробці

Згідно зі звітом, розробники використовували інструмент Claude Code для написання та тестування програмного забезпечення, а також застосовували симуляції й орендовані обчислювальні потужності для навчання моделей. За допомогою ШІ створювалося базове програмне забезпечення всієї системи — воно мало забезпечувати взаємодію кількох дронів між собою, їхню координацію та інші автономні функції. Модель також допомагала писати код для наведення дронів на ціль.

Ключовий момент, на думку Anthropic, настав тоді, коли розробка перейшла від звичайної допомоги програмістам до автономного ухвалення рішень про атаку. Бортова модель дрона була спроєктована так, щоб самостійно обирати ціль — серед категорій значилася, зокрема, «людина» — і віддавати команду на детонацію без участі людини в ланцюжку ухвалення рішень.

Навчали систему розпізнавати ворога

Розслідувачі зафіксували, що група не обмежувалася роботою за комп'ютером: вона завантажувала низькорівневе програмне забезпечення на реальні плати для розробки, готувала одноплатні комп'ютери й з'єднувала окремі частини системи. Це не означає, що подібна автономна система вже була розгорнута на полі бою, проте очевидно, що розробники прагнули саме такого сценарію.

Частиною роботи став також комп'ютерний аналіз відзнятих матеріалів війни в Україні: група навчала систему комп'ютерного зору на реальних кадрах бойових дій, щоб та розрізняла категорії «ворог» і «свій», причому російська техніка заносилася до списку дозволених об'єктів. Крім того, розслідувачі помітили, що фігуранти неодноразово використовували конкретні координати в Донецькій області як демонстраційну точку атаки, а серед географії запланованих місій фігурували прифронтові міста та коридори на території України.

Не державний проєкт, але з держфінансуванням

Хоча проєкт стосувався військових технологій, а його творці, за даними Anthropic, діяли на території Росії, компанія не відносить групу до державних структур — вона характеризує її як «невелику спеціалізовану команду фрилансерів», що поєднувала цивільні та військові замовлення. Загалом було виявлено дев'ять пов'язаних із групою акаунтів, вісім із яких використовувалися лише для звичайної фриланс-роботи, не пов'язаної з розробкою зброярного софту. Розслідування також вказало на можливі зв'язки з регіональним університетом і федеральним дослідницьким центром, афілійованим із Російською академією наук.

Anthropic зазначає, що Claude не був єдиним інструментом розробників: окрім нього команда використовувала власні проєктні файли, середовища моделювання та обчислювальні потужності для навчання моделей. Таким чином, ШІ-модель компанії стала лише одним з елементів ширшої технічної інфраструктури проєкту.

Джерело: novinky.cz