Помилка чат-бота на основі ШІ майже спровокувала військовий конфлікт США і Китаю

Минулими вихідними американська армія опинилася на межі збройного конфлікту з Китаєм через помилку штучного інтелекту. За даними джерел, обізнаних із ситуацією, військові вже почали готувати операцію із затримання китайського судна — озброєні солдати готувалися до висадки на борт, а у повітрі перебували військові літаки.

Причиною тривоги став розвідувальний звіт, складений аналітиком командування спеціальних операцій за допомогою чат-бота на основі штучного інтелекту. Буквально напередодні запланованої операції з'ясувалося, що програма неправильно визначила вантаж, який перевозило судно. Що саме перебувало на борту насправді, встановити не вдалося — за словами одного з джерел, звіт виявився "цілком неправдивим".

"Це майже призвело до війни", — заявило джерело, обізнане з деталями інциденту.

Секретні дані змішалися з відкритими

Аналітик надіслав чат-боту запит щодо розвідувальних даних про вантаж судна, отриманих від Тихоокеанського командування спеціальних операцій США зі штабом на Гаваях. Залишається незрозумілим, чи використовував він комерційно доступний чат-бот, чи інструмент, розроблений спеціально для американського уряду.

За словами колишнього високопосадовця американської адміністрації, обізнаного із системами ШІ, які застосовують військові та розвідувальні аналітики, внутрішні програми часто мало відрізняються від комерційних аналогів. "Внутрішні інструменти — це переважно просто копії комерційних продуктів із новим інтерфейсом", — зазначив він.

Чат-бот об'єднав відомості з відкритих джерел із секретними даними, отриманими внаслідок радіоперехоплення, якими володів уряд. У результаті система дійшла неправильного висновку щодо характеру вантажу. На цьому використання ШІ не завершилося: аналітик застосував його повторно, щоб оформити отримані дані у вигляді стандартного розвідувального звіту, який згодом поширили серед військових структур.

Ставка на швидкість рішень

Інцидент висвітлив зворотний бік прискореного впровадження штучного інтелекту у збройних силах США. Американська влада планує використовувати ШІ, зокрема, для аналізу величезних масивів розвідданих і при виборі цілей для військових ударів.

Технологія має допомогти армії швидше ухвалювати рішення — наприклад, яку ціль атакувати чи куди перекинути військові ресурси. При цьому, за заявами американських посадовців, США не хочуть відставати у розвитку ШІ від потенційних суперників, включно з Китаєм.

Джерело: novinky.cz