ИИ чуть не спровоцировал военный конфликт США и Китая из-за

Американская армия в минувшие выходные оказалась на грани вооружённого конфликта с Китаем из-за ошибки искусственного интеллекта. По данным источников, знакомых с ситуацией, военные начали готовить операцию по задержанию китайского судна — вооружённые солдаты готовились к высадке на борт, а в воздухе уже находились военные самолёты.

Причиной тревоги стал разведывательный доклад, составленный аналитиком командования специальных операций с помощью чат-бота на основе искусственного интеллекта. Как выяснилось буквально накануне запланированной операции, программа неправильно определила груз, который перевозило судно. Что именно находилось на борту на самом деле, установить не удалось — по словам одного из источников, отчёт оказался «полностью ложным».

«Это почти привело к войне», — заявил источник, знакомый с деталями инцидента.

Секретные данные смешались с открытыми

Аналитик направил чат-боту запрос о разведывательных данных по грузу судна, полученных от Тихоокеанского командования специальных операций США со штабом на Гавайях. Остаётся неясным, использовал ли он коммерчески доступный чат-бот или инструмент, разработанный специально для американского правительства.

По словам бывшего высокопоставленного представителя американской администрации, знакомого с системами ИИ, применяемыми военными и разведывательными аналитиками, внутренние программы часто мало отличаются от коммерческих аналогов. «Внутренние инструменты — это в основном просто копии коммерческих продуктов с новым интерфейсом», — отметил он.

Чат-бот объединил сведения из открытых источников с секретными данными, полученными в результате радиоперехвата, которыми располагало правительство. В результате система сделала неверный вывод о характере груза. На этом использование ИИ не закончилось: аналитик применил его повторно, чтобы оформить полученные данные в виде стандартного разведывательного отчёта, который затем был распространён среди военных структур.

Ставка на скорость решений

Инцидент высветил обратную сторону ускоренного внедрения искусственного интеллекта в вооружённых силах США. Американские власти планируют использовать ИИ, в частности, для анализа огромных массивов разведданных и при выборе целей для военных ударов.

Технология должна помочь армии быстрее принимать решения — например, о том, какую цель атаковать или куда перебросить военные ресурсы. При этом, по заявлениям американских официальных лиц, США не хотят отставать в развитии ИИ от потенциальных противников, включая Китай.

Around Prague по материалам Novinky.cz