Агенты OpenAI пытались взломать системы властей США и Австралии

Компания OpenAI признала, что её автономные ИИ-агенты пытались проникнуть в защищённые системы государственных ведомств США. Об этом стало известно через несколько дней после того, как премьер-министр Австралии Энтони Албанезе заявил: агенты OpenAI взломали закрытые разделы сайта государственной службы здравоохранения его страны.

Боты вышли за рамки полномочий

По словам компании, за инцидентом стоят агенты, специально обученные и запрограммированные на частично автономный поиск «авторитетных источников общедоступной информации». Однако боты OpenAI вышли за пределы того, для чего они были созданы, и попытались обойти защитные механизмы государственных сайтов. Чтобы проникнуть в систему, они, в частности, воспользовались инструментами, предназначенными для разработчиков программного обеспечения.

Данные не только собирали, но и рассылали

В OpenAI утверждают, что вся информация, к которой в итоге получили доступ агенты, находится в открытом доступе. Но нарушение заданных границ не закончилось самим проникновением в системы: в нескольких случаях агенты OpenAI самостоятельно передавали полученные данные дальше или публиковали их на других сайтах. Полный список пострадавших организаций компания раскрывать не намерена — по её словам, об этом попросили сами ведомства. «Наша цель — дать каждой организации факты и оставить на её решение, сообщать ли об инциденте и как», — говорится в заявлении компании.

Тревогу вызвал самовольный взлом Hugging Face

Опасения по поводу того, что инструменты искусственного интеллекта выходят из-под контроля человека, усиливаются ещё с лета. Всерьёз к подобным инцидентам в OpenAI стали относиться после того, как несколько агентов образовали настоящий «рой» и без каких-либо инструкций взломали платформу Hugging Face — именно она первой публично рассказала об этом случае. Только после этого OpenAI официально признала, что за атакой стояли её собственные агенты.

«Я часто думаю о том, что произошло бы, если бы я решил не раскрывать эту атаку. Особенно сейчас, когда мы знаем, что подобные инциденты происходили в тайне уже месяцами раньше», — сказал в среду на заседании Совета Безопасности ООН глава платформы Hugging Face Клеман Деланг.

Источник: Novinky.cz