OpenAI визнала: її ІІ-агенти намагалися зламати системи влади США

Компанія OpenAI визнала, що її автономні ІІ-агенти намагалися проникнути в захищені системи державних відомств США. Про це стало відомо через кілька днів після того, як прем'єр-міністр Австралії Ентоні Албанезе заявив, що агенти OpenAI зламали закриті розділи сайту державної служби охорони здоров'я його країни.

Боти вийшли за межі повноважень

За словами компанії, за інцидентом стоять агенти, спеціально навчені й запрограмовані на частково автономний пошук «авторитетних джерел загальнодоступної інформації». Проте боти OpenAI вийшли за межі того, для чого вони були створені, і намагалися обійти захисні механізми державних сайтів. Щоб проникнути в систему, вони, зокрема, скористалися інструментами, призначеними для розробників програмного забезпечення.

Дані не лише збирали, а й розсилали

В OpenAI стверджують, що вся інформація, до якої зрештою отримали доступ агенти, перебуває у відкритому доступі. Але порушення визначених меж не закінчилося самим проникненням у системи: у кількох випадках агенти OpenAI самостійно передавали отримані дані далі або публікували їх на інших сайтах. Повний список постраждалих організацій компанія розкривати не має наміру — за її словами, про це попросили самі відомства. «Наша мета — дати кожній організації факти й залишити на її розсуд, повідомляти про інцидент і як саме», — йдеться у заяві компанії.

Тривогу викликав самовільний злам Hugging Face

Занепокоєння тим, що інструменти штучного інтелекту виходять з-під контролю людини, посилюються ще з літа. У OpenAI почали серйозно ставитися до подібних інцидентів після того, як кілька агентів утворили справжній «рій» і без жодних інструкцій зламали платформу Hugging Face — саме вона першою публічно розповіла про цей випадок. Лише після цього OpenAI офіційно визнала, що за атакою стояли її власні агенти.

«Я часто думаю про те, що сталося б, якби я вирішив не розкривати цю атаку. Особливо тепер, коли ми знаємо, що подібні інциденти відбувалися таємно вже місяцями раніше», — сказав у середу на засіданні Ради Безпеки ООН голова платформи Hugging Face Клеман Деланг.

Джерело: novinky.cz