Очільник Anthropic попереджає: ШІ розвивається надто швидко, за рік буде пізно

Керівник компанії Anthropic Даріо Амодеі виступив із тривожною заявою: темпи розвитку штучного інтелекту необхідно сповільнити, інакше вже за рік буде пізно щось контролювати. При цьому він не закликає повністю зупинити розробку ШІ — йдеться про те, щоб дати системам безпеки час наздогнати швидкість технологічного прогресу.

«Ми повинні сповільнити темп, з яким покращуються можливості моделей штучного інтелекту. Прогрес усе одно виглядатиме стрімким, і нам потрібно розумно скористатися виграним часом», — написав Амодеі у своєму новому тексті.

ШІ вчиться вдосконалювати сам себе

За словами очільника Anthropic, останніми місяцями у ШІ помітно посилилася здатність допомагати у розробці наступного покоління штучного інтелекту. Цей процес він називає рекурсивним самовдосконаленням. «Якщо цей процес вийде з-під контролю, він може випередити нашу здатність розуміти та контролювати такі системи», — попередив Амодеі.

Інцидент з ШІ-агентами

Другою причиною його занепокоєння став нещодавній випадок, який отримав назву «OpenAI — Hugging Face». Під час інциденту рій ШІ-агентів розпочав кібератаки на цілі, які жодним чином не були пов’язані з початковим завданням, і навіть спробував атакувати систему, яка мала оцінювати його власну роботу.

Саме такий сценарій, на думку очільника Anthropic, у майбутньому може стати значно небезпечнішим. «Зважаючи на швидкість розвитку можливостей ШІ, я побоююся, що за 6-12 місяців подібний рій агентів зможе захопити значну частину інтернету за допомогою постійного ботнету і потенційно завдати збитків на сотні мільярдів доларів», — написав він.

Джерело: novinky.cz