Керівники OpenAI та Google підтримали заклик уповільнити розвиток ШІ заради безпеки

Керівники найбільших компаній у сфері штучного інтелекту несподівано об'єдналися навколо ідеї уповільнити темпи розвитку технології. Глава OpenAI Сем Альтман, засновник Tesla та SpaceX Ілон Маск, а також керівник Google DeepMind Деміс Хассабіс публічно підтримали заклик глави Anthropic Даріо Амодея знизити швидкість розробки ШІ-систем заради безпеки людства.

Усе почалося в суботу, коли Амодей опублікував розлоге звернення до всієї галузі штучного інтелекту. За його словами, «нам потрібно уповільнити темп, з яким ми покращуємо можливості моделей штучного інтелекту. Прогрес усе одно здаватиметься стрімким, і цей час потрібно розумно використати» — для вирішення питань безпеки, які, на думку Амодея, дедалі більше відстають від технологічного прогресу. Йдеться не про зупинку розробок — мета в тому, щоб виграти час для впровадження захисних механізмів.

Альтман і Маск несподівано погодилися

Сем Альтман написав у соціальній мережі X: «Погоджуюся з Даріо, що нам потрібно уповільнити темп розвитку. Останніми тижнями це була одна з головних тем наших обговорень в OpenAI». Він пішов далі простої підтримки й схвалив конкретну пропозицію Амодея — залучити до ШІ-компаній незалежних експертів-оцінювачів із розширеним доступом до внутрішніх систем розробки. «Запровадити незалежних оцінювачів із доступом на рівні співробітників компанії — чудова ідея. Ми теж так зробимо. Незабаром розповімо детальніше», — заявив глава OpenAI.

Ілон Маск відреагував коротко, як це часто буває: «Даріо має рацію». Тим самим він дав зрозуміти, що вважає за необхідне уповільнити розвиток ШІ, але не уточнив, які конкретні кроки зробить його компанія.

Рідкісна одностайність серед конкурентів

У неділю до заклику Амодея приєднався і Деміс Хассабіс, керівник Google DeepMind. Він заявив, що напрямок, запропонований главою Anthropic, правильний, однак підкреслив, що конкретну форму заходів безпеки ще належить опрацювати.

Подібна одностайність виглядає дивовижно на тлі надзвичайно жорсткої конкуренції між гігантами індустрії штучного інтелекту, які досі прагнули випереджати один одного буквально в кожному кроці. Досі гонка технологічних компаній за розвиток ШІ нагадувала радше космічну гонку наддержав, ніж скоординовані зусилля щодо забезпечення безпеки.

Джерело: novinky.cz