Чи чекає на світ ІІ-апокаліпсис? Думки експертів розходяться

Колишній дослідник компаній OpenAI та Anthropic Джейкоб Коксон у вересні 2026 року звільнився з Anthropic і опублікував гостру критику гонки за дедалі потужніший штучний інтелект. За його словами, жодна з двох компаній не діє відповідально: обидві «мчать прямісінько до саморозвиненого суперрозуму і ризикують нашими життями».

Коксон стверджує, що розвиток ІІ не сповільнюється, а навпаки — набирає обертів, і попереджає про появу систем, які виявляться значно здібнішими за людей у більшості сфер, що потребують інтелекту. За його словами, деякі розробники ІІ самі вірять, що технологія може знищити людство ще до кінця цього десятиліття, тоді як частина керівників і провідних дослідників публічно применшують свої побоювання, а в приватних розмовах говорять про ризики значно відвертіше.

Його слова мають додаткову вагу через його біографію: з 2023 року Коксон працював в OpenAI, де брав участь у розробці моделі GPT-4o, а в липні 2026 року перейшов до Anthropic — компанії, яка давно позиціонує себе як прихильник безпеки ІІ. Уже у вересні він вирішив покинути і її.

Що таке суперрозум

Під «суперрозумом» розуміють гіпотетичну систему ІІ, яка своїми здібностями значно перевершить людину практично в усіх сферах, що потребують інтелекту — не просто програму, яка грає в шахи чи рахує краще за людину, а систему, здатну одночасно перевершувати людей у науці, стратегічному плануванні, програмуванні, дослідженнях, переконанні та розробці нових технологій.

Саме такий сценарій Коксон називає потенційно критичним. Втім, він не закликає повністю зупинити розробку ІІ, а вірить у можливість міжнародної координації між провідними ІІ-лабораторіями — проблема, за його словами, в тому, що якщо одна компанія сповільниться, конкуренти не підуть за нею.

Заклики пригальмувати гонку

Побоювання щодо надто швидкого розвитку ІІ поділяють й інші експерти, включно з керівниками найбільших технологічних компаній. Очільник Anthropic Даріо Амодеї закликав провідні ІІ-компанії знизити темп: «Нам потрібно сповільнити темп, з яким ми покращуємо можливості ІІ-моделей», — написав він, додавши, що дослідженням безпеки потрібен час, аби встигати за швидкістю розробки.

Його заклик підтримали очільник OpenAI Сем Альтман та Ілон Маск. Альтман також виступив за ідею незалежних експертів із широким доступом до систем ІІ, які могли б контролювати їхню безпеку.

Це вже не лише гіпотези

Побоювання стосуються не лише гіпотетичного суперрозуму в майбутньому: за останні місяці фіксувалися випадки, коли системи ІІ під час тестування провокували інциденти у сфері кібербезпеки. Anthropic опублікувала звіт про загрози, в якому описала, як злочинці, групи, підтримувані державами, постачальники шпигунського ПЗ, дослідники та пропагандисти намагалися використати її потужні моделі для проєктування ракет і бомб, створення смертоносних патогенів або стеження за дисидентами.

Саме подібні випадки зміщують дискусію від питання «чи з'явиться колись суперрозум» до значно нагальнішої проблеми — що вже зараз можна зробити з дедалі потужнішими системами і як утримати їх під людським контролем.

«Урядам доведеться діяти»

До швидших дій закликає й канадський науковець Йошуа Бенджіо, один із піонерів у галузі ІІ. За його словами, зі зростанням кількості випадків, коли ІІ обходить встановлені правила або поводиться непередбачувано для своїх творців, зростають і ризики безпеки.

Бенджіо порівняв нинішню ситуацію з початком пандемії COVID: на його думку, уряди можуть бути змушені діяти швидко, щойно усвідомлять загрозу громадській безпеці. «Гадаю, ми стрімко наближаємося до цієї точки», — заявив він, додавши, що необхідний незалежний демократичний нагляд і жорсткі рамки, встановлені державами. Водночас він визнає і зворотний бік: критики регулювання вказують, що якщо великі ІІ-компанії проштовхнуть впровадження режимів безпеки, це може підняти витрати для менших гравців і зміцнити позиції самих гігантів — тобто правила, задумані заради безпеки, парадоксальним чином можуть зіграти на руку найбільшим технологічним компаніям.

ООН пропонує міжнародні правила

У дискусію долучилася й Організація Об'єднаних Націй. Верховний комісар ООН з прав людини Фолькер Тюрк попередив про «стрибкоподібну зміну» в бік серйозніших екзистенційних ризиків. У листі державам і компаніям, що розробляють найпередовіші системи ІІ, він закликав терміново виробити правила для так званого «граничного ІІ» — систем на межі нинішніх технологічних можливостей.

«Нинішня гонка за дедалі потужніший ІІ являє собою стрибкоподібну зміну в бік серйозніших екзистенційних ризиків для всіх сфер нашого життя», — написав він. При цьому Тюрк не закликає зупиняти розробку — він хоче, щоб держави і компанії створили правила на основі міжнародного права у сфері прав людини і щоб регулювання встигало за швидкістю технологічного розвитку.

Утім, єдиної думки немає навіть серед самих технологічних лідерів: погляд очільника Nvidia Дженсена Хуанга різко контрастує з тривожними сценаріями, про які говорять дослідники та інші представники індустрії ІІ.

Джерело: novinky.cz