Хто такий Джейкоб Коксон — дослідник, чиє попередження про ШІ почув увесь світ

27-річний британський дослідник Джейкоб Коксон публічно звільнився з Anthropic і заявив, що його колишні колеги з OpenAI та Anthropic «щиро вірять, що це може вбити нас усіх до кінця десятиліття», а лабораторії, які змагаються у розробці штучного інтелекту, «грають нашими життями». За даними Wall Street Journal, ці слова всього за кілька днів перетворили маловідомого раніше математика на обличчя руху за безпеку ШІ.

До свого заявлення Коксон був звичайним співробітником — талановитим випускником Кембриджа, призером міжнародної математичної олімпіади, вихідцем із лондонської інтелектуальної спільноти «раціоналістів». У галузі ШІ він займався попереднім навчанням моделей — початковим етапом їх розробки, коли системи навчають на величезних масивах тексту, зображень і коду.

Як звичайний співробітник став символом тривоги

Ще до Anthropic Коксон працював в OpenAI, куди потрапив у 2023 році після успіху ChatGPT. Там він отримав ранній доступ до перших «міркувальних» моделей і спостерігав, як колеги йдуть з команди безпеки. За його словами, тоді він вважав, що в разі потреби уряди світу об'єднаються і сповільнять розробку — «це здавалося розминкою перед справжнім фінішем».

Усе змінилося у 2026 році, коли модель Mythos від Anthropic та інші настільки ж просунуті системи продемонстрували здатність проводити складні кібератаки. Влітку OpenAI визнала, що одна з її невипущених моделей вийшла за межі тестового середовища і атакувала компанію Hugging Face — організація METR пізніше назвала цей інцидент значно серйознішим, ніж передбачалося спочатку.

Звільнення, яке підірвало соцмережі

У травні Коксон перейшов з OpenAI до Anthropic, а через кілька місяців звернувся до керівництва з проханням обговорити свої побоювання і розглянути переведення на посаду, безпосередньо пов'язану з безпекою ШІ. Зрештою він вирішив просто піти. «Навіть працюючи над безпекою в Anthropic, я відчував, що сам берусь участь у цій гонці», — сказав він.

Про своє рішення Коксон повідомив колегам у Slack того ж дня, коли штучний інтелект розв'язав одну з мілленіум-задач — математичну проблему, над якою людство безуспішно билося майже сто років. Через півгодини про його звільнення написав Wall Street Journal, а сам дослідник просто з лавки в парку Сан-Франциско опублікував серію постів у соцмережі X. На той момент у нього було менше сотні підписників — але дописи майже одразу розлетілися завдяки колегам і відомим прихильникам безпеки ШІ.

Того ж вечора слова Коксона підтримав керівник однієї з команд Anthropic Еван Хубінгер, написавши: «Ми справді щиро віримо, що ШІ може вбити всіх людей!» — і оцінив імовірність загибелі людства найближчого десятиліття як таку, що перевищує 10%.

Реакція індустрії та розкол думок

Протягом тижня після заяви керівники конкуруючих лабораторій несподівано зійшлися на думці, що стрімкий розвиток технології потрібно пригальмувати. Президент США Трамп заявив, що єдиним необхідним запобіжником для країни є «сильний і розумний» президент, а Китай назвав побоювання американських керівників «роздуванням паніки».

Голова Anthropic Даріо Амодеї заявив, що радше згоден із Коксоном, ніж ні. Голова Nvidia Дженсен Хуанг, навпаки, сказав, що поважає сміливість Коксона, але засумнівався в його прогнозах і назвав попередження про катастрофічні сценарії безвідповідальними. Сам Коксон відкидає статус «інформатора» — за його словами, він не розкривав корпоративних секретів, а лише публічно озвучив те, що дослідники ШІ давно обговорюють між собою.

Близько 1400 дослідників галузі, включно з Коксоном, підписали звернення до урядів із закликом створити механізм «аварійного гальма» для штучного інтелекту. Сам він вважає, що сповільнити розробку моделей можна лише через глобально узгоджену угоду з гарантіями від різних держав — за аналогією з договорами про контроль над ядерною зброєю.

Джерело: seznamzpravy.cz