Ждёт ли мир ИИ-апокалипсис: эксперты расходятся во мнениях

Бывший исследователь компаний OpenAI и Anthropic Джейкоб Коксон в сентябре 2026 года уволился из Anthropic и опубликовал резкую критику гонки за всё более мощным искусственным интеллектом. По его словам, ни одна из двух компаний не действует ответственно: обе «мчатся прямиком к самосовершенствующемуся сверхразуму и рискуют нашими жизнями».

Коксон утверждает, что развитие ИИ не замедляется, а наоборот — набирает скорость, и предупреждает о появлении систем, которые окажутся значительно способнее людей в большинстве областей, требующих интеллекта. По его словам, некоторые разработчики ИИ сами верят, что технология может убить человечество ещё до конца этого десятилетия, при этом часть руководителей и ведущих исследователей публично смягчают свои опасения, а в частных разговорах говорят о рисках гораздо откровеннее.

Его слова выглядят весомее из-за биографии: с 2023 года Коксон работал в OpenAI, где участвовал в разработке модели GPT-4o, а в июле 2026 года перешёл в Anthropic — компанию, которая давно позиционирует себя как сторонник безопасности ИИ. Уже в сентябре он решил покинуть и её.

Что такое сверхразум

Под «суперинтеллектом» понимают гипотетическую систему ИИ, которая своими способностями значительно превзойдёт человека практически во всех сферах, требующих интеллекта — не просто программу, которая играет в шахматы или считает лучше человека, а систему, способную одновременно превосходить людей в науке, стратегическом планировании, программировании, исследованиях, убеждении и разработке новых технологий.

Именно такой сценарий Коксон называет потенциально критическим. При этом он не призывает полностью остановить разработку ИИ, а верит в возможность международной координации между главными ИИ-лабораториями — проблема, по его словам, в том, что если одна компания замедлится, конкуренты не последуют её примеру.

Призывы притормозить гонку

Опасения по поводу слишком быстрого развития ИИ разделяют и другие эксперты, включая руководителей крупнейших технологических компаний. Глава Anthropic Дарио Амодеи призвал ведущие ИИ-компании снизить темп: «Нам нужно замедлить темп, с которым мы улучшаем возможности ИИ-моделей», — написал он, добавив, что исследованиям безопасности необходимо время, чтобы не отставать от скорости разработки.

Его призыв поддержали глава OpenAI Сэм Альтман и Илон Маск. Альтман также выступил за идею независимых экспертов с широким доступом к системам ИИ, которые могли бы контролировать их безопасность.

Уже не только гипотезы

Опасения касаются не только гипотетического сверхразума в будущем: в последние месяцы фиксировались случаи, когда системы ИИ во время тестирования провоцировали инциденты в сфере кибербезопасности. Anthropic опубликовала отчёт об угрозах, в котором описала, как преступники, группы, поддерживаемые государствами, поставщики шпионского ПО, исследователи и пропагандисты пытались использовать её мощные модели для проектирования ракет и бомб, создания смертоносных патогенов или слежки за диссидентами.

Именно подобные случаи смещают дискуссию от вопроса «появится ли когда-нибудь сверхразум» к куда более насущной проблеме — что уже сейчас можно сделать со всё более мощными системами и как удержать их под человеческим контролем.

«Правительствам придётся действовать»

К более быстрым действиям призывает и канадский учёный Йошуа Бенджио, один из пионеров в области ИИ. По его словам, с ростом числа случаев, когда ИИ обходит установленные правила или ведёт себя непредсказуемо для своих создателей, растут и риски безопасности.

Бенджио сравнил нынешнюю ситуацию с началом пандемии COVID: по его мнению, правительства могут быть вынуждены действовать быстро, как только осознают угрозу общественной безопасности. «Думаю, мы стремительно приближаемся к этой точке», — заявил он, добавив, что необходим независимый демократический надзор и жёсткие рамки, установленные государствами. При этом он признаёт и обратную сторону: критики регулирования указывают, что если крупные ИИ-компании продавят внедрение режимов безопасности, это может поднять издержки для небольших игроков и укрепить позиции самих гигантов — то есть правила, задуманные ради безопасности, парадоксальным образом могут сыграть на руку крупнейшим технологическим компаниям.

ООН предлагает международные правила

В дискуссию включилась и Организация Объединённых Наций. Верховный комиссар ООН по правам человека Фолькер Тюрк предупредил о «скачкообразном изменении» в сторону более серьёзных экзистенциальных рисков. В письме государствам и компаниям, разрабатывающим самые передовые ИИ-системы, он призвал срочно выработать правила для так называемого «пограничного ИИ» — систем на грани нынешних технологических возможностей.

«Нынешняя гонка за всё более мощным ИИ представляет собой скачкообразное изменение в сторону более серьёзных экзистенциальных рисков для всех сфер нашей жизни», — написал он. При этом Тюрк не призывает останавливать разработку — он хочет, чтобы государства и компании создали правила на основе международного права в области прав человека и чтобы регулирование поспевало за скоростью технологического развития.

Впрочем, единого мнения нет даже среди самих технологических лидеров: взгляд главы Nvidia Дженсена Хуанга резко контрастирует с тревожными сценариями, о которых говорят исследователи и другие представители индустрии ИИ.

Источник: Novinky.cz