«Мы заставили песок думать» — глава Google DeepMind Демис Хассабис бьёт тревогу об ИИ

Глава Google DeepMind Демис Хассабис — один из главных архитекторов современного бума искусственного интеллекта — опубликовал развёрнутое эссе, в котором сравнивает нынешний технологический скачок с открытием огня или электричества и одновременно предупреждает: человечество не успевает осмыслить то, что само же создаёт.

«По сути, мы нашли способ заставить думать песок. Это чудо», — пишет Хассабис, имея в виду то, что современные модели ИИ работают на кремниевых чипах, чьи возможности растут быстрее, чем мир успевает к ним привыкнуть.

49-летний уроженец Лондона два года назад получил Нобелевскую премию по химии за разгадку сворачивания белков, а двенадцать лет назад основал лабораторию DeepMind, которую позже купил Google примерно за 12 миллиардов крон. Сегодня разработки DeepMind лежат в основе модели Gemini, на которой строится вся ИИ-стратегия Alphabet — материнской компании Google.

В эссе Хассабис рассуждает об «общем искусственном интеллекте» (AGI) — системе, способной на все когнитивные функции человеческого мозга. По его оценке, до появления такой технологии остаются считаные годы, а её влияние он сравнивает не с интернетом или мобильными телефонами, а с открытием огня или электричества. «Оглядываясь на это время через десятилетия, мы поймём, что стояли у порога сингулярности — на заре нового века человечества», — пишет он.

При ответственном развитии, считает Хассабис, AGI способен помочь решить крупнейшие проблемы человечества — от ускоренной разработки лекарств до чистой энергетики и новых материалов. Эффект он сравнивает с десятикратным ускорением промышленной революции. В самом оптимистичном сценарии человечество может войти в «эпоху изобилия», когда ресурсы перестанут быть ограничивающим фактором прогресса.

Но одновременно с этим Хассабис предупреждает: мир сейчас находится в разгаре коммерческой и геополитической гонки, которая ускоряет прогресс, но при этом понимание технологии отстаёт от её реальных возможностей. Уже сейчас заметны риски в кибербезопасности, а по мере роста возможностей моделей могут добавиться ядерные и биологические угрозы. Отдельную тревогу вызывают всё более автономные системы, способные к «рекурсивному самоулучшению» — совершенствованию себя без участия человека.

Хассабис предлагает и конкретное решение: создать в США новый государственный орган, который бы тестировал безопасность самых мощных моделей ещё до их вывода на рынок. По его мнению, это не должна быть ни чисто отраслевая саморегуляция, ни классическое бюрократическое агентство, которое «не сможет угнаться за темпом и не будет обладать нужными ресурсами».

В качестве образца он приводит американского регулятора финансовых рынков FINRA — структуру, финансируемую в основном самой отраслью, но наделённую государственными полномочиями. Самые продвинутые модели, по его задумке, получат статус «frontier» — «передовых» — при достижении определённых пороговых показателей.

«Время на исходе, час уже поздний. Что-то нужно сделать, и сделать сейчас», — заключает основатель DeepMind.