Разработчики искусственного интеллекта не способны видеть последствия, считает эксперт

Разработчики искусственного интеллекта (ИИ) не способны видеть последствия своих творений для человечества, считает Вит Янис из Университета Менделя в Брно. Яниш - один из ученых, которые в своем заявлении призвали по крайней мере на полгода приостановить разработку новых моделей ввиду "глубоких рисков для общества и человечества". Яниш работает над искусственным интеллектом уже около 20 лет.

По его словам, чем больше он узнает, тем больше его беспокоит то, что произойдет, когда искусственный интеллект достигнет так называемой фазы сингулярности. Это переломный момент, когда начинается неконтролируемый и необратимый технологический рост, а человеческое общество начинает необратимо меняться под воздействием технологий. По мнению Яниса, не существует рациональных причин, по которым этот рубеж не должен быть достигнут. Вопрос, по его словам, заключается не в том, если, а в том, когда.

"Я боюсь, что разработчики ИИ не способны увидеть последствия, которые их творение несет человечеству. Это не технический вопрос, а философский и законодательный", - сказал Яниш. По его словам, в тот момент, когда ИИ достигнет сингулярности, человечество потеряет всякий контроль над его дальнейшим развитием. Его возможности будут расти экспоненциальными темпами, сказал он, и человечеству будет не под силу даже понять это развитие, не говоря уже о том, чтобы как-то его регулировать.

"Мы создадим своего рода бога. Идея о том, что мы можем заключить этого бога в контейнер и держать его в безопасности в песочнице, в лучшем случае является наивной, как и идея о том, что этот бог будет служить нам". Он. Нам", - сказал Яниш.

Заявление подписали сотни академиков.

Он сказал, что подписал обращение, несмотря на то, что считает его немного наивным и ничего не решающим в долгосрочной перспективе. "Но я вижу в этом способ открыть эту тему, потому что, учитывая, как сильно ИИ изменит рынок труда и все общество в ближайшие месяцы и годы, эта тема совершенно недостаточно обсуждается в СМИ и не получает того внимания, которого заслуживает от политического представительства", - считает Яниш.

Он сказал, что мы похожи на коренных жителей Нового Света, которые впервые увидели каравеллы с европейцами. "Они смотрели на них с очарованием и любопытством, но вряд ли понимали, что этот экзотический визит будет означать для них в долгосрочной перспективе. У нас есть несколько веков форы перед ними, мы знаем историю и должны быть в состоянии извлечь из нее уроки", - сказал Яниш.

Заявление подписали сотни ученых, экспертов и предпринимателей, занимающихся разработкой искусственного интеллекта (ИИ), в том числе миллиардер Илон Маск. Они предлагают разработчикам использовать паузу для совместной работы над правилами безопасности, а также активизировать работу с законодателями по жесткому регулированию отрасли.

Критики говорят, что подписавшие петицию сильно преувеличивают потенциал нынешних технологий, сообщает Reuters. "Подобные заявления призваны создать завышенные ожидания. Они призваны заставить людей бояться", - считает исследователь искусственного интеллекта Йоханна Бьёрклунд из Университета Умео в Швеции. "Я не думаю, что есть необходимость спускать все на ручной тормоз", - добавила она.

Текст: редакция Around Prague