1 апреля 2023, 14:00 Технологии

Разработчики искусственного интеллекта не способны видеть последствия, считает эксперт

Разработчики искусственного интеллекта (ИИ) не способны видеть последствия своих творений для человечества, считает Вит Янис из Университета Менделя в Брно. Яниш - один из ученых, которые в своем заявлении призвали по крайней мере на полгода приостановить разработку новых моделей ввиду "глубоких рисков для общества и человечества". Яниш работает над искусственным интеллектом уже около 20 лет.

По его словам, чем больше он узнает, тем больше его беспокоит то, что произойдет, когда искусственный интеллект достигнет так называемой фазы сингулярности. Это переломный момент, когда начинается неконтролируемый и необратимый технологический рост, а человеческое общество начинает необратимо меняться под воздействием технологий. По мнению Яниса, не существует рациональных причин, по которым этот рубеж не должен быть достигнут. Вопрос, по его словам, заключается не в том, если, а в том, когда.

"Я боюсь, что разработчики ИИ не способны увидеть последствия, которые их творение несет человечеству. Это не технический вопрос, а философский и законодательный", - сказал Яниш. По его словам, в тот момент, когда ИИ достигнет сингулярности, человечество потеряет всякий контроль над его дальнейшим развитием. Его возможности будут расти экспоненциальными темпами, сказал он, и человечеству будет не под силу даже понять это развитие, не говоря уже о том, чтобы как-то его регулировать.

"Мы создадим своего рода бога. Идея о том, что мы можем заключить этого бога в контейнер и держать его в безопасности в песочнице, в лучшем случае является наивной, как и идея о том, что этот бог будет служить нам". Он. Нам", - сказал Яниш.

Заявление подписали сотни академиков.

Он сказал, что подписал обращение, несмотря на то, что считает его немного наивным и ничего не решающим в долгосрочной перспективе. "Но я вижу в этом способ открыть эту тему, потому что, учитывая, как сильно ИИ изменит рынок труда и все общество в ближайшие месяцы и годы, эта тема совершенно недостаточно обсуждается в СМИ и не получает того внимания, которого заслуживает от политического представительства", - считает Яниш.

Он сказал, что мы похожи на коренных жителей Нового Света, которые впервые увидели каравеллы с европейцами. "Они смотрели на них с очарованием и любопытством, но вряд ли понимали, что этот экзотический визит будет означать для них в долгосрочной перспективе. У нас есть несколько веков форы перед ними, мы знаем историю и должны быть в состоянии извлечь из нее уроки", - сказал Яниш.

Заявление подписали сотни ученых, экспертов и предпринимателей, занимающихся разработкой искусственного интеллекта (ИИ), в том числе миллиардер Илон Маск. Они предлагают разработчикам использовать паузу для совместной работы над правилами безопасности, а также активизировать работу с законодателями по жесткому регулированию отрасли.

Критики говорят, что подписавшие петицию сильно преувеличивают потенциал нынешних технологий, сообщает Reuters. "Подобные заявления призваны создать завышенные ожидания. Они призваны заставить людей бояться", - считает исследователь искусственного интеллекта Йоханна Бьёрклунд из Университета Умео в Швеции. "Я не думаю, что есть необходимость спускать все на ручной тормоз", - добавила она.

Похожие новости

Компания Meopta-optika, производящая в Пржерове оптическую продукцию промышленного, военного и потребительского назначения, увеличила чистую прибыль на треть - с 806,4 млн. чешских крон в 2021 году до рекордных 1,078 млрд. крон в 2022 году.
Оживленные дискуссии о платежах по картам или, наоборот, наличных деньгах способствовали появлению нового способа оплаты. Уже в этом году в стране должны начаться так называемые мгновенные платежи
Предприниматель Илон Маск в среду представил свою долгожданную платформу искусственного интеллекта xAI. Босс автопроизводителя Tesla и аэрокосмической компании SpaceX также представил команду инженеров xAI
Технический стартап Salgenx, который базируется в США, представил мощную батарею, работающую на возобновляемых источниках энергии. Все, что нужно, - проточная морская вода
Meta Platforms, компания, владеющая социальными сетями Facebook и Instagram, вчера вечером запустила текстовую сеть Threads. Она хочет конкурировать с Twitter. О запуске новой платформы сообщило агентство AFP
Европейская комиссия предписала американской интернет-компании Google прекратить свой прибыльный бизнес цифровой рекламы.
Американская интернет-компания Meta, которой принадлежат такие компании, как Facebook, показала сотрудникам план создания текстовой социальной сети, которая будет конкурировать с Twitter.
Американская технологическая компания Apple в понедельник представила долгожданную гарнитуру дополненной виртуальной реальности Apple Vision Pro. По данным Reuters, это первый крупный выход компании в новую категорию продуктов
Европейская комиссия хочет, чтобы крупные интернет-платформы помогали пользователям распознавать и помечать контент, созданный искусственным интеллектом, или ИИ. Это должно помочь Google, Microsoft и другим компаниям предотвратить распространение
Американский миллиардер и автопроизводитель Tesla Илон Маск встретился в Китае с министром промышленности Цзинь Жуаньлуном. Они обсудили новые поколения автомобилей, сообщили в министерстве, по данным AFP.
Коварный вирус Agent.QMG за последний месяц резко поднялся с практически нулевого уровня до второй по распространенности угрозы в вирусной статистике. Этот непрошеный гость терроризирует исключительно машины под управлением Windows.
Американская интернет-компания Meta Platforms согласилась продать свою анимационную платформу Giphy компании Shutterstock за 53 миллиона долларов (примерно 1,2 миллиарда чешских крон), сообщил Shutterstock в пресс-релизе во вторник.