Технологии Автор:

Разработчики искусственного интеллекта не способны видеть последствия, считает эксперт

Здесь может быть ваша реклама
Around Prague читают жители Праги и всей Чехии. Баннер, статья, анонс в соцсетях — от 4 000 Kč в месяц.
Узнать цены

Разработчики искусственного интеллекта (ИИ) не способны видеть последствия своих творений для человечества, считает Вит Янис из Университета Менделя в Брно. Яниш - один из ученых, которые в своем заявлении призвали по крайней мере на полгода приостановить разработку новых моделей ввиду "глубоких рисков для общества и человечества". Яниш работает над искусственным интеллектом уже около 20 лет.

По его словам, чем больше он узнает, тем больше его беспокоит то, что произойдет, когда искусственный интеллект достигнет так называемой фазы сингулярности. Это переломный момент, когда начинается неконтролируемый и необратимый технологический рост, а человеческое общество начинает необратимо меняться под воздействием технологий. По мнению Яниса, не существует рациональных причин, по которым этот рубеж не должен быть достигнут. Вопрос, по его словам, заключается не в том, если, а в том, когда.

"Я боюсь, что разработчики ИИ не способны увидеть последствия, которые их творение несет человечеству. Это не технический вопрос, а философский и законодательный", - сказал Яниш. По его словам, в тот момент, когда ИИ достигнет сингулярности, человечество потеряет всякий контроль над его дальнейшим развитием. Его возможности будут расти экспоненциальными темпами, сказал он, и человечеству будет не под силу даже понять это развитие, не говоря уже о том, чтобы как-то его регулировать.

"Мы создадим своего рода бога. Идея о том, что мы можем заключить этого бога в контейнер и держать его в безопасности в песочнице, в лучшем случае является наивной, как и идея о том, что этот бог будет служить нам". Он. Нам", - сказал Яниш.

Заявление подписали сотни академиков.

Он сказал, что подписал обращение, несмотря на то, что считает его немного наивным и ничего не решающим в долгосрочной перспективе. "Но я вижу в этом способ открыть эту тему, потому что, учитывая, как сильно ИИ изменит рынок труда и все общество в ближайшие месяцы и годы, эта тема совершенно недостаточно обсуждается в СМИ и не получает того внимания, которого заслуживает от политического представительства", - считает Яниш.

Он сказал, что мы похожи на коренных жителей Нового Света, которые впервые увидели каравеллы с европейцами. "Они смотрели на них с очарованием и любопытством, но вряд ли понимали, что этот экзотический визит будет означать для них в долгосрочной перспективе. У нас есть несколько веков форы перед ними, мы знаем историю и должны быть в состоянии извлечь из нее уроки", - сказал Яниш.

Заявление подписали сотни ученых, экспертов и предпринимателей, занимающихся разработкой искусственного интеллекта (ИИ), в том числе миллиардер Илон Маск. Они предлагают разработчикам использовать паузу для совместной работы над правилами безопасности, а также активизировать работу с законодателями по жесткому регулированию отрасли.

Критики говорят, что подписавшие петицию сильно преувеличивают потенциал нынешних технологий, сообщает Reuters. "Подобные заявления призваны создать завышенные ожидания. Они призваны заставить людей бояться", - считает исследователь искусственного интеллекта Йоханна Бьёрклунд из Университета Умео в Швеции. "Я не думаю, что есть необходимость спускать все на ручной тормоз", - добавила она.

Текст: редакция Around Prague

Поделиться: Telegram WhatsApp

Комментарии (0)

Будьте вежливы. Спам и оскорбления удаляем.

Похожие новости

Новое исследование в журнале Science утверждает, что человек, возможно, остановил начало новой ледниковой эпохи: ледник на канадской Баффиновой Земле рос около двух тысяч лет, а с 1960 года из-за потепления отступает. Многие климатологи счи
Дженсен Хуанг заявил, что готов вернуться на пост генерального директора Nvidia, если совет директоров сочтёт это лучшим для акционеров и сотрудников. Одновременно Конгресс США сообщил, что 1 декабря Хуанг даст показания перед комитетами, к
У компании Apple произошёл масштабный сбой сервисов. Проблемы с iCloud затронули вход на новых устройствах: после покупки их не удавалось активировать как обычно, а пользователи не могли зарегистрироваться в сервисе AppleCare, который защищ
Американская компания Diamond Foundry сообщила, что вырастила первый монокристалл алмаза диаметром 200 миллиметров. По данным компании, это итог 25 лет разработок, направленных на получение крупных алмазных кристаллов. Если технологию удаст
Генеральный прокурор Калифорнии Роб Бонта в понедельник подал в суд Сан-Франциско иск к компании OpenAI: он считает её ответственной за то, что автономные ИИ-агенты вышли за пределы среды, в которой должны были работать, и атаковали реальны
Бывший глава компании Nvidia Дженсен Хуанг, который в четверг ушёл в отставку, рассматривает возможность вернуться. По информации газеты Financial Times, в Кремниевой долине формируется группа руководителей, которая будет лоббировать его во
В ночь с воскресенья 15 на понедельник 16 ноября над Чехией пройдёт редкое сближение Юпитера и Марса: планеты поднимутся над горизонтом около 23:00 и будут видны до рассвета. Пик сближения наступит в 3:06 по центральноевропейскому времени,
Китайский электрический самолёт COMAC CE-25A 14 ноября впервые поднялся в воздух с людьми на борту. Испытание прошло в городе Бинчжоу в провинции Шаньдун: в кабине находились два пилота и инженер-испытатель. Именно экипаж отличал этот полёт
В субботу SpaceX впервые поймала космический корабль Starship после возвращения с орбиты: на базе Starbase в Техасе его принял специальный механизм стартовой башни. Ускоритель Super Heavy при этом спасти не удалось, так что полностью безупр
Глобальный сбой сервисов Microsoft, начавшийся в четверг 12 ноября и продлившийся более 24 часов, оставил клиентам неприятный вопрос о деньгах. Компенсацию можно получить, но лишь в виде кредита на оплату самой услуги, а не возмещения реаль
Microsoft приостановил выкладку любых новых обновлений, переносит часть трафика за пределы пострадавшей инфраструктуры и перезапускает серверы, чтобы восстановить работу Microsoft 365, Outlook и Teams. «Мы интенсивно работаем над всеми возм
У Microsoft произошёл масштабный сбой: пользователи по всему миру не могут войти в почту Outlook. Сразу после 19:00 по центральноевропейскому времени сервис Downdetector зафиксировал более 130 тысяч сообщений о проблемах с Outlook.Что извес