1 апреля 2023, 14:00 Технологии

Разработчики искусственного интеллекта не способны видеть последствия, считает эксперт

Разработчики искусственного интеллекта (ИИ) не способны видеть последствия своих творений для человечества, считает Вит Янис из Университета Менделя в Брно. Яниш - один из ученых, которые в своем заявлении призвали по крайней мере на полгода приостановить разработку новых моделей ввиду "глубоких рисков для общества и человечества". Яниш работает над искусственным интеллектом уже около 20 лет.

По его словам, чем больше он узнает, тем больше его беспокоит то, что произойдет, когда искусственный интеллект достигнет так называемой фазы сингулярности. Это переломный момент, когда начинается неконтролируемый и необратимый технологический рост, а человеческое общество начинает необратимо меняться под воздействием технологий. По мнению Яниса, не существует рациональных причин, по которым этот рубеж не должен быть достигнут. Вопрос, по его словам, заключается не в том, если, а в том, когда.

"Я боюсь, что разработчики ИИ не способны увидеть последствия, которые их творение несет человечеству. Это не технический вопрос, а философский и законодательный", - сказал Яниш. По его словам, в тот момент, когда ИИ достигнет сингулярности, человечество потеряет всякий контроль над его дальнейшим развитием. Его возможности будут расти экспоненциальными темпами, сказал он, и человечеству будет не под силу даже понять это развитие, не говоря уже о том, чтобы как-то его регулировать.

"Мы создадим своего рода бога. Идея о том, что мы можем заключить этого бога в контейнер и держать его в безопасности в песочнице, в лучшем случае является наивной, как и идея о том, что этот бог будет служить нам". Он. Нам", - сказал Яниш.

Заявление подписали сотни академиков.

Он сказал, что подписал обращение, несмотря на то, что считает его немного наивным и ничего не решающим в долгосрочной перспективе. "Но я вижу в этом способ открыть эту тему, потому что, учитывая, как сильно ИИ изменит рынок труда и все общество в ближайшие месяцы и годы, эта тема совершенно недостаточно обсуждается в СМИ и не получает того внимания, которого заслуживает от политического представительства", - считает Яниш.

Он сказал, что мы похожи на коренных жителей Нового Света, которые впервые увидели каравеллы с европейцами. "Они смотрели на них с очарованием и любопытством, но вряд ли понимали, что этот экзотический визит будет означать для них в долгосрочной перспективе. У нас есть несколько веков форы перед ними, мы знаем историю и должны быть в состоянии извлечь из нее уроки", - сказал Яниш.

Заявление подписали сотни ученых, экспертов и предпринимателей, занимающихся разработкой искусственного интеллекта (ИИ), в том числе миллиардер Илон Маск. Они предлагают разработчикам использовать паузу для совместной работы над правилами безопасности, а также активизировать работу с законодателями по жесткому регулированию отрасли.

Критики говорят, что подписавшие петицию сильно преувеличивают потенциал нынешних технологий, сообщает Reuters. "Подобные заявления призваны создать завышенные ожидания. Они призваны заставить людей бояться", - считает исследователь искусственного интеллекта Йоханна Бьёрклунд из Университета Умео в Швеции. "Я не думаю, что есть необходимость спускать все на ручной тормоз", - добавила она.

Похожие новости

Система автоматического распознавания лиц на аэропорту имени Вацлава Гавела в Праге временно отключена. Причина — вступление в силу нового общеевропейского закона об искусственном интеллекте (AI Act), который требует предварительного
С 2 августа начал действовать новый Акт об искусственном интеллекте (AI Act) – первый в мире комплексный закон, регулирующий работу с ИИ. Он касается прежде всего крупных разработчиков ИИ‑моделей (например, ChatGPT и Gemini) и устанавливает
Компании, работающие над искусственным интеллектом (ИИ) уровня человеческого разума, не готовы к последствиям его появления и не имеют надёжных планов по его контролю. К такому выводу пришёл Future of Life Institute (FLI) в своём новом рейтинге
Искусственный интеллект стремительно развивается и всё активнее внедряется в повседневную жизнь — как на работе, так и в быту. Однако доверять его ответам без проверки пока нельзя.
Американская технологическая компания Nvidia заявила о скором возобновлении экспорта своих передовых чипов для искусственного интеллекта (AI) в Китай. Как сообщает BBC, правительство США заверило руководство Nvidia в выдаче необходимых экспортных
На глобальном рынке труда разгорается новая война — и на этот раз ставка не нефть, не золото, а интеллект. Компании вроде Meta, OpenAI и Alphabet борются за лучших специалистов в сфере искусственного интеллекта. Суммы, которые звучат
Импланты под кожей, контролирующие поведение, роботы для задержания заключённых и автономные транспортные средства для их перевозки — такие идеи были представлены британским министрам на закрытой встрече в Лондоне. Цель — решить кризис
Microsoft разработал мощную систему искусственного интеллекта, которая уже сегодня диагностирует болезни в четыре раза точнее и дешевле, чем команды квалифицированных врачей. Речь идет о масштабной разработке в рамках первого проекта нового
Американское управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) дало «зелёный свет» революционной инъекции от вируса иммунодефицита человека (ВИЧ), которую разработала фармацевтическая компания Gilead Sciences.
Большинство чехов по-прежнему отдают предпочтение классическим интернет-поисковикам, таким как Google, Seznam и Bing, вместо того чтобы искать информацию с помощью искусственного интеллекта. Об этом свидетельствуют результаты нового опроса агентства
Американская компания OpenAI совершила крупнейшую сделку в своей истории, приобретя стартап io Products, основанный легендарным дизайнером Apple Джони Айвом — человеком, стоящим за такими культовыми продуктами, как iPhone и iPod.
Быть вежливым с искусственным интеллектом — новый тренд, который стремительно набирает популярность. По данным масштабного опроса, проведённого компанией Future в декабре 2024 года, около 70% пользователей, взаимодействующих с ИИ