сегодня в 14:00 Технологии

Гонка за создание «человеческого интеллекта» в ИИ идёт полным ходом. Но как его контролировать – пока неясно

Компании, работающие над искусственным интеллектом (ИИ) уровня человеческого разума, не готовы к последствиям его появления и не имеют надёжных планов по его контролю. К такому выводу пришёл Future of Life Institute (FLI) в своём новом рейтинге безопасности ИИ, сообщает The Guardian.

Нет плана – есть риск

В отчёте FLI говорится, что ни одна из ведущих компаний не получила оценку выше С за стратегию предотвращения экзистенциальных рисков.

«Индустрия фактически не готова к собственным целям. Компании заявляют, что создадут ИИ уровня AGI (Artificial General Intelligence) в течение десяти лет, но не показывают внятного плана, как обеспечить безопасность таких систем», — говорится в отчёте.

AGI — это гипотетический этап развития ИИ, при котором система может выполнять любые интеллектуальные задачи на уровне человека.

Активисты предупреждают: если такая технология выйдет из‑под контроля, она может привести к катастрофическим последствиям.

Кто и как оценивается

Рейтинг включал семь разработчиков: Google DeepMind, OpenAI, Anthropic, Meta, xAI, а также китайские Zhipu AI и DeepSeek.

Оценку давала группа экспертов, среди которых Стюарт Рассел, профессор компьютерных наук из Великобритании, и Снеха Реванур, основательница организации Encode Justice.

«Как строить ядерную станцию без плана»

Сооснователь FLI и профессор MIT Макс Тегмарк сравнил ситуацию с «грандиозной ядерной станцией, которую запускают уже на следующей неделе, но при этом нет плана, как предотвратить её аварию».

Он отметил, что компании резко сократили собственные прогнозы:

«Ещё недавно они говорили о десятках лет на решение вызовов AGI, теперь речь идёт о нескольких годах».

Кто такие Future of Life Institute

FLI — американская некоммерческая организация, выступающая за безопасное использование передовых технологий. Благодаря безвозмездному пожертвованию основателя Ethereum Виталика Бутерина институт работает независимо и публикует оценки, в которых нет коммерческого влияния.

Похожие новости

Искусственный интеллект стремительно развивается и всё активнее внедряется в повседневную жизнь — как на работе, так и в быту. Однако доверять его ответам без проверки пока нельзя.
Американская технологическая компания Nvidia заявила о скором возобновлении экспорта своих передовых чипов для искусственного интеллекта (AI) в Китай. Как сообщает BBC, правительство США заверило руководство Nvidia в выдаче необходимых экспортных
На глобальном рынке труда разгорается новая война — и на этот раз ставка не нефть, не золото, а интеллект. Компании вроде Meta, OpenAI и Alphabet борются за лучших специалистов в сфере искусственного интеллекта. Суммы, которые звучат
Импланты под кожей, контролирующие поведение, роботы для задержания заключённых и автономные транспортные средства для их перевозки — такие идеи были представлены британским министрам на закрытой встрече в Лондоне. Цель — решить кризис
Microsoft разработал мощную систему искусственного интеллекта, которая уже сегодня диагностирует болезни в четыре раза точнее и дешевле, чем команды квалифицированных врачей. Речь идет о масштабной разработке в рамках первого проекта нового
Американское управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) дало «зелёный свет» революционной инъекции от вируса иммунодефицита человека (ВИЧ), которую разработала фармацевтическая компания Gilead Sciences.
Большинство чехов по-прежнему отдают предпочтение классическим интернет-поисковикам, таким как Google, Seznam и Bing, вместо того чтобы искать информацию с помощью искусственного интеллекта. Об этом свидетельствуют результаты нового опроса агентства
Американская компания OpenAI совершила крупнейшую сделку в своей истории, приобретя стартап io Products, основанный легендарным дизайнером Apple Джони Айвом — человеком, стоящим за такими культовыми продуктами, как iPhone и iPod.
Быть вежливым с искусственным интеллектом — новый тренд, который стремительно набирает популярность. По данным масштабного опроса, проведённого компанией Future в декабре 2024 года, около 70% пользователей, взаимодействующих с ИИ
В Китае начали появляться салоны, где мытьё волос полностью доверено устройствам, управляемым искусственным интеллектом. Процедура обходится дешевле, чем в обычных парикмахерских, а по впечатлениям первых клиентов результат вполне устраивает.
В ближайшие десять лет около 600 тысяч чешских работников ощутят на себе влияние искусственного интеллекта. Для многих это означает необходимость освоить новые навыки, а кому-то и вовсе придётся сменить профессию, чтобы не оказаться в числе
Команда исследователей из Imperial College London потратила годы на изучение того, почему некоторые бактерии становятся устойчивыми к антибиотикам. Однако новый инструмент искусственного интеллекта (ИИ) справился с этим сложным вопросом всего