Чешский исследователь в Оксфорде: «Мы переоцениваем человеческий интеллект, ИИ учится понимать мир по-своему»

Искусственный интеллект развивается настолько быстро, что уже начинает восприниматься как «интеллект иного происхождения», говорит исследователь безопасности ИИ из Оксфордского университета Ондржей Байгар. Он предупреждает: человечество может прийти к состоянию, когда системы будут решать важнейшие задачи, но люди перестанут понимать, как и почему принимаются эти решения.

Искусственный интеллект как «новая форма разума»

Историк Найалл Фергюсон ранее заявил:

«ИИ — это продукт внеземного, высшего разума, только созданного не из далёкого космоса, а прямо нами. Мы рискуем повторить судьбу лошадей, которых когда-то заменили сами».

Похожую тревогу высказывал и Генри Киссинджер: мышление ИИ не является человеческим и может давать непостижимые результаты, возвращая нас «в эпоху до Просвещения».

Байгар соглашается, что подобный риск существует:

«Мы действительно можем оказаться в ситуации, когда машины будут решать ключевые задачи, но мы уже не поймём принципов, на которых основано их мышление».

Как «рождается» искусственный интеллект

ИИ в основном строится на методах машинного обучения: учёные пишут программу, способную обучаться на больших массивах данных.
Пример — чат-боты наподобие ChatGPT:

• на первом этапе модель учится предсказывать следующее слово в тексте, постепенно выявляя закономерности и формируя «понимание» языка и окружающего мира;

• на втором этапе происходит дополнительное обучение с обратной связью, когда человеку предлагаются несколько вариантов ответа, и он выбирает лучший.

Так ИИ формирует собственные концепции и представления о мире, необходимые для качественных ответов и сложных решений.

Почему это может быть опасно

На первых этапах алгоритмы «понимают» только текстовые закономерности, но постепенно начинают формировать глубокие связи между концепциями, фактически создавая новый способ мышления, который может отличаться от человеческого.

«Мы переоцениваем человеческий интеллект. ИИ показывает, что существует множество способов «думать», и не факт, что наш подход — единственный или лучший», — отмечает Байгар.

Вывод: ИИ уже выходит за рамки простых вычислений и всё больше формирует собственные методы анализа и принятия решений, которые людям становится всё труднее объяснить. Вопрос теперь не только в развитии технологий, но и в том, как человечество будет сосуществовать с новым видом «разума», который оно само создало.

Текст: редакция Around Prague