Экс-глава безопасности Google предупредил об угрозе ИИ для детей

Искусственный интеллект представляет для детей угрозу, которая может оказаться серьёзнее вреда от социальных сетей. Об этом заявил Том Сигел, работавший в Google с 2004 по 2019 год и отвечавший там за безопасность и доверие пользователей.

«Мы находимся в поистине ужасной ситуации в том, что касается влияния искусственного интеллекта на детей», — предупреждает Сигел. По его словам, уже существуют убедительные доказательства того, что ИИ оказывает на людей не только положительное воздействие. При этом он подчёркивает, что не относится к тем, кто предрекает катастрофу, — не всё в сфере ИИ плохо. Но если технологические компании не изменят нынешний подход к безопасности, эксперт опасается «очень, очень серьёзных сценариев».

Компании слишком спешат

Главная проблема, по мнению Сигела, — это скорость, с которой корпорации внедряют ИИ в сервисы, которыми ежедневно пользуются дети, добавляя новые функции без достаточной проверки защитных механизмов. «Самое главное, что я могу сказать: притормозите», — обращается он прежде всего к Google, на который, по его словам, ложится особая ответственность из-за его значимой роли в сфере образования. «Мы просто пока недостаточно знаем о негативных последствиях для детей. Защитные механизмы либо слишком слабые, либо мы недостаточно их понимаем», — отмечает эксперт.

Ослабление мышления и эмоциональная зависимость

Риски, по словам Сигела, проявляются в разных формах. Помимо угрозы психологических кризисов, он указывает на менее заметное явление — так называемую «когнитивную разгрузку», то есть перекладывание процесса мышления на технологии. Вместо того чтобы искать собственный ответ, ребёнок всё чаще поручает решение задачи чат-боту, что может ослаблять самостоятельное мышление и критическое восприятие информации.

Ещё одна опасность — сильная эмоциональная привязанность, которую особенно молодые пользователи способны формировать к чат-ботам. ИИ доступен круглосуточно, мгновенно отвечает и может восприниматься как всегда готовый к разговору собеседник — в отличие от семьи и друзей.

Нужны возрастные ограничения и контроль

Сигел призывает к более строгой проверке возраста пользователей и возможности полностью отключать отдельные функции ИИ для детей. По его мнению, Google мог бы позволить отключать ответы искусственного интеллекта в поиске так же легко, как сейчас можно фильтровать сексуально откровенный контент.

При этом он не верит, что технологические компании способны решить проблему самостоятельно. «Представление о том, что они справятся с этим сами, без помощи извне, нереалистично», — говорит эксперт.

На этой неделе Сигел приступил к работе в некоммерческой организации Common Sense Media, где возглавил новый Youth AI Safety Institute. Институт займётся разработкой независимых стандартов оценки рисков ИИ для детей и будет добиваться повышения ответственности технологических компаний. Если наладить сотрудничество не удастся, по словам Сигела, дело дойдёт до регулирования со стороны государства и судебных исков.

Источник: seznamzpravy.cz