Ексочільник відділу безпеки Google попередив: загроза ШІ для дітей може бути серйознішою за соцмережі

Штучний інтелект становить для дітей загрозу, яка може виявитися серйознішою за шкоду від соціальних мереж. Про це заявив Том Сігел, який працював у Google з 2004 по 2019 рік і відповідав там за безпеку та довіру користувачів.

«Ми перебуваємо у справді жахливій ситуації щодо впливу штучного інтелекту на дітей», — попереджає Сігел. За його словами, вже існують переконливі докази того, що ШІ впливає на людей не лише позитивно. Водночас він підкреслює, що не належить до тих, хто пророкує катастрофу, — не все у сфері ШІ погано. Але якщо технологічні компанії не змінять нинішній підхід до безпеки, експерт побоюється «дуже, дуже серйозних сценаріїв».

Компанії надто поспішають

Головна проблема, на думку Сігела, — це швидкість, з якою корпорації впроваджують ШІ в сервіси, якими щодня користуються діти, додаючи нові функції без достатньої перевірки захисних механізмів. «Найголовніше, що я можу сказати: пригальмуйте», — звертається він передусім до Google, на який, за його словами, лягає особлива відповідальність через його значну роль у сфері освіти. «Ми просто поки що недостатньо знаємо про негативні наслідки для дітей. Захисні механізми або надто слабкі, або ми недостатньо їх розуміємо», — зазначає експерт.

Ослаблення мислення та емоційна залежність

Ризики, за словами Сігела, проявляються в різних формах. Окрім загрози психологічних криз, він вказує на менш помітне явище — так зване «когнітивне розвантаження», тобто перекладання процесу мислення на технології. Замість того щоб шукати власну відповідь, дитина дедалі частіше доручає розв'язання завдання чат-боту, що може послаблювати самостійне мислення та критичне сприйняття інформації.

Ще одна небезпека — сильна емоційна прив'язаність, яку особливо молоді користувачі здатні формувати до чат-ботів. ШІ доступний цілодобово, миттєво відповідає і може сприйматися як завжди готовий до розмови співрозмовник — на відміну від родини та друзів.

Потрібні вікові обмеження та контроль

Сігел закликає до суворішої перевірки віку користувачів і можливості повністю відключати окремі функції ШІ для дітей. На його думку, Google міг би дозволити відключати відповіді штучного інтелекту в пошуку так само легко, як зараз можна фільтрувати сексуально відвертий контент.

При цьому він не вірить, що технологічні компанії здатні вирішити проблему самостійно. «Уявлення про те, що вони впораються з цим самі, без допомоги ззовні, нереалістичне», — каже експерт.

Цього тижня Сігел приступив до роботи в некомерційній організації Common Sense Media, де очолив новий Youth AI Safety Institute. Інститут займеться розробкою незалежних стандартів оцінки ризиків ШІ для дітей і домагатиметься підвищення відповідальності технологічних компаній. Якщо налагодити співпрацю не вдасться, за словами Сігела, справа дійде до регулювання з боку держави та судових позовів.

Джерело: seznamzpravy.cz