Полгода за решеткой из-за ошибки ИИ: система распознавания лиц сломала жизнь американке

О том, что искусственному интеллекту нельзя доверять слепо, на собственном горьком опыте убедилась 50-летняя Анжела Липпс из американского штата Теннесси. Программа по распознаванию лиц ошибочно определила ее как участницу крупного банковского мошенничества в другом штате. В результате женщина, которая никогда в жизни даже не летала на самолете, оказалась в тюрьме.​

Кошмар начался прошлым летом. Анжелу арестовали прямо у нее дома, когда она сидела с детьми. Почти четыре месяца она провела в местной тюрьме в Теннесси, дожидаясь экстрадиции в Северную Дакоту. Ей предъявили обвинения по четырем эпизодам кражи и незаконного использования чужих персональных данных.

Поскольку Анжелу оформили как «лицо, скрывающееся от правосудия», ей отказали в праве выхода под залог. «Это было ужасно, у меня до сих пор это стоит перед глазами», — рассказала она журналистам. Самое абсурдное в этой ситуации то, что женщина ни разу не была в Северной Дакоте, никого там не знала, а ее поездки ограничивались лишь соседними штатами на автомобиле.

Искусственный интеллект как главное «доказательство»
Вся эта история закрутилась из-за серии банковских махинаций, которые расследовала полиция Северной Дакоты. Мошенники снимали со счетов тысячи долларов, используя поддельное удостоверение американского военнослужащего. Чтобы найти преступников, полиция прогнала кадры с камер видеонаблюдения через программу распознавания лиц на базе ИИ.

Алгоритм проанализировал черты лица, тип фигуры и прическу — и выдал совпадение: Анжела Липпс. Этого оказалось достаточно для ареста. Чтобы доказать свою невиновность, женщине пришлось отправиться за 1900 километров, в город Фарго (Северная Дакота).

Только в конце октября, спустя 108 дней после ареста, Анжела предстала перед судом. Ее адвокат предоставил банковские выписки, которые неопровержимо доказывали: в момент совершения преступлений женщина расплачивалась картой в родном Теннесси.

В канун Рождества все обвинения были сняты, и дело закрыли. Однако Анжела осталась в чужом холодном штате без денег, в летней одежде и без связи. Обратный билет и номер в гостинице ей оплатили местные адвокаты.

Из-за того, что женщина несколько месяцев не могла оплачивать счета, она потеряла дом, машину и даже собаку. По данным СМИ, это уже восьмой задокументированный в США случай незаконного ареста из-за сбоя в системе распознавания лиц. Критики технологий предупреждают: без тщательной проверки человеком слепое доверие алгоритмам может разрушить еще не одну жизнь.​

Текст: редакция Around Prague