Обвинен искусственным интеллектом: вместо оружия в кармане оказался пакетик от чипсов

Неприятный опыт общения с современными технологиями пережил подросток из американского штата Мэриленд, которого заковали в наручники прямо возле школы. Камера, оснащенная искусственным интеллектом, подала сигнал тревоги, распознав у него оружие. Однако, как выяснилось позже, умная система просто перепутала пистолет со смятым пакетиком от чипсов.

Сейчас 17-летний студент Таки Аллен вспоминает, что после очередной футбольной тренировки он перекусил чипсами, а пустую упаковку просто сунул в карман. Буквально через 20 минут на место прибыл наряд полиции.

«Появилась полиция, приехало около восьми машин. Они все выскочили с оружием и начали кричать, чтобы я лег на землю», — поделился шокированный подросток из Балтимора с местными журналистами.

Как оказалось, предупреждение от умной камеры сначала поступило людям-операторам. И хотя они не увидели на записи ничего опасного, эта информация по какой-то причине не дошла до директора школы. В итоге она связалась со школьным инспектором, который и вызвал полицию.

В официальном отчете полицейского управления после инцидента заявили, что офицеры реагировали «соразмерно и адекватно той информации, которая была им предоставлена на тот момент». На студента действительно надели наручники, но официально арестовывать не стали, а инцидент был благополучно исчерпан, как только выяснилось, что реальной угрозы нет.

Этот нелепый случай вызвал бурную общественную дискуссию: люди требуют пересмотреть правила использования подобных технологий в учебных заведениях. Директор школы разослала родителям письмо, заявив, что «безопасность учеников является высшим приоритетом». Однако с самим пострадавшим парнем она связалась лишь спустя три дня, что сильно его разочаровало. Теперь Таки Аллен признается, что после тренировок предпочитает сидеть в помещении, потому что «на улице больше небезопасно просто что-то есть или пить».

Из-за ошибки ИИ женщина оказалась за решеткой

С похожим, но куда более серьезным ложным обвинением столкнулась 50-летняя Анджела Липпс из американского штата Теннесси. Система распознавания лиц ошибочно идентифицировала ее как участницу банковского мошенничества в другом штате, где, по ее словам, она даже никогда не бывала.

Женщина уверяет, что никогда не летала на самолетах, а все ее поездки ограничивались лишь соседними штатами на автомобиле. Тем не менее, ее отправили в местную тюрьму, где она провела долгих четыре месяца, пока решался вопрос о ее экстрадиции в Северную Дакоту по обвинению в краже личных данных.

«Это было просто ужасно, эта картина снова и снова стоит у меня перед глазами», — рассказала пострадавшая журналистам. Все это время ее удерживали под стражей без права выхода под залог, поскольку бездушная система пометила ее как лицо, скрывающееся от правосудия.