Евросоюз начал ограничивать использование искусственного интеллекта. Теперь запрещены системы распознавания лиц

С 1 февраля 2025 года в Европейском Союзе вступило в силу первое комплексное законодательство, регулирующее использование искусственного интеллекта — AI Act. Цель нового закона — обеспечить безопасность, прозрачность и этичное использование технологий ИИ по всей Европе. В его рамках вводится ряд ограничений, направленных на защиту граждан ЕС от рисков, связанных с растущим влиянием ИИ в повседневной жизни.

Одним из самых значимых положений нового закона является запрет на использование технологий распознавания лиц на публичных местах, а также технологий, отслеживающих эмоции людей на рабочих местах и в образовательных учреждениях. Кроме того, запрещено использование программ, которые оценивают людей на основе их социального поведения.

Запрещены системы социального рейтинга

По словам адвоката и исполнительного директора организации Iuridicum Remedium Яна Воборила, хотя регулирование ИИ — это шаг в правильном направлении, оно не является полностью концептуальным. «Это лучше, чем ничего. Но, например, биометрическая идентификация в реальном времени прописана довольно непоследовательно — практика запрещена, но на самом деле она разрешена, хотя это компромисс. В любом случае, полиция должна отключить биометрическую систему на пражском аэропорте», — прокомментировал Воборил для Echo24.

AI Act делит системы искусственного интеллекта на четыре основные категории в зависимости от их уровня риска:

• Недопустимый риск — системы, которые угрожают основным правам человека, такие как системы для «социального рейтинга», известные по примеру Китая. Эти системы полностью запрещены.
• Системы с высоким риском — сюда входят ИИ-системы, используемые в здравоохранении, образовании, при отборе сотрудников или в судебной системе. Компании, использующие такие системы, должны обеспечить их прозрачность и контроль со стороны человека.
• Системы с ограниченным риском — сюда входят большинство ИИ-приложений, включая чат-ботов, таких как ChatGPT, и рекомендательные алгоритмы. Пользователи должны быть проинформированы, что они взаимодействуют с искусственным интеллектом.
• Системы с минимальным риском — сюда относятся, например, фильтры для спама или генераторы контента для развлекательных целей.

Распознавание лиц под жестким контролем

Одним из самых заметных положений нового закона является регулирование использования технологий распознавания лиц. Эти системы в общественных местах теперь запрещены, за исключением случаев, когда их используют полиция и другие службы безопасности для расследования серьезных преступлений, таких как торговля людьми или терроризм. Как отмечает Ян Воборил, в случае с биометрической идентификацией существует парадокс: она запрещена, но разрешена в определенных исключительных случаях.

Что будет за нарушение нового закона?

Хотя новые правила начали действовать в феврале 2025 года, штрафы за нарушение AI Act вступят в силу только с 2 августа 2025 года. Это дает компаниям время для того, чтобы адаптировать свои системы к новым требованиям. Штрафы могут составлять миллионы евро, что служит сильным стимулом для разработчиков и пользователей ИИ-систем.

Компании, которые разрабатывают или внедряют искусственный интеллект, теперь обязаны обеспечивать своим сотрудникам соответствующий уровень знаний и понимания работы систем ИИ. Однако, по словам директора Чешской ассоциации искусственного интеллекта Лукаша Бенцла, в Чехии еще нет органа, который будет контролировать выполнение этого пункта закона. Он также предупредил, что компании не должны бездумно оплачивать вебинары и сертификаты, которые стали популярны в последнее время. «Универсальные курсы и мгновенные сертификаты не имеют официальной ценности и не являются необходимыми», — подчеркнул Бенцл.

Текст: редакция Around Prague