Важное о Регламенте Европейского Союза об искусственном интеллекте

Основные моменты документа, когда начнет действовать и какие положения вызвали критику со стороны экспертного сообщества.

Регламент Европейского Союза об искусственном интеллекте (Artificial Intelligence Act или AI Act) — законодательный акт, который обсуждают сейчас так же активно, как в свое время обсуждали GDPR (Общий регламент по защите данных в ЕС).

Первая версия законопроекта была разработана в начале 2021 года, а финальные правки внесены в апреле 2024 года. Совет ЕС одобрил Регламент в мае, а уже в августе начнут действовать отдельные положения. AI Act является одним из основополагающих нормативных правовых актов по регулированию искусственного интеллекта, который касается как этических, так и технических моментов.

Наш эксперт Никита Козин отмечает, что положения Регламента не распространяются на использование искусственного интеллекта в следующих случаях:

• для обеспечения национальной безопасности и в военных целях;
• в рамках научно-исследовательской деятельности;
• в личной непрофессиональной деятельности;
• на этапе тестирования системы искусственного интеллекта (до ввода в эксплуатацию или выпуска в продажу).

Особое внимание в Регламенте уделено системам ИИ с высоким уровнем риска. Их использование может представлять значительную угрозу здоровью, безопасности и основным правам людей. Подобные системы применяются в здравоохранении и образовании, при управлении критической инфраструктурой, а также правоохранительными органами и правосудием.

Кроме того, Регламент описывает системы ИИ с неприемлемым уровнем риска, которые являются запрещенными по причине возможного манипулирования поведением человека, использования при удаленной биометрической идентификации в общественных местах, а также для социального скоринга.

Согласно Регламенту, перед использованием систем искусственного интеллекта с высоким уровнем риска необходимо обязательно провести их оценку соответствия требованиям AI Act, которая возможна как в форме самооценки, так и с привлечением сторонней организации. Данная вариативность вызвала критику со стороны экспертного сообщества, по мнению которого формат самооценки в данном случае должен быть исключен.

Члены ЕС будут обязаны создать государственные органы по регулированию искусственного интеллекта и разработать свои собственные технические стандарты, конкретизирующие требования AI Act.