EU AI Act: регулирование AI в Европе

Суть в двух словах

EU AI Act — это risk-based (основанный на рисках) подход к регулированию AI. Все AI-системы делятся на 4 категории:

Ключевые даты

• Август 2024 — закон опубликован в Official Journal
• Февраль 2025 — запрет AI-систем с недопустимым риском
• Август 2025 — требования к GPAI (General-Purpose AI) моделям
• Август 2026 — основные требования к high-risk системам
• Август 2027 — полное вступление в силу для всех категорий

Штрафы

• До 35 млн EUR или 7% глобальной выручки — за использование запрещённых AI-систем
• До 15 млн EUR или 3% — за нарушение требований к high-risk системам
• До 7.5 млн EUR или 1.5% — за предоставление ложной информации

Я разрабатываю AI-систему для автоматического скрининга резюме кандидатов. Система ранжирует кандидатов по релевантности вакансии. Компания работает с клиентами в ЕС. Какие требования EU AI Act я должен выполнить?

Хронология EU AI Act

4 категории риска подробно

Недопустимый риск — полный запрет

AI-системы, которые полностью запрещены в ЕС:

• Social scoring — оценка граждан на основе социального поведения (как в Китае)
• Манипулятивный AI — системы, которые используют подсознательные техники для манипуляции поведением людей, причиняя вред
• Эксплуатация уязвимостей — AI, нацеленный на людей с когнитивными ограничениями, детей, пожилых
• Биометрическая слежка — нетаргетированное real-time распознавание лиц в публичных местах (с исключениями для правоохранительных органов)
• Эмоциональное распознавание — в контексте работы и образования
• Биометрическая категоризация — классификация людей по расе, политическим взглядам, сексуальной ориентации

Высокий риск — строгие требования

AI-системы, которые влияют на важные решения о людях:

• Занятость — скрининг резюме, оценка кандидатов, решения о повышении и увольнении
• Образование — оценка студентов, приём в учебные заведения, адаптивное обучение
• Критическая инфраструктура — управление энергосетями, водоснабжением, транспортом
• Правоохранение — профилирование, оценка рисков рецидива, анализ доказательств
• Миграция — оценка заявлений на визу и убежище, пограничный контроль
• Кредитный скоринг — оценка кредитоспособности физических лиц
• Медицина — AI как медицинское устройство (Medical Device Regulation)
• Страхование — оценка рисков для страхования жизни и здоровья

Требования для high-risk систем:

1. Risk Management System — документированный процесс управления рисками на протяжении всего жизненного цикла
2. Data Governance — требования к качеству обучающих данных: репрезентативность, отсутствие предвзятости, релевантность
3. Technical Documentation — подробная документация системы до её выхода на рынок
4. Record-keeping — автоматическое логирование работы системы
5. Transparency — информирование пользователей о работе с AI
6. Human Oversight — возможность человеческого контроля и вмешательства
7. Accuracy & Robustness — точность, надёжность, кибербезопасность
8. EU Database Registration — регистрация в единой базе ЕС

Ограниченный риск — требования к прозрачности

AI-системы, для которых достаточно маркировки:

• Чат-боты — пользователь должен знать, что общается с AI
• Deepfakes — сгенерированный контент должен быть помечен
• AI-контент — текст, изображения, аудио, видео, сгенерированные AI, должны иметь машиночитаемую маркировку
• Системы распознавания эмоций — пользователи должны быть уведомлены

Минимальный риск — без ограничений

Большинство AI-систем попадают сюда — никаких обязательных требований:

• Спам-фильтры
• Рекомендательные системы (Netflix, Spotify)
• AI в видеоиграх
• Инвентарное управление
• Автокоррекция текста

General-Purpose AI (GPAI) — отдельные правила

EU AI Act вводит специальный режим для General-Purpose AI моделей (фундаментальные модели вроде GPT-4, Claude, Gemini, Llama):

Базовые требования (все GPAI):

• Техническая документация модели
• Описание обучающих данных (summary)
• Соблюдение авторских прав (Copyright Directive)
• Прозрачность: model card с описанием возможностей и ограничений

Дополнительные требования для GPAI с системным риском (модели, обученные с compute > 10^25 FLOP):

• Оценка рисков модели (model evaluation)
• Mitigation of systemic risks
• Отчётность о серьёзных инцидентах
• Обеспечение кибербезопасности
• Энергопотребление и углеродный след

Штрафы по категориям

Для крупных компаний штраф рассчитывается как процент от глобальной годовой выручки — что может быть значительно больше фиксированных сумм. Для стартапов и малого бизнеса предусмотрены пропорциональные штрафы.

Сравнение мировых подходов к регулированию AI

Чеклист compliance для LLM-приложений

Если вы разрабатываете приложение на базе LLM, которое доступно пользователям в ЕС, вот что нужно проверить:

Шаг 1: Определите категорию риска

Я разрабатываю AI-систему: [описание]. Определи категорию риска по EU AI Act (unacceptable / high / limited / minimal) и объясни почему. Учти конкретные приложения из Annex III закона.

Шаг 2: Маркировка AI-контента

Для систем с ограниченным риском (чат-боты, генераторы контента) необходима маркировка:

В интерфейсе:

<!-- Минимальная маркировка чат-бота -->
<div class="ai-disclosure">
  Вы общаетесь с AI-ассистентом.
  <button @click="requestHuman">Связаться с человеком</button>
</div>

Для сгенерированного контента (C2PA metadata):

{
  "c2pa:manifest": {
    "claim_generator": "MyApp/1.0",
    "assertions": [{
      "label": "c2pa.actions",
      "data": {
        "actions": [{
          "action": "c2pa.created",
          "softwareAgent": "Claude 4 Sonnet",
          "description": "Content generated by AI"
        }]
      }
    }]
  }
}

HTTP-заголовки для AI-генерированного контента:

X-AI-Generated: true
X-AI-Model: claude-4-sonnet
X-AI-Timestamp: 2026-03-05T12:00:00Z

Шаг 3: Документирование модели

Для high-risk систем требуется подробная документация. Структура Model Card:

# Model Card: [Название системы]

## Назначение
- Задача: [конкретная задача, например "скрининг резюме"]
- Целевые пользователи: [HR-специалисты]
- Область применения: [рекрутинг, ЕС]

## Данные
- Обучающие данные: [описание, размер, источники]
- Меры по устранению предвзятости: [перечень]
- Демографическое распределение: [статистика]

## Производительность
- Метрики: [accuracy, precision, recall, F1]
- Разбивка по группам: [пол, возраст, этничность]
- Известные ограничения: [перечень]

## Риски
- Идентифицированные риски: [список]
- Меры митигации: [для каждого риска]
- Остаточные риски: [что не удалось устранить]

## Human Oversight
- Точки вмешательства: [где человек может вмешаться]
- Процесс обжалования: [как пользователь может оспорить решение]

Шаг 4: Risk Assessment — шаблон оценки рисков

Для high-risk AI-систем обязателен формальный risk assessment:

# Risk Assessment Template (EU AI Act, Article 9)

system_name: "AI Resume Screener"
version: "2.1.0"
date: "2026-03-05"
assessor: "AI Safety Team"

# 1. Идентификация рисков
risks:
  - id: RISK-001
    category: "bias"
    description: "Гендерная предвзятость при оценке резюме"
    likelihood: "high"     # low / medium / high
    impact: "high"         # low / medium / high
    risk_level: "critical" # low / medium / high / critical
    mitigation:
      - "Аудит обучающих данных на гендерный баланс"
      - "Регулярное тестирование на bias (ежеквартально)"
      - "Удаление гендерных маркеров из входных данных"
    residual_risk: "medium"
    monitoring: "Ежемесячный отчёт по демографическому распределению решений"

  - id: RISK-002
    category: "transparency"
    description: "Кандидат не понимает, почему его отклонили"
    likelihood: "high"
    impact: "medium"
    risk_level: "high"
    mitigation:
      - "Генерация объяснений для каждого решения (XAI)"
      - "Процесс обжалования с участием человека"
    residual_risk: "low"
    monitoring: "Трекинг апелляций и их исходов"

# 2. Human oversight
human_oversight:
  type: "human-in-the-loop"
  description: "HR-специалист утверждает каждое решение AI"
  escalation: "Отказы с confidence < 0.8 обязательно проходят ручной review"

# 3. Мониторинг
monitoring:
  frequency: "continuous"
  metrics: ["accuracy", "bias_score", "appeal_rate", "override_rate"]
  alerts: ["bias_score > 0.1", "override_rate > 30%"]

Шаг 5: Логирование и аудит

EU AI Act требует автоматического логирования для high-risk систем (Статья 12):

Что хранить:

• Входные данные (или их хэши для PII)
• Выходные данные и решения системы
• Confidence score
• Версия модели
• Timestamp каждого решения
• ID оператора (кто использовал систему)
• Случаи human override

Как долго хранить:

• Минимум 6 месяцев — для провайдеров AI-систем
• Может быть увеличен до 3 лет — для high-risk систем в определённых доменах (закон оставляет это на усмотрение национальных регуляторов)

Пример структуры логов:

interface AIDecisionLog {
  id: string
  timestamp: string            // ISO 8601
  systemVersion: string        // версия модели
  inputHash: string            // SHA-256 хэш входных данных
  inputMetadata: {
    dataType: string
    size: number
    piiPresent: boolean
  }
  output: {
    decision: string           // "approved" | "rejected" | "review"
    confidence: number         // 0.0 - 1.0
    explanation: string        // human-readable объяснение
  }
  humanOversight: {
    operatorId: string
    overridden: boolean
    overrideReason?: string
  }
  auditTrail: {
    modelCard: string          // ссылка на model card
    riskAssessment: string     // ссылка на risk assessment
  }
}

Сравнение с российским регулированием