Категории риска AI Act ЕС на понятном языке: 4 класса риска с примерами
AI Act ЕС (Регламент 2024/1689) регулирует искусственный интеллект по риску, а не по технологии — каждая обязанность в законе следует из того, к какому из четырёх классов относится ИИ-система. На вершине — «неприемлемый риск»: практики, полностью запрещённые, такие как социальный скоринг органами власти, манипулятивные техники, существенно искажающие поведение и причиняющие вред, распознавание эмоций на рабочих местах и в школах и нецелевой сбор изображений лиц. Эти запреты уже действуют, а использование запрещённой системы несёт наивысшие штрафы закона — до 35 млн евро или 7 % мирового оборота.
Второй класс, «высокий риск», — это то, где происходит большая часть корпоративной комплаенс-работы. Он охватывает ИИ, используемый как компонент безопасности регулируемых продуктов, и ИИ в чувствительных случаях применения, перечисленных в Приложении III закона: наём и управление работниками (отбор резюме, решения о продвижении), кредитный скоринг, приём в образование и оценка экзаменов, существенные услуги, критическая инфраструктура и несколько контекстов правоохранительной деятельности и миграции. Системы высокого риска требуют управления рисками, управления данными, технической документации, журналирования, человеческого надзора и оценки соответствия — для провайдеров, и более лёгких, но реальных обязанностей для пользователей.
Классы три и четыре легче: «ограниченный риск» запускает обязанности прозрачности — чат-боты должны раскрывать, что они ИИ, дипфейки и сгенерированный ИИ контент должны маркироваться, — тогда как «минимальный риск» (спам-фильтры, игровой ИИ, большинство функций рекомендаций и продуктивности) не несёт специфических обязанностей сверх общего права. Уловка для международных компаний: классификация следует за случаем применения в ЕС, поэтому одна и та же модель может быть минимального риска в одном развёртывании и высокого риска в вашем немецком HR-отделе. Классифицируйте свои системы с помощью нашего инструмента аудита AI Act и посмотрите обзор штрафов AI Act, чтобы узнать, чем рискует каждый класс.
Ihre Checkliste
- 1Сначала проведите инвентаризацию ваших ИИ-систем: нельзя классифицировать то, что не каталогизировано, — включите ИИ-функции, встроенные в сторонний SaaS, который применяют ваши организации в ЕС.
- 2Проверьте по списку запрещённых практик: социальный скоринг, вредная манипуляция, распознавание эмоций на работе и подобные запрещённые применения должны быть немедленно прекращены — эти запреты уже в силе.
- 3Проверьте случаи применения Приложения III на статус высокого риска: всё, что касается найма, управления работниками, кредита, оценки в образовании, существенных услуг или критической инфраструктуры, является кандидатом в высокий риск.
- 4Проверьте и продуктовый путь к высокому риску: ИИ, действующий как компонент безопасности продуктов по гармонизационному праву ЕС (машины, медицинские изделия, транспортные средства), является высоким риском по этому пути.
- 5Применяйте обязанности прозрачности к системам ограниченного риска: раскрывайте чат-боты как ИИ и маркируйте сгенерированный или изменённый ИИ аудио-, изобразительный и видеоконтент там, где закон это требует.
- 6Документируйте классификацию и обоснование по каждой системе: регуляторы и корпоративные клиенты будут спрашивать; зафиксированная, защитимая классификация — первый артефакт, который они ожидают.
- 7Назначьте роли по каждой системе: провайдер, пользователь, импортёр или дистрибьютор — обязанности резко различаются, а ребрендинг или существенная модификация системы могут перевести вас в роль провайдера.
- 8Переклассифицируйте при каждом изменении применения: инструмент минимального риска, переразвёрнутый в найм, становится высоким риском; классификация — живой процесс, а не разовое упражнение.
Häufige Fragen
Каковы четыре категории риска AI Act ЕС?
Неприемлемый риск: практики, полностью запрещённые, такие как социальный скоринг и манипулятивные техники, причиняющие вред. Высокий риск: ИИ в чувствительных случаях применения, таких как наём, кредитный скоринг или компоненты безопасности, подлежащий обширным обязанностям. Ограниченный риск: системы с обязанностями прозрачности, такие как чат-боты и сгенерированный ИИ контент, которые должны раскрываться. Минимальный риск: всё остальное — спам-фильтры, игровой ИИ, большинство функций продуктивности — без специфических обязанностей AI Act.
Какие ИИ-системы считаются высоким риском?
Туда ведут два пути: ИИ, используемый как компонент безопасности продуктов, охваченных гармонизационным правом ЕС (машины, медицинские изделия, транспортные средства), и ИИ в случаях применения Приложения III — включая наём и управление работниками, кредитный скоринг, приём и оценку в образовании, существенные публичные и частные услуги, критическую инфраструктуру и определённые контексты правоохранительной деятельности, миграции и правосудия. Инструмент отбора резюме, используемый немецкой дочерней компанией, — хрестоматийный пример высокого риска.
Являются ли чат-боты высоким риском по AI Act?
Обычно нет. Чат-бот клиентской поддержки, как правило, является системой ограниченного риска: основная обязанность — прозрачность, то есть пользователи должны быть проинформированы, что взаимодействуют с ИИ. Он может подняться до высокого риска, если используется для чувствительной цели Приложения III — например, фактически решая о доступе к существенным услугам или отбирая соискателей, — вот почему классификация следует за использованием, а не за ярлыком продукта.
Что произойдёт, если мы неправильно классифицируем ИИ-систему?
Ошибки классификации несут последствия того класса, в котором вы должны были быть: эксплуатация непризнанной системы высокого риска означает пропуск обязанностей соответствия, документирования и надзора, каждая из которых наказуема, а использование запрещённой практики запускает верхнюю ступень штрафов до 35 млн евро или 7 % мирового оборота. Задокументированная, обоснованная классификация по каждой системе — сильнейшее доказательство добросовестности, если надзорный орган не согласен.