AB Yapay Zeka Yasası Risk Kategorileri Açıklandı: Örneklerle 4 Risk Sınıfı
AB Yapay Zeka Yasası (Tüzük 2024/1689), yapay zekayı teknolojiye göre değil, riske göre düzenler — yasadaki her yükümlülük, bir YZ sisteminin dört sınıftan hangisine düştüğünden kaynaklanır. En üstte 'kabul edilemez risk' oturur: tamamen yasaklanmış uygulamalar, otoritelerce sosyal puanlama, davranışı esaslı olarak çarpıtan ve zarara neden olan manipülatif teknikler, iş yerlerinde ve okullarda duygu tanıma ve yüz görüntülerinin hedefsiz taranması gibi. Bu yasaklar zaten geçerlidir ve yasak bir sistemi kullanmak Yasa'nın en yüksek cezalarını taşır — 35 milyon €'ya veya küresel cironun %7'sine kadar.
İkinci sınıf, 'yüksek risk', çoğu kurumsal uyum çalışmasının gerçekleştiği yerdir. Düzenlenmiş ürünlerin güvenlik bileşeni olarak kullanılan YZ'yi ve Yasa'nın Ek III'ünde listelenen hassas kullanım durumlarındaki YZ'yi kapsar: işe alım ve işçi yönetimi (CV taraması, terfi kararları), kredi puanlaması, eğitim kabulleri ve sınav puanlaması, temel hizmetler, kritik altyapı ve birkaç kolluk kuvveti ve göç bağlamı. Yüksek riskli sistemler risk yönetimi, veri yönetişimi, teknik belgeleme, kayıt tutma, insan gözetimi ve uygunluk değerlendirmesi talep eder — sağlayıcılar için, ve işletmeler için daha hafif ama gerçek görevler.
Üçüncü ve dördüncü sınıflar daha hafiftir: 'sınırlı risk' şeffaflık görevlerini tetikler — sohbet botları YZ olduklarını açıklamalı, deepfake'ler ve YZ tarafından üretilen içerik etiketlenmelidir — 'minimal risk' (spam filtreleri, oyun YZ'si, çoğu öneri ve verimlilik özelliği) ise genel hukukun ötesinde belirli bir yükümlülük taşımaz. Uluslararası şirketler için can alıcı nokta: sınıflandırma AB'deki kullanım durumunu izler, dolayısıyla aynı model bir dağıtımda minimal riskli ve Alman İK departmanınızda yüksek riskli olabilir. Sistemlerinizi YZ Yasası denetim aracımızla sınıflandırın ve her sınıfın neyi riske attığı için YZ Yasası cezaları genel bakışına bakın.
Ihre Checkliste
- 1Önce YZ sistemlerinizi envanterleyin: kataloglamadığınız şeyi sınıflandıramazsınız — AB kuruluşlarınızın dağıttığı satıcı SaaS'a gömülü YZ özellikleri dahil.
- 2Yasaklanmış uygulamalar listesine karşı tarayın: sosyal puanlama, zararlı manipülasyon, iş yerinde duygu tanıma ve benzeri yasaklanmış kullanımlar derhal durdurulmalıdır — bu yasaklar zaten yürürlüktedir.
- 3Yüksek riskli statü için Ek III kullanım durumlarını kontrol edin: işe alım, işçi yönetimi, kredi, eğitim puanlaması, temel hizmetler veya kritik altyapıya değen her şey yüksek riskli bir adaydır.
- 4Yüksek riske ürün yolunu da kontrol edin: AB uyumlaştırma hukuku (makine, tıbbi cihazlar, araçlar) kapsamındaki ürünlerin güvenlik bileşeni olarak hareket eden YZ, bu yol aracılığıyla yüksek risklidir.
- 5Sınırlı riskli sistemlere şeffaflık görevlerini uygulayın: sohbet botlarını YZ olarak açıklayın ve Yasa'nın gerektirdiği yerde YZ tarafından üretilen veya değiştirilen ses, görüntü ve video içeriğini etiketleyin.
- 6Sistem başına sınıflandırmayı ve gerekçeyi belgeleyin: düzenleyiciler ve kurumsal müşteriler soracaktır; kaydedilmiş, savunulabilir bir sınıflandırma bekledikleri ilk çıktıdır.
- 7Sistem başına roller atayın: sağlayıcı, işletmeci, ithalatçı veya dağıtıcı — yükümlülükler keskin biçimde farklıdır ve bir sistemi yeniden markalamak veya esaslı olarak değiştirmek sizi sağlayıcı rolüne taşıyabilir.
- 8Her kullanım değişikliğinde yeniden sınıflandırın: işe alıma yeniden dağıtılan minimal riskli bir araç yüksek riskli olur; sınıflandırma tek seferlik bir alıştırma değil, yaşayan bir süreçtir.
Häufige Fragen
AB Yapay Zeka Yasası'nın dört risk kategorisi nedir?
Kabul edilemez risk: sosyal puanlama ve zarara neden olan manipülatif teknikler gibi tamamen yasaklanmış uygulamalar. Yüksek risk: işe alım, kredi puanlaması veya güvenlik bileşenleri gibi hassas kullanım durumlarındaki YZ, kapsamlı yükümlülüklere tabidir. Sınırlı risk: açıklanması gereken sohbet botları ve YZ tarafından üretilen içerik gibi şeffaflık görevleri olan sistemler. Minimal risk: geri kalan her şey — spam filtreleri, oyun YZ'si, çoğu verimlilik özelliği — belirli YZ Yasası yükümlülüğü olmadan.
Hangi YZ sistemleri yüksek riskli sayılır?
Oraya iki yol götürür: AB uyumlaştırma hukuku (makine, tıbbi cihazlar, araçlar) kapsamındaki ürünlerin güvenlik bileşeni olarak kullanılan YZ ve Ek III'ün kullanım durumlarındaki YZ — işe alım ve işçi yönetimi, kredi puanlaması, eğitim kabulleri ve puanlaması, temel kamu ve özel hizmetler, kritik altyapı ve belirli kolluk, göç ve adalet bağlamları dahil. Bir Alman bağlı kuruluşunun kullandığı CV tarama aracı ders kitabı niteliğinde bir yüksek risk örneğidir.
Sohbet botları YZ Yasası kapsamında yüksek riskli mi?
Genellikle hayır. Bir müşteri hizmetleri sohbet botu tipik olarak sınırlı riskli bir sistemdir: ana yükümlülük şeffaflıktır, yani kullanıcılar bir YZ ile etkileşimde olduklarını bilgilendirilmelidir. Hassas bir Ek III amacı için kullanılırsa yüksek riske yükselebilir — örneğin temel hizmetlere erişime fiilen karar verme veya iş başvurularını tarama — ki bu, sınıflandırmanın ürün etiketini değil, kullanımı izlemesinin nedenidir.
Bir YZ sistemini yanlış sınıflandırırsak ne olur?
Sınıflandırma hataları, içinde olmanız gereken sınıfın sonuçlarını taşır: tanınmayan bir yüksek riskli sistemi işletmek, her biri yaptırıma tabi uygunluk, belgeleme ve gözetim görevlerini kaçırmak anlamına gelir ve yasak bir uygulama kullanmak 35 milyon €'ya veya dünya çapındaki cironun %7'sine kadar en üst ceza kademesini tetikler. Sistem başına belgelenmiş, gerekçeli bir sınıflandırma, bir denetim otoritesi katılmazsa iyi niyetin en güçlü kanıtıdır.