Dne 13.3.2024 Evropský parlament oficiálně přijal Zákon o umělé inteligenci (AI Act), který má jako první AI zákon na světě zajišťovat bezpečnost a dodržování základních práv a zároveň podporovat inovace v oblasti vývoje AI.
Nařízení, které bylo odsouhlaseno v rámci jednání s členskými státy v prosinci 2023, schválili poslanci 523 hlasy pro, 46 proti a 49 se zdrželo hlasování.
Cílem AI Actu je chránit základní práva, demokracii, právní stát a udržitelnost životního prostředí před vysoce rizikovou AI a zároveň podpořit inovace a vytvořit z Evropy lídra v této oblasti. Nařízení stanovuje povinnosti pro oblast AI na základě jejich potenciálních rizik a míry dopadu.
Zakázané aplikace
Nová pravidla zakazují některé aplikace AI, které ohrožují práva občanů, včetně biometrických kategorizačních systémů založených na citlivých charakteristikách a necíleného získávání obrázků obličejů z internetu nebo záznamů z průmyslových kamer za účelem vytváření databází pro rozpoznávání obličejů.
Zakázáno bude rovněž rozpoznávání emocí na pracovišti a ve školách, sociální skórování, prediktivní policejní práce (pokud je založena výhradně na profilování osoby nebo vyhodnocování jejích charakteristik) a umělá inteligence, která manipuluje s lidským chováním nebo zneužívá zranitelnosti lidí.
Výjimky týkající se vymáhání práva
Používání biometrických identifikačních systémů (RBI) orgány činnými v trestním řízení je v zásadě zakázáno, s výjimkou taxativně vyjmenovaných a úzce vymezených situací. RBI „v reálném čase“ lze nasadit pouze za předpokladu, že jsou splněny přísné záruky, např. jeho použití je časově a geograficky omezeno a podléhá zvláštnímu předchozímu soudnímu nebo správnímu povolení.
Takové použití může zahrnovat například cílené pátrání po pohřešované osobě nebo prevenci teroristického útoku. Používání takových systémů post-facto („post-remote RBI“) je považováno za vysoce rizikový případ použití, který vyžaduje soudní povolení a je spojen s trestným činem.
Povinnosti pro vysoce rizikové systémy
Jasné povinnosti se předpokládají i pro další vysoce rizikové systémy AI (z důvodu jejich významného potenciálního poškození zdraví, bezpečnosti, základních práv, životního prostředí, demokracie a právního státu).
Mezi příklady vysoce rizikových použití AI patří kritická infrastruktura, vzdělávání a odborná příprava, zaměstnanost, základní soukromé a veřejné služby (např. zdravotní péče, bankovnictví), některé systémy v oblasti vymáhání práva, migrace a správy hranic, justice a demokratické procesy (např. ovlivňování voleb). Tyto systémy musí vyhodnocovat a snižovat rizika, vést záznamy o používání, být transparentní a přesné a zajistit lidský dohled.
Občané budou mít právo podávat stížnosti na systémy AI a obdržet vysvětlení ohledně rozhodnutí založených na vysoce rizikových systémech AI, která mají vliv na jejich práva.
Požadavky na transparentnost
Systémy AI pro všeobecné použití (GPAI) a modely GPAI, na nichž jsou založeny, musí splňovat určité požadavky na transparentnost, včetně dodržování autorského práva EU a zveřejňování podrobných shrnutí obsahu použitého pro školení.
Na výkonnější modely GPAI, které by mohly představovat systémová rizika, se budou vztahovat další požadavky, včetně provádění hodnocení modelů, posuzování a zmírňování systémových rizik a podávání zpráv o incidentech.
Umělé nebo zmanipulované obrázky, zvukový nebo video obsah („deepfakes“) musí být navíc jako takové jasně označeny.
Opatření na podporu inovací a malých a středních podniků
Na vnitrostátní úrovni bude třeba zřídit regulační sandboxy a testování v reálném prostředí a zpřístupnit je malým a středním podnikům a startupům, aby mohly vyvíjet a trénovat inovativní umělou inteligenci před jejím uvedením na trh.
Další kroky
Nařízení stále podléhá závěrečné kontrole a očekává se, že bude definitivně přijato před koncem legislativního období. Zákon musí rovněž formálně schválit Rada.
AI Act vstoupí v platnost dvacet dní po zveřejnění v Úředním věstníku a bude plně uplatnitelný 24 měsíců po vstupu v platnost, s výjimkou:
- zákazů zakázaných praktik, které se uplatní šest měsíců po vstupu v platnost
- kodexů praxe (devět měsíců po vstupu v platnost)
- obecně platných pravidel AI včetně správy (12 měsíců po vstupu v platnost)
- a povinností pro vysoce rizikové systémy (36 měsíců).