AI-TOMATICA

EU AI Act: První komplexní regulace umělé inteligence

EU AI Act nastavuje bezpečnost, transparentnost a ochranu práv – přehled rizik, termínů a toho, co to znamená v praxi.

24. dubna 2025
umela-inteligence
3 minuty čtení

Úvod

Evropská unie přijala EU AI Act – první komplexní právní rámec pro umělou inteligenci. Cíl: bezpečnost, transparentnost a ochrana základních práv při vývoji, nasazení a používání AI. Na rozdíl od dosavadních doporučení jde o závazná pravidla s jasnými lhůtami a sankcemi.

EU AI Act – rámec pro bezpečnou a důvěryhodnou AI
Důvěryhodná AI: transparentnost, dohled a bezpečnost jako základ.

Co je EU AI Act?

Nařízení EU, které stanovuje harmonizovaná pravidla pro vývoj, uvádění na trh a používání AI systémů v EU – vztahuje se i na subjekty mimo EU, pokud jejich systémy dopadají na občany EU.

Kategorizace rizik AI systémů

  • Nepřijatelné riziko: zakázané (např. sociální skórování, manipulativní techniky ohrožující bezpečnost a práva).
  • Vysoké riziko: kritické oblasti (zdravotnictví, vzdělávání, zaměstnanost, kritická infrastruktura). Povinnosti: řízení rizik, kvalita dat, technická dokumentace, lidský dohled, transparentnost, kyberbezpečnost.
  • Omezené riziko: vyžaduje informování uživatele (např. chatboty).
  • Minimální riziko: bez specifických povinností (např. spam filtry, AI ve hrách).

Časový harmonogram implementace

Vstup v platnost

Nařízení nabývá účinnosti na úrovni EU.

Institucionální příprava

Vznik European AI Office, národních dozorových orgánů a technických standardů.

Povinnosti pro vysoké riziko

Začínají platit požadavky: řízení rizik, audit, dokumentace, dohled a bezpečnost.

Sankční režim

Plné vymáhání povinností, pokuty až do 35 mil. € nebo 7 % globálního obratu.

Praktické dopady (scénáře)

Typické situace v praxi

  • Nábor (HR): Kandidáti jsou informováni o použití AI; nutný lidský dohled, auditní stopa a přezkoumatelnost rozhodnutí.
  • Bankovnictví (úvěry): Modely musí být férové, vysvětlitelné a auditovatelné; řízení přístupů a kvalita dat.
  • Zdravotnictví (diagnostika): Transparentní dokumentace, kvalitní data a schválení výsledků člověkem před klinickým použitím.
  • Doprava (autonomie): Bezpečnostní certifikace a možnost lidského zásahu v kritických situacích.

Doporučené kroky pro organizace

  1. Inventura AI systémů: kde AI používáte, v jakém riziku a s jakými daty.
  2. Governance: role a odpovědnosti, audit, dohled, procesy pro incidenty.
  3. Data & dokumentace: kvalita dat, popis účelu, omezení, záznamy o trénování a testování.
  4. Bezpečnost: řízení identit, přístupů, šifrování, bezpečné nasazování a aktualizace.
  5. Transparentnost: informování uživatelů, možnost lidského přezkumu a vysvětlení rozhodnutí.

Často kladené otázky

Často kladené otázky

Máte další otázky? Kontaktujte nás

Závěr

EU AI Act staví důvěru a bezpečnost do středu digitální transformace. Organizace, které s předstihem zavedou governance, kvalitní data a dohled, budou připravené – a získají výhodu na evropském trhu.

Související články