Akt O Umělé Inteligenci Mění Pravidla Hry V EU

Dne 1. srpna 2024 vstoupil v platnost světově první právní rámec zaměřený na regulaci umělé inteligence, známý jako AI Act (nařízení Evropského parlamentu a Rady (EU) č. 2024/1689). Toto nařízení má za cíl zajistit ochranu základních práv evropských občanů a podniků a zvýait bezpečnost prostřednictvím regulace systémů umělé inteligence na základě jejich rizikového potenciálu.

Koho se nařízení dotkne?

AI Act se aplikuje na celý u~ivatelský a vývojový řetězec umělé inteligence. Povinnosti se vaak výrazně liaí podle role, kterou subjekt v hodnotovém řetězci zastává. Nejpřísnějaí regulace se týkají poskytovatelů a u~ivatelů vysoce rizikových systémů umělé inteligence. Příkladem mohou být vývojáři systémů pro biometrickou identifikaci, ale i bě~né společnosti pou~ívající AI při své činnosti, například při náboru zaměstnanců a analýze ~ivotopisů. Ze sektorového pohledu bude kromě vývoje moderních technologií AI Act klást zvýaené nároky předevaím na oblast sociálních sítí, digitální marketingové společnosti nebo finanční a pojiaťovací sektor

Klasifikace rizik

AI Act rozliauje u systémů AI čtyři úrovně rizika:

Zakázané postupy
Postupy v oblasti AI, které představují zvláatě akodlivé způsoby vyu~ití AI, jsou zakázané. Do této kategorie patří například systémy sociálního hodnocení, manipulaci s lidským chováním a hromadný scraping obličejů pro vytváření databází pro rozpoznávání obličejů.

Vysoce rizikové systémy
Tyto systémy mohou negativně ovlivnit bezpečnost lidí nebo jejich základní práva. Patří sem systémy pou~ívané v kritické infrastruktuře, vzdělávání, zaměstnání, řízení pracovníků, přístupu k základním veřejným slu~bám, prosazování práva nebo biometrické identifikaci.

Systémy s omezeným rizikem
Typicky zahrnují chatovací roboty nebo generativní AI, kde regulace klade důraz zejména na transparentnost.

Systémy s minimálním rizikem
Větaina systémů AI pou~ívaných v EU spadá do této kategorie, například AI ve hrách nebo spamové filtry. V těchto případech mohou subjekty splňovat po~adavky regulace dobrovolně.

Povinnosti poskytovatelů vysoce rizikových systémů
Ne~ poskytovatel uvede na evropský trh vysoce rizikový systém AI, musí provést posouzení shody, které ověřuje, ~e systém splňuje stanovené po~adavky na důvěryhodnou umělou inteligenci. To zahrnuje zejména kvalitu dokumentace, transparentnost, lidský dohled a kybernetickou bezpečnost. Poskytovatelé musí také zavést systémy řízení kvality a rizik a zapsat vysoce rizikové systémy AI do evropské databáze.

Poskytovatelé systémů AI určených ke komunikaci s lidmi musí zajistit, ~e lidé budou vědět, ~e jejich protějakem je stroj. Poskytovatelé systémů generujících mediální obsah mají povinnost postarat se o to, aby výstupy z těchto systémů byly označeny jako uměle vytvořené nebo manipulované. Poskytovatelé obecných modelů AI musí zpřístupnit určité informace poskytovatelům navazujících systémů a zajistit, aby při trénování jejich modelů bylo dodr~ováno autorské právo.

V praxi to znamená zvýaené náklady na vývoj a implementaci compliance procedur, co~ mů~e být pro mnoho společností, zejména těch středních, významným zdrojem časového i finančního tlaku.

Sankce za poruaení
Přesto~e je AI Act poměrně rozsáhlý (má přes sto čtyřicet stran právního textu), neodpovídá na vaechny klíčové otázky související s AI, zejména v oblastech práva duaevního vlastnictví nebo odpovědnosti za akodu způsobenou systémy AI. AI Act vaak nebude jediným předpisem EU v oblasti umělé inteligence. V současné době je předmětem debat konkrétní obsah směrnice o odpovědnosti za umělou inteligenci, která by měla v rámci EU harmonizovat pravidla občanské odpovědnosti.

AI Act přináaí standardní re~im sankcí za poruaení evropských pravidel. Sankce mohou dosáhnout a~ 7 % ročního celosvětového obratu nebo 35 milionů eur za poruaení pravidel zakázané AI. Méně záva~ná poruaení jsou sankcionována zhruba polovičně.

Doporučení závěrem
AI Act bude plně pou~itelný od 1. srpna 2026, nicméně jeho povinnosti vstupují v platnost postupně, počínaje zákazem vysoce rizikových systémů v únoru příatího roku a pravidly pro obecné umělé inteligence v srpnu. Zavést odpovídající pravidla a po~adavky bude pro větainu společností časově náročné, s přípravou tak doporučujeme neotálet.

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.