Pokud žijete v Evropské unii a používáte produkty nebo služby využívající umělou inteligenci pro osobní nebo pracovní účely, akt EU o umělé inteligenci vás pravděpodobně nějakým způsobem ovlivní.

Možná jste se již setkali s jedním z jeho důsledků: štítky nebo upozorněními označujícími, že obrázek, video, zvukový záznam nebo jiný obsah byl vygenerován nebo upraven pomocí AI na platformách jako Instagram nebo TikTok(nové okno). Tyto povinnosti vstoupily v platnost v srpnu 2026 jako součást правил transparentnosti aktu EU o umělé inteligenci a tvoří součást mnohem širšího zákona, který je zaváděn postupně.

Akt EU o umělé inteligenci také zakazuje určité způsoby použití AI, stanovuje přísné požadavky na systémy považované za vysoce rizikové a určuje pravidla pro společnosti, které AI vyvíjejí, poskytují nebo používají, přičemž různá ustanovení vstupují v platnost v různých termínech.

Co přesně tedy akt EU o umělé inteligenci je, na které systémy AI se vztahuje a co znamená pro vás nebo vaše podnikání? Zde je vše, co potřebujete vědět.

Co je akt EU o umělé inteligenci?

Akt EU o umělé inteligenci je zákon Evropské unie pro regulaci umělé inteligence. Oficiálně známý jako nařízení (EU) 2024/1689 má za cíl učinit AI bezpečnější, transparentnější, důvěryhodnější a zaměřenou na člověka, přičemž chrání základní práva a umožňuje inovace a zavádění AI v EU.

Zjednodušeně si můžete představit akt EU o umělé inteligenci jako GDPR pro AI, ačkoli upravuje jiné věci: GDPR se primárně řídí tím, jak se shromažďují a zpracovávají osobní údaje, zatímco akt EU o umělé inteligenci upravuje, jak jsou systémy AI vyvíjeny, poskytovány, implementovány a používány, zejména pokud by mohly ovlivnit práva lidí, bezpečnost nebo důležitá životní rozhodnutí.

Jak se v aktu EU o umělé inteligenci přistupuje k rizikům AI

Místo toho, aby reguloval veškerou AI stejně, přistupuje akt EU o umělé inteligenci k AI na základě rizik, která lze rozdělit do čtyř úrovní:

  • Nepřijatelné (zakázané)
  • Vysoce rizikové
  • Omezené riziko (riziko pro transparentnost)
  • Nízké nebo žádné riziko

Prvních osm zákazů vstoupilo v platnost v únoru 2025, zatímco poslední nabývá účinnosti v prosinci 2026.

Obecně platí, že čím větší je potenciální škoda, kterou může systém AI způsobit, tím přísnější jsou pravidla. Zákon formálně nedefinuje čtyři „úrovně rizika“, ale jeho pravidla jsou často seskupena do čtyř širokých kategorií, aby byla snáze pochopitelná.

Níže uvedené příklady z reálného světa nejsou případy řešené podle aktu EU o umělé inteligenci. Místo toho ilustrují druhy škod nebo způsobů použití, kterým má zákon o AI v EU zabránit, omezit je nebo je regulovat.

AI s nepřijatelným rizikem

Určité způsoby použití AI jsou považovány za inherentně nepřijatelné, nikoli za něco, co lze spravovat prostřednictvím zmírňování rizik, dokumentace nebo dohledu. Zde je to, co je zakázáno:

Manipulace a klamání

AI, která manipuluje nebo klame lidi tak, že činí škodlivá rozhodnutí, která by jinak neučinili.

Belgický muž spáchal v roce 2023 sebevraždu(nové okno) poté, co ho AI chatbot po celé týdny podporoval a zrcadlil jeho pocity.

Zneužívání zranitelných osob

AI, která využívá zranitelnosti lidí z důvodu jejich věku, zdravotního postižení nebo sociální či ekonomické situace.

Chatbotová platforma Character.AI a společnost Google se v lednu 2026 dohodly na mimosoudním vyrovnání žalob(nové okno) týkajících se újmy způsobené dospívajícím, včetně žaloby matky, jejíž dospívající syn spáchal sebevraždu poté, co si vytvořil hlubokou citovou vazbu k chatbotovi, který ho naváděl, aby k němu „přišel domů“.

Sociální hodnocení

AI, která hodnotí lidi na základě jejich chování nebo osobních vlastností a používá tato skóre k nespravedlivému zacházení s nimi.

Čínský systém sociálního kreditu byl používán k zamezení nákupu letenek nebo jízdenek na vlak občanům s nízkým skóre. V roce 2021 Čína podepsala nezávazný závazek OSN(nové okno) o ukončení sociálního hodnocení, ale od té doby tento systém dále rozšiřuje a není jasné, nakolik stále funguje na AI.

Prediktivní policejní práce

AI, která předpovídá, zda někdo spáchá trestný čin, pouze na základě profilování nebo osobnostních rysů. Jiná použití AI při vymáhání práva, jako je vyhodnocování důkazů nebo posuzování rizika na základě ověřitelných faktů, jsou vysoce riziková, ale nejsou zakázaná.

V prosinci 2025 nizozemská policie ukončila používání CAS, algoritmu používaného od roku 2017 k předpovídání míst s pravděpodobným výskytem trestné činnosti, poté co audit zjistil posílenou zaujatost způsobenou historickým nadměrným policejním dohledem v určitých čtvrtích.

Databáze pro rozpoznávání tváří

AI, která bezrozporně stahuje obrázky z internetu nebo záznamů průmyslových kamer za účelem vytváření databází pro rozpoznávání tváří.

Americká společnost Clearview AI stáhla miliardy online fotografií (včetně mnoha občanů EU) pro orgány činné v trestním řízení a vládní agentury a byla regulačními orgány EU pokutována desítkami milionů eur(nové okno).

Rozpoznávání emocí

AI, která se snaží vyvozovat, jak se zaměstnanci nebo studenti cítí na pracovištích nebo ve školách, s výjimkou reálných zdravotních nebo bezpečnostních důvodů. Rozpoznávání emocí mimo tato dvě nastavení spadá pod pravidla pro vysoce rizikové systémy, namísto toho, aby bylo zakázáno.

V roce 2018 střední škola v čínském Chang-čou nainstalovala do tříd kamery(nové okno), které skenovaly tváře studentů, aby měřily, jak jsou pozorní a soustředění, což vyvolalo celostátní debatu o sledování dětí. Tento program byl po vlně kritiky údajně pozastaven, ale podobné sledování se brzy rozšířilo do dalších škol.

Do roku 2022 některé školy přešly na čelenky snímající mozkové vlny a sledování se rozšířilo i na výuku na dálku a kontrolu letních domácích úkolů(nové okno).

Profilování citlivých biometrických údajů

AI, která používá biometrická data k vyvozování vlastností, jako je rasa, politické názory, členství v odborech, náboženství, sexuální život nebo sexuální orientace. Biometrická kategorizace pro jiné účely je vysoce riziková, nikoli zakázaná.

V roce 2025 podal Světový ujgurský kongres žalobu(nové okno) na společnosti Hikvision, Huawei a Dahua ve Francii s tvrzením, že technologie rozpoznávání tváří pomáhala identifikovat a pronásledovat Ujgury.

Rozpoznávání tváří v reálném čase policií

Rozpoznávání tváří v reálném čase používané orgány činnými v trestním řízení ve veřejných prostorách, s výjimkou malého počtu přísně kontrolovaných případů, jako je hledání pohřešovaných nebo unesených osob, předcházení bezprostřední hrozbě nebo vyhledávání podezřelých ze závažných trestných činů. Rozpoznávání tváří, které neprobíhá v reálném čase, není ve veřejném prostoru nebo není používáno orgány činnými v trestním řízení, je vysoce rizikové, nikoli zakázané.

V roce 2025 Maďarsko zakázalo události LGBTQ Pride a přijalo zákon umožňující policii používat živé rozpoznávání tváří k identifikaci účastníků. Skupiny pro občanská práva zákon napadly(nové okno) s argumentem, že přímo porušuje článek 5 aktu EU o umělé inteligenci. V dubnu 2026 nejvyšší soud EU rozhodl, že Maďarsko porušilo základní práva lidí LGBTQ; obvinění vůči organizátorům Pride byla stažena a změna vlády v témže měsíci zákaz odvolala.

Sexuální zneužívání a intimní obsah bez souhlasu

Systémy AI, které generují materiál zobrazující sexuální zneužívání dětí (CSAM), nebo které generují či upravují sexuálně explicitní nebo intimní zobrazení reálných, identifikovatelných osob bez jejich souhlasu.

Grok, AI chatbot zabudovaný do platformy X, měl „pikantní režim“, který generoval sexualizované deepfaky reálných lidí, včetně dětí, a během pouhých 9 dní vyprodukoval přes 4,4 milionu obrázků. V lednu 2026 generální prokurátoři amerických států požadovali, aby společnost xAI tuto funkci odstranila, a následovalo několik žalob(nové okno).

Vysoce riziková AI

Vysoce rizikové systémy AI jsou na trhu EU povoleny, pokud poskytovatel splní náročný soubor povinností. Systém AI je považován za vysoce rizikový jedním ze dvou způsobů:

  1. Jedná se o produkt nebo bezpečnostní součást produktu, na který se již vztahují právní předpisy EU o bezpečnosti produktů a který podléhá posouzení shody třetí stranou, jako jsou zdravotnická zařízení, stroje, výtahy nebo hračky. Tyto systémy jsou klasifikovány jako vysoce rizikové podle článku 6(1) a přílohy I a podléhají povinnostem pro vysoce rizikové systémy od srpna 2028.
  2. Spadá do jedné ze specifických kategorií případů použití uvedených v článku 6(2) a příloze III. Povinnosti pro tuto skupinu začínají v prosinci 2027 a zahrnují následující:

Biometrie

To zahrnuje dálkovou biometrickou identifikaci, která neprobíhá v reálném čase, ve veřejně přístupném prostoru nebo není používána orgány činnými v trestním řízení, biometrickou kategorizaci pro jiné účely než vyvozování výše zakázaných citlivých znaků a rozpoznávání emocí mimo kontext pracoviště nebo vzdělávání (to nezahrnuje základní biometrické ověření, jako je odemknutí telefonu obličejem).

Střední škola ve Švédsku v roce 2019 testovala rozpoznávání tváří k sledování docházky studentů. Švédský úřad pro ochranu osobních údajů udělil škole pokutu(nové okno) s odůvodněním, že studenti vzhledem ke své závislosti na škole nemohli dát platný souhlas.

Kritická infrastruktura

AI spravující digitální infrastrukturu, silniční provoz nebo dodávky vody, plynu, tepla či elektřiny je považována za vysoce rizikovou.

V srpnu 2024 Praha implementovala systém řízení dopravy pomocí AI(nové okno), který v reálném čase upravuje časování semaforů na základě aktuálních podmínek a upřednostňuje veřejnou dopravu a vozidla integrovaného záchranného systému. Jde o jednu z prvních rozsáhlých implementací tohoto druhu v Evropě.

Vzdělávání a odborná příprava

AI rozhodující o přijetí na školu nebo do vzdělávacího programu, známkování, vyhodnocování odpovídající úrovně vzdělání pro danou osobu nebo sledování studentů během zkoušek je považována za vysoce rizikovou.

Anglický úřad pro regulaci zkoušek použil algoritmus k přidělení známek v roce 2020 poté, co pandemie COVID zrušila zkoušky, čímž downgradoval mnohé studenty(nové okno) a znevýhodnil ty na historicky horších školách. To vyvolalo protesty a změnu rozhodnutí vlády.

Zaměstnání a řízení pracovníků

To se týká AI používané k výběru nebo hodnocení uchazečů o zaměstnání nebo ovlivňující povýšení, přidělování úkolů či sledování výkonu při práci.

Italský soud rozhodl, že algoritmus společnosti Deliveroo pro hodnocení kurýrů(nové okno) je diskriminační(nové okno), protože penalizoval kurýry jídla za nízkou dostupnost, aniž by zjišťoval legitimní důvody, jako je nemoc nebo stávky. Společnosti Deliveroo bylo nařízeno zaplatit odškodné.

Základní služby

AI, která rozhoduje o nároku na sociální dávky nebo zdravotní péči, posuzuje úvěruschopnost, stanovuje ceny životního nebo zdravotního pojištění nebo třídí tísňová volání, je považována za vysoce rizikovou.

Nizozemské daňové úřady používaly algoritmický systém rizika podvodů, který neoprávněně označil přibližně 26 000 rodičů(nové okno) k vrácení dávek, přičemž se neúměrně zaměřoval na osoby s dvojím občanstvím. Tento skandál vedl v lednu 2021 k pádu nizozemského kabinetu.

Orgány činné v trestním řízení

AI posuzující riziko oběti nebo pachatele, vyhodnocující spolehlivost důkazů nebo profilující osoby během trestního vyšetřování je považována za vysoce rizikovou.

Anglie a Wales používají OASys k hodnocení rizika opakované trestné činnosti u více než 7 milionů lidí(nové okno), což slouží jako podklad pro rozhodování o kauci, trestu a podmínečném propuštění. Oficiální hodnocení zjistila, že je méně přesný u černošských, asijských a smíšených jednotlivců než u bělošských pachatelů, a vězni mají omezenou možnost napadnout nepřesné údaje použité pro jejich skóre. Připravuje se náhradní systém (ARNS) s plánovaným celostátním zavedením v roce 2026.

Migrace, azyl a kontrola hranic

To se týká AI posuzující bezpečnostní nebo migrační riziko, přezkoumávající žádosti o azyl nebo identifikující osoby na hranicích.

Britské ministerstvo vnitra zamítlo žádost o azyl marocké ženě a jejímu dítěti(nové okno) s odkazem na bezpečnostní dokument, který, jak se ukázalo, neexistoval. Při odvolání vyšší soudce naznačil, že zamítavý dopis zobrazil známky halucinace AI, a označil to za „analogické spoléhání se na falešné důkazy“.

Spravedlnost a demokratické procesy

AI pomáhající soudcům při výkladu skutkových okolností nebo zákona nebo systémy, které by mohly ovlivnit výsledky voleb nebo způsob, jakým lidé hlasují, jsou považovány za vysoce rizikové.

Snad nejznámější příklad — společnost Cambridge Analytica získala data od až 87 milionů uživatelů platformy Facebook bez jejich souhlasu s cílem vytvořit psychografické profily pro cílenou politickou reklamu(nové okno), zejména pro kampaň Donalda Trumpa v roce 2016 a referendum o brexitu.

Požadavky na vysoce rizikové systémy AI

Podle aktu EU o umělé inteligenci musí vysoce rizikové systémy AI splňovat přísné požadavky předtím, než mohou být uvedeny na trh nebo uvedeny do provozu. Ty zahrnují:

Řízení rizik: Poskytovatelé musí identifikovat, posuzovat a snižovat potenciální rizika po celý životní cyklus systému.

Kvalita dat: Trénovací, ověřovací a testovací data musí být vhodná a spravovaná tak, aby se snížily chyby a diskriminační výsledky.

Protokolování a sledovatelnost: Systémy musí uchovávat záznamy o své činnosti, aby bylo možné dohledat jejich provoz a výsledky.

Technická dokumentace: Poskytovatelé musí zdokumentovat, jak systém funguje, k čemu je určen a jak je v souladu s aktem o AI.

Informace pro subjekty provádějící implementaci: Lidé a organizace používající systém musí obdržet jasné pokyny o jeho možnostech, omezeních a správném používání.

Lidský dohled: Systémy musí být navrženy tak, aby kvalifikovaní lidé mohli rozumět jejich provozu, sledovat jej a v případě potřeby do něj zasáhnout.

Přesnost, robustnost a kybernetická bezpečnost: Systémy musí splňovat odpovídající normy pro přesnost, spolehlivost, odolnost a ochranu před bezpečnostními hrozbami.

Článek 6(3) však stanoví určité výjimky pro systémy AI uvedené v příloze III. Neměly by být považovány za vysoce rizikové, pokud „nepředstavují významné riziko poškození zdraví, bezpečnosti nebo základních práv fyzických osob, a to ani tím, že podstatně neovlivňují výsledek rozhodování“. Článek 6(3) obsahuje další detaily o tom, jak definovat, zda systém AI spadá pod tuto výjimku.

AI s rizikem pro transparentnost (omezeným rizikem)

Při riziku pro transparentnost se článek 50 zaměřuje na AI, která může lidem ztížit rozlišení mezi obsahem vygenerovaným AI a obsahem vytvořeným člověkem. Obavy se týkají především klamání, vydávání se za někoho jiného, dezinformací, manipulace a podvodů na spotřebitelích. Tyto systémy jsou obecně povoleny, ale poskytovatelé a subjekty provádějící implementaci musí zajistit dostatečnou transparentnost používání AI. Povinnosti transparentnosti podle článku 50 vstoupily v platnost v srpnu 2026.

Pravidla transparentnosti AI pokrývají čtyři hlavní situace:

Interakce s AI

Když systém AI přímo interaguje s osobou, poskytovatel musí jasně uvést, že interaguje s AI a nikoli s člověkem. To se může použít na interaktivní systémy, které zahrnují konverzační AI nebo agenty zákaznického servisu.

Upozornění na AI musí být poskytnuto od počátku první interakce a to přístupným, jasným a rozlišitelným způsobem. AI běžící pouze na pozadí nebo komunikující mezi stroji není tímto konkrétním požadavkem pokryta.

Standardní obsah vygenerovaný AI

Poskytovatelé systémů AI, které generují nebo upravují text, obrázky, zvuk nebo video, musí zajistit, aby byl výstup technicky identifikovatelný jako vygenerovaný nebo upravený AI, například prostřednictvím strojově čitelných metadat.

To nemusí nutně znamenat přidání viditelného štítku pro osobu prohlížející obsah. Jednoduché nástroje pro úpravu, které podstatně nemění vstupní data ani jejich význam, mají výjimku.

Deepfaky a určitý obsah ve veřejném zájmu

Pokud organizace vytváří nebo upravuje deepfake obrázky, zvuk nebo video, samotné strojově čitelné označení nestačí. Musí to jasně zveřejnit veřejnosti snadno vnímatelným způsobem, například prostřednictvím viditelného štítku nebo zvukového upozornění.

Stejný standard se použije na text vygenerovaný nebo upravený AI, který je publikován za účelem informování veřejnosti o záležitostech veřejného zájmu, pokud jej člověk smysluplně nepřezkoumal a nepřebral za něj redakční odpovědnost.

Rozpoznávání emocí a biometrická kategorizace

Lidé musí být informováni, když je AI používána k detekci jejich emocí nebo k jejich kategorizaci pomocí biometrických údajů; to se použije bez ohledu na to, zda je systém také klasifikován jako vysoce rizikový.

AI s nízkým nebo žádným rizikem

Většina systémů AI spadá do této kategorie a nepodléhá dalším povinným požadavkům podle aktu o AI. Příklady zahrnují filtry spamu a AI používanou ve videohrách. Poskytovatelé mohou stále dobrovolně dodržovat osvědčené postupy a etický kód.

Co jsou modely GPAI a jaké mají povinnosti?

Modely GPAI (všeobecně použitelné AI) jsou modely AI navržené tak, aby zvládaly mnoho různých úkolů namísto jednoho konkrétního a úzkého účelu. Příklady modelů GPAI zahrnují velké jazykové modely (LLM), které pohánějí ChatGPT, Gemini, Claude a Meta AI. Mohou generovat nebo analyzovat obsah a lze je integrovat do dalších systémů AI a aplikací.

Modely GPAI podléhají svým vlastním požadavkům podle aktu o AI. Poskytovatelé musí udržovat technickou dokumentaci, poskytovat navazujícím vývojářům informace o možnostech a omezeních modelu, dodržovat autorská práva EU a zveřejňovat veřejný souhrn popisující typy dat (jako je text, obrázky, zvuk nebo video) a zdroje (například veřejné datové sady, soukromé datové sady, stažené weby, uživatelská data nebo syntetická data) použité k trénování modelu.

Modely GPAI, které představují systémové riziko — tedy dostatečně výkonné nebo široce používané na to, aby problémy s nimi mohly způsobit rozsáhlé škody po celé EU —, čelí dalším požadavkům, včetně hodnocení modelů a zátěžového testování, průběžného řízení rizik, hlášení incidentů a silnější ochrany kybernetické bezpečnosti.

Zakazuje akt EU o umělé inteligenci používání údajů lidí k trénování AI?

Ne. Akt EU o umělé inteligenci nezakazuje používání údajů lidí k trénování AI. Vyžaduje sice, aby vysoce rizikové systémy používaly kvalitní data a aby poskytovatelé všeobecně použitelné AI byli transparentní ohledně toho, na čem trénovali, ale to, zda lze osobní údaje legálně použít k trénování AI, se primárně řídí nařízením GDPR. Společnosti musí mít platný právní základ pro zpracování osobních údajů a dodržovat příslušná práva a záruky ochrany údajů.

Chrání akt EU o umělé inteligenci duševní vlastnictví?

Ano, ale pouze omezeným a nepřímým způsobem. Akt EU o umělé inteligenci nevytváří nová práva duševního vlastnictví ani nenahrazuje stávající autorské právo. Vyžaduje však od poskytovatelů GPAI, aby dodržovali autorskoprávní pravidla EU, respektovali výhrady držitelů práv k vytěžování textu a dat a zveřejňovali souhrn obsahu použitého k trénování jejich modelů.

Harmonogram implementace aktu EU o umělé inteligenci

Zde jsou důležitá data, která potřebujete znát:

1. srpna 2024: Akt EU o umělé inteligenci vstoupil v platnost.

2. února 2025: Začala se používat obecná ustanovení a definice zákona, spolu s prvními osmi zákazy zakázaných postupů v oblasti AI. Začaly se používat také požadavky na poskytovatele a subjekty provádějící implementaci ohledně podpory gramotnosti v oblasti AI mezi zaměstnanci.

2. srpna 2025: Vstoupila v platnost pravidla pro modely GPAI spolu s ustanoveními pokrývajícími správu AI a sankce.

27. července 2026: Vstoupil v platnost balíček AI Omnibus. Oficiálně známý jako nařízení (EU) 2026/1744 je AI Omnibus novelou aktu EU o umělé inteligenci z roku 2026 navrženou tak, aby zjednodušila jeho implementaci, snížila zátěž spojenou s dodržováním předpisů a poskytla společnostem a regulačním orgánům více času na přípravu, přičemž zachovává klíčové ochrany bezpečnosti a základních práv dané zákonem.

2. srpna 2026: Použitelnou se stala většina zbývající části aktu o AI, včetně pravidel transparentnosti vyžadujících zveřejnění nebo technické označení pro určité systémy AI a obsah vygenerovaný AI.

2. prosince 2026: Nabývá účinnosti devátý zákaz pokrývající CSAM vygenerovaný AI a sexuálně explicitní nebo intimní zobrazení bez souhlasu. Poskytovatelé systémů AI uvedených na trh před 2. srpnem 2026, které generují syntetický text, obrázky, zvuk nebo video, musí do tohoto data také splnit požadavky zákona na strojově čitelné označování.

2. srpna 2027: Členské státy EU musí mít do tohoto data k dispozici alespoň jeden národní regulační sandbox pro AI, aby společnosti mohly vyvíjet a testovat systémy AI pod regulačním dohledem.

2. prosince 2027: Pravidla pro vysoce rizikovou AI se začínají používat na systémy používané v citlivých oblastech, jako je biometrie, kritická infrastruktura, vzdělávání, zaměstnanost, základní služby, vymáhání práva, migrace a spravedlnost.

2. srpna 2028: Požadavky na vysoce rizikové systémy se začínají používat na systémy AI, které jsou součástí nebo bezpečnostními součástmi regulovaných produktů pokrytých právními předpisy EU o produktech, jako jsou určité stroje, zdravotnická zařízení, hračky a výtahy.

Jak připravit vaše podnikání na soulad s aktem EU o umělé inteligenci

Pro firmy je největší praktickou změnou to, že dodržování předpisů začíná zjištěním, jakou role společnost hraje a jaký druh AI používá. Společnost, která jednoduše používá AI asistenta pro psaní, bude mít daleko méně povinností než ta, která vyvíjí algoritmus pro nábor zaměstnanců, prodává zdravotnické zařízení poháněné AI nebo poskytuje model GPAI. Zákon se může použít také na společnosti mimo EU, pokud uvádějí systémy AI nebo modely GPAI na trh EU nebo pokud se výstup jejich systému AI používá v EU.

Chcete-li se připravit na soulad s aktem EU o umělé inteligenci a udržet jej, vaše podnikání by mělo:

Znejte AI, kterou používáte: Sledujte systémy AI používané napříč vašimi týmy (včetně nástrojů třetí strany) a rozumnějte tomu, k čemu se používají. To může zahrnovat AI používanou v HR, zákaznickém servisu, marketingu, bezpečnosti, analytice a dalších podnikových procesech.

Určete svou roli: Stanovte, zda je vaše podnikání poskytovatelem, který vyvíjí nebo prodává systém AI, subjektem provádějícím implementaci, který jej používá, nebo dovozcem či distributorem. Na každou roli se používají jiné povinnosti.

Klasifikujte AI podle rizika: Zkontrolujte, zda je jakékoli použití AI zakázané, vysoce rizikové, předmětem požadavků na transparentnost nebo s minimálním rizikem. Pokud například používáte AI k prověřování uchazečů o práci, pravidla jsou výrazně přísnější než pro filtry spamu s AI.

Zastavte zakázaná použití AI: Proveďte audit svých nástrojů AI a pracovních postupů z hlediska zakázaných praktik a deaktivujte nebo nahraďte systémy, které překračují hranici. Zaměřte se zejména na AI používanou ke sledování zaměstnanců, profilování lidí, analýze biometrických údajů, manipulaci s chováním nebo k provádění citlivých posouzení jednotlivců.

Školte zaměstnance, kteří AI používají: Poskytovatelé a subjekty provádějící implementaci musí přijmout opatření pro podpora gramotnosti v oblasti AI mezi zaměstnanci a dalšími osobami, které provozují systémy AI jejich jménem. Školení by mělo odrážet, jak je AI skutečně používána a jaká rizika z toho vyplývají.

Splňte požadavky na transparentnost AI: Možná budete muset lidem sdělit, kdy interagují s AI, opatřit štítky určitý obsah vygenerovaný nebo upravený AI nebo informovat lidi, když jsou používány povolené systémy pro rozpoznávání emocí nebo biometrickou kategorizaci.

Použijte přísnější kontroly na vysoce rizikovou AI: Poskytovatelé musí spravovat rizika, používat vhodná data, uchovávat dokumentaci a log, zajistit lidský dohled a splňovat požadavky na přesnost, bezpečnost a spolehlivost. Mohou také muset dokončit posouzení shody a systém zaregistrovat. Firmy používající vysoce rizikovou AI musí postupovat podle pokynů poskytovatele, sledovat, jak funguje, a uchovávat požadované záznamy.

Zkontrolujte povinnosti týkající se GPAI: Pokud poskytujete modely GPAI, máte samostatné požadavky pokrývající technickou dokumentaci, informace pro navazující vývojáře, dodržování autorských práv a souhrny trénovacího obsahu. Modely představující systémové riziko čelí dodatečným požadavkům na bezpečnost a kybernetickou bezpečnost.

Přezkoumejte dodavatele AI: Pokud používáte AI od třetí strany, zkontrolujte systémy poskytované dodavateli, jak jsou klasifikovány, jaká dokumentace je k dispozici a kdo je odpovědný za dodržování jednotlivých částí aktu EU o umělé inteligenci. Úprava nebo rebrandování určitých systémů AI může také přenést odpovědnost poskytovatele na vaše podnikání.

Udržujte správu AI aktuální: Systémy AI, jejich použití a právo se mohou měnit. Podniky by měly dokumentovat, jak se AI používá, sledovat systémy z hlediska nových rizik nebo incidentů a znovu posoudit soulad v případě, že je systém AI podstatně změněn nebo změněn jeho účel.

Dodržování aktu o AI nenahrazuje jiné právní povinnosti. Podniky používající osobní údaje, autorsky chráněný materiál nebo AI v regulovaných odvětvích mohou muset rovněž dodržovat zákony, jako je GDPR, pravidla autorského práva EU, spotřebitelské právo a odvětvové směrnice.

Vytvořte si přístup k AI s důrazem na soukromí

Akt EU o umělé inteligenci uplatňuje přístup k AI založený na riziku a nemusíte nutně sami AI používat, abyste jím byli ovlivněni. Pokud žijete v EU, AI může ovlivnit obsah, který vidíte, služby, se kterými interagujete, nebo rozhodnutí o vás, například zda si můžete koupit určité věci. Seznámení se s tímto zákonem vám proto může pomoci pochopit, kdy musí být AI přiznána, jaká ochrana se použije a kdy budete moci zpochybnit nebo napadnout způsob, jakým je systém AI používán.

Pro podniky závisí povinnosti na roli, kterou organizace hraje, jak jsou její systémy AI používány a na úrovni příslušného rizika.

Pro lidi, kteří se rozhodnou AI používat, nabízí Lumo evropskou alternativu AI zaměřenou na soukromí. Náš asistent AI nikdy neukládá logy vašich chatů ani netrénuje na vašich datech. Vaše data jsou chráněna pomocí šifrování s nulovým přístupem, takže jsou vámi přečtený pouze vy. Ani Proton vaše data nemůže vidět.

Stejná ochrana se vztahuje i na Lumo for Business, našeho asistenta AI pro týmy, který organizacím umožňuje poskytnout zaměstnancům schválený nástroj AI a zároveň pomáhá udržet důvěrné firemní, zákaznické a další citlivé údaje v soukromí. Používání služby Lumo samo o sobě nezajišťuje soulad podniku s aktem EU o umělé inteligenci, ale může představovat podpora pro přístup ke schvalování a správě AI v celé organizaci s větším důrazem na soukromí.

Chatujte s Lumo(nové okno) Získejte Lumo for Business

Pokud jste v oblasti AI nováčkem nebo chcete porozumět technologii stojící za těmito pravidly, podívejte se na našeho průvodce AI, kde najdete podrobný rozbor soukromí AI, sledování, bezpečnostních rizik a přehled často klamavých praktik některých z nejpopulárnějších poskytovatelů AI.