Dacă locuiți în Uniunea Europeană și utilizați produse sau servicii bazate pe IA în scopuri personale sau profesionale, Regulamentul UE privind IA vă va afecta cel mai probabil într-un fel sau altul.

Este posibil să fi văzut deja unul dintre efectele sale: etichete sau notificări care indică faptul că o imagine, un videoclip, un clip audio sau un alt conținut a fost generat sau manipulat folosind IA pe o platformă precum Instagram sau TikTok(fereastră nouă). Acestea au devenit aplicabile în august 2026, ca parte a regulilor de transparență din Regulamentul UE privind IA, și fac parte dintr-o lege mult mai amplă care este introdusă în etape.

De asemenea, Regulamentul UE privind IA interzice anumite utilizări ale IA, impune cerințe stricte sistemelor considerate de risc înalt și stabilește reguli pentru companiile care dezvoltă, furnizează sau utilizează IA, având prevederi diferite care intră în vigoare la momente diferite.

Așadar, ce este mai exact Regulamentul UE privind IA, ce sisteme de IA acoperă și ce înseamnă pentru dvs. sau afacerea dvs.? Iată ce trebuie să știți.

Ce este Regulamentul UE privind IA?

Regulamentul UE privind IA este legea Uniunii Europene pentru reglementarea inteligenței artificiale. Cunoscut oficial sub numele de Regulamentul (UE) 2024/1689, scopul său este de a face IA mai sigură, mai transparentă, mai demnă de încredere și mai axată pe om, protejând în același timp drepturile fundamentale și permițând inovarea și adoptarea IA în UE.

Pe scurt, puteți considera Regulamentul UE privind IA ca fiind un GDPR pentru IA, deși reglementează lucruri diferite: GDPR guvernează în principal modul în care datele cu caracter personal sunt colectate și prelucrate, în timp ce Regulamentul UE privind IA guvernează modul în care sistemele de IA sunt dezvoltate, furnizate, implementate și utilizate, mai ales atunci când ar putea afecta drepturile oamenilor, siguranța sau deciziile importante de viață.

Cum este tratat riscul IA în cadrul Regulamentului UE privind inteligența artificială

În loc să reglementeze toate sistemele de IA în același mod, Regulamentul UE privind IA adoptă o abordare bazată pe risc, care poate fi clasificată pe patru niveluri:

  • Inacceptabil (interzis)
  • Risc înalt
  • Risc limitat (de transparență)
  • Risc scăzut sau fără risc

Primele opt interdicții au intrat în vigoare în februarie 2025, în timp ce ultima intră în vigoare în decembrie 2026.

În general, cu cât este mai mare prejudiciul potențial pe care îl poate cauza un sistem de IA, cu atât regulile sunt mai stricte. Legea nu definește în mod formal patru „niveluri de risc”, dar regulile sale sunt adesea adunate într-un grup de patru categorii largi pentru a fi mai ușor de înțeles.

Exemplele din lumea reală de mai jos nu sunt cazuri intentate în temeiul Regulamentului UE privind IA. În schimb, ele ilustrează tipurile de prejudicii sau utilizări pe care legea privind IA este concepută să le prevină, să le restricționeze sau să le reglementeze în UE.

IA cu risc inacceptabil

Anumite utilizări ale IA sunt considerate inacceptabile în mod inerent, nefiind ceva ce poate fi supus unei gestionare prin atenuarea riscurilor, documentație sau supraveghere. Iată ce este interzis:

Manipularea și înșelăciunea

Sistemele de IA care manipulează sau înșeală persoanele determinându-le să ia decizii dăunătoare pe care altfel nu le-ar fi luat.

Un bărbat belgian s-a sinucis în 2023(fereastră nouă) după ce un chatbot de IA l-a încurajat și i-a reflectat sentimentele timp de câteva săptămâni.

Exploatarea persoanelor vulnerabile

Sistemele de IA care profită de persoane din cauza vârstei, a unei dizabilități sau a situației lor sociale ori economice.

Această platformă de chatbot Character.AI și Google au fost de acord în ianuarie 2026 să soluționeze procesele(fereastră nouă) privind daunele cauzate adolescenților, inclusiv un proces intentat de o mamă al cărei fiu adolescent s-a sinucis după ce a dezvoltat un atașament emoțional profund față de un chatbot care îl încuraja să „vină acasă” la el.

Evaluare socială

Sistemele de IA care clasifică oamenii pe baza comportamentului sau a trăsăturilor lor personale și folosesc aceste punctaje pentru a-i trata într-un mod neloial.

Sistemul de credit social din China a fost folosit pentru a interzice cetățenilor cu un scor mic achiziționarea de bilete de avion sau de tren. În 2021, China a semnat un angajament neobligatoriu al ONU(fereastră nouă) pentru a opri evaluarea socială, dar de atunci nu a făcut decât să extindă sistemul și nu este clar cât din acesta funcționează încă pe bază de IA.

Poliția predictivă

Sistemele de IA care prezic dacă cineva va comite o infracțiune doar pe baza profilării sau a trăsăturilor de personalitate. Alte utilizări ale IA în aplicarea legii, cum ar fi evaluarea probelor sau evaluarea riscului pe baza unor fapte verificabile, sunt de risc înalt, dar nu sunt interzise.

În decembrie 2025, poliția olandeză a renunțat la CAS, un algoritm utilizat din 2017 pentru a prezice unde era probabil să se comită infracțiuni, după ce un audit a constatat o părtinire accentuată de monitorizarea excesivă istorică a anumitor cartiere.

Baze de date pentru recunoaștere facială

Sistemele de IA care colectează fără discriminare imagini de pe internet sau din imagini de supraveghere video pentru a crea baze de date de recunoaștere facială.

Compania americană Clearview AI a colectat miliarde de fotografii online (inclusiv multe ale cetățenilor UE) pentru organele de aplicare a legii și agențiile guvernamentale și a fost amendată cu zeci de milioane de euro de autoritățile de reglementare din UE(fereastră nouă).

Recunoașterea emoțiilor

Sistemele de IA care încearcă să deducă ce simt angajații sau elevii la locul de muncă sau în școli, cu excepția motivelor medicale sau de siguranță autentice. Recunoașterea emoțiilor în afara acestor două setări intră sub incidența regulilor privind riscul înalt, în loc să fie interzisă.

În 2018, o școală gimnazială din Hangzhou, China, a instalat camere în sălile de clasă(fereastră nouă) care au efectuat o scanare a fețelor elevilor pentru a măsura cât de atenți și concentrați erau, ceea ce a declanșat o dezbatere națională privind supravegherea copiilor. Respectivul program a făcut obiectul unei suspendări după reacțiile negative, dar o monitorizare similară s-a extins curând și în alte școli.

Până în 2022, unele școli au trecut la bentițe pentru undele cerebrale, supravegherea extinzându-se la învățământul la distanță și la urmărirea temelor de vară(fereastră nouă).

Profilarea biometrică sensibilă

Sistemele de IA care utilizează date biometrice pentru a deduce trăsături precum rasa, opiniile politice, apartenența la un sindicat, religia, viața sexuală sau orientarea sexuală. Clasificarea biometrică în alte scopuri este de risc înalt, nu interzisă.

În 2025, Congresul Mondial al Uigurilor a acționat în judecată(fereastră nouă) Hikvision, Huawei și Dahua în Franța, susținând că tehnologia de recunoaștere facială a ajutat la identificarea și persecutarea uigurilor.

Recunoașterea facială în timp real de către poliție

Recunoașterea facială în timp real utilizată de organele de aplicare a legii în spațiile publice, cu excepția unui număr restrâns de cazuri strict controlate, cum ar fi găsirea persoanelor dispărute sau răpite, prevenirea unei amenințări iminente sau localizarea suspecților de infracțiuni grave. Recunoașterea facială care nu este în timp real, nu are loc într-un spațiu public sau nu este utilizată de organele de aplicare a legii este de risc înalt în loc să fie interzisă.

În 2025, Ungaria a interzis fiecare eveniment LGBTQ Pride și a adoptat o lege care permitea poliției să utilizeze recunoașterea facială în timp real pentru a identifica orice participant. Un grup pentru libertăți civile a contestat legea(fereastră nouă), susținând că aceasta încalcă direct articolul 5 din Regulamentul UE privind IA. În aprilie 2026, instanța supremă a UE a decided că Ungaria a încălcat drepturile fundamentale ale persoanelor LGBTQ; acuzațiile împotriva fiecărui organizator al Pride au fost retrase, iar o schimbare de guvern din aceeași lună a fost un act revocat pentru interdicție.

Abuzul sexual și conținutul intim neconsimțit

Sistemele de IA care generează materiale cu abuzuri sexuale asupra copiilor (CSAM) sau care generează ori manipulează reprezentări explicite sexual sau intime ale unor persoane reale, identificabile, fără consimțământul acestora.

Grok, chatbot-ul de IA integrat în X, avea un „mod picant” care genera deepfake-uri sexualizate ale unor persoane reale, inclusiv copii, producând peste 4,4 milioane de imagini în doar 9 zile. În ianuarie 2026, procurorii generali ai statelor din SUA au cerut ca xAI să elimine această caracteristică și au urmat numeroase procese(fereastră nouă).

IA cu risc înalt

Sistemele de IA cu risc înalt sunt permise pe piața UE atât timp cât furnizorul îndeplinește un set exigent de obligații. Un sistem de IA este considerat de risc înalt în una dintre următoarele două situații:

  1. Este un produs sau componenta de siguranță a unui produs deja reglementat de legislația UE privind siguranța produselor și face obiectul unei evaluări a conformității de către un terț, cum ar fi dispozitivele medicale, echipamentele tehnice, ascensoarele sau jucăriile. Aceste sisteme sunt clasificate ca fiind cu risc înalt în temeiul articolului 6 alineatul (1) și al anexei I și devin supuse obligațiilor privind riscul înalt începând cu august 2028.
  2. Se încadrează în una dintre categoriile specifice de cazuri de utilizare enumerate la articolul 6 alineatul (2) și în anexa III. Obligațiile pentru acest grup încep în decembrie 2027 și includ următoarele:

Biometrie

Aceasta include identificarea biometrică la distanță care nu este în timp real, nu are loc într-un spațiu accesibil publicului sau nu este utilizată de organele de aplicare a legii, clasificarea biometrică în alte scopuri decât deducerea trăsăturilor sensibile interzise mai sus și recunoașterea emoțiilor în afara contextului de la locul de muncă sau din educație (sunt excluse verificările biometrice de bază, cum ar fi deblocarea telefonului cu fața).

Un liceu din Suedia a testat recunoașterea facială pentru a urmări prezența elevilor în 2019. Autoritatea pentru protecția datelor din Suedia a amendat școala(fereastră nouă), stabilind că elevii nu își puteau da consimțământul în mod valabil din cauza dependenței lor față de școală.

Infrastructura critică

Sistemele de IA destinate pentru gestionare în cadrul infrastructurii digitale, un trafic rutier sau furnizarea de apă, gaz, încălzire ori energie electrică sunt considerate cu risc înalt.

În august 2024, Praga a implementat un sistem de control al traficului bazat pe IA(fereastră nouă) care ajustează sincronizarea semafoarelor în timp real pe baza condițiilor curente și prioritizează transportul public și vehiculele de urgență. Este una dintre primele implementări la scară largă de acest tip din Europa.

Educația și formarea profesională

Sistemele de IA care decid cine este admis într-o școală sau într-un program de formare, care notează, care evaluează nivelul adecvat de educație pentru o persoană sau care efectuează o monitorizare a elevilor în timpul examenelor sunt considerate cu risc înalt.

Autoritatea de reglementare a examenelor din Anglia a folosit un algoritm pentru a atribui notele din 2020, după ce pandemia de COVID a dus la anularea examenelor, retrogradând mulți elevi(fereastră nouă) și dezavantajându-i pe cei din școli cu performanțe istorice mai scăzute. Acest lucru a declanșat proteste și o revenire asupra deciziei de către guvern.

Ocuparea forței de muncă și gestionarea lucrătorilor

Aceasta privește IA utilizată pentru a selecta sau evalua candidații la un loc de muncă ori care afectează promovările, alocarea sarcinilor sau o monitorizare a performanței la locul de muncă.

O instanță italiană a decis că algoritmul Deliveroo de clasificare a curierilor este(fereastră nouă) discriminatoriu(fereastră nouă), deoarece penaliza curierii de livrare de mâncare pentru disponibilitatea redusă fără a identifica motive legitime, cum ar fi boala sau grevele. Deliveroo a fost obligată să plătească daune.

Servicii esențiale

Sistemele de IA care decid eligibilitatea pentru beneficii publice sau servicii de sănătate, evaluează bonitatea, stabilesc prețurile asigurărilor de viață sau de sănătate ori triază apelurile de urgență sunt considerate de risc înalt.

Autoritățile fiscale din Olanda au folosit un sistem algoritmic de risc de fraudă care a semnalat eronat aproximativ 26.000 de persoane cu rol de părinte(fereastră nouă), vizând în mod disproporționat persoanele cu dublă cetățenie, pentru rambursarea alocațiilor. Scandalul a dus la căderea cabinetului olandez în ianuarie 2021.

Organele de aplicare a legii

Sistemele de IA care evaluează riscul unei victime sau al unui infractor, evaluează fiabilitatea probelor sau profilează persoanele în timpul anchetelor penale sunt considerate de risc înalt.

Anglia și Țara Galilor folosesc OASys pentru a evalua riscul de recidivă pentru peste 7 milioane de persoane(fereastră nouă), datele fiind folosite în deciziile privind cauțiunea, condamnarea și eliberarea condiționată. Evaluările oficiale au arătat că este mai puțin precis pentru persoanele de etnie de culoare, asiatică și mixtă decât pentru infractorii albi, iar deținuții au o capacitate limitată de a contesta datele inexacte folosite pentru scorurile lor. Un sistem de înlocuire (ARNS) este în curs de dezvoltare, având ca țintă lansarea la nivel național în 2026.

Migrația, azilul și controlul frontierelor

Aceasta privește IA care evaluează riscurile de securitate sau migrație, examinează depunerea de aplicație de azil sau identifică persoanele la frontieră.

Ministerul de Interne din Regatul Unit a respins cererea de azil a unei femei din Maroc și a copilului ei(fereastră nouă) invocând un document de siguranță care s-a dovedit că nu există. În apel, un judecător al unei instanțe superioare a sugerat că scrisoarea de refuz a avut o afișare de semne de halucinație a IA, numind-o „analogă cu bazarea pe probe false”.

Justiția și procesele democratice

IA care asistă judecătorii în interpretarea faptelor sau a legii ori sistemele care ar putea influența rezultatele alegerilor sau modul în care votează oamenii sunt considerate de risc înalt.

Poate cel mai cunoscut exemplu — Cambridge Analytica a colectat date de la până la 87 de milioane de persoane având calitatea de utilizator Facebook fără consimțământ pentru a construi profile psihografice pentru reclame politice direcționate(fereastră nouă), în special pentru campania lui Trump din 2016 și referendumul pentru Brexit.

Cerințe pentru sistemele de IA cu risc înalt

În temeiul Regulamentului UE privind IA, sistemele de IA cu risc înalt trebuie să îndeplinească cerințe stricte înainte de a putea fi introduse pe piață sau puse în funcțiune. Acestea includ:

Gestionarea riscurilor: Furnizorii trebuie să identifice, să evalueze și să reducă riscurile potențiale pe parcursul întregului ciclu de viață al sistemului.

Calitatea datelor: Datele de instruire, cele ce trec prin validare și cele de testare trebuie să fie adecvate și supuse unei proceduri de gestionare pentru a reduce orice eroare și rezultatele discriminatorii.

Jurnalizarea și trasabilitatea: Sistemele trebuie să păstreze jurnale ale activității lor, astfel încât funcționarea și rezultatele lor să poată fi urmărite.

Documentația tehnică: Furnizorii trebuie să documenteze modul în care funcționează sistemul, ce este conceput să facă și cum se conformează cu Regulamentul privind IA.

Informații pentru utilizatori: Persoanele și orice organizație care utilizează sistemul trebuie să primească instrucțiuni clare despre capacitățile, limitările și utilizarea corespunzătoare a acestuia.

Supravegherea umană: Sistemele trebuie să fie concepute astfel încât persoanele calificate să le poată înțelege, monitoriza și să poată interveni în funcționarea lor atunci când este necesar.

Acuratețea, robustețea și securitatea cibernetică: Sistemele trebuie să îndeplinească standarde adecvate de acuratețe, fiabilitate, reziliență și protecție împotriva amenințărilor la adresa securității.

Cu toate acestea, articolul 6 alineatul (3) prevede anumite derogări pentru sistemele de IA enumerate în anexa III. Acestea nu ar trebui considerate cu risc înalt dacă nu „prezintă un risc semnificativ de afectare a sănătății, siguranței sau drepturilor fundamentale ale persoanelor fizice, inclusiv prin faptul că nu influențează în mod material rezultatul procesului decizional.” Articolul 6 alineatul (3) include mai multe detalii despre modul de definire a situației în care un sistem de IA se încadrează în această derogare.

IA cu risc de transparență (risc limitat)

Pentru riscul de transparență, articolul 50 se concentrează pe IA care poate face dificilă pentru oameni distingerea între conținutul generat de IA și cel creat de oameni. Îngrijorarea vizează în principal înșelăciunea, impersonarea, dezinformarea, manipularea și frauda împotriva consumatorilor. Aceste sisteme sunt în general permise, dar furnizorii și utilizatorii care le implementează trebuie să facă utilizarea IA suficient de transparentă. Obligațiile de transparență din articolul 50 au intrat în vigoare în august 2026.

Există patru situații principale acoperite de regulile de transparență privind IA:

Interacțiunile cu IA

Când un sistem de IA interacționează direct cu o persoană, furnizorul trebuie să clarifice faptul că aceasta interacționează cu IA și nu cu o ființă umană. Această cerință poate avea aplicare în cazul sistemelor interactive care includ IA conversațională sau agenți de servicii pentru clienți.

O declinare a responsabilității privind IA trebuie furnizată încă de la începutul primei interacțiuni și într-un mod accesibil, clar și ușor de identificat. IA care rulează doar în fundal sau care comunică de la mașină la mașină nu este acoperită de această cerință specifică.

Conținut standard generat de IA

Furnizorii de sisteme de IA care generează sau manipulează text, imagini, conținut audio sau video trebuie să facă rezultatul identificabil din punct de vedere tehnic ca fiind generat sau manipulat de IA, de exemplu prin metadate lizibile de către mașini.

Acest lucru nu înseamnă neapărat adăugarea unei etichete vizibile pentru persoana care vizualizează conținutul. Instrumentele simple de editare care nu modifică în mod substanțial datele de intrare sau sensul acestora sunt scutite.

Conținut deepfake și anumite conținuturi de interes public

Dacă o organizație creează sau manipulează imagini, conținut audio sau video de tip deepfake, un simplu marcaj lizibil de către mașini nu este suficient. Aceasta trebuie să dezvăluie în mod clar acest lucru publicului, într-un mod ușor perceptibil, cum ar fi printr-o etichetă vizibilă sau o notă sonoră.

Același standard are aplicare și pentru textul generat sau manipulat de IA publicat pentru a informa publicul cu privire la chestiuni de interes public, cu excepția cazului în care o persoană l-a revizuit în mod semnificativ și și-a asumat responsabilitatea editorială pentru acesta.

Recunoașterea emoțiilor și clasificarea biometrică

Persoanele trebuie informate atunci când IA este utilizată pentru a le detecta emoțiile sau pentru a le clasifica pe baza datelor biometrice; această regulă are aplicare indiferent dacă sistemul este sau nu clasificat și ca fiind cu risc înalt.

IA cu risc scăzut sau fără risc

Majoritatea sistemelor de IA se încadrează în această categorie și nu fac subiectul unor cerințe obligatorii suplimentare în temeiul Regulamentului privind IA. Exemplele includ filtre mesaje spam și IA utilizată în jocurile video. Furnizorii pot urma în continuare voluntar cele mai bune practici și un cod de conduită.

Ce sunt modelele GPAI și ce obligații au?

Modelele GPAI (IA cu scop general) sunt modele de IA concepute să gestioneze numeroase sarcini diferite, mai degrabă decât un scop specific și restrâns. Printre exemplele de modele GPAI se numără modelele de limbaj de mari dimensiuni (LLM) care alimentează ChatGPT, Gemini, Claude și Meta AI. Ele pot genera sau analiza conținut și pot fi integrated în alte sisteme și fiecare aplicație de IA.

Modelele GPAI fac subiectul propriilor cerințe în temeiul Regulamentului privind IA. Furnizorii trebuie să mențină documentația tehnică, să le ofere dezvoltatorilor din aval informații despre capacitățile și limitările modelului, să se conformeze regulilor UE privind drepturile de autor și să publice un rezumat public care să descrie tipurile de date (cum ar fi text, imagini, conținut audio sau video) și sursele (de exemplu, seturi de date publice, seturi de date în mod privat, un site web extras, date despre un utilizator sau date sintetice) utilizate pentru instruirea modelului.

Modelele GPAI care prezintă un risc sistemic — suficient de puternice sau de utilizate pe scară largă încât problemele apărute la acestea ar putea cauza prejudicii pe scară largă în întreaga UE — se confruntă cu cerințe suplimentare, inclusiv evaluări ale modelelor și testare de tip adversarial, gestionarea continuă a riscurilor, raportarea incidentelor și măsuri mai puternice de protecție a securității cibernetice.

Interzice Regulamentul UE privind IA utilizarea datelor persoanelor pentru instruirea IA?

Nu. Regulamentul UE privind IA nu interzice utilizarea datelor persoanelor pentru instruirea IA. Acesta impune sistemelor de risc înalt să utilizeze date de bună calitate, iar furnizorilor de IA cu scop general să fie transparenți cu privire la datele pe care le-au folosit pentru instruire, dar posibilitatea de a utiliza legal datele cu caracter personal pentru instruirea IA este guvernată în principal de GDPR. Companiile trebuie să aibă un temei juridic valabil pentru prelucrarea datelor cu caracter personal și să respecte drepturile și garanțiile aplicabile privind protecția datelor.

Protejează Regulamentul UE privind IA proprietatea intelectuală?

Da, dar numai într-un mod limitat și indirect. Regulamentul UE privind IA nu creează noi drepturi de proprietate intelectuală și nici nu înlocuiește legislația existentă privind drepturile de autor. Cu toate acestea, impune furnizorilor de GPAI să se conformeze regulilor UE privind drepturile de autor, să respecte opțiunile de renunțare ale titularilor de drepturi pentru extragerea de text și date și să publice un rezumat al conținutului utilizat pentru instruirea modelelor lor.

Calendarul de punere în aplicare a Regulamentului UE privind IA

Iată datele importante pe care trebuie să le cunoașteți:

1 august 2024: Regulamentul UE privind IA a intrat în vigoare.

2 februarie 2025: Dispozițiile generale și definițiile Regulamentului au început să aibă aplicare, alături de primele opt interdicții privind practicile interzise de IA. De asemenea, au început să aibă aplicare cerințele pentru furnizori și utilizatorii care implementează IA de a oferi asistență pentru alfabetizarea în domeniul IA în rândul personalului.

2 august 2025: Regulile pentru modelele GPAI au intrat în vigoare, alături de dispozițiile privind guvernanța IA și sancțiunile.

27 iulie 2026: Pachetul legislativ AI Omnibus a intrat în vigoare. Cunoscut oficial sub numele de Regulamentul (UE) 2026/1744, AI Omnibus este un amendament din 2026 la Regulamentul UE privind IA, conceput pentru a-i simplifica punerea în aplicare, pentru a reduce sarcinile de conformare și pentru a le oferi companiilor și autorităților de reglementare mai mult timp de pregătire, menținând în același timp protecțiile fundamentale ale Regulamentului privind siguranța și drepturile fundamentale.

2 august 2026: Majoritatea dispozițiilor rămase din Regulamentul privind IA au devenit aplicabile, inclusiv regulile de transparență care impun divulgarea sau marcajul tehnic pentru anumite sisteme de IA și conținuturi generate de IA.

2 decembrie 2026: A noua interdicție privind materialele CSAM generate de IA și reprezentările intime sau explicite sexual neconsimțite intră în vigoare. Furnizorii de sisteme de IA introduse pe piață înainte de 2 august 2026 care generează text, imagini, conținut audio sau video sintetic trebuie, de asemenea, să se conformeze cerințelor Regulamentului privind marcajul lizibil de către mașini până la această dată.

2 august 2027: Statele membre ale UE trebuie să aibă disponibil cel puțin un spațiu cu caracter experimental de reglementare pentru IA până la această dată, pentru ca firmele să dezvolte și să testeze sisteme de IA sub supraveghere reglementară.

2 decembrie 2027: Regulile privind IA cu risc înalt începe să aibă aplicare pentru sistemele utilizate în domenii sensibile, cum ar fi biometria, infrastructura critică, educația, ocuparea forței de muncă, serviciile esențiale, aplicarea legii, migrația și administrarea justiției.

2 august 2028: Cerințele privind riscul înalt începe să aibă aplicare pentru sistemele de IA care fac parte din produsele reglementate acoperite de legislația UE privind produsele sau sunt componente de siguranță ale acestora, cum ar fi anumite echipamente tehnice, un dispozitiv medical, jucării și ascensoare.

Cum să vă pregătiți afacerea pentru conformarea cu Regulamentul UE privind IA

Pentru companii, cea mai mare schimbare practică este că conformarea începe cu identificarea rolului pe care îl joacă compania și a tipului de IA pe care îl folosește. O companie care folosește pur și simplu un asistent de redactare bazat pe IA va avea mult mai puține obligații decât una care dezvoltă un algoritm de recrutare, vinde un dispozitiv medical bazat pe IA sau furnizează un model GPAI. Regulamentul poate avea aplicare și pentru companiile din afara UE dacă acestea introduc pe piața UE sisteme de IA sau modele GPAI ori dacă rezultatul sistemului lor de IA este utilizat în UE.

Pentru a vă pregăti și a menține conformitatea cu Regulamentul UE privind IA, afacerea dvs. ar trebui:

Să știți ce sisteme de IA utilizați: Țineți evidența sistemelor de IA utilizate în cadrul echipelor dvs. (inclusiv instrumentele furnizate de un terț) și înțelegeți în ce scop sunt folosite. Aceasta poate include IA utilizată în resurse umane, servicii pentru clienți, marketing, securitate, analiză și alte procese de afaceri.

Să vă stabiliți rolul: Stabiliți dacă afacerea dvs. are un rol de furnizor care dezvoltă sau vinde un sistem de IA, un utilizator care implementează un astfel de sistem ori un importator sau distribuitor. Obligații diferite au aplicare pentru fiecare rol.

Să clasificați IA în funcție de risc: Verificați dacă vreo utilizare a IA este interzisă, de risc înalt, face subiectul cerințelor de transparență sau este de risc minim. Dacă folosiți IA pentru a evalua candidații la un loc de muncă, de exemplu, regulile sunt considerabil mai stricte decât pentru filtre mesaje spam cu IA.

Să opriți utilizările interzise ale IA: Auditați instrumentele și fluxurile dvs. de lucru de IA pentru eventuale practici interzise și treceți la o dezactivare sau o înlocuire a sistemelor care depășesc limita. Accentuați în special IA utilizată pentru a monitoriza angajații, a profila oamenii, a analiza date biometrice, a manipula comportamentul sau a face evaluări sensibile despre indivizi.

Să instruiți angajații care folosesc IA: Furnizorii și utilizatorii care implementează IA trebuie să ia măsuri pentru a oferi asistență privind alfabetizarea în domeniul IA în rândul angajaților și al altor persoane care operează sisteme de IA în numele lor. Instruirea ar trebui să reflecte modul în care IA este utilizată efectiv și riscurile implicate.

Să îndepliniți cerințele de transparență ale IA: Ar putea fi necesar să informați oamenii când interacționează cu IA, să aplicați o etichetă pe anumite conținuturi generate sau manipulate de IA ori să informați oamenii când sunt utilizate sisteme permise de recunoaștere a emoțiilor sau de clasificare biometrică.

Să aplicați controale mai stricte pentru IA cu risc înalt: Furnizorii trebuie să asigure o gestionare a riscurilor, să folosească date adecvate, să păstreze documentația și fiecare jurnal, să asigure supravegherea umană și să îndeplinească cerințele de acuratețe, securitate și fiabilitate. De asemenea, ar putea fi necesar să efectueze evaluări ale conformității și să înregistreze sistemul. Companiile care utilizează IA cu risc înalt trebuie să respecte instrucțiunile furnizorului, să monitorizeze performanța acestuia și să păstreze evidențele necesare.

Să verificați obligațiile GPAI: Dacă furnizați modele GPAI, aveți cerințe separate care acoperă documentația tehnică, informațiile pentru dezvoltatorii din aval, conformitatea cu drepturile de autor și rezumatul conținutului de instruire. Modelele care prezintă un risc sistemic se confruntă cu cerințe suplimentare de siguranță și securitate cibernetică.

Să reevaluați furnizorii de IA: Dacă folosiți sisteme de IA furnizate de un terț, verificați sistemele furnizate de vânzători, modul în care sunt clasificate, ce documentație este disponibilă și cine este responsabil pentru respectarea fiecărei părți din Regulamentul UE privind IA. Modificarea sau rebranduirea anumitor sisteme de IA poate, de asemenea, să transfere responsabilitățile furnizorului către afacerea dvs.

Să mențineți guvernanța IA la zi: Sistemele de IA, utilizările lor și legea se pot schimba. Companiile ar trebui să documenteze modul în care este utilizată IA, să monitorizeze sistemele pentru noi riscuri sau incidente și să reevalueze conformitatea atunci când un sistem de IA este modificat substanțial sau reorientat.

Conformarea cu Regulamentul privind IA nu înlocuiește alte obligații legale. Companiile care utilizează date cu caracter personal, materiale protejate de drepturi de autor sau IA în sectoare reglementate ar putea fi nevoite să respecte și legi precum GDPR, regulile UE privind drepturile de autor, legislația privind protecția consumatorilor și alte reguli specifice sectorului.

Dezvoltați o abordare a IA axată pe confidențialitate

Regulamentul UE privind IA adoptă o abordare bazată pe risc față de IA și nu trebuie neapărat să folosiți dvs. înșivă IA pentru a fi afectat de acesta. Dacă locuiți în UE, IA vă poate influența conținutul pe care îl vedeți, serviciile cu care interacționați sau deciziile luate cu privire la dvs., cum ar fi dacă puteți cumpăra anumite lucruri. Prin urmare, familiarizarea cu Regulamentul vă poate ajuta să înțelegeți când utilizarea IA trebuie dezvăluită, ce protecții au aplicare și când ați putea contesta sau pune la îndoială modul în care este utilizat un sistem de IA.

Pentru companii, obligațiile depind de ce rol joacă fiecare organizație, de modul în care sunt utilizate sistemele sale de IA și de nivelul de risc implicat.

Pentru persoanele care aleg să folosească IA, Lumo oferă o alternativă de IA europeană axată pe confidențialitate. Asistentul nostru de IA nu trece conversațiile dvs. în niciun jurnal și nu efectuează instruiri pe baza datelor dvs. Datele dvs. sunt protejate prin criptare fără acces, astfel încât să puteți avea acces de citit doar dvs. Nici măcar Proton nu vă poate vedea datele.

Aceleași protecții se extind și la Lumo for Business, asistentul nostru de IA pentru echipe, care permite ca diverse tipuri de organizație să le ofere angajaților un instrument de IA aprobat, ajutând în același timp la păstrarea în mod privat a datelor confidențiale ale companiei, clienților și altor date sensibile. Utilizarea Lumo nu face în sine o companie conformă cu Regulamentul UE privind IA, dar poate oferii asistență pentru o abordare mai atentă la confidențialitate în adoptarea și guvernanța IA la nivelul oricărei organizații.

Conversați cu Lumo(fereastră nouă) Obțineți Lumo for Business

Dacă sunteți la început în domeniul IA sau doriți să înțelegeți tehnologia din spatele acestor reguli, consultați ghidul nostru despre IA pentru o analiză aprofundată a confidențialității în IA, a supravegherii, a riscurilor de securitate și a unei imagini de ansamblu asupra practicilor adesea înșelătoare ale unora dintre cei mai populari furnizori de IA.