CE: Noi norme şi măsuri menite să sprijine încrederea în inteligenţa artificială şi excelenţa în domeniu

Comisia Europeană a propus miercuri noi norme şi măsuri menite să transforme Europa în polul mondial al unei inteligenţe artificiale (IA) de încredere, informează Executivul comunitar într-un comunicat de presă, scrie Agerpres.

Potrivit Comisiei, îmbinarea primului cadru juridic privind IA cu un nou plan coordonat cu statele membre va garanta siguranţa şi drepturile fundamentale ale cetăţenilor şi ale întreprinderilor, consolidând totodată adoptarea IA, precum şi investiţiile şi inovarea în domeniul IA în întreaga UE. Această abordare va fi completată de noile reglementări privind echipamentele tehnice, care, prin adaptarea normelor de siguranţă, urmăresc să sporească încrederea utilizatorilor în noua generaţie versatilă de produse.

"În ceea ce priveşte inteligenţa artificială, încrederea constituie o necesitate absolută, nu un element opţional. Prin definirea standardelor, putem să deschidem calea către o tehnologie etică în întreaga lume şi să ne asigurăm că UE îşi menţine competitivitatea pe termen lung. Adaptate exigenţelor viitorului şi favorabile inovării, normele noastre vor interveni în cazurile în care este strict necesar: atunci când sunt în joc siguranţa şi drepturile fundamentale ale cetăţenilor UE", a declarat vicepreşedintele executiv pentru o Europă pregătită pentru era digitală, Margrethe Vestager.

"Inteligenţa artificială reprezintă un mijloc, nu un scop în sine, oferind un potenţial imens în domenii foarte diverse, cum ar fi sănătatea, transporturile, energia, agricultura, turismul sau securitatea cibernetică. Totodată, inteligenţa artificială implică o serie de riscuri", a declarat la rândul său comisarul pentru piaţa internă, Thierry Breton.

Datorită noului Regulament privind IA, europenii vor putea avea încredere în oportunităţile pe care le oferă IA. Normele proporţionale şi flexibile vor aborda riscurile specifice pe care le prezintă sistemele de IA şi vor stabili cele mai înalte standarde pe plan mondial. Planul coordonat prezintă schimbările de politică şi investiţiile necesare la nivelul statelor membre pentru a consolida poziţia de lider a Europei în dezvoltarea unei IA centrate pe factorul uman, durabile, sigure, favorabile incluziunii şi de încredere.

Noile norme vor fi aplicate direct în acelaşi mod în toate statele membre, pe baza unei definiţii a IA adaptate exigenţelor viitorului, şi urmează o abordare bazată pe riscuri.

Astfel, la capitolul risc inacceptabil se prevede că vor fi interzise sistemele de IA considerate o ameninţare clară la adresa siguranţei, a mijloacelor de subzistenţă şi a drepturilor persoanelor. Printre acestea se numără sistemele sau aplicaţiile de IA care manipulează comportamentul uman pentru a împiedica utilizatorii să îşi exercite liberul arbitru (de exemplu, jucării care utilizează asistenţa vocală încurajând un comportament periculos din partea minorilor) şi sistemele care permit guvernelor să efectueze o evaluare a comportamentului social.

În ceea ce priveşte riscul ridicat, sunt considerate ca prezentând un grad ridicat de risc sistemele în care tehnologia IA este utilizată în: infrastructurile critice (de exemplu, transporturile), care ar putea pune în pericol viaţa şi sănătatea cetăţenilor; formarea educaţională sau profesională, care poate determina accesul la educaţie şi traiectoria profesională a unei persoane (de exemplu, sistemul de notare utilizat în cadrul examenelor); componentele de siguranţă ale produselor (de exemplu, o aplicaţie a IA utilizată în chirurgia robotică); ocuparea forţei de muncă, gestionarea lucrătorilor şi accesul la activităţi independente (de exemplu, software de selecţie a CV-urilor pentru procedurile de recrutare); serviciile publice şi private esenţiale (de exemplu, evaluarea bonităţii care îi împiedică pe cetăţeni să aibă posibilitatea de a obţine un împrumut); activitatea de asigurare a respectării legii care poate aduce atingere drepturilor fundamentale ale cetăţenilor (de exemplu, evaluarea fiabilităţii probelor); gestionarea migraţiei, a azilului şi a controlului la frontiere (de exemplu, verificarea autenticităţii documentelor de călătorie); administrarea justiţiei şi procesele democratice (de exemplu, aplicarea legii în cazul unui set concret de date factuale).

Înainte de a putea fi introduse pe piaţă, sistemele de IA care prezintă un grad ridicat de risc vor face obiectul unor obligaţii stricte, astfel încât să se asigure următoarele: sisteme adecvate de evaluare şi reducere a riscurilor; calitatea ridicată a seturilor de date care alimentează sistemul, pentru a se reduce la minimum riscurile şi rezultatele discriminatorii; înregistrarea activităţii pentru a asigura trasabilitatea rezultatelor; documentaţia detaliată care să furnizeze toate informaţiile necesare privind sistemul şi scopul acestuia, pentru ca autorităţile să poată evalua conformitatea sistemului în cauză; informaţii clare şi adecvate pentru utilizatori; măsuri care să garanteze o supraveghere umană corespunzătoare, în vederea reducerii la minimum a riscului; un nivel ridicat de robusteţe, securitate şi precizie.

În special, se consideră că toate sistemele de identificare biometrică la distanţă prezintă un grad ridicat de risc şi fac obiectul unor cerinţe stricte. În principiu, este interzisă utilizarea lor în timp real în spaţii accesibile publicului în scopuri de asigurare a respectării legii. Sunt prevăzute câteva excepţii limitate, strict definite şi reglementate (cum ar fi utilizarea în cazurile în care este strict necesar pentru a căuta un copil dispărut, pentru a preveni o ameninţare teroristă specifică şi iminentă sau pentru a detecta, a localiza, a identifica sau a urmări în justiţie persoane care au comis ori sunt suspectate că au comis infracţiuni grave). O astfel de utilizare este condiţionată de obţinerea unei autorizaţii din partea unui organism judiciar sau a unui alt organism independent şi de termene adecvate, de acoperirea geografică şi de bazele de date în care se efectuează căutări.

La capitolul risc limitat sunt incluse sistemele de IA care fac obiectul unor obligaţii specifice în materie de transparenţă. Atunci când utilizează sisteme de IA, cum ar fi roboţii de chat, utilizatorii ar trebui să fie conştienţi de faptul că interacţionează cu un aparat, astfel încât să aibă posibilitatea de a lua o decizie în cunoştinţă de cauză: fie să folosească în continuare respectivul sistem de IA, fie să renunţe la serviciile acestuia.

În ceea ce priveşte riscul minim, propunerea legislativă permite utilizarea gratuită a unor aplicaţii cum ar fi jocurile video bazate pe IA sau filtrele antispam. Marea majoritate a sistemelor de IA se încadrează în această categorie. Proiectul de regulament nu intervine aici, întrucât aceste sisteme de IA prezintă doar un grad de risc minim sau nu prezintă niciun risc pentru drepturile sau siguranţa cetăţenilor.

În ceea ce priveşte guvernanţa, Comisia propune ca autorităţile naţionale competente de supraveghere a pieţei să asigure respectarea noilor norme. Instituirea Comitetului european pentru inteligenţa artificială va facilita punerea în aplicare a noilor norme şi va stimula elaborarea de standarde în domeniul IA. În plus, se propun coduri de conduită voluntare pentru sistemele de IA care nu prezintă un grad ridicat de risc, precum şi spaţii de testare în materie de reglementare pentru a facilita inovarea responsabilă.

Propunerile Comisiei privind o abordare europeană în domeniile inteligenţei artificiale şi echipamentelor tehnice urmează să fie adoptate de Parlamentul European şi statele membre în cadrul procedurii legislative ordinare. Odată adoptate, regulamentele vor fi direct aplicabile în întreaga UE. În paralel, Comisia va continua să colaboreze cu statele membre pentru a pune în aplicare măsurile anunţate în Planul coordonat.