Coreea de Sud, criticată după ce a lansat cel mai cuprinzător set de legi pentru reglementarea inteligenței artificiale

Coreea de Sud a lansat o incursiune în reglementarea inteligenței artificiale, lansând ceea ce a fost prezentat drept cel mai cuprinzător set de legi din lume. Setul ar putea fi un model pentru alte țări, însă noua legislație s-a confruntat deja cu critici, relatează Mediafax.

Legile, care vor obliga companiile să eticheteze conținutul generat de inteligența artificială, au fost criticate de startup-urile tehnologice locale, care spun că merg prea departe, și de grupurile societății civile, care spun că nu merg suficient de departe, potrivit The Guardian.

Legea fundamentală privind inteligența artificială, care a intrat în vigoare joi, săptămâna trecută, vine pe fondul unei neliniști globale crescânde față de mass-media create artificial și procesul decizional automatizat, în contextul în care guvernele se luptă să țină pasul cu tehnologiile care avansează rapid.

Legea va obliga companiile care furnizează servicii de inteligență artificială să adăuge filigrane digitale invizibile pentru rezultate clar artificiale, cum ar fi desene animate sau lucrări de artă. Pentru deepfake-uri realiste, sunt necesare etichete vizibile.

„IA cu impact ridicat”, inclusiv sistemele utilizate pentru diagnostice medicale, angajări și aprobări de împrumuturi, va impune operatorilor să efectueze evaluări ale riscurilor și să documenteze modul în care sunt luate deciziile. Dacă o ființă umană ia decizia finală, sistemul ar putea intra în afara categoriei.

Modelele de inteligență artificială extrem de puternice vor necesita rapoarte de siguranță, dar pragul este stabilit atât de sus încât oficialii guvernamentali recunosc că niciun model din întreaga lume nu îl îndeplinește în prezent.

Companiile care încalcă regulile riscă amenzi de până la 30 de milioane de woni (15.000 de lire sterline), dar guvernul a promis o perioadă de grație de cel puțin un an înainte de aplicarea sancțiunilor.

Legislația este prezentată ca fiind „prima din lume” aplicată integral de o țară și este esențială pentru ambiția Coreei de Sud de a deveni una dintre cele trei puteri mondiale în domeniul inteligenței artificiale, alături de SUA și China. Oficialii guvernamentali susțin că legea este concentrată în proporție de 80-90% pe promovarea industriei, mai degrabă decât pe restricționarea acesteia.

Coreea de Sud reprezintă 53% din totalul victimelor pornografiei deepfake la nivel global, potrivit unui raport din 2023 al Security Hero, o firmă americană de protecție a identității. În august 2024, o investigație a expus rețele masive de chatroom-uri Telegram care creau și distribuiau imagini sexuale generate de inteligența artificială cu femei și fete, prefigurând scandalul care avea să izbucnească ulterior în jurul chatbot-ului Grok al lui Elon Musk.

Originile legii sunt însă anterioare acestei crize, primul proiect de lege legat de inteligența artificială fiind depus la parlament în iulie 2020. Acesta a stagnat în mod repetat, parțial din cauza unor prevederi acuzate că acordă prioritate intereselor industriei în detrimentul protecției cetățenilor.

Grupurile societății civile susțin că noua legislație oferă o protecție limitată persoanelor prejudiciate de sistemele de inteligență artificială, citează stiripesurse.ro.