Marile companii din zona tech oferă guvernului SUA acces anticipat la modele AI, pentru testări de securitate

Microsoft, Google şi xAI au convenit să ofere guvernului Statelor Unite acces anticipat la noile lor modele de inteligenţă artificială, pentru evaluarea riscurilor de securitate înainte de lansarea publică, relatează Reuters citat de news.ro.

Acordul permite autorităţilor să testeze capacităţile acestor sisteme şi să identifice vulnerabilităţi potenţiale, inclusiv riscuri legate de atacuri cibernetice sau utilizări militare, într-un context de îngrijorare tot mai mare privind puterea noilor tehnologii AI.

Iniţiativa este coordonată de Center for AI Standards and Innovation din cadrul Departamentului Comerţului, care va analiza modelele şi va dezvolta metode standardizate de testare.

Microsoft a precizat că va colabora cu cercetători guvernamentali pentru a testa comportamente neprevăzute ale sistemelor AI, inclusiv prin utilizarea unor seturi de date comune şi proceduri de evaluare riguroase.

Decizia vine pe fondul îngrijorărilor generate de apariţia unor modele avansate, precum Mythos dezvoltat de Anthropic, despre care oficialii americani cred că ar putea amplifica capacităţile hackerilor.

Acordul extinde colaborările anterioare dintre guvern şi companii precum OpenAI şi Anthropic, iniţiate încă din perioada administraţiei precedente.

În paralel, Pentagonul a anunţat recent parteneriate cu mai multe companii pentru integrarea inteligenţei artificiale în reţelele sale clasificate, semnalând o accelerare a utilizării AI în domeniul apărării.

Măsura reflectă preocuparea crescândă a Washingtonului privind impactul tehnologiilor AI asupra securităţii naţionale şi necesitatea unor mecanisme de control înainte ca acestea să fie implementate la scară largă, potrivit știripesurse.