Sam Altman avertizează că omenirea ar putea pierde controlul asupra AI

CEO-ul OpenAI, Sam Altman, a prezentat luni cele mai detaliate explicaţii de până acum privind motivele pentru care industria inteligenţei artificiale ar trebui să încetinească dezvoltarea celor mai avansate modele, avertizând că progresul necontrolat ar putea avea consecinţe grave: ”Am putea pierde controlul asupra viitorului în favoarea AI”, a avertizat Altman.

Sam Altman

Şeful OpenAI identifică două scenarii în care dezvoltarea tehnologiei ar putea evolua ”foarte prost”: pierderea controlului asupra viitorului în favoarea sistemelor AI şi concentrarea unei puteri prea mari în mâinile unei singure persoane sau companii.

”Salutăm un cadru federal care să stabilească cerinţe de siguranţă consecvente pentru AI de frontieră”, a declarat Altman, subliniind că ”nicio presiune competitivă americană nu ar trebui să justifice imprudenţa”.

Declaraţiile vin după ce Altman şi Elon Musk au susţinut propunerea CEO-ului Anthropic, Dario Amodei, privind încetinirea deliberată a ritmului în care sunt îmbunătăţite cele mai puternice modele AI.

Amodei avertizează că, începând din această vară, tehnologia avansează mult mai rapid, în principal datorită capacităţii tot mai mari a AI de a contribui la construirea următoarei generaţii de sisteme AI.

”Lăsat necontrolat, acest proces ar putea depăşi capacitatea noastră de a înţelege şi controla aceste sisteme”, a afirmat el.

Altman a precizat însă că ”încetinirea” nu înseamnă oprirea progresului. ”Când vorbim despre ritm, nu vorbim despre oprire. Progresul a fost rapid şi va continua să fie”, a spus CEO-ul OpenAI. Compania susţine introducerea unor reguli comune pentru gestionarea riscurilor şi utilizarea auditorilor independenţi, cărora marile laboratoare AI să le ofere un nivel de acces similar celui acordat propriilor angajaţi.

Una dintre principalele temeri priveşte posibilitatea ca modelele să ajungă la auto-îmbunătăţire recursivă, proces prin care AI contribuie la dezvoltarea unor sisteme succesive tot mai performante.

Altman consideră că merită acceptat costul unei dezvoltări mai lente pentru ca mecanismele de aliniere şi monitorizare să nu rămână în urma capabilităţilor: ”Încetinirea va merita acest cost; nicio presiune competitivă americană nu ar trebui să justifice imprudenţa sau să permită capabilităţilor să depăşească alinierea şi monitorizarea”.

Marea problemă rămâne însă competiţia cu China. Amodei admite că stabilirea unei ”limite de viteză” globale pentru AI va fi extrem de dificilă deoarece avantajele economice şi militare ale obţinerii supremaţiei tehnologice sunt enorme.

Altman consideră că industria trebuie să înceapă prin măsuri voluntare, dar va avea nevoie de sprijinul guvernului american pentru coordonare internaţională: ”Mai întâi ar trebui să facem noi ceea ce putem”.

Apelurile liderilor AI au provocat deja nelinişte în rândul investitorilor, acţiunile companiilor legate de AI scăzând luni, în timp ce preşedintele Donald Trump a respins ideea încetinirii, susţinând că aceasta ar putea pune în pericol avantajul SUA faţă de China, potrivit news.ro.