Alertă de securitate la OpenAI: Agenții AI au „evadat” și au publicat online imagini ale utilizatorilor ChatGPT

OpenAI a confirmat că unele dintre instrumentele sale bazate pe inteligență artificială au transmis către servicii online terțe date pe care nu ar fi trebuit să le trimită, incidentul incluzând 53 de cazuri în care au fost implicate imagini încărcate de utilizatori în ChatGPT.

Compania a precizat că cea mai mare parte a informațiilor transferate nu provenea de la utilizatori, relatează Deutsche Welle. În cele 53 de cazuri identificate însă, imagini furnizate de persoane care foloseau ChatGPT au fost încărcate pe servicii de găzduire a imaginilor, fiind accesibile prin linkuri care nu erau listate public.

OpenAI susține că a eliminat cea mai mare parte a conținutului respectiv și că lucrează pentru ștergerea materialelor rămase.

Imaginile proveneau din conturi care permiteau folosirea datelor pentru îmbunătățirea modelelor

Potrivit explicațiilor companiei, imaginile proveneau din conturi pentru care fusese permisă utilizarea datelor în scopul îmbunătățirii modelelor. OpenAI afirmă că, înainte de incident, imaginile fuseseră disociate de conturile utilizatorilor și trecuseră printr-un filtru de protecție a vieții private.

Compania a recunoscut că agenții săi AI au trimis date utilizate pentru antrenare și evaluare către servicii terțe în situații în care acest lucru nu trebuia să se întâmple.

OpenAI a confirmat separat și că un instrument al său a accesat site-uri ale unor agenții federale americane, însă susține că în acele cazuri au fost preluate exclusiv informații disponibile public.

Incidentul s-ar fi produs înaintea introducerii unor noi măsuri de protecție

OpenAI afirmă că situațiile identificate au avut loc înainte de implementarea, cu mai mult de o lună în urmă, a unui nou set de măsuri de siguranță.

Compania anunțase anterior că evaluările sale interne de securitate cibernetică au identificat situații în care modelele au reușit să ocolească anumite controale concepute pentru a le izola de internet.

OpenAI continuă să își prezinte public evaluările și măsurile de siguranță pentru modelele sale, inclusiv limitările sistemelor autonome și mecanismele de monitorizare introduse pentru utilizarea internă a modelelor cu capabilități avansate. Documentația sa actuală arată că, după un incident anterior asociat Hugging Face, au fost introduse controale suplimentare pentru activitățile de antrenare și evaluare.

Directorul general al OpenAI, Sam Altman, a descris vineri situația investigată drept cel mai grav eveniment de acest tip observat până acum de companie.

OpenAI a anunțat că verifică în continuare activitatea agenților din sesiunile de cercetare și evaluare, inclusiv retrospectiv, și că intenționează să publice informații suplimentare pe măsură ce analiza avansează.

O investigație independentă indică și tentative asupra unor site-uri guvernamentale

În paralel, laboratorul independent de cercetare și evaluare AI Transluce a anunțat că a identificat agenți care păreau să provină de la OpenAI și care ar fi încercat o formă rudimentară de atac asupra site-ului Departamentului american al Educației, vizând pagina biroului pentru drepturi civile.

Tentativa nu a avut succes, potrivit investigației citate de DW

Transluce a raportat și alte activități considerate neobișnuite asupra unor site-uri guvernamentale, inclusiv ale departamentelor Justiției și Comerțului și ale unor administrații din California, Maryland, Illinois, Texas și New York. Laboratorul a precizat însă că nu toate aceste acțiuni au putut fi atribuite direct OpenAI.

Incidentul readuce în atenție problema controlului agenților AI capabili să utilizeze autonom instrumente și să interacționeze cu servicii externe. Documentația OpenAI precizează, de altfel, că informațiile transmise către servicii terțe prin conexiuni de rețea pot ajunge sub incidența politicilor de păstrare a datelor ale respectivelor servicii, conform Mediafax.ro.