Un agent autonom bazat pe cele mai avansate modele de inteligenţă artificială ale OpenAI, compania din spatele ChatGPT, a scăpat de sub control în timpul unui test de securitate şi a declanşat un atac cibernetic care a compromis infrastructura startup-ului Hugging Face.
OpenAI a confirmat incidentul și a precizat, într-o postare pe blogul său, că testa capabilităţile unora dintre cele mai performante modele AI într-un mediu controlat, însă agentul a reuşit să iasă din mediul izolat, să acceseze internetul şi să pătrundă în sistemele Hugging Face pentru a-şi îndeplini obiectivul stabilit în cadrul testului, conform Reuters, citat de News.ro.
Potrivit OpenAI, incidentul a implicat două modele experimentale dedicate securităţii cibernetice: GPT-5.6 Sol şi un model şi mai avansat, aflat încă în faza de pre-lansare. Acestea erau testate în cadrul ExploitGym, un benchmark destinat evaluării capacităţii modelelor de a identifica şi exploata vulnerabilităţi informatice.
Pentru acest test, restricţiile care limitează în mod normal operaţiunile cibernetice ofensive au fost reduse, iar modelele au devenit atât de concentrate pe atingerea obiectivului – obţinerea răspunsurilor testului – încât au găsit o modalitate de a ieşi din mediul izolat, au accesat internetul şi au compromis infrastructura Hugging Face pentru a „trişa” la evaluare.
Compania a descris incidentul drept „un eveniment cibernetic fără precedent, care a implicat capabilităţi de ultimă generaţie” şi a anunţat că îşi consolidează măsurile de protecţie pentru a preveni repetarea unei astfel de situaţii.
Hugging Face, platformă utilizată pentru găzduirea modelelor lingvistice open-source şi a seturilor de date pentru inteligenţă artificială, anunţase săptămâna trecută că a fost victima unui atac informatic „diferit de orice a întâlnit până acum”, deoarece acesta a fost realizat integral de un sistem AI autonom.
Fondatorul Hugging Face, Clément Delangue, a scris pe platforma X că firma suspecta încă de la început că atacul provenea de la unul dintre marile laboratoare de cercetare în inteligenţă artificială.
Faptul că OpenAI recunoaște că propriile sale modele avansate au fost responsabile pentru incident, în ciuda faptului că erau plasate într-un mediu descris drept ”puternic izolat”, poate amplifica îngrijorările privind puterea şi riscurile asociate modelelor AI de ultimă generaţie.
Congresmanul democrat Greg Casar, din statul Texas, a calificat incidentul drept alarmant şi a cerut introducerea unor reguli obligatorii privind testarea independentă a siguranţei sistemelor AI, raportarea incidentelor de securitate şi cooperarea internaţională în acest domeniu.
„Inteligenţa artificială evoluează extrem de rapid, fără reglementări reale care să ne protejeze”, a declarat acesta.
CISA, agenţia americană pentru securitate cibernetică, Agenţia Naţională de Securitate (NSA) şi Biroul Directorului Naţional pentru Securitate Cibernetică nu au comentat incidentul.