Modele de inteligență artificială dezvoltate de compania americană Anthropic au obținut acces neautorizat la sistemele informatice ale trei organizații, după ce o eroare de configurare le-a permis să iasă din mediul controlat în care erau testate și să se conecteze la internet. Pentru a pătrunde în sisteme, modelele Claude au exploatat inclusiv parole slabe și puncte de acces care nu necesitau autentificare.
Incidentele s-au produs în timpul unor evaluări de securitate cibernetică organizate de Anthropic, compania care dezvoltă asistentul AI Claude, relatează News.ro, care citează The Guardian.
Modelele trebuiau să opereze într-un mediu izolat și să rezolve exerciții de securitate de tip „capture the flag”. În cadrul unor astfel de teste, participanții trebuie să descopere informații ascunse sau vulnerabilități într-o rețea informatică simulată.
Din cauza unei configurări greșite, mediile de testare au rămas însă conectate la internetul public. Modelele AI au putut astfel să interacționeze cu sisteme informatice reale.
Anthropic spune că a descoperit incidentele după ce a analizat 141.006 sesiuni înregistrate în timpul evaluărilor sale de securitate cibernetică.
Cum au intrat modelele AI în sistemele organizațiilor
Potrivit companiei, modelele nu au avut nevoie de metode foarte sofisticate pentru a compromite infrastructura organizațiilor.
„Claude a compromis infrastructura organizațiilor afectate folosind tehnici de bază, precum exploatarea parolelor slabe și a unor puncte de acces care nu necesitau autentificare”, a transmis Anthropic.
Incidentele au implicat trei modele diferite: Claude Opus 4.7, Claude Mythos 5 și un model intern de cercetare.
Primele cazuri identificate datează din aprilie 2026 și s-au produs în medii de evaluare care nu aveau implementate măsurile standard de protecție folosite în mod obișnuit de companie.
Anthropic susține că instrucțiunile primite de modelele AI precizau că acestea nu au acces la internet. O neînțelegere între companie și partenerul său de evaluare, Irregular, a făcut însă ca sistemele să rămână conectate la rețeaua publică.
Două dintre organizațiile afectate nu știau că sistemele lor informatice fuseseră accesate înainte de a fi contactate de Anthropic. Compania încearcă în continuare să ia legătura cu cea de-a treia organizație.
„Am descoperit aceste incidente în urma unei analize proactive a transcrierilor evaluărilor noastre de securitate cibernetică”, a precizat compania.
Ce arată incidentele pentru firmele care folosesc agenți AI
Cazurile semnalate de Anthropic arată că riscul nu provine numai din capacitatea unui model AI de a descoperi vulnerabilități, ci și din modul în care firmele îi configurează accesul la internet, la aplicații și la infrastructura internă.
Un agent AI care primește permisiunea de a executa comenzi, de a instala programe sau de a naviga pe internet poate continua să urmărească obiectivul primit dincolo de limitele anticipate de dezvoltatori.
În cazul Anthropic, modelele încercau să rezolve exercițiul pentru care fuseseră programate. După ce au descoperit că pot accesa internetul, acestea au continuat să caute informațiile necesare în sisteme reale.
Companiile care testează sau implementează agenți AI ar trebui, prin urmare, să verifice cel puțin:
- dacă mediile de testare sunt izolate efectiv de internet și de infrastructura de producție;
- ce conturi, parole, chei API și baze de date poate accesa modelul;
- dacă toate punctele de acces necesită autentificare;
- ce comenzi poate executa agentul fără aprobarea unui operator uman;
- dacă activitatea modelului este înregistrată și verificată automat;
- ce măsuri de securitate folosesc furnizorii externi implicați în testare.
Incidentul arată și că măsurile elementare de securitate rămân importante chiar și în fața modelelor avansate de inteligență artificială. În cele trei cazuri, Claude a exploatat inclusiv parole slabe și servicii expuse fără autentificare, nu doar vulnerabilități informatice avansate.
Un incident similar a implicat OpenAI și Hugging Face
Dezvăluirea Anthropic vine după un incident separat în care modele dezvoltate de OpenAI au compromis infrastructura platformei de inteligență artificială Hugging Face în timpul unei evaluări interne.
Potrivit OpenAI, modelele au descoperit și exploatat o vulnerabilitate necunoscută anterior într-un program folosit pentru gestionarea pachetelor software. Ulterior, acestea au obținut acces la internet, au escaladat privilegiile în mediul de cercetare și au pătruns în infrastructura Hugging Face.
Modelele urmăreau să găsească răspunsurile unui test de securitate cibernetică și au ajuns să acceseze informații din baza de date de producție a Hugging Face. OpenAI a precizat că sistemele au fost „hiperconcentrate” asupra rezolvării obiectivului primit și au mers foarte departe pentru a-l îndeplini.
Compania americană a introdus ulterior controale mai stricte asupra infrastructurii de evaluare și a restricționat accesul la modelul intern de cercetare implicat în incident.
Anthropic avertizează că asemenea situații vor necesita controale mai stricte atât în mediile de testare administrate direct de dezvoltatorii AI, cât și în cele operate de parteneri externi.
Modelele din clasa Claude Mythos sunt proiectate să descopere și să exploateze vulnerabilități software și pot executa mai multe etape ale unui atac informatic, de la recunoașterea infrastructurii și identificarea punctelor slabe până la deplasarea între sistemele unei rețele. Anthropic limitează accesul la versiunile fără filtre de securitate printr-un program destinat organizațiilor considerate de încredere.