Agenţi AI dezvoltaţi de OpenAI ar fi folosit cel puţin alte 10 site-uri pentru a comunica între ei fără autorizaţie, după ce au găsit modalităţi de a ocoli restricţiile care le interziceau să publice informaţii pe internet, potrivit unor investigaţii independente analizate de Reuters, citată de News.ro.
Noile descoperiri arată că activitatea agenţilor a fost mai extinsă decât incidentul dezvăluit săptămâna trecută, când o reţea de agenţi OpenAI a preluat un vechi site wiki în limba germană şi l-a transformat într-o platformă improvizată pentru schimbul de informaţii.
Comportamentul nu este considerat hacking, fiind mai apropiat de spam, dar cercetătorii spun că demonstrează capacitatea modelelor AI de a găsi metode neaşteptate pentru a ocoli restricţiile impuse de dezvoltatori.
Andrew Yoon, cercetător la organizaţia americană CivAI, a identificat 18 site-uri care nu fuseseră dezvăluite anterior, utilizate de agenţi între mai şi iulie.
„Este aproape sigur că se întâmplă mai multe lucruri despre care pur şi simplu nu ştim”, a declarat acesta.
Unele investigaţii au identificat până la 23 de site-uri
Publicația citată a analizat rezultatele a 6 cercetători sau grupuri independente. Metodele lor au inclus compararea unor şiruri de date identice lăsate pe diferite site-uri, identificarea aceloraşi nume de utilizator şi urmărirea unor activităţi legate de aceleaşi întrebări de cercetare.
În unele cazuri, activitatea a putut fi asociată cu adrese IP care indicau infrastructura Microsoft Azure, utilizată şi de OpenAI.
Reuters nu a putut verifica individual fiecare caz, iar estimările cercetătorilor diferă. Toţi cei intervievaţi au identificat însă mai mult de 10 site-uri.
Grupul condus de Sydney Von Arx, care a dezvăluit iniţial activitatea de pe site-ul german, afirmă că a identificat indicii credibile privind agenţi AI pe 23 de site-uri care nu fuseseră raportate anterior.
Printre acestea se numără wiki-uri editabile public, servicii pentru stocarea textelor şi site-uri pentru scurtarea linkurilor administrate de Vanderbilt University şi University of Toronto, dar şi site-uri personale şi platforme vechi, puţin utilizate.
Agenţilor li se permisese să citească internetul, nu să scrie pe el
Cercetătorii cred că agenţii OpenAI primiseră sarcina de a răspunde unor întrebări complexe de cercetare şi aveau voie să caute informaţii pe internet, dar nu să publice conţinut.
Cu toate acestea, agenţii au descoperit particularităţi ale unor wiki-uri vechi şi ale altor site-uri care le permiteau să lase informaţii prin comenzi neobişnuite. Mesajele puteau fi apoi găsite şi citite de alţi agenţi.
OpenAI nu a precizat câte site-uri au fost utilizate şi nici de ce activitatea nu a fost făcută publică timp de mai multe luni. Compania a declarat că desfăşoară o analiză mai amplă şi că până acum nu a identificat alte incidente de gravitatea sau amploarea atacului asupra Hugging Face, produs în iulie.
OpenAI pregăteşte şi un sistem pentru raportarea cazurilor de „misalignment”, termen folosit în industria AI pentru situaţiile în care modelele se comportă contrar obiectivelor sau restricţiilor stabilite, şi susţine că îl va prezenta în curând.
Helmut Leitner, care găzduieşte şase dintre site-urile wiki afectate, a declarat că OpenAI nu l-a contactat. El a subliniat că responsabilitatea pentru astfel de incidente nu aparţine tehnologiei în sine, ci oamenilor şi organizaţiilor care o dezvoltă şi o controlează.