OpenAI, compania care a creat ChatGPT, a îndepărtat trei dintre cercetătorii săi din domeniul siguranţei inteligenţei artificiale, acuzaţi că au transmis informaţii sensibile, într-un moment în care mai mulţi angajaţi ai companiei avertizează public asupra pericolelor acestei tehnologii, potrivit News.ro, care citează AFP.
Wall Street Journal i-a identificat pe cercetătorii vizaţi, toţi trei susţinând pe reţelele sociale apelurile la încetinirea dezvoltării inteligenţei artificiale. Unul dintre ei, Tomek Korbak, se prezenta drept unul dintre interlocutorii METR, institutul însărcinat să investigheze atacul informatic din luna iulie asupra platformei Hugging Face, realizat cu ajutorul unor instrumente OpenAI, primul dintr-o lungă serie de dezvăluiri privind derapajele unor sisteme de inteligenţă artificială aflate în testare în Silicon Valley.
„Ne-am despărţit de trei persoane pentru încălcarea regulilor noastre privind accesul la informaţiile sensibile ale companiei şi gestionarea acestora”, a declarat pentru AFP un purtător de cuvânt al OpenAI.
Ancheta internă a confirmat că aceste persoane au gestionat informaţii sensibile în afara procedurilor stabilite, „încălcând încrederea indispensabilă activităţii noastre”, a adăugat acesta.
Compania menţionează mai multe încălcări ale regulilor, dintre care una priveşte informaţii comunicate unui grup extern de evaluare a inteligenţei artificiale, al cărui nume nu a fost precizat.
Îndepărtarea celor trei are loc la câteva săptămâni după demisia intens mediatizată, la 8 septembrie, a cercetătorului Jacob Coxon, care trecuse de la OpenAI la Anthropic şi care acuzase cele două companii că „se joacă cu vieţile noastre”.
Tomek Korbak şi ceilalţi doi cercetători îndepărtaţi, Jasmine Wang şi Mikita Balesni, îi susţinuseră declaraţiile pe platforma socială X.
Două zile mai târziu, Mikita Balesni scria, reluând formularea unui mesaj viral publicat de un responsabil pentru siguranţă de la compania rivală Anthropic: „Lucrez la OpenAI şi cred că există o probabilitate de peste 10% ca inteligenţa artificială să ucidă toţi oamenii”.
Invocând libertatea de exprimare, Tomek Korbak adăuga la 12 septembrie: „Sunt foarte nemulţumit de o mare parte din ceea ce face OpenAI” şi „sunt foarte bucuros că am dreptul să [o] spun”.
„Vreau să-mi exprim îngrijorările pentru ca noi să acţionăm, nu pentru a provoca teamă”, afirma Jasmine Wang cu două zile înainte.
Anthropic şi OpenAI sunt acuzate în mod regulat că exagerează pericolele unei tehnologii pe care ele însele o dezvoltă pentru a putea restricţiona ulterior piaţa şi a ajunge să o domine, acuzaţii pe care companiile le resping.
Cod de conduită
Începând din vară, Silicon Valley a fost marcată de o succesiune de rapoarte privind incidente în care au fost implicate sisteme de inteligenţă artificială aflate în testare.
Recent, OpenAI a dezvăluit că a suspendat antrenarea modelelor sale aflate în dezvoltare după ce unul dintre acestea a accesat internetul fără autorizaţie.
Aceste incidente divizează industria: lideri importanţi precum Dario Amodei (Anthropic), Sam Altman (OpenAI) şi Elon Musk au cerut, la jumătatea lunii septembrie, încetinirea dezvoltării inteligenţei artificiale, în timp ce alţii, precum Jensen Huang (Nvidia) şi Mark Zuckerberg (Meta), vor menţinerea ritmului actual.
Într-un eseu care a atras atenţia, publicat la 12 septembrie, Dario Amodei a scris că se teme că, în ritmul actual, un grup de agenţi AI ar putea „prelua controlul asupra întregului internet” în următoarele 6 până la 12 luni.
Marţi, în faţa jurnaliştilor, Sam Altman a declarat că OpenAI investeşte „mai mult în siguranţă, securitate, aliniere şi supraveghere”, respingând în acelaşi timp atât poziţia celor care vor „să înainteze cu viteză maximă”, cât şi pe cea a celor care cer „să oprim totul acum”.
La jumătatea lunii septembrie, OpenAI s-a angajat, după Anthropic, să găzduiască permanent evaluatori independenţi.
De asemenea, compania a renunţat la lansarea unei noi versiuni a modelului său principal, GPT-6 Astra, considerată prea predispusă să se abată de la instrucţiuni. Compania din San Francisco a făcut însă public, a doua zi, un model intermediar, GPT-6.1 Sol, prezentat drept aproape la fel de performant ca Astra, dar la un cost mult mai redus.
Ostil oricărei reglementări obligatorii care ar putea împiedica Statele Unite în competiţia cu China, Donald Trump i-a reunit marţi pe principalii reprezentanţi americani ai sectorului şi i-a determinat să semneze un cod voluntar de conduită privind prevenirea riscurilor asociate inteligenţei artificiale.
În SUA nu există nicio lege federală care să reglementeze aceste modele, fiind prevăzută doar, pe bază voluntară, supunerea capacităţilor acestora unei evaluări guvernamentale înainte de a fi făcute publice.