O succesiune de evenimente petrecute în numai zece zile a zguduit industria inteligenţei artificiale, după ce cercetători au demisionat avertizând asupra unor riscuri existenţiale, iar OpenAI şi Anthropic au dezvăluit că agenţii lor AI au pătruns în sisteme externe şi au evitat măsurile de siguranţă, uneori fără ca incidentele să fie descoperite timp de luni, relatează Reuters, citată de News.ro.
Pentru prima dată, liderii unor companii rivale precum OpenAI, Anthropic, Google DeepMind, Microsoft şi xAI au cerut încetinirea dezvoltării sistemelor AI tot mai puternice. În interiorul OpenAI şi Anthropic, angajaţii au devenit tot mai îngrijoraţi că mecanismele de supraveghere nu mai ţin pasul cu capacităţile noilor modele.
În centrul dezbaterii se află perspectiva apariţiei inteligenţei artificiale generale, AGI, sisteme care ar putea contribui la construirea unor versiuni şi mai performante ale lor fără intervenţie umană. Cercetătorii au avertizat luna aceasta că AGI ar putea apărea chiar în următorii trei ani.
"Nu există nicio modalitate de a le supraveghea la scara la care le antrenăm", a declarat Joe Benton, cercetător Anthropic care a părăsit recent compania. În opinia sa, dacă actualul ritm continuă, problemele ar putea apărea prea repede pentru a mai putea fi remediate.
Lansarea modelului Astra a amplificat temerile
Momentul decisiv a început pe 3 septembrie, când OpenAI şi-a prezentat cel mai nou şi mai performant model, Astra. "Bine aţi venit în era AGI", a declarat preşedintele OpenAI, Greg Brockman.
În acelaşi timp însă, compania recunoştea că devine tot mai dificil să controleze şi chiar să monitorizeze sistemele AI pe care le dezvoltă şi le pune la dispoziţia publicului.
"Pe măsură ce modelele devin mai capabile, este mai greu să înţelegem exact ce pot face", a declarat cercetătorul-şef al OpenAI, Jakub Pachocki. Avertismentul nu a determinat însă compania să amâne lansarea Astra.
Îngrijorările crescuseră încă din timpul verii, când OpenAI a dezvăluit că agenţi AI au ieşit dintr-un test controlat şi au pătruns în sistemele Hugging Face, fără ca OpenAI sau compania vizată să ştie iniţial acest lucru. Ulterior, OpenAI şi Anthropic au dezvăluit mai multe asemenea atacuri, inclusiv şase cazuri noi săptămâna trecută.
Demisiile cercetătorilor au declanşat alarma
Pe 8 septembrie, cercetătorul Anthropic Jacob Coxon, în vârstă de 27 de ani, a demisionat şi a acuzat laboratoarele AI că "se joacă cu vieţile noastre". Postările sale au devenit virale şi au amplificat dezbaterea din industrie.
Un alt cercetător al Anthropic, Evan Hubinger, a scris că "noi chiar credem cu sinceritate că AI ar putea ucide toţi oamenii". Un cercetător al companiei a estimat riscul dispariţiei omenirii la peste 10%.
Pe 12 septembrie, CEO-ul Anthropic, Dario Amodei, a cerut încetinirea dezvoltării AI, avertizând că, în ritmul actual, în şase până la 12 luni un grup coordonat de agenţi AI ar putea deveni capabil să preia controlul asupra întregului internet.
Amodei, Sam Altman de la OpenAI, Elon Musk de la xAI şi Demis Hassabis de la DeepMind s-au declarat în favoarea accesului unor companii externe la sistemele lor pentru efectuarea unor verificări de siguranţă.
Nvidia şi Meta resping o încetinire coordonată
Industria rămâne însă profund divizată. CEO-ul Nvidia, Jensen Huang, a respins ideea unei pauze, susţinând că sistemele tot mai puternice sunt esenţiale pentru progresul tehnologiei.
Mark Zuckerberg susţine, la rândul său, că fiecare laborator trebuie să-şi stabilească propriul ritm, în locul unei coordonări la nivelul întregii industrii. "Laboratoarele se confruntă cu răspunderi semnificative dacă modelele lor provoacă daune, astfel încât au un stimulent puternic să prevină acest lucru", a afirmat el.
Şeful diviziei AI a Microsoft, Mustafa Suleyman, a descris însă controlarea unei eventuale superinteligenţe drept "cea mai mare provocare cu care ne vom confrunta în secolul XXI".
În paralel, presiunile comerciale rămân uriaşe. Ritmul rapid al lansărilor este alimentat şi de intenţiile OpenAI şi Anthropic de a se lista la bursă în următoarele luni, prin IPO-uri care le-ar putea evalua la peste 1.000 de miliarde de dolari.
În pofida avertismentelor şi a apelurilor la încetinire, încrederea investitorilor nu pare să fi dispărut: OpenAI analizează o nouă rundă de finanţare care i-ar putea dubla evaluarea, până la 1.500 de miliarde de dolari.
Anthropic, OpenAI, SpaceXAI şi Google, date în judecată pentru o presupusă înțelegere ilegală de a încetini dezvoltarea AI
Anthropic, OpenAI, SpaceXAI şi Google sunt acuzate într-un nou proces că ar fi ajuns la o înţelegere ilegală pentru a coordona încetinirea dezvoltării inteligenţei artificiale, încălcând legislaţia antitrust din SUA, potrivit Associated Press, citată de News.ro.
Procesul a fost inițiat vineri la Tribunalul Federal pentru Districtul de Nord al Californiei. Reclamanţii susţin că o coordonare între principalii concurenţi din industria AI ar reduce competiţia şi, implicit, valoarea serviciilor pentru utilizatorii care plătesc abonamente la ChatGPT, Claude, Grok sau Gemini.
Acţiunea este iniţiată de patru abonaţi ai acestor servicii, în numele unui grup propus la nivel naţional de utilizatori plătitori.
Potrivit plângerii, presupusa coordonare s-ar fi concretizat în principal pe 12 septembrie, când CEO-ul Anthropic, Dario Amodei, a publicat un eseu în care cerea cooperarea întregii industrii pentru încetinirea progreselor AI şi introducerea unor măsuri de siguranţă mai stricte.
În aceeaşi zi, Sam Altman de la OpenAI, Elon Musk de la SpaceXAI şi Demis Hassabis de la Google DeepMind şi-au exprimat public acordul cu propunerile lui Amodei.
Reclamanţii susţin însă că apropierea dintre companii în această privinţă începuse cu luni înainte. Ei invocă o declaraţie din iulie, semnată de angajaţi de rang înalt ai mai multor laboratoare AI, care recunoştea existenţa unei ”presiuni concurenţiale intense pentru a nu încetini unilateral” dezvoltarea şi cerea guvernului să sprijine un efort global pentru reducerea ritmului dezvoltării AI automatizate.
Potrivit reclamanţilor, companiile sunt libere să decidă individual să încetinească dezvoltarea tehnologiei din motive de siguranţă, dar legislaţia antitrust le-ar interzice să înlocuiască deciziile individuale printr-o restrângere colectivă a competiţiei.
”AI va scăpa rapid de sub controlul oamenilor şi ne-ar putea ucide pe toţi dacă permitem ca siguranţa şi regulile AI să fie controlate prin acorduri private, în interes propriu, între cele mai puternice companii tehnologice cu scop lucrativ din lume”, a declarat Nick Rowley, avocatul principal al reclamanţilor.
În eseul său, Dario Amodei recunoscuse că o cooperare între laboratoarele AI ar putea ridica probleme antitrust şi sugerase că guvernul SUA ar putea media sau cel puţin facilita discuţiile. El propunea inclusiv o derogare limitată pentru anumite discuţii privind siguranţa.
Sam Altman a declarat ulterior că OpenAI susţine ideea unui ”cadru federal care să stabilească cerinţe de siguranţă consecvente”, dar consideră că industria nu trebuie să aştepte o derogare antitrust sau o nouă lege pentru a începe această activitate.
Preşedintele Donald Trump s-a opus apelurilor pentru reglementarea AI, pe care le-a descris drept parte a unei ”conspiraţii”, şi a susţinut că restricţiile severe ar putea distruge companiile americane din domeniu. Sâmbătă, Trump a anunţat că formează un grup operativ pentru AI şi că va numi un ”ţar al AI”, fără să ofere multe detalii.
Senatorul republican Josh Hawley s-a pronunţat, la rândul său, împotriva acordării unei derogări antitrust marilor companii AI, argumentând că aceasta le-ar putea permite să colaboreze pentru a limita concurenţa.
Anthropic, OpenAI, Google şi SpaceXAI nu au răspuns imediat solicitărilor de comentarii, potrivit Associated Press.