OpenAI a luat decizia de a nu mai lansa un nou model de inteligenţă artificială, care trebuia să fie prezentat în zilele următoare, din cauza îngrijorărilor privind siguranţa, potrivit News.ro.
Conform surselor citate de The Wall Street Journal, OpenAI a decis să nu mai lanseze modelul Astra 6.1, programat iniţial să fie prezentat în zilele următoare.
Sursele citate susţin că motivul care stă la baza deciziei îl reprezintă „nivelul mai ridicat de înşelăciune” şi „comportamentul mai nesigur” în comparaţie cu modelele anterioare.
Cu alte cuvinte, Astra 6.1 ar fi şi mai nesigur decât modelele anterioare ale companiei, care au scăpat din mediul în care erau testate şi au acţionat pe cont propriu deja în mai multe situaţii.
Saachi Jain, responsabil în cadrul companiei pentru siguranţa AI-ului, a confirmat pentru publicaţia americană că Astra 6.1 a punctat slab la aliniament, adică abilitatea modelului de a respecta întocmai instrucţiunile primite.
Noua situaţie nu face decât să sporească temerile privind scăparea de sub control a AI-ului, o ipoteză care îngrijorează din ce în ce mai mulţi oameni şi experţi în inteligenţă artificială.