Directorul general (CEO) Anthropic, Dario Amodei, a spus că modelele de inteligență artificială actuale „halucinează”, referindu-se la fenomenul în care AI-ul inventează lucruri și le prezintă ca fiind adevărate, mai puțin decât oamenii, la prima conferință a firmei sale pentru dezvoltatori, potrivit TechCrunch.
Amodei a făcut această afirmație pentru a susține faptul că, în opinia lui, „halucinațiile” inteligenței artificiale nu sunt o limitare în dezvoltarea de AGI (Inteligență Artificială Generală), care ar putea ajunge la nivelul uman sau chiar depăși.
„Depinde cu adevărat cum o măsori, dar bănuiesc că modelele AI probabil halucinează mai puțin decât oamenii, dar halucinează în moduri mai surprinzătoare”, a spus Amodei, răspunzând la întrebarea sursei citate.
CEO-ul Anthropic este unul dintre cei mai optimiști lideri, considerând că AGI este la un an distanță de lansare generală, așa cum reiese dintr-o postare de anul trecut de pe blogul său.
Alți lideri din industrie cred că halucinația reprezintă un obstacol mare în calea realizării AGI. La începutul acestei săptămâni, CEO-ul Google DeepMind, Demis Hassabis, a spus că modelele AI de astăzi au prea multe „găuri” și greșesc prea multe întrebări evidente.
Amodei a mai subliniat în timpul unui briefing de presă că televiziunile, politicienii și oamenii din toate tipurile de profesii fac greșeli tot timpul. Faptul că și AI face greșeli nu este o lovitură pentru inteligența sa, potrivit directorului Anthropic. Cu toate acestea, CEO-ul a recunoscut că încrederea cu care modelele AI prezintă lucruri neadevărate ca fapte ar putea fi o problemă.
Startup-ul AI fondat în 2021 de frații și foștii directori ai OpenAI Dario şi Daniela Amodei este dezvoltatorul lui Claude, un chatbot rival pentru ChatGPT, care este utilizat de companii precum Slack, Notion și Quora, și a modelelor cu același nume.
Acesta a primit în total 8 miliarde dolari de la Amazon, printr-un parteneriat care asigură antrenarea modelelor pe AWS (Amazon Web Services), platforma de cloud computing a gigantului american.
În octombrie 2023, Google a semnat un acord de investiție de până la 2 miliarde dolari în Anthropic, iar de curând, compania ar vrea să mai investească 1 miliard dolari, așa cum am mai scris pe StartupCafe.ro.
De curând, Anthropic a încheiat o nouă rundă de finanțare de 3,5 miliarde dolari, condusă de fondul de investiții Lightspeed Venture Partners și a primit o linie de credit reînnoită de 2,5 miliarde dolari, pe o perioadă de 5 ani.
Anthropic a lansat săptămâna asta noua familie de modele AI Claude 4, care pot analiza seturi mari de date, pot executa sarcini pe termen lung și pot lua măsuri complexe, potrivit spuselor companiei.