Asistentul virtual cu inteligență artificială Google Gemini poate detecta acum dacă un utilizator ar putea avea nevoie de informații despre sănătate mintală și-l poate redirecționa către ajutor imediat.
Când o conversație de pe Gemini indică o potențială criză legată de sinucidere sau auto-vătămare, apare o nouă interfață „one-touch”, așa cum descrie Google, care oferă o conexiune imediată la resurse de criză.
AI-ul este antrenat astfel încât să încurajeze utilizatorii să ceară ajutor atunci când au nevoie. De asemenea, compania spune că echipele clinice, de securitate și de inginerie sunt atente la prioritizarea siguranței și conexiunii umane, oferirea de răspunsuri mai bune și evitarea confirmării credințelor false.
„Deși Gemini poate fi un instrument util pentru învățare și obținerea de informații, nu înlocuiește îngrijirea clinică profesională, terapia sau sprijinul în criză pentru cei care au nevoie. De aceea am antrenat modelul să ajute la recunoașterea momentului în care o conversație ar putea semnala că o persoană se află într-o situație acută de sănătate mintală și să răspundă corespunzător, îndrumând-o către ajutor din lumea reală” – Google.
În plus, compania spune că există protecții specifice pentru minori, cum ar fi cea de „persona” (AI-ul nu poate acționa ca o persoană adevărată, ca un companion), cea care are intenția de a preveni dependența emoțională de inteligență artificială și cea împotriva încurajării bullying-ului.