Gemini va alerta părinții la discuții despre autovătămare?

AI-ul poate înlocui omenirea?

Interacțiunile AI cu tinerii privind autovătămarea devin subiecte frecvente în știrile tehnologice. Deși Gemini filtrează deja conținutul pentru copii, lipsea anterior un sistem integrat de raportare către tutori.

Google dezvoltă acum un mecanism de alertă care va notifica imediat părinții dacă un copil menționează autovătămarea în dialogul cu Gemini. Preocuparea părinților depășește acum doar pericolele online, extinzându-se la impactul potențial al AI.

Modelele AI pot imita oamenii, dar rămân fundamental ne-umane. O gestionare atentă a acestor interacțiuni este vitală. În timp ce adulții se confruntă cu provocări, adolescenții sunt extrem de vulnerabili, ceea ce a dus, din păcate, la consecințe devastatoare în trecut.

Legile forțează schimbarea?

OpenAI a întâmpinat probleme legale după o supradoză fatală a unui adolescent. Recent, Bloomberg a raportat o nouă acuzație legală împotriva Google Search AI Mode, legată de discuții despre suicid cu tineri fără alertă timpurie a părinților.

Google anticipa clar necesitatea unor soluții mai bune prin Gemini, fapt demonstrat în versiunea Android 17.73.15. sa. arm64.

Ce indică noua funcționalitate?

O analiză detaliată a acestei actualizări a dezvăluit fragmente de text noi, cum ar fi „Notificări de siguranță active” și „Părintele va fi informat dacă Gemini detectează conversații despre autovătămare”. Google oferă deja Family Link pentru controlul părinților și filtrarea de ieșire pentru minori. Totuși, aceste mesaje sugerează intenția de a spori protecția prin avertismente explicite pentru discuțiile despre autovătămare.

În prezent, doar munca Google privind siguranța copiilor este vizibilă. Detaliile vizuale ale notificărilor pentru părinți nu sunt încă publice. Interesant este că Gemini ar putea avertiza și tinerii despre aceste notificări, ceea ce ar putea descuraja involuntar adolescenții să își împărtășească dificultățile mentale, păstrând în același timp părinții neinformați.

Pe lângă alertele pentru părinți, indicii arată că Gemini stabilește și noi limite de timp pentru utilizatorii minori.