Meta AI, nuove regole per i minori: allerta ai genitori in caso di chat sul suicidio

L’intelligenza artificiale entra sempre più nella quotidianità degli adolescenti, ma con essa cresce anche l’attenzione verso la sicurezza dei più giovani. Per questo Meta ha annunciato una serie di nuove funzionalità dedicate agli utenti minorenni che utilizzano Meta AI su Instagram, Facebook e WhatsApp. L’obiettivo è intercettare precocemente eventuali segnali di suicidio o autolesionismo, offrire indicazioni per cercare aiuto e coinvolgere i genitori quando emergono situazioni potenzialmente preoccupanti. Le nuove misure saranno introdotte gradualmente a livello globale e rappresentano un ulteriore passo nel dibattito sul ruolo dell’intelligenza artificiale nella prevenzione del disagio mentale tra gli adolescenti.

Come funzionano i nuovi avvisi ai genitori

La novità principale riguarda gli adolescenti che utilizzano Meta AI e i cui genitori hanno attivato gli strumenti di supervisione di Instagram. Se durante una conversazione con l’assistente emergono riferimenti al suicidio, all’autolesionismo o ad altri segnali di grave disagio psicologico, il sistema potrà inviare una notifica ai genitori. Prima dell’invio dell’avviso, però, ogni conversazione verrà sottoposta a una revisione manuale, con l’obiettivo di limitare gli errori. Meta precisa che, nei casi in cui il significato dei messaggi non sia completamente chiaro, adotterà comunque un approccio prudenziale, preferendo informare il genitore anche a costo di qualche falso allarme.

L’intelligenza artificiale invita a cercare aiuto

Quando individua contenuti che fanno pensare a una possibile situazione di crisi, Meta AI non si limita a rispondere alla domanda, ma propone all’adolescente di rivolgersi a un genitore, a un adulto di fiducia, a una linea di supporto specializzata oppure, se necessario, ai servizi di emergenza. L’azienda ha inoltre annunciato di essere al lavoro su strumenti che, nei casi di rischio imminente di suicidio, possano anche contribuire ad allertare direttamente i servizi di emergenza. Si tratta però di funzionalità ancora in fase di sviluppo.

Come vengono riconosciuti i segnali di rischio

Secondo Meta, il sistema è stato costruito con il contributo di esperti di salute mentale, consulenti specializzati nella prevenzione del suicidio, professionisti della salute degli adolescenti e rappresentanti delle famiglie. L’algoritmo è stato addestrato a riconoscere non soltanto dichiarazioni esplicite, ma anche riferimenti indiretti o particolarmente sfumati all’autolesionismo, che potrebbero rappresentare un primo campanello d’allarme. Per validare il funzionamento del sistema, oltre 75 specialisti della salute hanno valutato le risposte fornite dall’intelligenza artificiale a centinaia di richieste riguardanti suicidio e autolesionismo, indicando punti di forza e possibili miglioramenti.

Più restrizioni per gli account degli adolescenti

Le nuove misure si inseriscono nelle protezioni già previste per i Teen Account di Meta. Gli account degli adolescenti sono infatti configurati automaticamente con impostazioni specifiche per l’età, che limitano le conversazioni considerate inappropriate. L’intelligenza artificiale è progettata, ad esempio, per non intrattenere conversazioni di natura sessuale o romantica con i minorenni e per non fornire istruzioni relative ad attività ritenute inadatte, come la preparazione di bevande alcoliche. Inoltre, l’impostazione “Contenuti limitati”, già disponibile su Instagram, viene ora estesa anche alle conversazioni con Meta AI. Quando i genitori la attivano, l’assistente rifiuta una gamma ancora più ampia di richieste, riducendo ulteriormente l’esposizione degli adolescenti a contenuti potenzialmente dannosi.

Cosa cambia per famiglie e tutela della salute mentale

Le nuove funzionalità riflettono una crescente attenzione verso il possibile impatto dell’intelligenza artificiale sulla salute mentale degli adolescenti, un tema sempre più centrale anche per istituzioni sanitarie e associazioni impegnate nella prevenzione del suicidio. Dal punto di vista dei pazienti e delle famiglie, questi strumenti non sostituiscono il supporto psicologico o sanitario, ma possono rappresentare un elemento aggiuntivo per favorire un’identificazione più precoce delle situazioni di vulnerabilità. La possibilità di coinvolgere tempestivamente un adulto di riferimento potrebbe infatti facilitare l’accesso ai servizi di assistenza e ai percorsi di cura quando emergono segnali di sofferenza psicologica.

Iscriviti alla Newsletter di Sanità Informazione per rimanere sempre aggiornato