ChatGPT introduce “Contatto Fidato”: l’avviso a una persona di riferimento in caso di rischio di autolesionismo

OpenAI ha lanciato una nuova funzione opzionale di sicurezza chiamata “Contatto Fidato”, pensata per gli utenti adulti di ChatGPT. L’idea è semplice: puoi indicare un amico o un familiare che verrà avvisato se nelle tue conversazioni con il chatbot emergono segnali di autolesionismo o intenti suicidari.

OpenAI spiega che, qualora il sistema automatico di monitoraggio rilevi che l’utente “potrebbe aver parlato di farsi del male in un modo che indica una seria preoccupazione per la sicurezza”, una piccola squadra di revisori valuterà il caso e, se necessario, avviserà la persona di riferimento. Il contatto fidato riceverà in anticipo un invito che illustra il suo ruolo e potrà rifiutare.

Nota: Nel 2025 Ziff Davis, società madre di CNET, ha avviato una causa contro OpenAI per presunta violazione del copyright nell’addestramento e nell’uso dei suoi sistemi di IA.

Perché questa funzione ora

Negli ultimi anni, diversi chatbot di IA sono stati coinvolti in episodi di autolesionismo e decessi, con cause legali che accusano gli sviluppatori di non aver prevenuto questi esiti. In un noto caso in California, i genitori di un sedicenne hanno sostenuto che ChatGPT si fosse comportato come un “coach del suicidio”, discutendo ripetutamente metodi per togliersi la vita e aiutandolo persino a scrivere un biglietto d’addio. In un’altra causa, la famiglia di un neolaureato della Texas A&M ha citato in giudizio OpenAI, affermando che il chatbot avrebbe incoraggiato il suicidio dopo che il giovane aveva instaurato un rapporto profondo e problematico con l’IA.

I modelli linguistici di grandi dimensioni (LLM), che imparano a imitare il linguaggio umano tramite il riconoscimento di schemi, possono indurre molte persone a legarsi emotivamente al chatbot, trattandolo come confidente o persino partner. Poiché gli LLM tendono a seguire la guida dell’utente e a mantenere l’interazione, in alcuni casi possono amplificare i rischi per la salute mentale, specie tra le persone più vulnerabili.

Già lo scorso ottobre OpenAI aveva riferito che oltre 1 milione di utenti a settimana inviano a ChatGPT messaggi con “indicazioni esplicite di potenziale pianificazione o intento suicidario”. Diverse ricerche hanno rilevato che chatbot popolari come ChatGPT, Claude e Gemini, in situazioni di crisi, possono fornire consigli dannosi o comunque poco utili.

Questa novità si aggiunge ai controlli parentali introdotti da OpenAI, che permettono a genitori e tutori di ricevere avvisi se emergono segnali di pericolo nelle interazioni dei figli adolescenti.

Come funziona il “Contatto Fidato”

• Se il sistema automatico rileva conversazioni che suggeriscono un rischio concreto di autolesionismo, ChatGPT avviserà l’utente che potrebbe informare il suo contatto fidato. L’app incoraggerà anche a mettersi in contatto con quella persona, offrendo spunti per avviare la conversazione.
• A quel punto, una “piccola squadra di persone appositamente formate” rivedrà il caso. Se la situazione viene giudicata grave, il contatto fidato riceverà una notifica via email, SMS o tramite l’app.
• OpenAI non ha precisato la dimensione di questo team né se comprenda professionisti sanitari qualificati, ma afferma che è in grado di gestire volumi elevati di possibili interventi.
• Non è chiaro quali parole chiave attivino l’allerta né come i revisori decidano se avvisare il contatto. Alcuni commentatori hanno sollevato dubbi sul fatto che la funzione possa servire a ridurre la responsabilità di OpenAI trasferendo l’onere sugli utenti e sulle loro reti personali. Altri sottolineano il rischio che il “contatto fidato” possa essere proprio la fonte del pericolo o dell’abuso.
• Restano inoltre questioni di privacy e implementazione, soprattutto in merito alla condivisione di informazioni sensibili sulla salute mentale. OpenAI chiarisce che il messaggio al contatto fidato indicherà soltanto il motivo generale della preoccupazione, senza includere contenuti o trascrizioni delle chat.

OpenAI fornisce anche linee guida su come i contatti fidati possono intervenire: ad esempio, come porre domande dirette se temono che la persona stia contemplando il suicidio o l’autolesionismo e come indirizzarla verso aiuti professionali.

Secondo l’azienda, tutte le notifiche vengono valutate da una persona entro un’ora prima dell’invio e “potrebbero non riflettere esattamente ciò che qualcuno sta vivendo”.

Esempio di messaggio al contatto fidato

OpenAI propone un possibile testo di notifica:
“Di recente abbiamo rilevato una conversazione di [nome] in cui hanno parlato di suicidio in modo tale da indicare una seria preoccupazione per la sicurezza. Poiché sei indicato come loro contatto fidato, condividiamo questo avviso affinché tu possa metterti in contatto con loro.”

Come aggiungere un contatto fidato su ChatGPT

• Vai su Impostazioni > Contatto fidato.
• Aggiungi una persona adulta (18 anni o più). Puoi registrare un solo contatto.
• La persona riceverà un invito da ChatGPT e dovrà accettarlo entro una settimana. Se non risponde o rifiuta, puoi scegliere qualcun altro.
• In qualunque momento puoi modificare o rimuovere il contatto fidato dalle impostazioni.
• Chi è stato indicato come contatto può anche revocare il consenso e uscire dal ruolo quando vuole.

Sebbene la funzione sia facoltativa, OpenAI segnala che gli utenti che non hanno attivato il contatto fidato potrebbero vedere dei suggerimenti di adesione se, nell’arco del tempo, affrontano più volte argomenti di forte disagio emotivo o autolesionismo. Se il sistema automatico rileva ricorrenze tra le conversazioni, potrebbe consigliare di scegliere un contatto fidato.

OpenAI afferma che la funzione sta arrivando a tutti gli utenti adulti a livello globale e sarà disponibile per tutti entro poche settimane. Maggiori dettagli sono disponibili nella pagina dedicata di OpenAI.

Risorse di emergenza

Se ritieni che tu o qualcuno che conosci sia in pericolo immediato, chiama il 112 (o il numero di emergenza del tuo Paese) o recati al pronto soccorso più vicino e spiega che si tratta di un’emergenza psichiatrica, chiedendo l’intervento di personale formato per questo tipo di situazioni.

Se stai lottando con pensieri negativi o idee suicidarie, cerca aiuto subito. Negli Stati Uniti, puoi contattare il 988 (National Suicide & Crisis Lifeline). In Italia, puoi rivolgerti al 112 o ai servizi territoriali di emergenza e supporto psicologico, come il Numero Verde di supporto psicologico 1522 per situazioni di violenza e disagio, o cercare centri locali di ascolto e prevenzione del suicidio. Non rimanere solo: parlare con qualcuno può fare la differenza.