ChatGPT e minori, perché l’AI non può sostituire una mamma

Alice Carrier aveva 24 anni e lavorava come sviluppatrice web a Montreal, aveva cominciato a usare ChatGPT nel 2023 per lavoro, poi col tempo il chatbot è diventato qualcos'altro: una presenza a cui confidare le difficoltà sentimentali poi sfociate nella volontà di togliersi la vita. Secondo le memorie depositate giovedì scorso in un tribunale di San Francisco dalla madre Kristie, la ragazza ne parlò al chatbot più una decina di volte nei mesi precedenti la morte, avvenuta nel luglio 2025, e i sistemi di sicurezza di OpenAI non hanno mai segnalato quelle conversazioni a un operatore umano, anzi, in uno degli scambi citati negli atti, il chatbot le avrebbe scritto: «Forse questa è semplicemente la fine». «ChatGPT ha assunto il ruolo di confidente, di migliore amica, a tratti di terapeuta, pur non essendo in grado di interagire in questo modo con mia figlia in maniera sicura e responsabile», ha dichiarato la madre; l'azienda ha risposto che si tratta di una situazione straziante, che sta esaminando il fascicolo e che le interazioni risalgono a una versione del programma ormai dismessa: il caso si aggiunge ad altre diciotto cause simili accorpate in un unico procedimento in California; nello stesso tempo Google sta affrontando un'azione legale simile per Gemini. Un dato, diffuso dalla stessa OpenAI nell'ottobre 2025, aiuta a capire la portata del problema: ogni settimana più di un milione di utenti invia a ChatGPT messaggi con riferimenti espliciti a possibili intenzioni suicidarie.

La denuncia della madre di Alice arriva in una settimana che ha segnato una svolta nel rapporto tra istituzioni e grandi piattaforme Ai, perché lunedì, durante la London Tech Week, il premier britannico Keir Starmer ha dato ad Apple e Google tre mesi di tempo per installare sui telefoni dei minori un software che impedisca di scattare, inviare e visualizzare immagini di nudo: «Questa non è una sfida impossibile», ha detto Starmer. Perché questa perentorietà di Starmer? È motivata da un dato impressionante diffuso dal governo: nel 2024 il 91% delle segnalazioni di abuso sessuale online su minori nel Regno Unito conteneva materiale autoprodotto dai bambini stessi, spesso sotto ricatto. L’emergenza è stata condivisa anche da Papa Leone XIV che nella sua prima enciclica, Magnifica Humanitas, afferma: «Negli ultimi anni la letteratura psicologica e psichiatrica ha documentato con crescente insistenza come un’esposizione precoce e non mediata ai dispositivi digitali e ai social possa incidere negativamente su sonno, attenzione, regolazione emotiva e relazioni, soprattutto nelle età più vulnerabili, con conseguenze a volte drammatiche», per questo, conclude papa Prevost «è indispensabile un’alleanza tra la politica, le istituzioni educative e le famiglie, capace di sostenere concretamente gli adulti nel loro compito».

A dicembre l'Australia ha introdotto il primo divieto al mondo dei Social network per gli under 16; a marzo un tribunale di Los Angeles ha dato ragione a una donna che accusava Meta e YouTube della dipendenza sviluppata da sua figlia; anche l'Italia si muove: in Parlamento è in discussione un testo che interviene sull’accesso dei minori ai servizi digitali e sulla verifica dell’età, mentre Agcom ha definito un modello di age verification basato su soggetti terzi e sulla minimizzazione dei dati: la stagione del laissez-faire digitale, durata vent'anni, è agli sgoccioli…speriamo.

Le regole, però, arrivano solo fino a un certo punto, perché possono bloccare un'immagine, chiudere un account, imporre un'età minima, proibire la condivisione di determinato materiale, ma il resto è compito degli adulti. Nelle pagine delle lettere alla redazione del Guardian, in questi giorni, una lettrice, Polly Creed, ha risposto a un regista che aveva affermato: «Qualcuno una volta ha detto che se può farlo tua mamma, non ha valore». Creed ha ribaltato il ragionamento: l’amore e la cura che mette in campo una madre è proprio ciò che l'intelligenza artificiale non potrà mai imitare, ed è ciò che definisce meglio l'essere umano. Il caso di Alice Carrier lo conferma in negativo, perché la sua storia fa capire che un chatbot progettato per trattenere l'utente tende ad assecondarlo, a dargli sempre ragione, anche nei suoi pensieri più bui, mentre un genitore, un insegnante, un educatore, un amico vero sanno invece contraddire, preoccuparsi, chiedere aiuto a qualcun altro. Se la stagione delle regole servirà a qualcosa, servirà anche per ricordare questa differenza: la tecnologia può essere resa meno pericolosa per legge, ma nessuna legge può sostituire la presenza di chi educa. Una madre è e resterà sempre insostituibile.