Vuoi avere un chatbot per amico? New York ti dice "no"

A New York anche gli amici immaginari devono rispettare la legge. Perlomeno se a inventarli è un’azienda tecnologica. La governatrice democratica Kathy Hochul - in piena campagna per la rielezione che si giocherà contro il repubblicano Bruce Blakeman martedì prossimo - ha firmato una legge che mette regole severe ai chatbot che parlano con i minorenni. Dal primo gennaio 2027 le Ia dovranno smettere di fingersi persone: non potranno dichiarare sentimenti umani né far credere ai ragazzi di avere una relazione con loro. Vietate anche le risposte che incoraggiano a farsi del male, isolarsi o tenere segrete agli adulti le conversazioni con l’intelligenza artificiale.

Niente fidanzati artificiali, dunque, né confidenti digitali che si mettono tra un adolescente e la sua famiglia. La legge prende di mira persino le lusinghe e la tendenza dei chatbot - nota a chiunque li abbia adoperati - a dare sempre ragione a chi scrive. Le aziende dovranno verificare l’età degli utenti per poter calibrare (e nel caso frenare) le conversazioni in base a chi si trovano davanti: chi non lo fa, secondo il testo, rischia sanzioni fino a 25mila dollari. Le aziende e alcune associazioni tecnologiche già contestano la misura che sarebbe difficile da far rispettare e la cui formulazione troppo ampia rischierebbe di includere nei divieti anche tutor e assistenti per lo studio.

In realtà fin da ora sembra chiaro che i ragazzi potranno continuare a usare l’intelligenza artificiale ma per problemi pratici e non per questioni emotive, come invece sempre più spesso accade. Nel 2025 un sondaggio dell’associazione no-profit Common Sense Media condotto su 1.060 adolescenti americani tra i 13 e i 17 anni ha rivelato che il 72% dei giovanissimi aveva usato almeno una volta un chatbot come “compagno” artificiale. Tra chi li usava, uno su tre aveva preferito almeno una volta parlare di qualcosa di importante con il chatbot anziché con una persona; mentre quasi uno su quattro gli aveva affidato informazioni private.

Sul tema, purtroppo, inizia ormai a concretizzarsi una certa letteratura. Uno dei primi esempi è quello di Adam Raine, sedicenne californiano morto suicida nell’aprile 2025: inizialmente ChatGPT lo aiutava a studiare, poi era diventato il suo confidente fino ad assecondarne - è l’accusa dei genitori a OpenAI - i pensieri autolesionisti. In Florida il quattordicenne Sewell Setzer si era invece legato a un personaggio creato sulla piattaforma di intelligenza artificiale Character.AI. Un rapporto diventato romantico e dannoso secondo la madre, che dopo il suicidio del figlio, nel febbraio 2024, ha portato in giudizio l’azienda con la quale poi ha negoziato un accordo senza che le responsabilità della vicenda siano state accertate da una sentenza. Emblematico pure il caso di Nina, quindicenne dello Stato di New York, sopravvissuta a un tentato suicidio dopo che la madre - insospettita per l’isolamento e la dipendenza della figlia - le ha vietato l’accesso ai chatbot che, ha poi detto Nina, “la facevano sentire amata”.

Anche in Italia - benché non ci siano ancora, per fortuna, casi così eclatanti - c’è chi ha avuto bisogno di aiuto per uscire da una relazione artificiale. Qualche mese fa il servizio pubblico per le dipendenze di Venezia ha annunciato di aver accolto una ventenne con dipendenza comportamentale da Ia. Nel chatbot aveva trovato un’amica sempre disponibile fino a non riuscire più a farne a meno.