A cura di Matteo Navacci (nella foto), co-founder di Privacy Week.
Qualche giorno fa la California ha promulgato la prima legge statunitense mirata a disciplinare le app che forniscono servizi di “companion AI”, cioè sistemi di intelligenza artificiale che operano come se fossero esseri umani, emulandone anche le capacità emotive e relazionali.
Per capirci, sul business dei companion ha puntato anche xAI, l’azienda di Elon Musk che sviluppa Grok. I companion sviluppati da xAI, sono attualmente due, più uno in arrivo prossimamente:
- Ani: un personaggio femminile in stile anime goth (con un vestito a corsetto nero e calze a rete fino alle cosce), con un’esplicita propensione al flirting e capace di interazioni destinate agli adulti.
- Rudy: un panda rosso con una personalità sarcastica e volgare, che può essere impostato su una versione più amichevole. Rudy è noto per l’umorismo grezzo e i suoi consigli caotici.
- Chad: un personaggio maschile, anche questo in stile anime, menzionato come “coming soon” ma non ancora rilasciato.
La legge californiana, in vigore dal primo gennaio 2026, si propone di implementare requisiti di sicurezza per proteggere i minori e gli utenti più psicologicamente vulnerabili, in particolare per identificare e rispondere prontamente a tendenze suicide.
Il tema è molto rilevante. Lo scorso anno ci fu il caso eclatante di Sewell Setzer, un ragazzino che per mesi parlò e si confidò con un chatbot di Character.AI che simulava il personaggio di Daenerys Targaryen — fino ad innamorarsene. Nel diario, letto dalla madre dopo il suo suicidio, confessava a se stesso che stava male per il fatto di non poter stare fisicamente insieme a Daenerys, di cui si era innamorato.
Fu proprio il chatbot l’ultimo a parlare con lui, poco prima di chiudersi nel bagno di casa e togliersi la vita. Di questo ne ha parlato Matteo Navacci, co-founder di Privacy Week, a novembre dello scorso anno in un articolo su Cyber Hermetica che si può rileggere qui.
“I chatbot sentimentali rappresentano una delle frontiere più complesse dell’intelligenza artificiale: promettono compagnia, empatia e supporto emotivo, ma possono anche diventare strumenti di dipendenza e manipolazione. La nuova legge californiana è un segnale importante: riconosce che l’interazione affettiva con un algoritmo non è un gioco, ma una relazione che può incidere profondamente sul benessere psicologico delle persone, soprattutto dei più giovani. Alla Privacy Week vogliamo portare questa riflessione fuori dal mondo tech, perché riguarda tutti noi: il modo in cui costruiamo legami, cerchiamo conforto e affidiamo parti sempre più intime della nostra vita alle macchine” – afferma Matteo Navacci, co-founder di Privacy Week.
Il tema è molto importante, è importante riflettere e trovare soluzioni. Anche durante la PW, che si terrà a Milano dal 27 al 30 ottobre, si parlerà di questo in un panel dal titolo “Ti salverò da ogni malinconia…” con protagonisti Guido Scorza, componente del Collegio del Garante per la protezione dei dati personali e autore del libro “Diario di un chatbot sentimentale”, Ilaria Albano, Psicologa, speaker e divulgatrice scientifica, autrice del libro “Il Metodo Scortese” e Norma Rossetti, founder di MySecretCase e autrice di “A saperlo prima. Di sesso, amore e faccende universali: lettere dall’adolescenza”
