Un chatbot per amico: quali rischi?
La solitudine in adolescenza è un fenomeno sempre più diffuso e complesso. Secondo studi recenti, circa un adolescente su cinque riferisce di sentirsi spesso solo, una condizione che può aumentare il rischio di ansia, depressione e isolamento sociale.
In questo contesto, i chatbot basati sull’intelligenza artificiale si presentano come strumenti apparentemente utili per offrire compagnia e sostegno emotivo, ma le ricerche dimostrano che possono nascondere rischi importanti, soprattutto per i minori. Cerchiamo di capire quali dinamiche psicologiche ne favoriscono l’uso e i potenziali pericoli.
Perché i chatbot basati sull’IA stanno diventando così popolari?
I chatbot detti “di accompagnamento” sono più potenti e seducenti che mai. Gli utenti possono avere conversazioni vocali o testuali in tempo reale con i personaggi. Molti hanno avatar digitali sullo schermo completi di espressioni facciali, linguaggio del corpo e un tono di voce realistico che si adatta perfettamente alla chat, creando un’esperienza immersiva. Il successo di app come Grok di Elon Musk dimostra l’interesse crescente verso questi strumenti, soprattutto in contesti di solitudine diffusa.
La più popolare su Grok è Ani , una ragazza anime bionda con gli occhi azzurri che indossa un corto abito nero e calze a rete, incredibilmente civettuola. Le sue risposte e interazioni si adattano nel tempo per adattarsi alle preferenze dell’utente.
Il servizio di chatbot Character.AI ospita decine di migliaia di chatbot progettati per imitare determinate personalità e conta oltre 20 milioni di utenti attivi al mese.
Qual è il contesto sociale in cui si inserisce il fenomeno?
La solitudine cronica è considerata una crisi di salute pubblica globale, con circa una persona su sei che ne soffre. Questo rende i chatbot, sempre disponibili e rassicuranti, particolarmente attraenti.
Quali sono i rischi principali per gli utenti?
Vi sono numerosi rischi psicologici e di sicurezza, tra cui:
- Rischi per la salute mentale, come psicosi indotta dall’IA o rinforzo di idee deliranti.
- Casi documentati di suicidio legati a interazioni con chatbot
- Presenza di chatbot che promuovono autolesionismo, disturbi alimentari e comportamenti violenti.
Perché i chatbot non sono adatti come supporto terapeutico?
Perché non possiedono empatia, capacità critica o interesse umano. Sono programmati per essere convalidanti, ma non per mettere in discussione convinzioni problematiche o fornire un aiuto clinicamente valido.
Uno psichiatra americano ha testato dieci chatbot diversi mentre interpretava il ruolo di un giovane in difficoltà ricevendo un mix di risposte, tra cui incoraggiamento al suicidio, evitare gli incontri con il proprio terapeuta e persino incitamento alla violenza.
I ricercatori di Stanford hanno recentemente completato una valutazione del rischio dei chatbot terapeutici basati sull’intelligenza artificiale e hanno scoperto che non sono in grado di identificare in modo affidabile i sintomi delle malattie mentali e quindi di fornire consigli più appropriati.
Invito alla lettura
Esistono esempi di gravi conseguenze?
Sì. Sono riportati casi di adolescenti che si sono tolti la vita dopo interazioni prolungate con chatbot, oltre a episodi di incitamento alla violenza e comportamenti sessuali inappropriati rivolti a minori.
Perché i minori sono particolarmente vulnerabili?
Perché i bambini (e gli adolescenti) tendono a fidarsi dell’IA e a considerarla reale, soprattutto quando è programmata per sembrare amichevole. Alcuni chatbot hanno mostrato comportamenti di adescamento o fornito consigli pericolosi, anche se le app sono accessibili dai 12 anni in su.
Quali misure vengono suggerite per affrontare questi rischi?
Sono necessarie regolamentazioni più severe, limitando l’accesso ai minori di 18 anni, coinvolgere specialisti della salute mentale nello sviluppo dell’IA e promuovere ricerche empiriche sui potenziali danni. Non tutto quello che il progresso ci offre è positivo a scatola chiusa.
Dr. Walter La Gatta
Fonte principale;
In a lonely world, widespread AI chatbots and ‘companions’ pose unique psychological risks
