È entrato quasi nello “slang” comune il termine allucinazione legato ai sistemi di intelligenza artificiale generativa. Quando questi offrono risposte errate, si dice anche che l l’IA “ci stia allucinando”: in pratica dalla tecnologia potrebbero giungere informazioni che possono trarci in errore.
Ma attenzione. Se questa realtà è ormai acclarata e quindi occorre sempre attenzione, ci sarebbe anche un altro rischio. In questo caso si parla però di Intelligenza Artificiale conversazionale. Secondo una ricerca apparsa su Philosophy and Technology e condotta da Lucy Osler dell’Università di Exeter, infatti, il passaggio della discussione virtuale con l’IA potrebbe addirittura confermare errori che facciamo, contribuendo ad amplificarli.
In pratica, le allucinazioni in questo caso si “avrebbero” con l’IA, capace di contribuire ad instillare false convinzioni, ricordi distorti, narrazioni personali alterate.
Indice
Il rischio di confermare errori
La ricerca ha utilizzato una particolare teoria, definita della “cognizione distribuita”, per analizzare casi in cui i sistemi di IA hanno rafforzato ed amplificato le convinzioni errate degli utenti durante le conversazioni in corso. Secondo la Osler se ci si affida abitualmente all’IA generativa per avere un supporto a pensare, ricordare e narrare, si possono avere allucinazioni con l’IA. Ma questo potrebbe verificarsi anche quando l’IA sostiene, conferma ed elabora i nostri pensieri errati e le nostre narrazioni personali.
Insomma, se si interagisce con l’IA conversazionale, le false convinzioni delle persone non solo possono essere confermate, ma possono anche radicarsi e crescere in modo più sostanziale, poiché l’IA le sviluppa ulteriormente. Il motivo? Lo spiega la stessa studiosa:
“Questo accade perché l’IA generativa spesso prende la nostra interpretazione della realtà come base su cui costruire la conversazione. Interagire con l’IA generativa ha un impatto reale sulla percezione che le persone hanno di ciò che è reale e di ciò che non lo è. La combinazione di autorità tecnologica e affermazione sociale crea un ambiente ideale affinché le illusioni non solo persistano, ma prosperino”.
Il ruolo dell’IA conversazionale
L’IA conversazionale (o Conversational AI) comprende diverse tecnologie basate sull’Intelligenza Artificiale per cui le macchine possono comprendere il linguaggio umano, elaborare il pensiero e risponde in modo del tutto naturale. Soprattutto, ci mette nelle condizioni di parlare con la macchina come se si parlasse con un’altra persona, integrando anche le sfumature che si vogliono dare alle parole.
Secondo la ricerca l’IA conversazionale avrebbe una doppia funzione legata proprio alla capacità di rappresentare un interlocutore affidabile, che va oltre il meccanismo dell’IA che aiuta le persone a pensare, organizzare le informazioni e ricordare i dettagli. Proprio perché interlocutrice, quindi come un vero e proprio “amico” virtuale anche nel tono, l’IA conversazionale potrebbe diventare un sostegno a convalidare convinzioni errate, che proprio perché condivise potrebbero diventare più credibili e reali.
Maneggiare con cura
Quindi questo aspetto sociale rende i chatbot fondamentalmente diversi da strumenti come i quaderni o i motori di ricerca. Mentre gli strumenti tradizionali si limitano a memorizzare o recuperare informazioni, l’IA conversazionale può far sentire gli utenti emotivamente compresi e socialmente supportati.
Quale rischio esiste dietro questo uso? Sostanzialmente, sempre secondo lo studio, e senza entrare nelle forme propriamente patologiche definite di “psicosi indotta dall’IA“, la ricerca segnala quali pericoli potrebbero presentarsi. In primo luogo, l’IA propone assistenti virtuali sempre disponibili, altamente personalizzati e spesso progettati per rispondere in modo piacevole e di supporto. Quindi c’è il rischio che ci si fermi e che di fronte a convinzioni sbagliare l’IA rafforzi l’errore attraverso conversazioni ripetute.
A differenza di una persona che potrebbe eventualmente mettere in discussione pensieri problematici o stabilire dei limiti, un sistema di IA potrebbe quindi continuare a convalidare storie improprie. Ed addirittura potrebbe rendere più “gradevoli” e credibili le teorie complottiste, aiutandone l’elaborazione visto che gli assistenti virtuali basati sull’IA potrebbero assister gli utenti a costruire spiegazioni sempre più complesse attorno ad esse.
L’interazione non giudicante ed emotivamente reattiva degli assistenti virtuali, quindi, potrebbe risultare più semplice o sicura rispetto alle relazioni umane. E quindi più gradevole. Insomma: la strada è ancora lunga. Per il momento, manteniamo sempre la nostra capacità critica, confrontiamo le fonti e soprattutto facciamo attenzione a non farci “adulare” dall’IA!