L’episodio ha avuto origine quando Bernklau ha deciso di utilizzare Copilot per monitorare la diffusione dei suoi articoli online, inserendo il proprio nome e luogo di residenza. Inaspettatamente, l’intelligenza artificiale ha associato il giornalista a crimini terribili, trasformandolo in un fuggitivo da un istituto psichiatrico, nonché in un abusatore di minori e truffatore.

Questa distorsione è avvenuta poiché Copilot ha erroneamente collegato il nome di Bernklau ai casi giudiziari su abusi e frodi di cui lui stesso aveva scritto, confondendolo con i criminali protagonisti dei suoi articoli.

Dopo l’accaduto, Bernklau ha presentato una denuncia presso la procura di Tubinga, ma il caso è stato archiviato, poiché, secondo il giudice, non vi è un autore umano imputabile per le affermazioni diffamatorie: l’IA non può essere accusata di questi reati. Anche il responsabile della protezione dei dati della Baviera ha tentato di risolvere la situazione contattando Microsoft che, in primo luogo aveva rimosso le informazioni diffamanti ma, le notizie diffamatorie, sono riemerse pochi giorni dopo sulla piattaforma.

Nel nostro paese questo reato sarebbe assimilabile alla diffamazione aggravata poiché ChatGPT può essere considerato uno strumento di pubblicità; tuttavia, il caso dell’attore intelligenza artificiale non è ancora definito nell’ordinamento giuridico italiano. Non vi è un espresso rinvio alla normativa sulla diffamazione aggravata per le condotte suddette, e la giurisprudenza sul punto non ha delineato un orientamento essendo un tema di estrema attualità.

Il giornalista ha assunto un avvocato, sostenendo che le dichiarazioni diffamatorie, pur essendo generate da un’intelligenza artificiale, costituiscono una violazione della sua dignità e sono facilmente rintracciabili online.

L’episodio è un chiaro esempio delle cosiddette “allucinazioni” dell’intelligenza artificiale, un fenomeno in cui i modelli generativi, come Copilot, ChatGPT o Google Gemini, producono informazioni inesatte. Questi sistemi, addestrati su vasti set di dati, generano risposte basandosi su associazioni statistiche piuttosto che su una vera comprensione della realtà, con conseguenze a volte pericolose.

La questione è seria perché sembra che queste allucinazioni siano inevitabili, poiché i modelli sono progettati per generare risposte basate sui dati di addestramento, senza garantire necessariamente l’accuratezza delle informazioni fornite.

Gli LLM funzionano come strumenti avanzati di completamento del testo, producendo risposte anche su argomenti che non sono presenti nei loro dati. Essi non sono progettate come i motori di ricerca per dare risposte veritiere ma essenzialmente per soddisfare l’utente.

In base a quanto detto in precedenza possiamo affermare che per le aziende come Microsoft e OpenAI sembra molto difficile eliminare completamente le “allucinazioni”, poiché rappresentano una caratteristica intrinseca dei modelli linguistici di grandi dimensioni; la soluzione che viene adottata al momento è l’intervento “ex post”, correggendo gli errori solo dopo che vengono segnalati.

Ma questa modalità di azione solleva dubbi sulla reale tutela che abbiamo nei confronti di queste grandi piattaforme.

Le allucinazioni sono tipicamente definite come la generazione di contenuti privi di senso o non fedeli al contenuto originale fornito e rappresentano un problema significativo per i sistemi di generazione del linguaggio naturale che utilizzano LLM, come ChatGPT o Gemini, poiché gli utenti non possono essere certi della correttezza delle risposte che gli vengono fornite.

I ricercatori si sono concentrati su un particolare tipo di allucinazione, che chiamano “confabulazioni”, dove i LLM forniscono risposte diverse alla stessa domanda, tali risposte sembrano plausibili e coerenti, ma in realtà sono inventate o inesatte.

Per rilevare le confabulazioni, il team utilizza un metodo basato sulla statistica stimando l’incertezza in base alla quantità di variazione delle frasi, lo scopo è quello di misurare l’entropia “semantica” delle generazioni di un LLM. Il processo di calcolo dell’entropia semantica coinvolge diversi passaggi:

1. Probabilità delle Parole: L’LLM assegna una probabilità a ciascuna parola successiva in una frase.
2. Probabilità dei Significati: Queste probabilità delle parole vengono convertite in probabilità sui significati, richiedendo una comprensione di come parole e frasi diverse possano esprimere lo stesso concetto o idea.
3. Calcolo dell’Entropia: Con queste probabilità semantiche, l’entropia viene calcolata per misurare l’incertezza o la variabilità nei significati delle risposte generate.

Misurare l’entropia nella generazione è difficile perché le risposte potrebbero avere lo stesso significato (essere semanticamente equivalenti) nonostante siano espresse in modi diversi (essendo sintatticamente o lessicalmente distinte). Questo porta a stime di base dell’entropia, anche se la stessa risposta corretta potrebbe essere formulata in molti modi diversi senza cambiarne il significato.

Il rilevamento delle confabulazioni consente ai sistemi basati su LLM, di rendere gli utenti consapevoli dell’inaffidabilità delle risposte a una domanda specifica, o di integrare l’LLM con ricerche o recuperi di dati più accurati.

“Il nostro metodo sostanzialmente stima le probabilità nello spazio del significato, o ‘probabilità semantiche'”, ha affermato Jannik Kossen, coautore dello studio.

Uno dei punti di forza di questa tecnica è che funziona su set di dati e attività senza necessitare di una conoscenza a priori, non richiede dati specifici dell’attività e si può applicare a nuove attività. Questo progresso potrebbe aprire nuovi modi per implementare gli LLM in situazioni in cui gli errori potrebbero risultare pericolosi, come nel caso delle risposte a domande legali o mediche.

A fine marzo scorso, il Garante Privacy italiano aveva identificato seri rischi per la privacy degli utenti di Open AI, portando alla temporanea limitazione del trattamento dei dati degli utenti italiani e al blocco di ChatGpt nel paese.

In risposta, Open AI aveva temporaneamente oscurato la piattaforma. Il blocco era durato un mese, con il ripristino di ChatGpt alla fine di aprile, dopo che OpenAI aveva apportato alcune delle modifiche richieste dal Garante su alcuni degli aspetti critici.

Da quel momento, il Garante ha richiesto a OpenAI di conformarsi a una serie di regole per adeguarsi al contesto legislativo europeo, contestualmente, ha però avviato un’istruttoria per verificare se la società di Sam Altman avesse compiuto altri illeciti rispetto a quanto stabilito dal GDPR.

Il 29 gennaio, il Garante ha comunicato i risultati dell’istruttoria in corso, notificando ufficialmente a Open AI le contestazioni per la violazione della normativa sulla protezione dei dati personali.

Ora, la società americana ha 30 giorni per rispondere e presentare le proprie difese.

Il Garante ha anche comunicato che nella definizione del procedimento terrà conto dei lavori in corso nell’ambito della speciale task force, istituita lo scorso anno dal Board che riunisce le Autorità di protezione dati dell’Ue (Edpb). Il procedimento potrebbe portare a sanzioni significative per Open AI, con una possibile penalità tra il 2% e il 4% del fatturato della società, traducibile in decine di milioni di dollari.

Le contestazioni riguardano questioni del 2023, come la base giuridica del trattamento dei dati personali, le “allucinazioni” del chatbot che generano risposte inesatte e possono portare a una gestione impropria delle informazioni, la trasparenza e la tutela dei minori.

Il Garante ha inviato la contestazione ad OpenAI. Presso la sua sede europea, in Irlanda.

Questo processo sottolinea l’importanza di una regolamentazione chiara sull’uso degli algoritmi di intelligenza artificiale al fine di mitigare i rischi legati a bias e pregiudizi; infatti, nonostante i numerosi provvedimenti legislativi sembra che la strada da percorrere sia ancora lunga.