La ricerca, basata su focus group con cittadini olandesi, rivela che i lettori desiderano essere informati sull’uso dell’IA nei contenuti giornalistici, ma esprime anche il timore che queste dichiarazioni, se non gestite in modo accurato, possano ridurre la fiducia nei media.

Utilizzo dell’IA nel giornalismo e necessità di trasparenza

Negli ultimi anni, i media hanno sperimentato un impiego crescente dell’intelligenza artificiale in vari processi giornalistici: dalla creazione di post per i social media alla redazione di titoli e bozze di articoli. Secondo un’indagine di Associated Press, l’IA è usata prevalentemente per la produzione di contenuti, affiancando attività come traduzioni e raccolta delle informazioni.

Le tecnologie di GenAI, spesso fornite da giganti tecnologici come OpenAI, Google e Microsoft, stanno diventando sempre più parte integrante del lavoro redazionale. Tuttavia, questa dipendenza dalle grandi piattaforme e l’espansione dell’IA sollevano domande etiche e operative: le testate dovrebbero informare il pubblico sull’uso dell’IA?

E quali modalità di trasparenza si rivelano più efficaci?

L’AI Act: Regolamentazione europea e ambiguità per il settore dei media

A livello normativo, l’Unione Europea ha introdotto l’AI Act, un regolamento che, tra le altre misure, stabilisce alcuni obblighi di disclosure per i contenuti creati o manipolati attraverso IA. Tuttavia, il settore dei media gode di alcune deroghe. Per i contenuti di interesse pubblico creati o modificati con IA, come i deepfake audiovisivi, è obbligatorio segnalare l’uso della tecnologia, ma questo obbligo di disclosure è mitigato se il contenuto ha subito una revisione umana e se esiste una chiara responsabilità editoriale.

In pratica, per i media non vige un obbligo generalizzato di dichiarare l’uso dell’IA, in quanto il regolamento non considera l’industria dei media ad alto rischio e non impone quindi misure stringenti di trasparenza o di progettazione responsabile. Questa zona grigia crea incertezze sui comportamenti da adottare per garantire la fiducia del pubblico senza compromettere la libertà di espressione e l’indipendenza editoriale.

Desiderio di trasparenza: l’opinione del pubblico

Nonostante l’assenza di un obbligo legale specifico, la domanda fondamentale è se il pubblico percepisca i contenuti generati dall’IA come diversi rispetto a quelli prodotti da giornalisti umani e se ritenga questa trasparenza necessaria. I risultati delle ricerche in merito sono contraddittori. Da un lato, i contenuti etichettati come creati da IA sono spesso percepiti come più oggettivi e accurati, poiché privi di emozioni o opinioni soggettive. Tuttavia, altri studi rilevano che i lettori sono spesso scettici nei confronti dei contenuti generati dall’IA, vedendoli come meno credibili rispetto a quelli prodotti da esseri umani. Questa diffidenza è legata anche alla percezione dell’IA come una “scatola nera” che manca di valori giornalistici tradizionali.

Uno dei fenomeni più rilevanti emersi è il cosiddetto “paradosso della disclosure”: i lettori desiderano essere informati dell’uso dell’IA, ma sapere che un contenuto è generato dall’IA può contemporaneamente aumentare la diffidenza nei confronti di tale contenuto. Questo dualismo rende complesso per le testate stabilire le migliori pratiche per le dichiarazioni di utilizzo dell’IA.

Nel mese di gennaio il World Economic Forum, nel Global Risks Report 2024, aveva posizionato la disinformazione tra i rischi più immediati e destabilizzanti a livello globale, evidenziando come le informazioni manipolate e falsificate rappresentassero un pericolo per i processi elettorali ed un rischio in grado di innescare disordini civili, indebolire la fiducia nelle istituzioni e generare sfiducia nei confronti dei media.

Le preoccupazioni espresse all’inizio dell’anno si sono rivelate fondate

Già nelle elezioni in Bangladesh, durante la competizione tra la prima ministra Sheikh Hasina e l’opposizione rappresentata dal partito nazionalista del Bangladesh, l’uso di deepfake e di contenuti manipolati dall’IA per diffondere informazioni fuorvianti e alterare la percezione pubblica è stato evidente.

In India, lo scorso giugno l’intelligenza artificiale è stata utilizzata per creare avatar virtuali dei leader politici, che interagivano direttamente con gli elettori per ricevere sostegno.

Anche negli Stati Uniti, l’attenzione sui deepfake è cresciuta con l’avvicinarsi delle presidenziali e. in questo contesto, nel luglio 2024, Elon Musk ha condiviso sulla piattaforma X un video falso, generato tramite IA, per deridere Kamala Harris.

Questi eventi hanno contribuito ad aumentare il timore di un uso improprio dell’intelligenza artificiale generativa soprattutto in vista delle elezioni statunitensi.

Nel contesto di questa crescente preoccupazione, OpenAI ha intrapreso una serie di strategie finalizzate a ridurre i rischi di disinformazione durante il periodo pre e post-elettorale.

Il 31 ottobre, l’azienda sul suo blog ha annunciato l’adozione di nuove misure di sicurezza per limitare la diffusione di contenuti manipolati e indirizzare gli utenti verso fonti affidabili come Reuters e Associated Press, due tra le principali agenzie di informazione, per incoraggiare gli utenti a consultare fonti ufficiali e affidabili riguardo alle informazioni elettorali.

Inoltre, grazie a una collaborazione con la National Association of Secretaries of State (NASS), ChatGPT ha indirizzato le persone che cercavano informazioni su come e dove votare verso CanIVote.org, autorevole fonte di informazioni delle modalità di voto negli Stati Uniti.

OpenAI, in seguito alla conclusione delle elezioni, l’8 novembre ha annunciato che ChatGPT ha respinto oltre 250.000 richieste di generazione di immagini tramite il suo modello DALL·E, per prevenire l’uso di immagini di figure politiche di spicco – tra cui il presidente eletto Trump, la vicepresidente Harris, il vicepresidente eletto Vance, il presidente Biden – che avrebbero potuto alimentare la disinformazione visiva e distorcere la percezione pubblica.

L’attenzione di OpenAI, per i pericoli dell’IA non è stato solo per le elezioni ma già il mese scorso  ha pubblicato un rapporto di 54 pagine, in cui affermato di aver interrotto più di 20 operazioni ingannevoli in tutto il mondo che hanno tentato di utilizzare i suoi modelli. I contenuti erano articoli di siti Web generati dall’intelligenza artificiale e post sui social media di account falsi.

I pilastri dell’accordo e le opportunità di SearchGPT

In linea con quanto dichiarato dall’amministratore delegato di Gedi, Gabriele Comuzzo, SearchGPT è il primo pilastro dell’accordo, progettato per generare un flusso di traffico sui siti del gruppo attraverso un nuovo tipo di visibilità. Questa mossa, pensata per fronteggiare giganti del settore come Google, permette ai contenuti di Gedi di comparire direttamente nelle ricerche di ChatGPT, aumentando la possibilità che gli utenti accedano direttamente ai siti d’informazione. Il secondo pilastro riguarda l’accesso al network di editori internazionali, una risorsa per acquisire nuove competenze e innovazioni in materia di IA applicata al giornalismo.

Trasparenza e coinvolgimento della redazione: promesse e resistenze

Il presidente di Gedi, Maurizio Scanavino, e Comuzzo hanno ribadito l’impegno per una “trasparenza assoluta” nell’implementazione di IA nei processi redazionali. Tuttavia, la risposta dei Comitati di redazione (Cdr) e dei sindacati è stata critica, soprattutto a causa della mancanza di chiarezza sulle modalità operative e sugli eventuali impatti dell’accordo sui giornalisti. I rappresentanti sindacali hanno evidenziato come la riservatezza aziendale intorno all’intesa con OpenAI alimenti dubbi e preoccupazioni: da un lato, i giornalisti chiedono di conoscere i dettagli sull’utilizzo dei loro contenuti e sulle tecnologie introdotte in redazione; dall’altro, avanzano richieste per una compensazione economica, dato che i loro lavori saranno sfruttati dal nuovo sistema.

L’azienda, però, non sembra intenzionata a soddisfare queste richieste economiche, limitandosi a promettere un codice di condotta sull’utilizzo dell’IA in redazione. Peraltro, l’adesione a un corso aziendale di formazione su nuove tecnologie, come la titolazione automatica e la sintesi assistita, è stato bloccato dal Cdr, che ha sottolineato l’importanza di definire in anticipo le garanzie necessarie e di condurre un confronto con la dirigenza per capire l’impatto dell’automazione sulle mansioni giornalistiche.

L’intervento della Fnsi e il ruolo dei direttori

Al centro delle preoccupazioni sindacali vi è anche il rischio di un ridimensionamento delle redazioni, poiché l’IA può, di fatto, automatizzare attività come la creazione di titoli o la sintesi di testi. La segretaria della Federazione Nazionale Stampa Italiana (Fnsi), Alessandra Costante, ha richiamato all’attenzione l’articolo 42 del Contratto di lavoro giornalistico, che richiede una negoziazione sindacale per l’introduzione di nuove tecnologie in azienda.

Anche il nuovo direttore di Repubblica, Mario Orfeo, figura rilevante per il futuro di questo dialogo, si trova di fronte a una sfida: appoggiare le linee strategiche dell’azienda o cercare un equilibrio tra le richieste dei giornalisti e le direttive del gruppo.

Sebbene l’ASI sia ancora in fase teorica, è già da tempo al centro dell’attenzione, attraverso a visioni anticipatorie come quella delineata nel 2014 dal filosofo svedese Nick Bostrom, nel suo libro “Superintelligence: Paths, Dangers, Strategies”, in cui esplora i possibili scenari che si aprirebbero se l’Intelligenza artificiale raggiungesse livelli di “superintelligenza” ipotizzando la possibilità di un nuovo corso per l’umanità.

Oggi, dieci anni dopo, gli sviluppi tecnologici suggeriscono che quel momento potrebbe non essere così lontano.

Negli ultimi anni, la ricerca sull’intelligenza artificiale ha fatto notevoli progressi, portando esperti come Leopold Aschenbrenner, ex ricercatore di OpenAI, nel suo recente saggio dal titolo “Situational Awareness”,  ad ipotizzare l’arrivo di una intelligenza artificiale generale (AGI) che sarebbe il livello precedente quello dell’ASI, entro il 2027. Aschenbrenner immagina sistemi di Intelligenza artificiale capaci di auto-migliorarsi a un ritmo esponenziale, in grado di gestire autonomamente la propria ricerca e sviluppo. Questo scenario vede come fine ultimo “un’esplosione di intelligenza”, con implicazioni difficili da prevedere.

L’intelligenza artificiale auto-migliorante è un concetto che appare ancora astratto e ipotetico, ma sta di fatto iniziando a diventare più concreto. I ricercatori stanno raggiungendo risultati concreti nella realizzazione di sistemi che possono a loro volta costruire sistemi di intelligenza artificiale migliori.

Ad esempio, la startup giapponese Sakana AI sta sviluppando tecnologie che suggeriscono una crescente autonomia dell’IA con il progetto “AI Scientist”, sistema capace di analizzare testi scientifici, generare ipotesi, condurre esperimenti e persino redigere articoli, dimostrando che l’automazione della conoscenza scientifica potrebbe essere più vicina di quanto si pensasse.

D’altra parte, non mancano prospettive ancora più radicali riguardo all’avvento dell’ASI, che ne ipotizzano un ulteriore evoluzione: l’Artificial Self-Preserving Intelligence (ASpI), concetto presentato su The Times of India( uno dei più importanti quotidiani dell’India ed è il giornale in lingua inglese di largo formato con la più grande tiratura al mondo) in cui si sostiene che in questa fase si avranno sistemi di intelligenza artificiale avanzati dotati di capacità di autoconservazione, una forma di consapevolezza che permetterà ai sistemi di riconoscere e reagire a minacce contro la propria esistenza e operatività, aprendo così nuove questioni etiche e di sicurezza.

D’altra parte non tutti gli esperti concordano sull’imminenza di una superintelligenza, infatti una posizione più cauta viene proposta dall’informatica Meredith Ringel Morris che ha proposto uno schema di classificazione dello sviluppo dell’IA, strutturato su sei livelli che va dal livello zero che corrisponde a “nessuna IA” al livello sei ovvero “sovrumano”.  

Questo schema distingue tra sistemi “ristretti”, capaci di svolgere un numero limitato di attività, e sistemi “generali”, in grado di affrontare compiti diversificati. Secondo questa classificazione, siamo ancora lontani dal raggiungere una vera e propria superintelligenza generale, Morris, d’altra parte, avverte che il progresso verso livelli più avanzati di IA potrebbe comportare diversi rischi come l’eccessiva fiducia o dipendenza dai sistemi IA, il rischio di disoccupazione di massa e l’impatto sulle relazioni umane, che potrebbero degenerare in rapporti parasociali con le macchine.

L’utilizzo di un sistema a livelli per spiegare l’introduzione di un ulteriore tappa dell’IA non è una novità. Allo stesso modo, lo scorso luglio, Sam Altman, CEO di OpenAI, lo aveva proposto per spiegare a che distanza si trovava l’IA dall’AGI. Sebbene queste schematizzazioni siano sostanzialmente diverse tra loro, entrambe mirano a rassicurare la società, sostenendo che per quanto sia veloce l’innovazione tecnologica, l’IA si trova ben distante da queste forme di sviluppo evolute.  

Bing Generative Search” è molto simile alla versione di Google AI Overviews, la ricerca generativa di Google, di cui abbiamo scritto a luglio, inizialmente disponibile solo per gli utenti negli Stati Uniti, ma che presto sarà diffusa a livello globale.

Sempre in quei giorni OpenAI ha presentato SearchGPT, un motore di ricerca basato su IA che fornisce risposte rapide e precise, integrando dati in tempo reale dal web. Adesso disponibile in tutti i paesi per gli utenti con un abbonamento ChatGPT Plus e Team, SearchGPT sintetizza informazioni da vari siti, includendo link diretti alle fonti originali e permettendo domande di follow-up, simile a ChatGPT.

Meta ha sviluppato un motore di ricerca AI per ridurre la dipendenza da Google e Bing, puntando a risposte in tempo reale tramite Meta AI (la “sua” IA) su WhatsApp, Instagram e Facebook.

In ultimo citiamo Perplexity.AI, che ha sviluppato un motore di ricerca basato sull’AI, tra i cui finanziatori vi sono Jeff Bezos e Nvidia.

Appare sempre più chiaro che l’obiettivo è riuscire ad accaparrarsi una fetta della “ricerca” sul web, fino ad oggi monopolio di Google ed in piccola parte di Bing, perché è da lì che passerà il traffico del web e l’interazione degli utenti. Quindi, pubblicità, dati e centralità nella navigazione e nell’esperienza digitale.

Evidentemente anche questo aspetto del nostro ecosistema informativo sarà completamente trasformato dall’intelligenza artificiale. Con alcune criticità già osservabili per il mondo dell’informazione.

Per gli editori, molti dei quali hanno stretto accordi con OpenAI e le altre aziende di IA per l’addestramento dei loro modelli con dati “affidabili”, ( tra questi ricordiamo Associated Press, Reuters, The Atlantic, Axel Springer, Condé Nast, Financial Times, GEDI, Hearst, Le Monde, News Corp, Prisa (El País), Time e Vox Media), è in gioco la propria sopravvivenza.

Abbiamo più volte evidenziato come, sebbene gli accordi tra aziende di intelligenza artificiale ed editori prevedano l’aggiunta dei link alle fonti nelle risposte dei motori di ricerca IA, in un epoca di sempre minore tempo speso nella lettura, appaia improbabile che la ricerca generativa possa dirottare la stessa quantità di traffico generata dai motori tradizionali, verso le fonti: se si ha la possibilità di trovare una risposta esaustiva, certificata da un link ad una fonte autorevole, all’interno del motore di ricerca dell’IA, per quale motivo andare a leggere anche la fonte?

È questo un punto di svolta che, probabilmente, porterà ad ulteriori scenari e cambiamenti, nei rapporti tra queste aziende ed editori.

Altro aspetto critico è la GEO (Generative Engine Optimization), ovvero l’ottimizzazione dei siti per il motore di ricerca generativo.

GEO è il metodo con cui aziende e agenzie di marketing cercano di rendere i propri contenuti più visibili nei risultati generati dai chatbot. Simile alla SEO, ma con un obiettivo diverso, la GEO si concentra su come fare in modo che il contenuto venga selezionato dagli algoritmi di intelligenza artificiale, manipolando non solo il linguaggio utilizzato ma anche il tipo di referenze. Il principio è chiaro: attraverso specifiche tecniche di scrittura e strategia, è possibile aumentare la probabilità che il chatbot includa un certo contenuto nella sua risposta.

Come riporta il The Guardian, secondo  recenti studi di Berkeley e Harvard, i chatbot tendono a dare più rilevanza a contenuti tecnici o ricchi di parole chiave, elementi che normalmente possono non essere sinonimo di accuratezza o imparzialità. Un creatore di contenuti può quindi manipolare il chatbot usando un linguaggio strategico e citazioni mirate, rendendo molto più probabile che il suo prodotto o servizio venga scelto come risposta.

Per i ricercatori, questo apre un mondo di vulnerabilità, con una capacità di manipolazione così forte che anche una semplice “stringa di testo strategica”, priva di apparente significato, può forzare il chatbot a generare una risposta specifica.

Immaginiamo l’uso di una simile tecnica su larga scala, applicata su interi cataloghi di prodotti: gli utenti vedrebbero spesso nelle risposte solo quei prodotti manipolati tramite GEO, anziché quelli di reale qualità o popolarità.

Questo introduce il “dilemma della risposta diretta”: quando una persona riceve un’unica risposta a una domanda complessa, è improbabile che verifichi ulteriori punti di vista.

L’intelligenza artificiale, fornendo un’unica risposta percepita come “autorevole”, potrebbe consolidare una verità che non rappresenta necessariamente l’insieme completo e diversificato delle opinioni o dei fatti su un tema. Questo è particolarmente problematico per il pluralismo e la trasparenza dell’informazione che, ormai, è totalmente digitale.

Ovviamente stiamo descriveno una “rivoluzione” nel suo divenire ed è probabile che alcune di queste problematiche si possano risolvere con l’evoluzione di questi sistemi.