Le immagini generate, distribuite principalmente sui social media, sono utilizzate per rafforzare messaggi divisivi e manipolare le percezioni pubbliche su temi come immigrazione, diversità culturale e politiche progressiste.

Secondo l’articolo, l’estrema destra è stata tra i primi a sfruttare l’IA generativa nelle campagne elettorali, come emerso durante le elezioni parlamentari europee del 2024. Le immagini create utilizzano un’estetica comune, priva di filigrane o segni identificativi, rendendo difficile distinguere il contenuto autentico da quello manipolato.

Le tematiche variano da retoriche anti-immigrazione a teorie del complotto su “élite globali” che vogliono imporre cibo a base di insetti.

Sempre in quell’articolo, William Allchorn, ricercatore senior presso l’Anglia Ruskin University, ha affermato che la facilità d’uso dei modelli di intelligenza artificiale abbassa le barriere all’ingresso per la creazione di contenuti. Non servono competenze di programmazione o competenze particolari per generare queste immagini. “È anche sintomatico del fatto che le opinioni di estrema destra stanno diventando mainstream o vengono normalizzate”, ha affermato, aggiungendo che l’estrema destra sembrava avere meno preoccupazioni morali sulle immagini generate dall’intelligenza artificiale.

Su questo punto abbiamo altra opinione.

L’accessibilità dello strumento può essere considerato un elemento causale?

Si torna all’eterno dibattito sulla visione deterministica della tecnologia: il coltello ha rappresentato un’invenzione di enorme utilità per l’umanità, sebbene qualcuno lo utilizzi anche in maniera offensiva. Qualsiasi oggetto o tecnologia contiene in sé elementi di innovazione e sviluppo ma anche di potenziale offesa.

L’intelligenza artificiale, così come prima la rete Internet o la televisione e la radio, rappresenta un punto di svolta fondamentale per l’umanità ed il suo uso malevolo o fraudolento non può giustificarne in alcun modo la censura.

E non siamo neanche convinti che la soluzione possa venire da una filigrana o una indicazione di origine “IA”: riteniamo ancora una volta che l’unica strada che può mettere i cittadini al riparo da questi pericoli, sia una formazione approfondita e sostanziale, fornendo loro non un marchio comunque contraffabile, ma gli strumenti per comprendere i segni ed i significati che le nuove tecnologie inseriscono nel nostro ecosistema vitale.

Finché non saremo in grado di leggere i segni e comprenderne i significati saremo sempre vulnerabili.

È stato poi accertato che le immagini erano prodotte dalla John Milton Freedom Foundation (ne riportavano la filigrana), organizzazione non profit con sede in Texas che si presenta come un gruppo per la libertà di stampa con l’obiettivo di “rafforzare i giornalisti indipendenti” e “rafforzare le fondamenta della democrazia”, come riporta il The Guardian.

L’uso dell’intelligenza artificiale per influenzare l’opinione pubblica in ambito politico sta diventando sempre più preoccupante: è sempre più difficile, infatti, distinguere tra realtà e manipolazione.

Già prima dell’inizio ufficiale delle campagne presidenziali americane di quest’anno, gli esperti avevano avvertito che l’IA è in grado di creare immagini e video manipolati con tale precisione da confondere anche gli osservatori più attenti, mettendo a rischio il processo elettorale.

Un fenomeno simile lo avevamo evidenziato a proposito delle  elezioni dello scorso aprile in India, dove l’intelligenza artificiale era  stata utilizzata in modo massiccio per personalizzare i messaggi politici. L’IA era stata impiegata per creare avatar digitali del Primo Ministro Modi che si rivolgeva agli elettori chiamandoli per nome, con video e messaggi telefonici generati automaticamente in diverse lingue locali.

La crescente difficoltà nel rilevare tali contenuti ha spinto aziende e organizzazioni a sviluppare strumenti per distinguere tra contenuti reali e artificiali, un esempio è TrueMedia.org, un’organizzazione no profit che ha presentato uno strumento di verifica dei media basato sull’intelligenza artificiale.

Questo strumento, progettato per assistere giornalisti e altre figure chiave nella rilevazione dei deepfake, consente agli utenti di inserire collegamenti a contenuti provenienti da piattaforme come TikTok, X, Mastodon, YouTube, Reddit, Instagram, Google Drive o Facebook per verificarne l’autenticità, riuscendo a identificare i deepfake di audio, immagini e video nel 90% dei casi.

Anche Intel ha introdotto FakeCatcher, un rilevatore di deepfake in tempo reale con una precisione del 96%, questo strumento utilizza hardware e software Intel per analizzare i video tramite una piattaforma web.

Un altro strumento è stato sviluppato da Microsoft, Microsoft Video Authenticator  analizza foto e video per fornire una valutazione della probabilità che il contenuto sia un deepfake. Utilizza algoritmi di machine learning per rilevare i segni distintivi di manipolazioni.

Secondo un articolo di Wired, però rilevare contenuti creati o modificati con l’intelligenza artificiale è ancora un campo in via di sviluppo, nonostante nel 2023 le startup di questo settore abbiano raccolto oltre 21 miliardi di dollari, gli strumenti per identificare i media sintetici non sono ancora completamente affidabili.

Sam Gregory, direttore di Witness, organizzazione non-profit, che aiuta le persone a usare la tecnologia per sostenere i diritti umani, spiega che attualmente gli strumenti disponibili possono identificare contenuti generati dall’IA con un’affidabilità compresa tra l’85% e il 90%.

I tassi di precisione però si abbassano significativamente quando si tratta di analizzare contenuti provenienti da contesti non occidentali, come il Bangladesh o il Senegal, dove le caratteristiche linguistiche e culturali non corrispondono a quelle dei dati utilizzati per addestrare i modelli di IA, generalmente basati su standard occidentali.

Questa mancanza di diversità nei dati di addestramento porta spesso a errori, con contenuti reali scambiati per artificiali e viceversa.  Ad esempio, l’inglese scritto da un non madrelingua è spesso erroneamente considerato generato dall’IA.

Inoltre, molti strumenti sono stati addestrati su media di alta qualità, mentre in molte parti del mondo, come l’Africa, sono comuni dispositivi con fotocamere di bassa qualità, creando ulteriori difficoltà nel rilevamento accurato.

Tra i crawler, il GPTBot di OpenAI è risultato essere il più frequentemente ostacolato.

Ciò che merita attenzione è che, in contrasto con questa tendenza, nessuno dei principali organi di informazione di orientamento conservatore, tra cui Fox News, Daily Caller e Breitbart, ha adottato misure simili per bloccare i principali strumenti di raccolta dati basati sull’intelligenza artificiale, che includono anche il bot di Google. Anche il nuovo sito web di Bari Weiss, The Free Press, si distingue per non aver implementato restrizioni nei confronti dei robot di scraping alimentati dall’intelligenza artificiale.

Sono state formulate alcune ipotesi su questo diverso comportamento tra le fonti di informazione, che sembrano convergere sulle possibili motivazioni strategiche dietro questa scelta, con l’idea che potrebbe essere una tattica per combattere i pregiudizi politici percepiti, dato che i modelli di IA riflettono le distorsioni dei dati di addestramento e per introdurne di diversi. In poche parole, i media conservatori starebbero dando in pasto ai crawler di IA i propri contenuti per fare in modo che i modelli di linguaggio naturale ne siano influenzati.

Tuttavia, vi è scetticismo su quanto questa strategia possa effettivamente influenzare i risultati dei sistemi di intelligenza artificiale finiti come i chatbot, soprattutto a causa dell’enorme volume di materiale più vecchio che le società di intelligenza artificiale hanno già raccolto dai principali organi di informazione prima che iniziassero a bloccare i crawler di intelligenza artificiale.

Anche i modelli di lingua pre-addestrati come ChatGPT di OpenAI hanno dimostrato di avere inclinazioni politiche che riflettono la polarizzazione presente nei corpora di pre-addestramento. Un paper peer-reviewed ha rivelato che ChatGPT tende ad essere il più incline a sinistra tra i chatbot AI, mentre il modello LLaMA di Meta tende a essere più a destra e autoritario. Questo ha portato a critiche su come l’IA possa rinforzare i pregiudizi sociali e influenzare la previsione di discorsi di odio e rilevatori di disinformazione.

Come abbiamo già osservato il problema della disinformazione collegata alle influenze dell’IA sulla politica rappresenta uno dei problemi principali che si pongono nel presente e nell’immediato futuro se, come ricorda il World Economic Forum, nel suo “The Global Risk Report 2024”, nei prossimi due anni, quasi tre miliardi di persone si recheranno alle urne elettorali in diverse economie, tra cui Stati Uniti, India, Regno Unito, Messico e Indonesia.

Bernardine Evaristo, è autrice di libri di saggistica, narrativa e narrativa in versi che esplorano aspetti della diaspora africana, vincitrice del Booker Prize nel 2019. La scrittrice guarda con preoccupazione l’ascesa di ChatGPT e di prodotti simili. Rileva una crescente inquietudine tra gli scrittori, che vedono nella capacità di queste macchine di generare contenuti creativi una minaccia alla loro arte. Evaristo esorta la comunità letteraria a non sottovalutare l’impatto di queste tecnologie, che potrebbero riscrivere le regole della creatività e del lavoro letterario e sottolinea la necessità di una regolamentazione adeguata per gestire l’uso responsabile dei modelli di linguaggio avanzati, bilanciando il loro potenziale creativo con implicazioni etiche e legali.

Jeanette Winterson è una scrittrice inglese ed il suo romanzo più importante “Oranges Are Not the Only Fruit” ha vinto il premio Whitbread nel 1985 e il John Llewellyn Rhys Prize. Nel suo libro di saggi sull’IA, la Winterson esplora il concetto di “intelligenza alternativa” anziché “intelligenza artificiale”. Riflette sulla necessità di evolversi come specie umana e pone domande sulla coscienza e la materialità. Per l’autrice, la collaborazione tra umani e IA potrebbe portare a un mondo più inclusivo, superando le divisioni di genere e altre discriminazioni. Winterson sottolinea che il vero problema è chi controlla la progettazione degli algoritmi e chi determina i termini della ricerca, enfatizzando la necessità di una partecipazione più diversificata nella definizione dell’IA. La scrittrice quindi si proietta in una dimensione dove l’intelligenza artificiale si fonde con l’evoluzione umana.

Nick Harkaway scrittore britannico, critica l’attuale definizione di intelligenza artificiale, sostenendo che ciò che abbiamo oggi sia più una forma di marketing che vera intelligenza. Secondo lui, le attuali IA sono modelli statistici che possono compiere compiti specifici, ma non rappresentano entità pensanti e quindi non sono in grado di compiere attività creative come la scrittura. Harkaway suggerisce che invece di concentrarsi sulla sostituzione delle abilità umane, la tecnologia dovrebbe essere impiegata in settori come lo sviluppo di farmaci e le biotecnologie, dove può accelerare il progresso scientifico.

Adam Roberts è uno scrittore britannico di fantascienza e per il suo romanzo Yellow Blue Tibia ha vinto il BSFA Award 2012. Egli sostiene che, sebbene molti credano che gli scrittori selezionino razionalmente parole, personaggi e trame, in realtà idee e immagini emergono dall’inconscio senza il controllo della mente. L’autore trova interessante come ChatGPT, nonostante riesca a produrre testi che richiamano il processo guidato dal subconscio umano. Tuttavia, sottolinea che questa somiglianza potrebbe essere un artefatto. Guardando al futuro, si domanda se l’evoluzione tecnologica riuscirà a sviluppare strumenti capaci di generare un prodotto finale indistinguibile da quello degli scrittori umani.

YZ Chin è una scrittrice di origine malese, il suo primo libro un volume di racconti intitolato Though I Get Home ha ricevuto il Feminist Press. Chin ritiene che l’IA non può soddisfare il criterio della narrativa umana perché manca dell’”essenza umana” questi strumenti si limitano quindi a raccogliere e riassumere il linguaggio umano. L’autrice, inoltre afferma che la buona narrativa dovrebbe sviluppare il senso critico delle persone mentre, i testi prodotti dall’IA basandosi su ciò che è conosciuto non permettono tale messa in discussione.

Stephen Marche: è un romanziere, saggista e commentatore culturale canadese ha recentemente scritto un romanzo sotto uno pseudonimo, in cui il 95% del contenuto è stato generato dall’intelligenza artificiale. Egli ha spiegato che per scrivere l’opera ha utilizzato tre sistemi IA diversi.

Da questa esperienza l’autore ha tratto due conclusioni: in primo luogo, ha notato che le tradizionali virtù creative, come la comprensione dello stile e la capacità di riconoscere una buona scrittura, saranno fondamentali per l’IA nell’ambito della creatività futura; in secondo luogo, ha sottolineato che la paura dell’intelligenza artificiale, alimentata da rappresentazioni cinematografiche e dalla precarietà del lavoro creativo, sta impedendo a molti artisti di cogliere le immense possibilità offerte dall’IA nell’arte.  L’arte dell’IA è ancora in fase embrionale, ma Marche riconosce sia una nuova frontiera con opportunità ancora inesplorate.

Louisa Hall:  è una scrittrice e poetessa americana che esplora la possibilità che programmi come ChatGPT possano scrivere romanzi, interrogandosi sul significato stesso di romanzo se un romanzo debba  fornire informazioni su parti del mondo sconosciute o se debba inserirsi nella tradizione letteraria. La scrittrice ritiene che ciò che rende un romanzo essenzialmente umano è la capacità di sfidare le forme predefinite e di unire esperienze personali al patrimonio letterario esistente. Il ruolo degli LLM è quindi quello di mettere alla prova la creatività umana.

Risulta evidente che l’approccio degli autori all’intelligenza artificiale e alla scrittura digitale si divide in due prospettive. Da una parte, coloro che vedono l’ascesa di tecnologie come ChatGPT una minaccia, preoccupati che la capacità delle macchine di generare testi possa oscurare l’unicità e il valore della creatività umana, come Bernardine Evaristo che ha espresso preoccupazione per il futuro dell’arte letteraria in un mondo sempre più digitale.

Dall’altra parte scrittori che abbracciano l’intelligenza artificiale come un’opportunità per espandere i confini della narrazione ed esplorare nuove forme creative, come Stephen Marche che riconosce questi strumenti come partner nel processo creativo, capaci di aprire le porte a modi di raccontare storie prima inimmaginabili.

Una risposta univoca alla domanda iniziale sembra ancora difficile da decifrare perché il rapporto tra il progresso tecnologico e l’esperienza umana è in continuo divenire.

Recentemente la piattaforma è stata criticata per la pubblicazione di notizie false e distorte, risultato involontario del crescente affidamento dell’azienda all’intelligenza artificiale per la cura dei contenuti di notizie.

Questo passaggio dall’editoria umana all’automazione ha visto la luce nel 2018, quando Microsoft impiegava oltre 800 redattori per selezionare le notizie per i suoi lettori. Con il procedere verso un ecosistema digitale più automatizzato, molti di questi redattori sono stati rimpiazzati dall’IA.

L’associazione di Microsoft con OpenAI, e l’investimento nella popolare app ChatGPT, hanno collocato il gigante tecnologico all’avanguardia nella rivoluzione dell’intelligenza artificiale.

La situazione è precipitata quando The Guardian ha attaccato Microsoft per aver compromesso la reputazione del giornale. Microsoft aveva ripubblicato un articolo del The Guardian sul tragico omicidio di Lilie James, un’allenatrice di pallanuoto di 21 anni trovata morta con gravi ferite alla testa in una scuola di Sydney la scorsa settimana, accompagnandolo con un sondaggio generato dall’IA che chiedeva il motivo della morte della donna elencando tre opzioni: omicidio, incidente o suicidio e suscitando orrore e riprovazione sia da parte dell’opinione pubblica che del CEO del Guardian Media Group, Anna Bateson.

La Bateson ha individuato la piena responsabilità da parte di Microsoft per l’applicazione inappropriata dell’IA.

L’episodio ha portato Microsoft a disattivare tutti i sondaggi sugli articoli di notizie e ad indagare sulla causa dell’errore, promettendo azioni per prevenire future ripetizioni.

Non si tratta di un evento isolato. In passato, il feed di MSN ha promosso storie infondate, inclusa una che falsamente sosteneva che il presidente Joe Biden si fosse addormentato durante un tributo alle vittime dell’incendio di Maui e un’altra descrivendo erroneamente un ex giocatore della NBA come “inutile” al momento della sua morte.

Questi incidenti mettono in evidenza la problematica della ripubblicazione di articoli da fonti oscure e marginali, cosa che probabilmente non sarebbe accaduta sotto la supervisione umana. Eppure, solo pochi mesi fa il presidente di Microsoft, Brad Smith, si era apertamente schierato per una forte regolamentazione dell’IA (vedi video in calce).

La transizione di Microsoft verso l’IA ha sollevato interrogativi sul ruolo degli editori umani nel processo di cura del sito, e sul futuro dell’industria giornalistica alla luce dell’automazione.

Nonostante le ampie discussioni sulla responsabilità nell’uso dell’IA, Microsoft ha fornito pochi dettagli su come affronterà il problema degli articoli di bassa qualità. Il recente incidente con The Guardian, tuttavia, potrebbe spingere l’azienda ad un’analisi più approfondita sulle sue politiche e sul suo rapporto con l’intelligenza artificiale nel giornalismo.

Microsoft si trova ora al bivio: perseguire l’innovazione tecnologica mantenendo un rigore giornalistico, o rischiare di compromettere ulteriormente la fiducia del suo vasto pubblico con storie che distorcono la realtà.