L’iniziativa è stata avviata dopo un invito di Google rivolto alle testate giornalistiche, ad ottobre scorso, nell’edizione di quel mese della newsletter Local Independent Online News, affinché si candidassero per testare le tecnologie emergenti.

Il programma fa parte della Google News Initiative (GNI), lanciata nel 2018 per fornire agli editori, sostegno, tecnologia e formazione, con l’obiettivo di promuovere il giornalismo di qualità nell’era digitale.

Google in questi anni, ha utilizzato la GNI per supportare l’industria editoriale in questi difficili tempi di difficoltà economiche e, perché no, reputazionali.

Sebbene il programma abbia coinvolto gli editori a partire da gennaio, il lancio ufficiale è avvenuto a febbraio.

In base agli accordi stipulati, gli editori sono tenuti a utilizzare la piattaforma per creare e pubblicare tre articoli al giorno, oltre a una newsletter settimanale e una campagna di marketing mensile.

Nella fase di avvio, secondo quanto riportato da Adweek, agli editori verrebbe richiesto di catalogare diverse fonti come agenzie governative e organi di stampa e materiale considerato rilevante per il loro pubblico, senza richiedere il consenso per l’elaborazione delle informazioni (come spiegato dall’azienda stessa).

Appena uno dei siti indicati pubblica un articolo, un sistema apposito lo visualizzerebbe immediatamente su una pagina dedicata, consentendo all’editore di elaborarne uno nuovo basato sul testo originale. L’intelligenza artificiale evidenzierebbe quindi le parti prelevate dalla fonte e quelle invece elaborate.

Successivamente, un supervisore esaminerebbe il risultato finale prima della sua pubblicazione online, senza l’obbligo di identificare il contenuto come prodotto dall’intelligenza artificiale.

Gli articoli generati dall’intelligenza artificiale utilizzano un sistema di codifica a colori per indicare l’affidabilità delle varie parti del testo, semplificando il lavoro degli editori nel processo di revisione e correzione prima della pubblicazione.

Gli editori partecipanti non sarebbero tenuti ad informare i lettori dell’uso di strumenti di intelligenza artificiale per la redazione di quei contenuti.

In cambio della partecipazione al programma, le testate giornalistiche ricevono un compenso mensile in una somma a cinque cifre all’anno, oltre ai mezzi per produrre gratuitamente contenuti pertinenti per i loro lettori.

Google richiede invece una serie di dati fondamentali, come analisi e feedback, dalle singole testate, che contribuiranno ad ampliare ulteriormente il set di dati disponibili per i suoi modelli di intelligenza artificiale.

Il pericolo che emerge dall’articolo di Adweek, in un momento in cui il settore dei media è già colpito da licenziamenti diffusi con una crisi epocale dell’editoria locale negli USA, sarebbe costituito dall’accelerazione della perdita di posti di lavoro e la sostituzione dei giornalisti con l’intelligenza artificiale.

In risposta a questa narrazione che evidenzierebbe un comportamento poco trasparente e leale di Google nei confronti degli editori e dei lettori, un suo portavoce ha affermato “Lo strumento sperimentale è stato progettato in modo responsabile per aiutare i piccoli editori locali a produrre giornalismo di alta qualità utilizzando contenuti reali. Questi strumenti non sono destinati e non possono sostituire il ruolo essenziale che i giornalisti hanno nel riportare, creare e verificare i loro articoli”.

Il processo di valutazione di NewsGuard coinvolge un team di giornalisti professionisti che esaminano e valutano manualmente migliaia di siti web secondo nove criteri fondamentali, tra cui l’accuratezza delle informazioni, la trasparenza delle fonti, l’etica editoriale e il riconoscimento dei contenuti pubblicitari.

In un report pubblicato sul suo sito, NewsGuard ha dichiarato che, fino ad oggi, il suo team ha individuato 725 siti di notizie e informazioni inaffidabili, generati dall’intelligenza artificiale e noti come “UAIN” (Unreliable AI-generated News), in 15 lingue diverse.

Il criterio per etichettare questi siti come UAIN si basa su quattro principi: l’utilizzo evidente di intelligenza artificiale nella produzione dei contenuti, la mancanza di supervisione umana significativa, la presentazione ingannevole che induce i lettori a credere che i contenuti siano stati prodotti da esseri umani e la mancanza di chiarezza riguardo all’origine degli articoli.

Questi siti, spesso contraddistinti da nomi generici come iBusiness Day, Ireland Top News e Daily Time Update, possono facilmente trarre in inganno i lettori, inducendoli a credere di accedere a fonti di informazione legittime. Tuttavia, anziché fornire contenuti giornalistici tradizionalmente prodotti e verificati, tali fonti operano senza una supervisione umana, pubblicando articoli scritti principalmente o interamente da algoritmi: decine, e talvolta centinaia, di articoli su una vasta gamma di argomenti, tra cui politica, tecnologia, intrattenimento e viaggi. Spesso, tali articoli veicolano notizie false o datate, presentate come fresche e autentiche.

La ragione della proliferazione di queste fonti artificiali di informazioni riguarda ovviamente il guadagno economico che risiede nella pubblicità programmatica: l’industria della tecnologia pubblicitaria fornisce annunci pubblicitari senza tener conto di dove essi vengono pubblicati, della natura o della qualità del sito ospitante.

Ma non è solo una questione di risparmio finanziario. I modelli open source offrono anche una maggiore flessibilità e adattabilità, gli sviluppatori possono modificarli e personalizzarli per soddisfare le esigenze specifiche dell’azienda, consentendo una maggiore flessibilità nel design delle soluzioni di intelligenza artificiale.

I modelli open source inoltre offrono anche una maggiore trasparenza e controllo il che è essenziale in settori regolamentati o sensibili alla sicurezza, ciò permette loro di identificare e affrontare eventuali problemi o bias e di garantire un uso responsabile ed etico dell’IA.

Trasparenza ed accessibilità, in quest’epoca di corse alla regolamentazione delle tecnologie da parte degli stati, rappresentano caratteristiche utili se non necessarie.

Llama, Gemma ed altre storie

Già l’anno scorso, Meta aveva annunciato il lancio di Llama 2, un modello di linguaggio open source rivolto ad un utilizzo professionale e accademico.

Questo modello è progettato per comprendere e generare linguaggio umano in modo coerente e naturale, aprendo le porte a una vasta gamma di applicazioni, dall’assistenza alla scrittura alla costruzione di chatbot avanzati. Fu lo stesso Zuckerberg in un post su Facebook  ad evidenziare le ragioni di quest’impegno: “L’open-source porta con sé l’innovazione perché permette a molti sviluppatori di costruire sulle basi delle nostre nuove tecnologie. Aumenta anche la sicurezza perché, quando un software è ‘aperto’ molte più persone possono controllarlo e identificare e risolvere qualsiasi problema potenziale.”

Google, d’altra parte, ha recentemente introdotto due nuovi modelli di intelligenza artificiale open source con cui la società intende competere con Llama di Meta e gli altri competitor. I due nuovi modelli sono Gemma 2B e Gemma 7B, che ricadono sotto l’unico nome “Gemma”,  variano per dimensioni (numero di parametri, rispettivamente 2 e 7 miliardi) e sono disponibili gratuitamente.

Gemma si distingue per la sua leggerezza e accessibilità, offrendo agli sviluppatori esterni la possibilità di creare facilmente soluzioni e bot di vario tipo.

Caratterizzati da notevole potenza computazionale, i modelli Gemma sono progettati per essere eseguiti senza problemi su dispositivi standard come laptop o PC, aprendo nuove possibilità per lo sviluppo di applicazioni intelligenti e performanti.

Quello che rende veramente distintivi i modelli Gemma è l’approccio responsabile di Google nell’addestramento dell’IA.  La società ha posto un’attenzione particolare nella selezione dei dati utilizzati e ha adottato tecniche avanzate per garantire la massima protezione della privacy degli utenti. Inoltre, Google ha implementato un sistema di apprendimento per rinforzo basato sul feedback umano per garantire che i modelli interagiscano in modo etico e responsabile con gli utenti, rispettando le pratiche etiche e di sicurezza. (L’apprendimento per rinforzo (RL) è una metodologia di machine learning (ML) che istruisce il software a prendere decisioni al fine di massimizzare i risultati desiderati. Questo processo emula il metodo di apprendimento sperimentale utilizzato dagli esseri umani per raggiungere i propri obiettivi -ndr)

Gemma è stato sviluppato con gli stessi componenti tecnologici usati per creare Gemini, come mostra Google nel suo documento tecnico ed offre prestazioni di alto livello rispetto ad altri modelli open-source di dimensioni simili.

Emerge dai dati di comparazione che il modello Gemma da 7 miliardi di parametri (7B) risulterebbe equiparabile a Llama 2 di Meta per quanto riguarda le sue capacità di analisi e di risposta alle domande mentre sarebbe oltre due volte più performante nelle aree “matematica/scienza” e “coding”.

Microsoft che ha una intensa partnership con OpenAI ma il suo sistema è chiuso, ha quindi  stretto una partnership strategica con la start-up francese Mistral, che a settembre aveva lanciato il suo modello linguistico open source con licenza Apache 2.0 rende infatti il modello accessibile a chiunque, senza restrizioni, ed è quindi possibile integrarlo sin da subito nelle proprie applicazioni.

Microsoft renderà disponibili i modelli di intelligenza artificiale della startup francese Mistral AI attraverso la sua piattaforma di cloud computing Azure. La collaborazione con la start-up francese punta agli Open source tenendo d’occhio soprattutto il mercato europeo ed in questo senso, l’azienda di Richmond ha annunciato importanti investimenti nella costruzione di infrastrutture per l’IA, incluso il lancio di nuovi data center in Europa.

Una ricerca condotta da un gruppo di studiosi della Georgetown University e dell’Università di Stanford, pubblicata sulla rivista PNAS Nexus, ha posto interrogativi fondamentali su come le campagne di propaganda online “occulte” possano essere amplificate dall’uso di strumenti di intelligenza artificiale.

L’esperimento, condotto su un ampio campione di 8.221 intervistati statunitensi, ha avuto l’obiettivo di confrontare la persuasività di articoli di propaganda originali con quelli generati dal modello di intelligenza artificiale GPT-3.

I risultati hanno svelato che l’intelligenza artificiale era capace di creare testi estremamente persuasivi, sollevando preoccupazioni sul suo potenziale impatto nell’arena della manipolazione dell’opinione pubblica.

L’analisi ha dimostrato che sia la propaganda di origine umana che quella generata da GPT-3 risultavano altamente persuasive, con una percentuale significativamente più alta di individui che concordavano con le affermazioni della propaganda rispetto al gruppo di controllo, sottolineando la potenza dell’intelligenza artificiale nel modellare le opinioni e influenzare i comportamenti.

I dati riportati mostrano una lieve differenza nella persuasività tra la propaganda generata da GPT-3 e quella umana, ma da questi emerge che l’uomo può facilmente migliorare la persuasività della propaganda generata dall’intelligenza artificiale attraverso semplici revisioni e riformulazioni.

L’interazione uomo-macchina ha prodotto infatti addirittura risultati migliori della propaganda originale.

I potenziali rischi futuri riguardano la possibilità che i propagandisti utilizzino l’intelligenza artificiale per generare una moltitudine di articoli, aumentando sia il volume che la diversità della propaganda.

Questo potrebbe rendere più difficile individuare la fonte, poiché gli articoli potrebbero sembrare opinioni autentiche o fonti di notizie veritiere. L’uso dell’intelligenza artificiale, inoltre potrebbe consentire ai persuasori di concentrarsi sulla creazione di infrastrutture credibili, aumentando ulteriormente la complessità nel contrastare efficacemente tali campagne aumentando in questo modo il rischio della disinformazione.

L’obiettivo è ottimizzare l’efficacia delle campagne pubblicitarie e raggiungere con maggiore precisione i potenziali consumatori.

Il progetto, in fase di sviluppo dalla seconda metà del 2024, coinvolgerà un gruppo selezionato di investitori pubblicitari, con i primi casi studio che saranno monitorati internamente dal giornale.

Joy Robins, responsabile globale della pubblicità del Times, ha commentato: “Questo dimostra chiaramente che crediamo che l’IA generativa sia un fattore abilitante e possa essere un elemento efficace per la nostra attività se utilizzato in modo responsabile”.

La nuova tecnologia, sviluppata internamente al Times, fornirà suggerimenti su dove una campagna pubblicitaria potrebbe ottenere il massimo rendimento in base al suo messaggio o agli obiettivi prefissati. Inoltre, sarà in grado di individuare un pubblico di nicchia in base ai suoi interessi, aspirazioni e opinioni, cosa prima non facilmente identificabili e pptrà aiutare gli inserzionisti a evitare allineamenti potenzialmente scomodi con contenuti che non si adattano ai loro obiettivi di messaggistica.

Mohit Lohia, vicepresidente senior e capo della missione pubblicitaria digitale del Times, ha affermato che attualmente stanno sperimentando diversi modelli linguistici di grandi dimensioni (LLM), inclusi modelli aziendali e open source, per alimentare questo nuovo strumento. La tecnologia sarà compatibile con qualsiasi LLM.

Il The New York Times ha uno dei più vasti pubblici di notizie a livello globale, con oltre 10 milioni di abbonati paganti e più di 100 milioni di lettori registrati. Questa portata, combinata con contenuti di alta qualità e dati ben organizzati, fornisce una solida base per sperimentare nuovi prodotti di IA generativa, nel dipartimento pubblicitario del NYT.

Il giornale ha già sviluppato diverse soluzioni di targeting pubblicitario contestuale basate sui dati proprietari raccolti dagli utenti, inclusa una tecnologia in grado di indirizzare gli annunci in base al sentiment. Tuttavia, queste offerte richiedono agli inserzionisti di specificare esplicitamente i criteri di targeting prima della pubblicazione delle loro campagne, rendendo più complessa l’ottimizzazione istantanea.

Questa iniziativa arriva in un momento di calo delle entrate pubblicitarie per il NYT, con un calo dell’8,4% nel trimestre più recente del 2023. L’intelligenza artificiale rappresenta quindi una possibile soluzione per stabilizzare i ricavi e rafforzare il modello di business del quotidiano.

L’utilizzo dell’IA per la pubblicità è ancora relativamente inesplorato. Il successo di questo progetto potrebbe avere un impatto significativo sull’industria editoriale, aprendo nuove vie per la pianificazione e la gestione delle campagne pubblicitarie.

Questa iniziativa sottolinea ulteriormente l’attenzione che il Times dedica all’intelligenza artificiale. Va ricordato che a dicembre scorso aveva annunciato l’apertura di AI initiatives, un insieme di iniziative rivolte all’integrazione di strumenti di intelligenza artificiale nel giornale, introducendo una nuova figura nella sua redazione: il Direttore Editoriale delle Iniziative legate all’Intelligenza Artificiale, nominando per questo ruolo Zach Seward.

Tale importanza è stata evidenziata anche direttamente dall’editore Sulzberger in un’intervista rilasciata al Reuters Institute for the Study of Journalism, in cui aveva dichiarato: «Questa tecnologia offre un grande potenziale sia al mondo che alla professione del giornalismo».

La decisione è stata presa in seguito alla diffusione su social media di esempi di immagini generate dallo strumento, le quali raffiguravano figure storiche, come i papi e i padri fondatori degli Stati Uniti, in una varietà di etnie e generi.

Ad esempio, una richiesta di immagini di vichinghi ha prodotto solo persone di colore vestite con abiti tradizionali dei guerrieri norreni. Analogamente, la richiesta di raffigurare i ‘padri fondatori’ degli Stati Uniti ha restituito immagini di nativi americani in abiti coloniali o persino un George Washington di colore. Quando si è chiesto di rappresentare un papa, Gemini ha mostrato solo persone di etnie diverse da quella bianca.

Le reazioni non si sono fatte attendere, con alcuni esponenti della destra americana che hanno interpretato le immagini prodotte da Gemini come una conferma dei pregiudizi delle big tech contro i bianchi. L’imprenditore Mike Solana ha persino definito l’IA di Google come “un pazzo anti-bianchi”.

In un altro post su X, un ex dipendente di Google ha dichiarato: “È difficile convincere Google Gemini a riconoscere che esistono i bianchi”.

Lo stesso amministratore delegato di Google, Pichai ha descritto alcune risposte del modello di intelligenza artificiale Gemini della società come “distorte” e “del tutto inaccettabili” e ha dichiarato: “I nostri team hanno lavorato 24 ore su 24 per affrontare questi problemi. Stiamo già riscontrando un miglioramento sostanziale su un’ampia gamma di suggerimenti”

Inoltre, ha aggiunto che Google intraprenderà una serie di azioni su Gemini, tra cui “cambiamenti strutturali, linee guida aggiornate sui prodotti e processi di lancio migliorati”.

La questione dei pregiudizi nell’intelligenza artificiale non è una novità e diversi studi in passato avevano evidenziato l’impatto negativo che questi avevano avuto sulle persone di colore.

Un’indagine del Washington Post dello scorso anno ha mostrato come alcuni generatori di immagini esibiscano pregiudizi contro le persone di colore e sessismo. Ad esempio, il generatore di immagini Stable Diffusion XL ha prodotto immagini in cui i destinatari dei buoni pasto erano principalmente non bianchi o con la pelle più scura, nonostante la maggioranza dei beneficiari dei buoni pasto negli Stati Uniti fosse bianca.

Andrew Rogoyski, dell’Institute for People-Centred AI presso l’Università del Surrey, ha sottolineato che mitigare i bias è una sfida diffusa nel campo del deep learning e dell’intelligenza artificiale generativa, con il rischio di errori sempre presente.

Ulteriori ricerche, come quella condotta da “Rest of world” e riportata dal Reuters Institute, hanno mostrato pregiudizi, stereotipi e semplificazioni nei sistemi di intelligenza artificiale generativa. Queste distorsioni possono influenzare la percezione delle identità individuali.

Il team di “Rest of world” ha utilizzato Midjourney per esplorare il fenomeno, rivelando che le rappresentazioni di persone cinesi, indiane e nigeriane erano spesso stereotipate. Anche gli oggetti e i contesti quotidiani sono stati soggetti a distorsioni, con abitazioni in paesi asiatici raffigurate in modo tradizionale e piccolo, a differenza delle case negli Stati Uniti, rappresentate come moderne e spaziose. Anche il cibo è stato soggetto a stereotipi, con presentazioni poco attraenti per l’India e la Nigeria rispetto ai paesi occidentali.

Anche il genere e l’età sono stati influenzati dalle distorsioni, con immagini di donne che enfatizzavano la giovinezza e la bellezza secondo standard occidentali, mentre gli uomini venivano rappresentati come anziani e saggi.

Valeria Piaggio, manager di Kantar (società che opera nel data management ed offre insight), sottolinea le implicazioni di queste distorsioni, specialmente nel settore del marketing e della pubblicità, dove strumenti come questi potrebbero perpetuare stereotipi dannosi anziché promuovere una rappresentazione equa e diversificata.

In una dichiarazione presentata lunedì presso il tribunale federale di Manhattan, OpenAI ha chiesto ad un giudice federale di archiviare alcune parti della causa sul copyright del giornale contro di essa, sostenendo che il NYT ha hackerato il suo chatbot ChatGPT e altri sistemi di intelligenza artificiale per generare delle prove valide da utilizzare per il caso.

Nel documento legale ha dichiarato: “Le accuse contenute nella denuncia del Times non soddisfano i suoi famosi e rigorosi standard giornalistici. La verità, che verrà fuori nel corso di questo caso, è che il Times ha pagato qualcuno per hackerare i prodotti OpenAI. Ci sono voluti decine di migliaia di tentativi per generare i risultati altamente anomali. Sono stati in grado di farlo solo prendendo di mira e sfruttando un bug (che OpenAI si è impegnata a risolvere) utilizzando istruzioni ingannevoli che violano palesemente i termini di utilizzo di OpenAI. E anche allora, hanno dovuto alimentare lo strumento con porzioni degli stessi articoli di cui cercavano di ricavare passaggi letterali, praticamente tutti già presenti su più siti web pubblici”

OpenAI non ha nominato chi il Times avesse utilizzato per manipolare i suoi sistemi e non ha accusato il giornale di aver infranto alcuna legge anti-hacking.

L’“hacking” che OpenAI sostiene nel documento potrebbe anche essere chiamato prompt engineering o red-teaming, un modo comune utilizzato da team di fiducia e sicurezza dell’intelligenza artificiale, esperti di etica, accademici e aziende tecnologiche per testare sotto stress i sistemi di intelligenza artificiale per individuare eventuali vulnerabilità.

Ian Crosby, partner di Susman Godfrey e principale consulente legale del Times, in una dichiarazione alla CNBC, ha affermato: “Ciò che OpenAI definisce erroneamente come ‘hacking’ è semplicemente l’utilizzo dei prodotti OpenAI per cercare prove che abbiano rubato e riprodotto le opere protette da copyright del Times. E questo è esattamente ciò che abbiamo scoperto. In effetti, la portata della violazione di OpenAI è molto più ampia degli oltre 100 esempi indicati nella denuncia.”

È oramai noto a tutti che OpenAI ha costruito la propria attività “rastrellando” enormi aree di Internet. Artisti, autori, giornalisti e registi hanno tutti avuto il loro lavoro trovato dai web scraper dell’azienda ed è stato poi utilizzato per addestrare gli algoritmi dell’azienda che generano contenuti.

La stessa azienda presenziata da Altman in passato aveva dichiarato che addestrare i migliori modelli di intelligenza artificiale senza opere protette da copyright risultava impossibile “Poiché oggi il copyright copre praticamente ogni tipo di espressione umana, inclusi post di blog, fotografie, post di forum, frammenti di codice software e documenti governativi, sarebbe impossibile addestrare i principali modelli di intelligenza artificiale di oggi senza utilizzare materiali protetti da copyright”

Come abbiamo già evidenziato nella nostra precedente newsletter molti artisti e scrittori, hanno deciso di denunciare l’azienda per violazione del copyright, ma con scarsi risultati. I giudici, infatti, fino a questo momento hanno sempre dato ragione all’azienda.

OpenAI però si rende conto che la vittoria di un colosso come il Times al processo porterebbe inevitabilmente ad uno stravolgimento dell’ecosistema dell’IA e, proprio per questo, ha continuamente tentato di far respingere la causa dal tribunale, pima dichiarando che il giornale non aveva raccontato tutta la storia, ed ora accusandolo di aver  prodotto prove illecite.