Un’indagine condotta negli ultimi mesi dal comitato ristretto del Senato australiano ha mostrato un utilizzo improprio dei dati personali degli utenti australiani da parte di alcune delle più famose aziende tecnologiche: Amazon, Google e Meta.  L’indagine si è conclusa con la pubblicazione del rapporto martedì 26 novembre.

Il comitato, presieduto dal senatore laburista Tony Sheldon, ha indagato su come le tre aziende stiano utilizzando i dati degli utenti australiani per addestrare i propri modelli di intelligenza artificiale senza adeguata trasparenza e compensazione.

L’inchiesta ha rivelato che nonostante le numerose richieste di chiarimento, le Big Tech hanno mostrato un atteggiamento evasivo, rifiutandosi di spiegare come i dati degli utenti vengano utilizzati nei loro algoritmi di addestramento dei sistemi IA.

Amazon ha rifiutato di fornire informazioni su come i dati raccolti dai suoi dispositivi, come Alexa, Kindle e Audible, siano stati impiegati per addestrare l’intelligenza artificiale.  

Google ha evitato di rispondere alla domanda su quali dati provenienti dai suoi prodotti e servizi fossero utilizzati nei suoi modelli di IA.

Meta ha dichiarato di aver utilizzato i dati degli utenti australiani di Facebook e Instagram dal 2007, ma l’azienda non è stata in grado di spiegare come gli utenti potessero acconsentire all’utilizzo dei loro dati per uno scopo che, all’epoca, non esisteva ancora. Inoltre l’azienda non ha chiarito in che modo sono stati utilizzati i dati provenienti da WhatsApp e Messenger.

Secondo Sheldon, il comportamento delle aziende si configura un vero e proprio “saccheggio” della cultura, dei dati e della creatività degli australiani; infatti, nell’inchiesta si mostra come queste grandi aziende non solo abbiano utilizzato i dati personali senza aver informato gli utenti, ma abbiano anche evitato ogni tipo di responsabilità riguardo alle conseguenze delle loro pratiche.

Nel rapporto viene dedicata anche una sezione critica alla legislazione australiana in materia di IA, in questa parte si afferma che, le leggi esistenti, risultano non sufficienti a proteggere i diritti dei cittadini di fronte alla rapida evoluzione dell’intelligenza artificiale, e si sollecita il governo australiano a intervenire per “gestire” lo sviluppo dell’IA nel paese, assicurando che la sua crescita avvenga nell’interesse nazionale.

Viene proposto anche di classificare i modelli di IA generici, come GPT di OpenAI, Llama di Meta e Gemini di Google, nel livello ad “alto rischio”, in cui si collocano i sistemi IA in grado di incidere in modo sensibile sulla salute e sui diritti fondamentali delle persone fisiche. Questi modelli IA dovrebbero essere sottoposti a requisiti di trasparenza e responsabilità obbligatori.

Il rapporto affronta anche la questione delle industrie creative, raccomandando che i creativi siano adeguatamente compensati quando il loro lavoro viene utilizzato dai modelli di IA. Le aziende dovrebbero dichiarare l’uso di materiali protetti da copyright e garantire licenze e pagamenti ai creativi.

Diverse organizzazioni operanti nel settore dell’industria creativa, come Australasian Performing Right Association (APRA) , Australasian Mechanical Copyright Owners Society (AMCOS) e Media Entertainment and Arts Alliance (MEAA), hanno accolto favorevolmente queste proposte, considerandole un passo importante verso la tutela della proprietà intellettuale.

Dall’altro lato, non sono mancate, nel comitato ristretto che ha realizzato il rapporto, voci discordanti come quelle dei senatori Linda Reynolds e James McGrath, che non ne hanno accettato le conclusioni, affermando che le proposte devono essere messe in atto “senza violare le potenziali opportunità che l’IA presenta in relazione alla creazione di posti di lavoro e alla crescita della produttività” e, a loro avviso, l’impatto dell’IA sull’economia creativa è meno urgente.

Secondo quanto affermato dal New York Times, questa pratica potrebbe provocare una significativa perdita di entrate per il giornale, provenienti da abbonamenti, licenze, pubblicità e affiliazioni. Nella citazione il quotidiano sosteneva che “le due aziende cercano di approfittare gratuitamente del massiccio investimento del Times nel suo giornalismo”.

Nella denuncia  il NYT sostiene che i modelli linguistici di OpenAI, utilizzati per alimentare ChatGPT e Copilot, sono in grado di generare output che replicano il contenuto del giornale, minando così il legame tra il quotidiano e i suoi lettori, scrivendo: “Se il Times e altre organizzazioni di notizie non possono produrre e proteggere il loro giornalismo indipendente, ci sarà un vuoto che nessun computer o intelligenza artificiale può colmare”.

OpenAI ha sostenuto che il suo utilizzo dei contenuti del New York Times (NYT) rientri nei limiti del fair use, evidenziando. in relazione all’addestramento dei modelli di linguaggio, i seguenti punti:

1. Scopo trasformativo: Gli LLM trasformano gli articoli originali del NYT in strumenti che possono generare risposte, completare testi o fornire informazioni in nuovi contesti, con uno scopo diverso dall’informazione giornalistica originale.
2. Quantità utilizzata: Non tutti i contenuti del NYT sono stati utilizzati e, secondo OpenAI, ciò che è stato utilizzato non replica gli articoli, ma estrae elementi funzionali per addestrare il modello.
3. Benefici pubblici: OpenAI ha sostenuto che la GenAI porta significativi vantaggi sociali e innovativi, in particolare per il giornalismo e la società, migliorando l’accesso alle informazioni. Questo, secondo l’azienda, bilancerebbe eventuali danni al NYT.
4. Impatto sul mercato: OpenAI ha sostenuto che l’uso dei contenuti per addestrare l’IA non danneggia il mercato degli articoli del NYT, perché non sostituisce il giornalismo originale e potrebbe persino ampliarne il valore.

Si ricorda che Il fair use è una dottrina del diritto d’autore statunitense che consente l’utilizzo limitato di materiale protetto da diritto d’autore senza il permesso del titolare, in determinate circostanze. Si basa su quattro fattori chiave, che un tribunale deve analizzare per determinare se l’uso sia legittimo:

1. Scopo e carattere dell’uso: Include la valutazione se l’uso sia trasformativo (crea qualcosa di nuovo o con uno scopo diverso dall’originale) e se sia di natura commerciale o educativa.
2. Natura dell’opera protetta: Opere altamente creative tendono a ricevere maggiore protezione rispetto a opere più factual (es. articoli di cronaca).
3. Quantità e sostanzialità della parte utilizzata: Analizza quanto del contenuto protetto viene utilizzato e se le parti utilizzate siano le più rilevanti dell’opera originale.
4. Effetto sull’eventuale mercato: Valuta se l’uso riduca il valore commerciale o la domanda per l’opera originale.

Questa causa è ritenuta molto rilevante per il mondo dell’informazione e, più in generale, dell’editoria, in quanto il suo esito costituirà un punto di riferimento giurisprudenziale per tutta la materia specifica relativa all’uso dei dati da parte delle aziende di IA, soprattutto nei paesi anglosassoni dove è prevalente la dottrina della common law.

Nel corso del procedimento, con mozione ECF 236, OpenAI ha richiesto al giudice che il  The New York Times producesse una documentazione riguardante l’uso, per la sua attività editoriale e giornalistica,  di strumenti di IA generativa, sia propri che di terze parti, nonché le posizioni e le dichiarazioni del NYT relative all’uso della GenAI.

OpenAI intendeva sostenere che il suo uso dei contenuti del NYT fosse conforme al “fair use“, se l’uso ha un scopo trasformativo e offre benefici pubblici. Se il NYT stesso adotta strumenti di GenAI, questo potrebbe suggerire che la tecnologia abbia un valore riconosciuto e che l’uso di contenuti protetti per addestrare l’IA potrebbe essere considerato “equo”, in quanto potrebbe contribuire a un miglioramento del giornalismo e dell’accesso all’informazione.

Un altro aspetto che OpenAI cercava di esplorare era l’effetto che l’uso della GenAI ha sul mercato del giornalismo, tra i punti principali della causa intentata dal NYT. Se il NYT utilizza tecnologie simili, OpenAI avrebbe potuto argomentare che l’adozione della GenAI non danneggia il mercato del NYT o la sua capacità di monetizzare i contenuti, ma piuttosto contribuisce a un beneficio pubblico più ampio, come migliorare la qualità e l’accessibilità delle informazioni.

Inoltre, la difesa di OpenAI, cercava di stabilire che il Times non solo riconosce i benefici della GenAI, ma che la sua eventuale opposizione a OpenAI potrebbe essere inconsistente se lo stesso NYT utilizza, in misura più o meno ampia, strumenti simili.

La corte ha rigettato la richiesta della mozione ECF 236, ritenendo che OpenAI non abbia dimostrato come tali informazioni siano pertinenti al caso o proporzionali ai bisogni del procedimento.

La decisione non entra nel merito della questione principale della causa, ossia se l’uso dei contenuti del NYT per addestrare i modelli di OpenAI costituisca una violazione del copyright. La sentenza si limita a stabilire che l’accesso alla documentazione richiesta non è giustificato e non ha rilevanza diretta per il contesto specifico del “fair use” che OpenAI invoca nella sua difesa.

La corte ha stabilito che “questa sezione si concentra esclusivamente sull’uso specifico dei contenuti del Times da parte di OpenAI. Non vi è una condanna generale degli strumenti di GenAI nella denuncia del Times, né una dichiarazione che permetta un accesso illimitato e gratuito ai propri contenuti giornalistici. Pertanto, le informazioni richieste dall’Imputato non sono pertinenti. Analogamente, casi citati dall’Imputato, come Google v. Oracle o Andy Warhol Foundation v. Goldsmith, non supportano la rilevanza delle informazioni richieste. Il principio del fair use si applica esclusivamente all’uso specifico dell’opera protetta dall’Imputato, non a eventuali benefici generali della GenAI per l’industria giornalistica.”

La decisione del magistrato Wang sulla mozione di OpenAI

Le immagini generate, distribuite principalmente sui social media, sono utilizzate per rafforzare messaggi divisivi e manipolare le percezioni pubbliche su temi come immigrazione, diversità culturale e politiche progressiste.

Secondo l’articolo, l’estrema destra è stata tra i primi a sfruttare l’IA generativa nelle campagne elettorali, come emerso durante le elezioni parlamentari europee del 2024. Le immagini create utilizzano un’estetica comune, priva di filigrane o segni identificativi, rendendo difficile distinguere il contenuto autentico da quello manipolato.

Le tematiche variano da retoriche anti-immigrazione a teorie del complotto su “élite globali” che vogliono imporre cibo a base di insetti.

Sempre in quell’articolo, William Allchorn, ricercatore senior presso l’Anglia Ruskin University, ha affermato che la facilità d’uso dei modelli di intelligenza artificiale abbassa le barriere all’ingresso per la creazione di contenuti. Non servono competenze di programmazione o competenze particolari per generare queste immagini. “È anche sintomatico del fatto che le opinioni di estrema destra stanno diventando mainstream o vengono normalizzate”, ha affermato, aggiungendo che l’estrema destra sembrava avere meno preoccupazioni morali sulle immagini generate dall’intelligenza artificiale.

Su questo punto abbiamo altra opinione.

L’accessibilità dello strumento può essere considerato un elemento causale?

Si torna all’eterno dibattito sulla visione deterministica della tecnologia: il coltello ha rappresentato un’invenzione di enorme utilità per l’umanità, sebbene qualcuno lo utilizzi anche in maniera offensiva. Qualsiasi oggetto o tecnologia contiene in sé elementi di innovazione e sviluppo ma anche di potenziale offesa.

L’intelligenza artificiale, così come prima la rete Internet o la televisione e la radio, rappresenta un punto di svolta fondamentale per l’umanità ed il suo uso malevolo o fraudolento non può giustificarne in alcun modo la censura.

E non siamo neanche convinti che la soluzione possa venire da una filigrana o una indicazione di origine “IA”: riteniamo ancora una volta che l’unica strada che può mettere i cittadini al riparo da questi pericoli, sia una formazione approfondita e sostanziale, fornendo loro non un marchio comunque contraffabile, ma gli strumenti per comprendere i segni ed i significati che le nuove tecnologie inseriscono nel nostro ecosistema vitale.

Finché non saremo in grado di leggere i segni e comprenderne i significati saremo sempre vulnerabili.