Secondo quanto affermato dal New York Times, questa pratica potrebbe provocare una significativa perdita di entrate per il giornale, provenienti da abbonamenti, licenze, pubblicità e affiliazioni. Nella citazione il quotidiano sosteneva che “le due aziende cercano di approfittare gratuitamente del massiccio investimento del Times nel suo giornalismo”.

Nella denuncia  il NYT sostiene che i modelli linguistici di OpenAI, utilizzati per alimentare ChatGPT e Copilot, sono in grado di generare output che replicano il contenuto del giornale, minando così il legame tra il quotidiano e i suoi lettori, scrivendo: “Se il Times e altre organizzazioni di notizie non possono produrre e proteggere il loro giornalismo indipendente, ci sarà un vuoto che nessun computer o intelligenza artificiale può colmare”.

OpenAI ha sostenuto che il suo utilizzo dei contenuti del New York Times (NYT) rientri nei limiti del fair use, evidenziando. in relazione all’addestramento dei modelli di linguaggio, i seguenti punti:

1. Scopo trasformativo: Gli LLM trasformano gli articoli originali del NYT in strumenti che possono generare risposte, completare testi o fornire informazioni in nuovi contesti, con uno scopo diverso dall’informazione giornalistica originale.
2. Quantità utilizzata: Non tutti i contenuti del NYT sono stati utilizzati e, secondo OpenAI, ciò che è stato utilizzato non replica gli articoli, ma estrae elementi funzionali per addestrare il modello.
3. Benefici pubblici: OpenAI ha sostenuto che la GenAI porta significativi vantaggi sociali e innovativi, in particolare per il giornalismo e la società, migliorando l’accesso alle informazioni. Questo, secondo l’azienda, bilancerebbe eventuali danni al NYT.
4. Impatto sul mercato: OpenAI ha sostenuto che l’uso dei contenuti per addestrare l’IA non danneggia il mercato degli articoli del NYT, perché non sostituisce il giornalismo originale e potrebbe persino ampliarne il valore.

Si ricorda che Il fair use è una dottrina del diritto d’autore statunitense che consente l’utilizzo limitato di materiale protetto da diritto d’autore senza il permesso del titolare, in determinate circostanze. Si basa su quattro fattori chiave, che un tribunale deve analizzare per determinare se l’uso sia legittimo:

1. Scopo e carattere dell’uso: Include la valutazione se l’uso sia trasformativo (crea qualcosa di nuovo o con uno scopo diverso dall’originale) e se sia di natura commerciale o educativa.
2. Natura dell’opera protetta: Opere altamente creative tendono a ricevere maggiore protezione rispetto a opere più factual (es. articoli di cronaca).
3. Quantità e sostanzialità della parte utilizzata: Analizza quanto del contenuto protetto viene utilizzato e se le parti utilizzate siano le più rilevanti dell’opera originale.
4. Effetto sull’eventuale mercato: Valuta se l’uso riduca il valore commerciale o la domanda per l’opera originale.

Questa causa è ritenuta molto rilevante per il mondo dell’informazione e, più in generale, dell’editoria, in quanto il suo esito costituirà un punto di riferimento giurisprudenziale per tutta la materia specifica relativa all’uso dei dati da parte delle aziende di IA, soprattutto nei paesi anglosassoni dove è prevalente la dottrina della common law.

Nel corso del procedimento, con mozione ECF 236, OpenAI ha richiesto al giudice che il  The New York Times producesse una documentazione riguardante l’uso, per la sua attività editoriale e giornalistica,  di strumenti di IA generativa, sia propri che di terze parti, nonché le posizioni e le dichiarazioni del NYT relative all’uso della GenAI.

OpenAI intendeva sostenere che il suo uso dei contenuti del NYT fosse conforme al “fair use“, se l’uso ha un scopo trasformativo e offre benefici pubblici. Se il NYT stesso adotta strumenti di GenAI, questo potrebbe suggerire che la tecnologia abbia un valore riconosciuto e che l’uso di contenuti protetti per addestrare l’IA potrebbe essere considerato “equo”, in quanto potrebbe contribuire a un miglioramento del giornalismo e dell’accesso all’informazione.

Un altro aspetto che OpenAI cercava di esplorare era l’effetto che l’uso della GenAI ha sul mercato del giornalismo, tra i punti principali della causa intentata dal NYT. Se il NYT utilizza tecnologie simili, OpenAI avrebbe potuto argomentare che l’adozione della GenAI non danneggia il mercato del NYT o la sua capacità di monetizzare i contenuti, ma piuttosto contribuisce a un beneficio pubblico più ampio, come migliorare la qualità e l’accessibilità delle informazioni.

Inoltre, la difesa di OpenAI, cercava di stabilire che il Times non solo riconosce i benefici della GenAI, ma che la sua eventuale opposizione a OpenAI potrebbe essere inconsistente se lo stesso NYT utilizza, in misura più o meno ampia, strumenti simili.

La corte ha rigettato la richiesta della mozione ECF 236, ritenendo che OpenAI non abbia dimostrato come tali informazioni siano pertinenti al caso o proporzionali ai bisogni del procedimento.

La decisione non entra nel merito della questione principale della causa, ossia se l’uso dei contenuti del NYT per addestrare i modelli di OpenAI costituisca una violazione del copyright. La sentenza si limita a stabilire che l’accesso alla documentazione richiesta non è giustificato e non ha rilevanza diretta per il contesto specifico del “fair use” che OpenAI invoca nella sua difesa.

La corte ha stabilito che “questa sezione si concentra esclusivamente sull’uso specifico dei contenuti del Times da parte di OpenAI. Non vi è una condanna generale degli strumenti di GenAI nella denuncia del Times, né una dichiarazione che permetta un accesso illimitato e gratuito ai propri contenuti giornalistici. Pertanto, le informazioni richieste dall’Imputato non sono pertinenti. Analogamente, casi citati dall’Imputato, come Google v. Oracle o Andy Warhol Foundation v. Goldsmith, non supportano la rilevanza delle informazioni richieste. Il principio del fair use si applica esclusivamente all’uso specifico dell’opera protetta dall’Imputato, non a eventuali benefici generali della GenAI per l’industria giornalistica.”

La decisione del magistrato Wang sulla mozione di OpenAI

Perplexity AI, azienda tra i cui finanziatori vi sono Jeff Bezos e Nvidia, è stata accusata dalle testate giornalistiche statunitensi di aver violato i diritti d’autore utilizzando senza autorizzazione i loro contenuti protetti da diritto d’autore. Secondo la denuncia, Perplexity AI offre agli utenti un servizio che consente di ottenere informazioni accurate e aggiornate, senza rimandarli siti web degli editori originali, sottraendo così lettori e ricavi fondamentali alle testate giornalistiche.

Nel luglio 2024, le due testate hanno tentato di risolvere la questione in via amichevole proponendo a Perplexity un accordo di licenza per l’uso dei contenuti, ma la startup non ha fornito alcuna risposta. Questo ha portato le aziende a intraprendere un’azione legale.

La causa di Dow Jones e del New York Post mira a bloccare l’uso improprio dei contenuti protetti da diritto d’autore da parte di Perplexity e a ottenere un risarcimento per i danni subiti. Come si legge nella denuncia la richiesta di compensazione arriva fino a 150.000 dollari per ogni violazione del diritto d’autore, inclusi i profitti generati dall’uso non autorizzato dei contenuti.

Nonostante la causa contro Perplexity, News Corp ha recentemente siglato un accordo con OpenAI, che prevede un pagamento di oltre 250 milioni di dollari in licenze nell’arco di cinque anni per l’uso legittimo dei contenuti del gruppo editoriale. Robert Thomson, CEO di News Corp, ha dichiarato: “Sosteniamo aziende che operano secondo principi etici come OpenAI, poiché riconoscono che integrità e creatività sono essenziali per realizzare appieno il potenziale dell’intelligenza artificiale.”

Questa causa si colloca all’interno di un dibattito più ampio sull’uso dei contenuti protetti dal diritto d’autore da parte dei sistemi di intelligenza artificiale. Un esempio rilevante è la causa intentata nel dicembre scorso dal The New York Times contro OpenAI e Microsoft, accusate di aver utilizzato milioni di articoli senza autorizzazione per addestrare i propri chatbot.

Si tratta solo di uno dei molti casi in cui le testate giornalistiche si trovano a difendere i propri diritti in un contesto tecnologico in rapida evoluzione. Sebbene il diritto d’autore abbia sempre garantito la tutela del lavoro creativo dei giornalisti, l’avvento dell’intelligenza artificiale ha sollevato nuove preoccupazioni. Le leggi attuali, infatti, spesso faticano a tenere il passo con queste innovazioni, e solo di recente i tribunali hanno iniziato ad affrontare casi di utilizzo massivo e non autorizzato di contenuti protetti.

Lo scorso settembre, durante la conferenza annuale Dreamforce, Salesforce ha annunciato Agentforce, la piattaforma di agenti IA autonomi progettati per potenziare i dipendenti e gestire le attività di assistenza, vendita, marketing ed e-commerce.

Questa innovazione mira a garantire maggiore efficienza nei servizi offerti e una maggiore soddisfazione per i clienti. La presentazione di Agentforce è stata uno dei temi principali dell’evento, durante il quale Marc Benioff, CEO di Salesforce, ha espresso forti critiche nei confronti di Microsoft Copilot, definendolo poco efficace e paragonandolo al vecchio assistente virtuale Clippy di Office.

Tuttavia, appena un mese dopo le critiche di Benioff, il 21 ottobre, Microsoft ha annunciato sul suo blog il lancio di 10 nuovi agenti autonomi integrati nella sua piattaforma Dynamics 365 che racchiude un insieme di applicazioni aziendali intelligenti.

Questi agenti sono progettati per svolgere compiti di routine con un intervento umano minimo, alcuni esempi riportati sul Blog di Microsoft sono:

• Agente di Qualificazione delle Vendite: Aiuta i venditori a prioritizzare le opportunità di vendita, gestire gli interessi dei possibili compratori e facilitare il contatto con i clienti tramite e-mail.
• Agente di Comunicazione con i Fornitori: Ottimizza la supply chain (catena di fornitura) monitorando le prestazioni dei fornitori, rilevando ritardi e rispondendo in modo autonomo per ridurre le interruzioni.
• Agenti di Customer Intent e Customer Knowledge Management: Supportano i team di assistenza clienti, apprendendo a risolvere i problemi e arricchendo autonomamente la base di conoscenza per migliorare le best practice.

La vera novità, però, è Copilot Studio, una piattaforma che consente alle aziende di creare i propri agenti IA personalizzati, anche senza una vasta conoscenza di programmazione. La piattaforma sfrutta i modelli IA di OpenAI, già integrati in molte soluzioni Microsoft e sarà disponibile il mese prossimo.

Secondo Jared Spataro, dirigente Microsoft, gli agenti IA sono visti come “app per l’era dell’intelligenza artificiale”, progettati per risolvere compiti che le persone trovano noiosi o dispendiosi in termini di tempo. Questo approccio punta a un cambiamento significativo nella produttività aziendale, con molte grandi organizzazioni che, come affermato sul medesimo blog di Microsoft, già sperimentano risparmi e miglioramenti nelle prestazioni.

La sfida lanciata da Salesforce a Microsoft punta a capitalizzare il suo dominio nel campo della gestione delle relazioni con i clienti, cercando di dimostrare l’efficacia ed il valore tangibile e immediato dei suoi agenti IA.

La competizione evidentemente si estende a tutti i processi dell’Office automation potenziati dai sistemi sintetici e quindi, nel terreno industriale proprio di Microsoft che ha dovuto pertanto annunciare rapidamente la sua risposta che però partirà in fase “anteprima pubblica”, a partire da dicembre e fino all’inizio del 2025, quindi con un evidente ritardo rispetto al competitor.

Bing Generative Search, ancora in fase di sviluppo, è stata resa disponibile negli Stati Uniti, ad una piccola percentuale di utenti per ricevere riscontri ed effettuare aggiustamenti. Per attivarla bisogna cercare “Bing Generative Search” su Bing, e l’utente si troverà sullo schermo un carosello di query da selezionare e che consentirà di sperimentare come la ricerca generativa possa fornire risposte più pertinenti e complete per un’ampia gamma di argomenti.

Per gli utenti negli altri paesi, inclusa l’Italia, è già disponibile il pulsante “Ricerca approfondita” che appare nella pagina dei risultati, nello specifico sul lato destro della pagina, in cui offre i risultati “approfonditi”, ovvero ulteriori spunti di ricerca, in relazione alla query di partenza.

Attraverso questa funzionalità, Bing consente di andare oltre i risultati di ricerca tradizionali , che non vengono rimossi e possono essere consultati nella parte sottostante, dando la possibilità all’utente di interfacciarsi con più risposte provenienti da fonti diverse.

Inoltre, Bing informa che il caricamento di questi risultati potrebbe richiedere più tempo rispetto alle “normali” risposte di ricerca generativa in quanto, la funzione è ancora in fase beta e, dunque, fornisce i risultati di ricerca generativa quando l’IA ha effettuato le opportune verifiche di accuratezza e pertinenza.

Con questa innovazione nell’esperienza di ricerca, Microsoft punta a migliorare la capacità di Bing di comprendere la domanda dell’utente utilizzando modelli linguistici avanzati (LLM) e un’interfaccia ottimizzata grazie all’Intelligenza artificiale, non a  caso la ricerca generativa di Bing non si limita a trovare una sola risposta ma “[…] comprende la query di ricerca, esamina milioni di fonti di informazioni, abbina dinamicamente i contenuti e genera risultati di ricerca in un nuovo layout generato dall’intelligenza artificiale “.

Il potenziamento dei motori di ricerca mediante l’IA è senza dubbio uno dei passi che apre le porte a una maggiore crescita e innovazione; tuttavia, minaccia anche di innescare un cambiamento radicale nelle abitudini di ricerca degli utenti sul web. Inoltre, le risposte esaustive fornite dall’IA possono diminuire le visite degli utenti alle fonti, ovvero ai siti di informazione, influenzando negativamente i ricavi degli editori.

A tal proposito, a luglio Microsoft aveva garantito che avrebbe “esaminato attentamente l’impatto della ricerca generativa sul traffico verso i siti di news” e aveva affermato di avere dati preliminari secondo cui la ricerca generativa di Bing “manteneva il numero di clic sui siti web”.

Ma ad oggi la società non ha ancora condiviso informazioni in merito.

L’episodio ha avuto origine quando Bernklau ha deciso di utilizzare Copilot per monitorare la diffusione dei suoi articoli online, inserendo il proprio nome e luogo di residenza. Inaspettatamente, l’intelligenza artificiale ha associato il giornalista a crimini terribili, trasformandolo in un fuggitivo da un istituto psichiatrico, nonché in un abusatore di minori e truffatore.

Questa distorsione è avvenuta poiché Copilot ha erroneamente collegato il nome di Bernklau ai casi giudiziari su abusi e frodi di cui lui stesso aveva scritto, confondendolo con i criminali protagonisti dei suoi articoli.

Dopo l’accaduto, Bernklau ha presentato una denuncia presso la procura di Tubinga, ma il caso è stato archiviato, poiché, secondo il giudice, non vi è un autore umano imputabile per le affermazioni diffamatorie: l’IA non può essere accusata di questi reati. Anche il responsabile della protezione dei dati della Baviera ha tentato di risolvere la situazione contattando Microsoft che, in primo luogo aveva rimosso le informazioni diffamanti ma, le notizie diffamatorie, sono riemerse pochi giorni dopo sulla piattaforma.

Nel nostro paese questo reato sarebbe assimilabile alla diffamazione aggravata poiché ChatGPT può essere considerato uno strumento di pubblicità; tuttavia, il caso dell’attore intelligenza artificiale non è ancora definito nell’ordinamento giuridico italiano. Non vi è un espresso rinvio alla normativa sulla diffamazione aggravata per le condotte suddette, e la giurisprudenza sul punto non ha delineato un orientamento essendo un tema di estrema attualità.

Il giornalista ha assunto un avvocato, sostenendo che le dichiarazioni diffamatorie, pur essendo generate da un’intelligenza artificiale, costituiscono una violazione della sua dignità e sono facilmente rintracciabili online.

L’episodio è un chiaro esempio delle cosiddette “allucinazioni” dell’intelligenza artificiale, un fenomeno in cui i modelli generativi, come Copilot, ChatGPT o Google Gemini, producono informazioni inesatte. Questi sistemi, addestrati su vasti set di dati, generano risposte basandosi su associazioni statistiche piuttosto che su una vera comprensione della realtà, con conseguenze a volte pericolose.

La questione è seria perché sembra che queste allucinazioni siano inevitabili, poiché i modelli sono progettati per generare risposte basate sui dati di addestramento, senza garantire necessariamente l’accuratezza delle informazioni fornite.

Gli LLM funzionano come strumenti avanzati di completamento del testo, producendo risposte anche su argomenti che non sono presenti nei loro dati. Essi non sono progettate come i motori di ricerca per dare risposte veritiere ma essenzialmente per soddisfare l’utente.

In base a quanto detto in precedenza possiamo affermare che per le aziende come Microsoft e OpenAI sembra molto difficile eliminare completamente le “allucinazioni”, poiché rappresentano una caratteristica intrinseca dei modelli linguistici di grandi dimensioni; la soluzione che viene adottata al momento è l’intervento “ex post”, correggendo gli errori solo dopo che vengono segnalati.

Ma questa modalità di azione solleva dubbi sulla reale tutela che abbiamo nei confronti di queste grandi piattaforme.

Questo lavoro si rivolge a un vasto pubblico di esperti, ricercatori, legislatori, aziende del settore tecnologico e persino al pubblico in generale, con l’obiettivo di fornire un quadro di riferimento chiaro, accessibile e condiviso per comprendere e affrontare i pericoli derivanti dall’uso e dall’implementazione dell’IA.

La mancanza di una comprensione comune e unificata dei rischi legati all’IA può infatti ostacolare lo sviluppo di politiche efficaci, la ricerca accademica e la capacità di rispondere in modo tempestivo a potenziali crisi.

Negli ultimi anni, lo sviluppo dell’IA ha registrato un’accelerazione esponenziale, tanto che oggi è praticamente impossibile ignorare il suo impatto su molteplici settori della società. Tuttavia, con questo rapido sviluppo, emergono anche una serie di rischi potenziali, dai problemi di privacy fino a preoccupazioni più gravi come la disinformazione su larga scala o l’uso improprio di IA per scopi bellici o criminali. Questi rischi non sono solo teorici: l’AI Incident Database, un archivio che monitora i casi in cui sistemi di IA hanno causato o quasi causato danni nel mondo reale, conta già oltre 3.000 incidenti documentati. È chiaro, quindi, che la gestione di tali rischi non può essere lasciata al caso, e occorre uno sforzo coordinato per capirli e affrontarli efficacemente.

L’obiettivo principale di questo progetto è stato quello di raccogliere e organizzare le molteplici tassonomie di rischio già esistenti, per creare un unico database che fornisse una visione d’insieme comprensibile e accessibile. I ricercatori hanno scoperto che, mentre esistono numerosi tentativi di classificare e descrivere i rischi dell’IA, questi approcci sono spesso non coordinati tra loro, portando a una mancanza di coerenza nella comprensione globale del fenomeno. Ciò ha reso difficile l’identificazione dei modelli comuni e delle lacune, ostacolando lo sviluppo di strategie efficaci di prevenzione e mitigazione dei rischi.

Per risolvere questo problema, i ricercatori hanno raccolto e sintetizzato le diverse prospettive sul rischio legato all’IA, creando quello che hanno chiamato AI Risk Repository. Questo archivio include non solo una revisione della letteratura esistente, ma anche una serie di strumenti, come una tassonomia delle cause, una tassonomia dei domini e un database in continuo aggiornamento, accessibile al pubblico. Il Repository si configura come uno strumento in grado di offrire una chiara comprensione dei rischi associati all’IA, permettendo di consultarli, modificarli e aggiornarli facilmente.

La raccolta dei rischi ha coinvolto un processo complesso di ricerca sistematica, in totale, sono stati individuati e analizzati 777 diversi rischi, estratti da 43 documenti. Questa imponente raccolta di informazioni è stata poi codificata e classificata in due principali tassonomie.

La tassonomia delle cause classifica i rischi in base a tre criteri fondamentali:

1. Entità: questo criterio indica chi o cosa è responsabile del rischio. Può essere un umano, un sistema di IA o, in alcuni casi, una causa indefinita o ambigua.
2. Intenzionalità: qui i rischi vengono distinti a seconda che siano il risultato di azioni intenzionali, come nel caso di un attacco informatico progettato per sfruttare vulnerabilità dell’IA, o non intenzionali, come quando un sistema di IA agisce in modo imprevedibile a causa di dati di addestramento errati o incompleti.
3. Tempistica: i rischi vengono suddivisi in base al momento in cui si verificano, ovvero prima che l’IA venga implementata (pre-deployment) o dopo che è stata distribuita e utilizzata (post-deployment). Alcuni rischi, infine, non hanno una tempistica chiara e rientrano nella categoria “Altro”.

Questa classificazione offre un modo efficace per comprendere le dinamiche alla base dei vari rischi, evidenziando se derivano da errori umani, da malfunzionamenti tecnologici o da altre circostanze. Un esempio di rischio identificato riguarda la possibilità che un sistema di IA, dopo essere stato implementato, generi contenuti dannosi o pericolosi, innescando una serie di conseguenze indesiderate.

La seconda classificazione la tassonomia dei domini, che si concentra sui tipi di rischi che possono manifestarsi nelle applicazioni dell’IA. Questi rischi sono raggruppati in sette grandi categorie, ognuna delle quali include più sottocategorie che coprono una vasta gamma di problemi. I principali domini identificati sono:

1. Discriminazione e tossicità: questa categoria comprende i rischi legati all’uso dell’IA che perpetuano disuguaglianze sociali o razziali, ad esempio attraverso pregiudizi nei dati di addestramento, e i rischi associati alla diffusione di contenuti tossici come incitamenti all’odio, violenza o estremismo.
2. Privacy e sicurezza: in questo dominio rientrano i rischi legati alla compromissione della privacy, come la fuga di informazioni sensibili, e quelli connessi alla vulnerabilità dei sistemi di IA, che possono essere attaccati e manipolati da attori malintenzionati.
3. Disinformazione: qui si analizzano i pericoli legati alla generazione o alla diffusione di informazioni false o fuorvianti attraverso i sistemi di IA, che possono minare la fiducia del pubblico e destabilizzare l’ecosistema informativo globale.
4. Attori malintenzionati e uso improprio: questo dominio riguarda i rischi derivanti dall’uso deliberato dell’IA per scopi dannosi, come la sorveglianza di massa, la manipolazione politica o lo sviluppo di armi autonome.
5. Interazione uomo-macchina: questa categoria esplora i rischi legati all’uso improprio o eccessivo dell’IA, che potrebbe portare a una dipendenza emotiva e materiale dagli assistenti virtuali, o alla perdita di controllo umano su decisioni critiche.
6. Danni socioeconomici e ambientali: in questo dominio vengono analizzati i rischi che l’IA può generare a livello sociale ed economico, come l’aumento delle disuguaglianze, la perdita di posti di lavoro dovuta all’automazione e l’impatto ambientale delle operazioni legate allo sviluppo di sistemi di IA.
7. Sicurezza dei sistemi di IA: qui si trattano i problemi legati ai malfunzionamenti tecnici, alla mancanza di robustezza e trasparenza nei sistemi di IA, e alle questioni etiche legate alla creazione di intelligenze artificiali autonome e potenzialmente pericolose.

Uno dei risultati più interessanti del progetto è che non tutti i rischi sono trattati con la stessa attenzione nella letteratura esistente. Alcuni rischi, come quelli legati alla discriminazione e ai fallimenti dei sistemi di IA, sono stati ampiamente studiati e analizzati, essendo presenti in oltre il 70% dei documenti. Altri, come il benessere e i diritti delle IA, sono stati quasi completamente trascurati, essendo menzionati solo nell’1% della documentazione esaminata.

Questa disparità evidenzia come certi aspetti dei rischi dell’IA, specialmente quelli legati a questioni di equità e diritti, richiedano una maggiore attenzione da parte della comunità scientifica e dei decisori politici. Allo stesso tempo, si sottolinea la necessità di una maggiore trasparenza e robustezza nei sistemi di IA, affinché essi possano funzionare in modo sicuro e affidabile in situazioni non previste o critiche.

Il Repository non è solo uno strumento di consultazione, ma un vero e proprio punto di partenza per una vasta gamma di attività di gestione del rischio. Per i legislatori, offre una base di conoscenze su cui sviluppare regolamenti più efficaci e con divisi a livello globale. Per gli auditor e gli esperti di valutazione.

L’AI Act adotta un approccio basato sul rischio, ovvero, sulla possibilità che queste tecnologie possano causare danni agli interessi pubblici e ai diritti fondamentali dell’uomo.

I sistemi IA sono classificati in quattro livelli di rischio:

• Rischio inaccettabile: Sistemi vietati a priori per la loro evidente minaccia ai valori fondamentali dell’UE. Tra questi rientrano i sistemi di punteggio sociale (social scoring), le tecnologie manipolatorie che sfruttano le vulnerabilità individuali e la categorizzazione biometrica discriminatoria.
• Rischio elevato: Sistemi sottoposti a rigorosi obblighi di conformità, tra cui la valutazione e la mitigazione dei rischi, la governance dei dati, la documentazione tecnica e la supervisione umana. In questo caso rientrano i sistemi utilizzati in settori delicati come la giustizia, l’istruzione e l’occupazione.
• Rischio Limitato: Sistemi soggetti a obblighi di trasparenza, come l’obbligo di informare gli utenti che stanno interagendo con un’IA (ad esempio, chatbot e deepfake).
• Rischio Minimo: Sistemi non regolamentati, come videogiochi basati su IA e filtri antispam.

L’AI Act introduce disposizioni specifiche per l’IA “general purpose” (GPAI), cioè modelli di IA addestrati su enormi quantità di dati e in grado di svolgere una vasta gamma di compiti. Un esempio sono le chatbot, come ChatGPT o le applicazioni per creare immagini dal testo.

Le aziende produttrici di questi modelli devono fornire documentazione tecnica dettagliata, rispettare le norme sul copyright e rendere pubbliche le informazioni sui dati usati per l’addestramento.

In caso di violazione del Regolamento, le aziende dovranno pagare una percentuale del fatturato globale annuo o un importo predeterminato a seconda di quale sia il più alto tra i due: 35 milioni di euro o il 7% per violazioni di applicazioni vietate, 15 milioni di euro o il 3% per violazioni degli obblighi di legge, 7,5 milioni di euro, pari all’1,5 per cento, per aver fornito informazioni errate. Sanzioni più proporzionate si applicheranno alle piccole e medie imprese e alle start-up.

La supervisione spetterà all’Ufficio AI della Commissione Europea che controllerà il rispetto delle regole e sarà composto da 140 membri. Un comitato per l’AI, formato da delegati di tutti i27 stati membri dell’UE, lavorerà per garantire l’applicazione della legge. Per l’Italia, i rappresentanti sono l’Agenzia per l’Italia Digitale (AgID) e l’Agenzia Nazionale di Cybersecurity (ACN).

I tempi di attuazione previsti dal Regolamento variano dai 6 ai 36 mesi, con priorità data ai sistemi a rischio elevato. Questo intervallo temporale è stato studiato per permettere un’implementazione graduale ed efficace delle nuove norme.

Al centro del mirino dell’AI Act, ci sono le grandi aziende tecnologiche americane, come Microsoft, Google, Amazon, Apple e Meta che hanno già investito miliardi di dollari nell’IA, per diventare leader indiscussi nel settore e ad oggi,  si trovano ad affrontare difficoltà ed opportunità che potrebbero ridefinire il panorama tecnologico globale.

L’AI Act ha implicazioni che vanno ben oltre i confini geografici europei, si applica a qualsiasi organizzazione che produce e diffonde i sistemi  di IA in Europa, ha affermato Charlie Thompson, vicepresidente senior di EMEA e LATAM per la società di software aziendale Appian. Questo implica un controllo più stringente sulle loro operazioni nel mercato europeo, specialmente riguardo all’uso dei dati dei cittadini europei.

Di conseguenza, aziende come Open AI, stanno lavorando per preparare tutta la documentazione tecnica e altre linee guida per i fornitori e gli utilizzatori dei loro modelli GPAI migliorando al contempo la protezione e sicurezza dei modelli che sono immessi nel mercato europeo.

Non a caso, Meta Platforms ha giocato d’anticipo e ha limitato la disponibilità di Llama, il suo modello di IA, in Europa, a causa delle incertezze sulle regole sulla protezione dei dati, ha riferito il gigante dei social media, mostrando come l’AI Act possa influenzare le decisioni strategiche delle aziende.

Con l’entrata in vigore dell’AI Act, sta emergendo anche una crescente preoccupazione riguardo al divario tecnologico tra Europa e America, già presente e potenzialmente consolidato dall’applicazione del nuovo Regolamento.

Inoltre, le startup europee sono allarmate dalla complessità dell’AI Act, che potrebbe gravare le piccole aziende con costi di conformità elevati, limitando la loro capacità di innovazione e crescita.

Questa innovazione rappresenta una radicale trasformazione della ricerca, in un contesto definito Search Generative Experience, in cui l’utente non deve più leggere e scegliere quali informazioni, tra i risultati di ricerca, sono necessarie a dare una risposta in grado soddisfare la sua domanda, ma è il sistema di Intelligenza artificiale che lo fa per lui. D’altronde, AI Overviews, utilizza un nuovo modello Gemini specializzato per riassumere le informazioni presenti sul web e per mostrare risultati di ricerca più completi e informativi in base alla domanda iniziale dell’utente.

In questa fase del tutto “sperimentale” statunitense è accaduto che, nelle ultime settimane, si è verificato un calo della frequenza con cui le AI Overview appaiono nei risultati delle ricerche. Nello specifico i dati raccolti da Brightedge, una società specializzata in SEO, mostrano che la presenza delle AI Overview è diminuita dall’11% delle query del 1° giugno al 7% delle query del 30 giugno, evidenziando in tal modo un possibile malfunzionamento di questa nuova caratteristica “sintetica” del motore di ricerca.

Oltretutto, i dati di Brightedge, evidenziano che le AI Overview citano molto meno frequentemente fonti come Reddit e Quora rispetto a prima. Ricordiamo che Reddit e Quora sono piattaforme di social media che, pur essendo diverse tra loro, si basano entrambe principalmente sui contenuti generati dagli utenti siano essi domande, risposte, post o commenti.

Oltretutto, i dati di Brightedge, evidenziano che le AI Overview citano molto meno frequentemente fonti come Reddit e Quora rispetto a prima. Ricordiamo che Reddit e Quora sono piattaforme di social media che, pur essendo diverse tra loro, si basano entrambe principalmente sui contenuti generati dagli utenti siano essi domande, risposte, post o commenti.

Google, in risposta all’analisi evidentemente critica di Brightedge, tramite la sua portavoce Ashley Thompson, ha criticato la metodologia dello studio che sembra mescolare gli utenti che hanno aderito ad AI Overviews e quelli che non l’hanno fatto. Thompson sostiene che questo errore nel campionamento degli utenti ha influenzato i risultati dell’analisi condotta dalla società SEO, ripotando il calo della frequenza con cui Google mostra i risultati di ricerca generati dall’IA.

In replica, Brightedge ha dichiarato a The Verge che il loro studio non confonde gli utenti che hanno accettato di utilizzare le AI Overview con coloro che non l’hanno fatto ma, al contrario, assicura che il loro monitoraggio include esclusivamente gli utenti che hanno aderito al nuovo sistema IA del motore di ricerca, riaffermando la validità dell’analisi ed i dubbi sul funzionamento delle AI Overview.

Inoltre, Google ha comunicato che nelle AI Overview sono riportate meno informazioni da Quora e Reddit perchè presta maggiore attenzione al criterio di scelta delle fonti a cui attingere rendendo le AI Overview meno inclini alle “allucinazioni “e meno propense a fornire informazioni false.

Ciò anche in applicazione dell’E-E-A-T (Experience, Expertise, Authoritativeness, Trustworthiness), ovvero un quadro di valutazione utilizzato dall’azienda di Mountain View per valutare la qualità dei contenuti online e rappresenta il paradigma che aiuta il motore di ricerca a determinare se i contenuti proposti nei risultati sono utili, pertinenti e affidabili.

D’altra parte, anche se le AI Overview sono ancora in fase di sviluppo e miglioramento tecnico per ottimizzare la qualità delle risposte, rappresentano un’iniziativa fondamentale per Google, che mostra come l’azienda comprenda l’importanza di un costante perfezionamento per assicurare che i risultati siano il più possibile utili e affidabili.

In seguito a questa mossa, anche Apple ha deciso di non perseguire più l’intenzione di entrare nel Consiglio di amministrazione di OpenAI.

Ricordiamo che solo lunedì scorso Apple aveva annunciato di aver trovato un accordo con OpenAI per entrare nel Consiglio di amministrazione come osservatore,  stessa posizione che Microsoft aveva in precedenza assunto, avendo investito 13 miliardi di dollari nell’azienda.

Microsoft, nella sua lettera, di cui alcuni estratti sono stati riportati da Axios, ha espresso gratitudine per il supporto ricevuto dai dirigenti e dal consiglio direttivo di OpenAI nel prendere questa decisione. La società ha spiegato di aver accettato il ruolo di osservatore senza diritto di voto in un momento in cui OpenAI stava ricostruendo il proprio consiglio, il che aveva permesso a Microsoft di ottenere preziosi approfondimenti senza compromettere l’indipendenza del consiglio.

“Negli ultimi otto mesi abbiamo assistito a progressi significativi da parte del Consiglio di amministrazione appena formato e siamo fiduciosi nella direzione intrapresa dall’azienda; considerato tutto ciò, non crediamo più che il nostro ruolo limitato di osservatori sia necessario,” ha affermato Microsoft.

Questa mossa arriva in un momento critico in cui le autorità antitrust dell’Unione Europea e degli Stati Uniti stanno intensificando le indagini sulle collaborazioni e gli investimenti delle grandi aziende nell’Intelligenza artificiale.

Rinunciando al suo ruolo di osservatore, Microsoft elimina un possibile punto di maggior attenzione da parte degli enti antitrust, che potrebbero vedere il coinvolgimento dell’azienda come una partnership di fatto.

Ricordiamo infatti che già a gennaio, l’antitrust europeo aveva posto sotto una grande lente di ingrandimento sull’accordo tra Microsoft e OpenAI.

L’investimento di Microsoft era visto come un segno di un legame più profondo di quanto dichiarato, con Microsoft che appariva come un socio occulto di OpenAI più che semplice osservatore e tale posizione poteva rappresentare una potenziale minaccia alla competitività ed alla trasparenza del mercato.

In parallelo, la Federal Trade Commission (FTC) degli Stati Uniti aveva avviato un’indagine approfondita sulle operazioni di investimento e le partnership nel campo dell’intelligenza artificiale generativa.

Lina Khan, presidente della FTC, aveva dichiarato che le indagini si basavano su quanto gli investimenti e le partnership delle aziende dominanti possano aver distorto il settore dell’innovazione e minato il principio della concorrenza leale in un settore strategico fondamentale.

Anche in questo caso, sotto la lente di ingrandimento vi era la partnership tra Microsoft e OpenAI.