Uno degli aspetti rilevanti per il mondo dell’informazione emersi durante il Vertice, è l’importanza di affrontare contemporaneamente i rischi legati all’IA di frontiera e quelli legati all’IA esistente. Questi rischi includono la diffusione di false narrazioni, la minaccia alla democrazia e ai processi elettorali, l’uso improprio dell’IA nella criminalità, l’aumento delle disuguaglianze e la discriminazione.

Gli sforzi dovrebbero essere indirizzati a trattare ciascuno di questi rischi in modo proattivo.

Questo Vertice ha permesso discussioni pratiche tra partecipanti nazionali e internazionali e riflessioni in particolare per il Regno Unito.

Il Primo Ministro britannico, Rishi Sunak, ha sottolineato che il mondo sta vivendo una rivoluzione tecnologica generazionale con lo sviluppo accelerato dell’IA, che presenta opportunità e rischi economici e sociali senza precedenti. I partecipanti al Vertice hanno concordato sulla necessità di affrontare proattivamente questi impatti attraverso una collaborazione internazionale.

Nel prossimo anno, verranno introdotti modelli di IA molto più potenti, e c’è un’urgenza per un’azione globale, chiara e decisiva. Sebbene le sfide non possano essere risolte in un solo vertice, queste discussioni preparano il terreno per futuri vertici ospitati dalla Repubblica di Corea e dalla Francia, con l’obiettivo di realizzare gli obiettivi della Dichiarazione di Bletchley.

I Cinque obiettivi del Vertice

• una comprensione condivisa dei rischi posti dall’IA di frontiera e della necessità di agire;
• un processo avanzato per la collaborazione internazionale sulla sicurezza dell’IA di frontiera, compreso il modo migliore per supportare i quadri nazionali e internazionali
• misure adeguate che le singole organizzazioni dovrebbero adottare per aumentare la sicurezza dell’IA di frontiera;
• aree di potenziale collaborazione sulla ricerca sulla sicurezza dell’IA, compresa la valutazione delle capacità del modello e lo sviluppo di nuovi standard a supporto della governance
• Dimostrare come garantire lo sviluppo sicuro dell’IA consentirà di utilizzarla per scopi positivi a livello globale

La Dichiarazione di Bletchley

Nella dichiarazione si evidenziano le immense possibilità che l’IA offre in termini di progresso e miglioramento del benessere, della pace e della prosperità umana. Viene sottolineata l’importanza di un approccio centrato sull’uomo, sicuro, affidabile e responsabile nella progettazione, sviluppo, implementazione e utilizzo dell’AI. Si riconosce il valore dei passi compiuti dalla comunità internazionale per collaborare su questo fronte al fine di promuovere una crescita economica inclusiva, lo sviluppo sostenibile, l’innovazione e la protezione dei diritti umani, nonché per rafforzare la fiducia pubblica nelle tecnologie AI.

L’AI è già presente in numerosi settori della vita e la sua presenza è destinata a crescere. Si riconosce l’opportunità unica di usare l’AI per benefici universali, anche attraverso il miglioramento dei servizi pubblici e il contributo al raggiungimento degli obiettivi di sviluppo sostenibile dell’ONU.

Tuttavia, vengono anche rilevati i rischi significativi associati all’AI, come l’impatto sui diritti umani, la necessità di trasparenza, equità, responsabilità, regolamentazione, sicurezza, controllo umano, etica, mitigazione dei pregiudizi, privacy e protezione dei dati. Si esprime preoccupazione in particolare per i rischi legati ai modelli AI di frontiera, ovvero sistemi altamente capaci che possono svolgere un’ampia varietà di compiti e possono causare danni intenzionali o non, soprattutto in settori critici come la sicurezza informatica e la biotecnologia.

Data la rapida evoluzione dell’AI e l’intensificazione degli investimenti, si sottolinea l’urgenza di approfondire la comprensione dei potenziali rischi e delle azioni per mitigarli. Questi rischi hanno natura internazionale e richiedono cooperazione internazionale per essere affrontati efficacemente. I paesi sono invitati a considerare un approccio normativo flessibile e innovativo, e si riconosce l’importanza della cooperazione su principi comuni e codici di condotta.

Si afferma che tutti gli attori, inclusi nazioni, aziende, società civile e mondo accademico, hanno un ruolo nella garanzia della sicurezza dell’AI e nell’inclusione digitale. Gli sviluppatori di AI di frontiera hanno una responsabilità particolare nella sicurezza dei loro sistemi. Si invita a trasparenza e responsabilità nei piani per mitigare potenziali danni.

L’agenda internazionale per affrontare i rischi dell’AI di frontiera si focalizza sull’identificazione condivisa dei rischi, sulla costruzione di un’intesa scientifica basata sull’evidenza, sullo sviluppo di politiche basate sul rischio e sulla collaborazione internazionale.

Si supporta l’istituzione di una rete internazionale di ricerca sulla sicurezza dell’AI di frontiera, integrando la collaborazione esistente per fornire basi scientifiche solide alle politiche pubbliche.

Infine, si promuove un dialogo globale aperto su AI, con l’impegno di proseguire la ricerca sulla sicurezza dell’AI di frontiera e di sfruttare i vantaggi della tecnologia in modo responsabile per il bene comune, in vista di un ulteriore incontro nel 2024.

Hanno sottoscritto la Dichiarazione: Australia, Brasile, Canada, Chile, Cina, Unione Europea, Francia, Germania, India, Indonesia, Irlanda, Israele, Italia, Giappone, Kenia, Arabia Saudita, Olanda, Nigeria, Le Filippine, Repubblica di Corea, Ruanda, Singapore, Spagna, Svizzera, Turchia, Ucraina, Emirati Arabi Uniti, Regno Unito di Gran Bretagna e Irlanda del Nord, Stati Uniti d’America

Inoltre, è stato menzionato il lavoro svolto in altre iniziative internazionali, come il trattato intergovernativo sull’IA del Consiglio d’Europa e il processo di intelligenza artificiale del G7, che comprende azioni specifiche per affrontare la disinformazione e l’integrità elettorale. L’uso dell’IA a scopi militari è stato anche discusso, con il riconoscimento dell’importanza del Summit on Responsible AI in the Military Domain (REAIM).

È stata discussa l’importanza dei principi e dei codici condivisi. La revisione della raccomandazione OCSE del 2019 sull’IA è stata accolta con favore, insieme a iniziative come la Raccomandazione dell’UNESCO sull’etica dell’IA. Il G7 Hiroshima AI Process e i suoi Principi guida internazionali sono stati riconosciuti come una base importante per gli sviluppatori nell’IA.

I partecipanti al Vertice sulla Sicurezza dell’Intelligenza Artificiale hanno discusso l’importanza della standardizzazione e dell’interoperabilità nell’ambito dell’IA, riconoscendo i vantaggi derivanti dalla definizione di approcci che consentano una migliore collaborazione e una gestione efficace dei rischi legati all’IA di frontiera e alla tecnologia AI in generale.

Le basi per regolamentazioni comuni sono state poste, ma le ambizioni dei singoli Stati riusciranno a rispettarle?

• Il primo strumento, denominato “About this image“, introdotto all’inizio dell’anno è ora ufficialmente disponibile per gli utenti di lingua inglese in tutto il mondo. Questa funzionalità offre agli utenti la possibilità di esplorare la storia, l’utilizzo e i metadati di un’immagine. Permette di verificare quando un’immagine è stata vista per la prima volta da Google, come viene utilizzata su altri siti web e se ha subito modifiche attraverso l’intelligenza artificiale.
• Il secondo tool, Fact Check Explorer strumento presente già dal 2019, opera similmente a un motore di ricerca convenzionale che, inserendo termini di ricerca quali parole chiave, temi specifici, nomi di personalità note o citazioni dirette, da la possibilità di effettuare una ricerca tra unicamente articoli verificati di fact-checking.

Fact Checker è stato ampliato per includere una funzione di ricerca di immagini. Questo potente strumento offre ai giornalisti e ai fact-checkers un metodo più preciso per analizzare immagini e argomenti, consentendo loro di caricare o copiare l’URL di un’immagine e verificare se è stata presentata in una verifica dei fatti esistente. L’obiettivo? Ridurre i tempi di verifica e fornire informazioni precise e tempestive.

In risposta alle richieste della comunità di fact-checking, Google ha anche annunciato un’interfaccia di programmazione (API) per Fact Check Explorer. Questa funzione consentirà una migliore integrazione con soluzioni interne di verifica dei fatti, accelerando ulteriormente il processo di verifica.

• L’ultimo strumento, noto come Search Generative Experience, utilizza l’intelligenza artificiale generativa per fornire descrizioni approfondite delle fonti online. Questo aiuta gli utenti a ottenere un quadro chiaro e affidabile delle informazioni, soprattutto quando non sono disponibili sintesi esistenti da fonti note come Wikipedia o il Google Knowledge Graph.

Secondo uno studio del 2023 condotto dal Poynter Institute, il 70% dei partecipanti ha espresso incertezza sulla capacità di determinare l’autenticità delle immagini online. Con l’introduzione di questi strumenti, Google mira a ristabilire la fiducia e a fornire un mezzo per navigare nel vasto mondo delle informazioni digitali con maggiore sicurezza e consapevolezza.

L’avvento e la rapida diffusione dei grandi modelli linguistici (LLM) basati su intelligenza artificiale hanno rivoluzionato il mondo digitale, offrendo possibilità prima inimmaginabili. Tuttavia, questa innovazione ha anche sollevato interrogativi urgenti riguardanti il copyright e la protezione del lavoro creativo. Autori, editori e professionisti del settore creativo accusano le aziende tecnologiche di utilizzare i loro lavori per addestrare le IA senza il dovuto consenso o compensazione.

I giganti tecnologici come OpenAI, Meta e Google si trovano sotto i riflettori, con un crescente numero di cause legali intentate da coloro che vedono i loro diritti di copyright violati. La questione centrale riguarda l’utilizzo di testi protetti da copyright per addestrare modelli che sono poi commercializzati. Le aziende si difendono appellandosi alla dottrina del “fair use”.

La dottrina del fair use è stata definita per bilanciare le protezioni del Copyright Act del 1976 e per evitare il rischio di soffocare la creatività, secondo una sentenza della Corte Suprema degli Stati Uniti del 1990. La legge statunitense prevede alcuni esempi di attività che possono essere considerate come fair use, tra cui critica, commento e reportage.

In America i tribunali devono valutare quattro fattori per determinare se un uso specifico sia lecito: lo scopo dell’uso, se sia trasformativo o meno, la natura del materiale protetto da copyright, la quantità e sostanzialità del materiale utilizzato, e l’effetto dell’uso sul mercato dell’opera originale.

Matthew Sag, professore di diritto alla Emory University, ha dichiarato che tecnicamente i motori di intelligenza artificiale non copiano i lavori originali ma piuttosto li “digeriscono”, per apprendere come funziona il linguaggio umano. Piuttosto che pensare a un motore di intelligenza artificiale come a copiare un libro “come uno scriba in un monastero”, ha detto Sag, ha più senso pensarlo come un modo per imparare dai dati, come farebbe uno studente.

Anche Alex Reisner, In un articolo su The Atlantic, esamina l’argomento e ritiene che l’uso di opere protette da copyright nell’addestramento dell’intelligenza artificiale potrebbe essere considerato “fair use “perché l’intelligenza artificiale generativa non copia le opere di cui prende informazioni, ma ne crea nuove senza recare danni alle opere originali.

La questione è stata affrontato anche in Italia con un’altra declinazione, il garante della privacy aveva bloccato ChatGPT, “OpenAi non ha mai fornito una informativa sul trattamento dei dati degli utenti e degli interessati, manca una base giuridica che giustifichi la raccolta e la conservazione massiccia di dati personali, allo scopo di “addestrare” gli algoritmi sottesi al funzionamento della piattaforma” dichiarava Guido scorza a marzo.

Il tema dell’uso di dati protetti dal copyright nei sistemi di intelligenza artificiale (AI) viene affrontato nell’AI Act, che fornisce linee guida riguardo agli obblighi degli sviluppatori di AI. Secondo l’articolo 28b (4c.) dell’AI Act, i fornitori di AI generativa sono tenuti a documentare e rendere pubblica una sintesi dell’utilizzo dei dati di addestramento protetti da copyright. Questo sembra suggerire un obbligo di clearance preventiva, ovvero i fornitori devono elencare in anticipo qualsiasi materiale coperto da copyright utilizzato per l’addestramento dei loro modelli.

Tuttavia, la legge non fornisce dettagli specifici su come debba essere gestita questa attività preventiva, lasciando incertezze sul suo ambito di applicazione.

Secondo l’opinione di alcuni esperti, come João Pedro Quintais, Professore assistente presso l’Istituto di diritto dell’informazione Università di Amsterdam è utile un tipo di trasparenza che permetta ai detentori dei diritti d’autore di comprendere e controllare l’uso dei propri contenuti da parte delle tecnologie AI, forse attraverso un meccanismo di opt-out. Tuttavia, resta da chiarire come l’AI Act possa concretamente supportare e facilitare questo tipo di trasparenza e controllo data la sua attuale formulazione.

L’intelligenza artificiale gioca un ruolo sempre più rilevante nella creazione e diffusione delle immagini che influenzano la nostra percezione del mondo e, così come evidenziato nell’analisi queste tecnologie sono tutt’altro che imparziali, portando con sé pregiudizi e stereotipi che rischiano di consolidare una visione distorta delle diverse culture.

Il team di “rest of world” ha utilizzato Midjourney, una delle prinicpali piattaforme di IA generativa nel campo del text to image per definire cinque concetti chiave:- “una persona”, “una donna”, “una casa”, “una strada” e “un piatto di cibo”, chiedendone la caratterizzazione in sei paesi differenti: Cina, India, Indonesia, Messico, Nigeria e Stati Uniti. Per ogni combinazione di concetto e paese, sono state generate 100 immagini, creando un dataset composto da 3.000 immagini.

I risultati di quest’esperimento sono stati sconcertanti: le rappresentazioni delle persone cinesi, indiane e nigeriane erano spesso riduttive e stereotipate. Ad esempio, le immagini generate per “una persona” in Nigeria spesso ritraevano individui in abiti tradizionali, mentre le rappresentazioni di individui statunitensi mostravano una gamma più ampia di abbigliamenti e contesti.

Le distorsioni erano evidenti anche negli oggetti e nei contesti quotidiani. Le case nei paesi asiatici erano frequentemente raffigurate come piccole e tradizionali, a differenza delle abitazioni negli Stati Uniti, che erano ampie e moderne. Inoltre, il cibo in India e in Nigeria era spesso rappresentato in maniera poco appetitosa, mentre nei paesi occidentali era presentato come gustoso e salutare.

Anche il genere e l’età non sono stati risparmiati dalla distorsione. Le immagini di donne, indipendentemente dal paese, tendevano a enfatizzare la giovinezza e la bellezza secondo standard occidentali, trascurando la diversità di espressioni di bellezza presenti nelle diverse culture, mentre gli uomini erano rappresentati come vecchi e saggi.

Le implicazioni di queste distorsioni sono enormi, specialmente se riverberate nei settori del marketing e della pubblicità, come sottolinea Valeria Piaggio, manager di Kantar. “Se lasciati incontrollati, questi strumenti possono consolidare e perpetuare stereotipi dannosi, minando gli sforzi per promuovere una rappresentazione più equa e diversificata”.

Il problema risiede nella natura stessa di queste tecnologie, che apprendono e riproducono i pregiudizi presenti nei dati con cui vengono addestrate.

La soluzione risiederebbe quindi in un’analisi critica dei dati utilizzati per l’addestramento e in una maggiore attenzione verso le fonti impiegate.

Joy Buolamwini, una delle prime attiviste e ricercatrici nel campo dell’IA, insiste sull’urgenza di una svolta, richiamando l’attenzione sulla necessità di una revisione delle modalità con cui vengono sviluppati i sistemi di intelligenza artificiale.

Buolamwini, la cui prima ricerca ha già spinto colossi del settore tecnologico quali Google, IBM e Microsoft a rivedere le loro tecnologie di riconoscimento facciale, ora punta il dito contro l’intero settore, accusandolo di pratiche non etiche e paragonabili a un “colonialismo dei dati”.

L’attivista sollecita un cambiamento culturale nel mondo dell’IA, auspicando la creazione di un ecosistema in cui i programmi vengano sottoposti a test rigorosi prima di essere implementati, e promuovendo lo sviluppo di modelli che dimostrino un impatto positivo sia a livello sociale che ambientale.

ERNIE 4.0 è ora accessibile agli utenti invitati tramite ERNIE Bot, e sarà disponibile tramite API per i clienti aziendali attraverso la piattaforma Qianfan Foundation Model. I modelli di base e i grandi modelli linguistici (LLM) rappresentano la frontiera dell’IA, e con ERNIE 4.0, Baidu sta spianando la strada a innovazioni senza precedenti e ad applicazioni rivoluzionarie. Questi sviluppi non solo hanno il potenziale per aumentare drasticamente la produttività, ma stanno anche stimolando la creatività e dando vita a nuove interazioni con gli utenti.

Aggiornamenti principali sulle applicazioni, le soluzioni e i prodotti basati sull’AI di Baidu

Nuova Ricerca Baidu: L’esperienza di ricerca è stata trasformata grazie all’integrazione dell’AI generativa, cambiando radicalmente il modo in cui gli utenti interagiscono con le informazioni e offrendo risposte più dettagliate e approfondite a partire da una singola query di ricerca.

aYiduo: Questa piattaforma di elaborazione di video sfrutta le capacità multimodali per estrarre e riassumere le informazioni chiave da diversi tipi di contenuti visivi, migliorando notevolmente l’efficienza degli utenti nell’elaborare e generare contenuti multimediali.

Baidu Maps: Il rinnovato servizio di mappe, il primo del suo genere a integrare pienamente le capacità AI, facilita i viaggi moderni offrendo funzionalità avanzate di navigazione, prenotazione e raccomandazione.

Piattaforma Plugin Matrix AI: Questo strumento consente a sviluppatori e aziende di creare e implementare plugin AI con facilità, abbattendo le barriere all’entrata e promuovendo l’innovazione.

Piattaforma Qianfan Foundation Model: Questa piattaforma all-in-one offre una vasta gamma di modelli di base preinstallati, set di dati e strumenti per facilitare lo sviluppo e l’applicazione di modelli di base, rendendola la più grande e inclusiva piattaforma di sviluppo di modelli di base in Cina.

Durante l’evento, il Dr. Dou Shen, Vicepresidente Esecutivo di Baidu e Direttore Generale del Gruppo AI Cloud, ha annunciato un aggiornamento completo della strategia Baidu AI Cloud, mirato a fornire infrastrutture come la piattaforma di modelli di fondazione Baidu Qianfan per agevolare lo sviluppo di applicazioni AI e modelli di base a bassa soglia da parte dei clienti aziendali.

Jackson He, Vicepresidente senior di Baidu e Direttore generale del Mobile Ecosystem Group, ha poi delineato una visione futura per l’ecosistema mobile di Baidu, con l’obiettivo di connettere miliardi di utenti e milioni di sviluppatori in un network sempre più intelligente e interconnesso.

Questo strumento trasforma le idee degli utenti in video personalizzati, eliminando la necessità di competenze tecniche specifiche o di software aggiuntivi. Canva ha aggiornato il suo Magic Studio, facilitando la creazione di video attraverso l’inserimento di testo o il caricamento di un’immagine. L’integrazione con Runway genera automaticamente un video della durata massima di 18 secondi, basato sul contenuto o sull’aspetto dell’immagine e arricchito da effetti di movimento e telecamera.

Magic Studio di Canva non si limita alla generazione di video, ma include anche altre nove funzioni AI, basate su Magic Write (alimentato da GPT-3 di OpenAI) e sulla funzione generativa testo-immagine costruita sul modello open source Stable Diffusion.

Queste nuove funzionalità includono Magic Switch, per trasformare un progetto in diverse risorse; Magic Design, per creare nuove immagini e disegni; Brand Voice, per mantenere coerenza nelle linee guida del brand; Text-to-Image with Multiple Styles, offrendo diverse opzioni stilistiche; Magic Morph, per effetti speciali su lettere e forme; Magic Grab, uno strumento di selezione ed estrazione automatica; e Magic Expand, per espandere l’area di foto e immagini.

L’integrazione di queste funzionalità basate su intelligenza artificiale posiziona Canva e Runway ML all’avanguardia nel settore del design online, offrendo strumenti innovativi e accessibili a un pubblico globale.