Questo lavoro si rivolge a un vasto pubblico di esperti, ricercatori, legislatori, aziende del settore tecnologico e persino al pubblico in generale, con l’obiettivo di fornire un quadro di riferimento chiaro, accessibile e condiviso per comprendere e affrontare i pericoli derivanti dall’uso e dall’implementazione dell’IA.

La mancanza di una comprensione comune e unificata dei rischi legati all’IA può infatti ostacolare lo sviluppo di politiche efficaci, la ricerca accademica e la capacità di rispondere in modo tempestivo a potenziali crisi.

Negli ultimi anni, lo sviluppo dell’IA ha registrato un’accelerazione esponenziale, tanto che oggi è praticamente impossibile ignorare il suo impatto su molteplici settori della società. Tuttavia, con questo rapido sviluppo, emergono anche una serie di rischi potenziali, dai problemi di privacy fino a preoccupazioni più gravi come la disinformazione su larga scala o l’uso improprio di IA per scopi bellici o criminali. Questi rischi non sono solo teorici: l’AI Incident Database, un archivio che monitora i casi in cui sistemi di IA hanno causato o quasi causato danni nel mondo reale, conta già oltre 3.000 incidenti documentati. È chiaro, quindi, che la gestione di tali rischi non può essere lasciata al caso, e occorre uno sforzo coordinato per capirli e affrontarli efficacemente.

L’obiettivo principale di questo progetto è stato quello di raccogliere e organizzare le molteplici tassonomie di rischio già esistenti, per creare un unico database che fornisse una visione d’insieme comprensibile e accessibile. I ricercatori hanno scoperto che, mentre esistono numerosi tentativi di classificare e descrivere i rischi dell’IA, questi approcci sono spesso non coordinati tra loro, portando a una mancanza di coerenza nella comprensione globale del fenomeno. Ciò ha reso difficile l’identificazione dei modelli comuni e delle lacune, ostacolando lo sviluppo di strategie efficaci di prevenzione e mitigazione dei rischi.

Per risolvere questo problema, i ricercatori hanno raccolto e sintetizzato le diverse prospettive sul rischio legato all’IA, creando quello che hanno chiamato AI Risk Repository. Questo archivio include non solo una revisione della letteratura esistente, ma anche una serie di strumenti, come una tassonomia delle cause, una tassonomia dei domini e un database in continuo aggiornamento, accessibile al pubblico. Il Repository si configura come uno strumento in grado di offrire una chiara comprensione dei rischi associati all’IA, permettendo di consultarli, modificarli e aggiornarli facilmente.

La raccolta dei rischi ha coinvolto un processo complesso di ricerca sistematica, in totale, sono stati individuati e analizzati 777 diversi rischi, estratti da 43 documenti. Questa imponente raccolta di informazioni è stata poi codificata e classificata in due principali tassonomie.

La tassonomia delle cause classifica i rischi in base a tre criteri fondamentali:

1. Entità: questo criterio indica chi o cosa è responsabile del rischio. Può essere un umano, un sistema di IA o, in alcuni casi, una causa indefinita o ambigua.
2. Intenzionalità: qui i rischi vengono distinti a seconda che siano il risultato di azioni intenzionali, come nel caso di un attacco informatico progettato per sfruttare vulnerabilità dell’IA, o non intenzionali, come quando un sistema di IA agisce in modo imprevedibile a causa di dati di addestramento errati o incompleti.
3. Tempistica: i rischi vengono suddivisi in base al momento in cui si verificano, ovvero prima che l’IA venga implementata (pre-deployment) o dopo che è stata distribuita e utilizzata (post-deployment). Alcuni rischi, infine, non hanno una tempistica chiara e rientrano nella categoria “Altro”.

Questa classificazione offre un modo efficace per comprendere le dinamiche alla base dei vari rischi, evidenziando se derivano da errori umani, da malfunzionamenti tecnologici o da altre circostanze. Un esempio di rischio identificato riguarda la possibilità che un sistema di IA, dopo essere stato implementato, generi contenuti dannosi o pericolosi, innescando una serie di conseguenze indesiderate.

La seconda classificazione la tassonomia dei domini, che si concentra sui tipi di rischi che possono manifestarsi nelle applicazioni dell’IA. Questi rischi sono raggruppati in sette grandi categorie, ognuna delle quali include più sottocategorie che coprono una vasta gamma di problemi. I principali domini identificati sono:

1. Discriminazione e tossicità: questa categoria comprende i rischi legati all’uso dell’IA che perpetuano disuguaglianze sociali o razziali, ad esempio attraverso pregiudizi nei dati di addestramento, e i rischi associati alla diffusione di contenuti tossici come incitamenti all’odio, violenza o estremismo.
2. Privacy e sicurezza: in questo dominio rientrano i rischi legati alla compromissione della privacy, come la fuga di informazioni sensibili, e quelli connessi alla vulnerabilità dei sistemi di IA, che possono essere attaccati e manipolati da attori malintenzionati.
3. Disinformazione: qui si analizzano i pericoli legati alla generazione o alla diffusione di informazioni false o fuorvianti attraverso i sistemi di IA, che possono minare la fiducia del pubblico e destabilizzare l’ecosistema informativo globale.
4. Attori malintenzionati e uso improprio: questo dominio riguarda i rischi derivanti dall’uso deliberato dell’IA per scopi dannosi, come la sorveglianza di massa, la manipolazione politica o lo sviluppo di armi autonome.
5. Interazione uomo-macchina: questa categoria esplora i rischi legati all’uso improprio o eccessivo dell’IA, che potrebbe portare a una dipendenza emotiva e materiale dagli assistenti virtuali, o alla perdita di controllo umano su decisioni critiche.
6. Danni socioeconomici e ambientali: in questo dominio vengono analizzati i rischi che l’IA può generare a livello sociale ed economico, come l’aumento delle disuguaglianze, la perdita di posti di lavoro dovuta all’automazione e l’impatto ambientale delle operazioni legate allo sviluppo di sistemi di IA.
7. Sicurezza dei sistemi di IA: qui si trattano i problemi legati ai malfunzionamenti tecnici, alla mancanza di robustezza e trasparenza nei sistemi di IA, e alle questioni etiche legate alla creazione di intelligenze artificiali autonome e potenzialmente pericolose.

Uno dei risultati più interessanti del progetto è che non tutti i rischi sono trattati con la stessa attenzione nella letteratura esistente. Alcuni rischi, come quelli legati alla discriminazione e ai fallimenti dei sistemi di IA, sono stati ampiamente studiati e analizzati, essendo presenti in oltre il 70% dei documenti. Altri, come il benessere e i diritti delle IA, sono stati quasi completamente trascurati, essendo menzionati solo nell’1% della documentazione esaminata.

Questa disparità evidenzia come certi aspetti dei rischi dell’IA, specialmente quelli legati a questioni di equità e diritti, richiedano una maggiore attenzione da parte della comunità scientifica e dei decisori politici. Allo stesso tempo, si sottolinea la necessità di una maggiore trasparenza e robustezza nei sistemi di IA, affinché essi possano funzionare in modo sicuro e affidabile in situazioni non previste o critiche.

Il Repository non è solo uno strumento di consultazione, ma un vero e proprio punto di partenza per una vasta gamma di attività di gestione del rischio. Per i legislatori, offre una base di conoscenze su cui sviluppare regolamenti più efficaci e con divisi a livello globale. Per gli auditor e gli esperti di valutazione.

Sebbene l’IA offra indubbi benefici, come scoperte scientifiche e ottimizzazione delle risorse, il documento evidenzia altresì una serie di rischi come i pregiudizi nei modelli ed il pericolo di una sorveglianza diffusa gestita da questi sistemi. C’è anche una questione legata al controllo dei dati e delle competenze, con pochi stati e aziende che ne traggono principalmente vantaggio.

La proposta chiave del rapporto mira a potenziare la governance internazionale dell’IA attraverso sette funzioni critiche, tra cui analisi dei rischi e collaborazione internazionale su dati e capacità di calcolo. Questo sforzo è finalizzato a raggiungere gli obiettivi di sviluppo sostenibile e garantire una distribuzione equa dei benefici.

Il rapporto sottolinea il contributo positivo dell’IA nell’affrontare il cambiamento climatico attraverso l’analisi di dati eterogenei, mentre evidenzia barriere strutturali e rischi, come distorsioni algoritmiche e impatti ambientali. Per superare queste sfide, il documento propone di migliorare la trasparenza dei modelli, diversificare i set di dati e garantire l’accesso all’IA per le comunità vulnerabili.

Il documento inoltre sottolinea un deficit nella governance dell’IA, con benefici concentrati tra pochi attori, nonostante le iniziative di autoregolamentazione e le leggi nazionali. Le Nazioni Unite sono proposte come il luogo adatto per un’azione collettiva, basata sul diritto internazionale.

Sebbene l’IA offra significative opportunità, come l’accesso alla conoscenza, l’efficienza globale e l’innovazione, emerge la necessità di affrontare sfide come la distribuzione equa dei benefici e la gestione degli impatti distruttivi, con particolare riferimento all’occupazione.

L’accesso limitato a dati, calcolo e talento umano ostacola l’uso completo dell’IA, soprattutto nel Sud del mondo. L’apertura dei modelli è stata suggerita come possibile soluzione, ma l’impatto e la sicurezza di questo approccio sono ancora oggetto di analisi e dibattito. L’opportunità dell’IA, pur promettente, si scontra con sfide, e la cooperazione internazionale è essenziale per superarle.

Coinvolgere gli scienziati per affrontare le sfide sociali è considerato un fattore chiave, insieme all’open source e alla condivisione di dati per diffondere i benefici dell’IA a livello mondiale. La governance è identificata come un fattore abilitante per l’utilizzo sostenibile dell’IA. Definire incentivi globali è fondamentale per promuovere obiettivi inclusivi e affrontare compromessi. Vanno affrontate quindi sfide significative, come la discriminazione e la manipolazione, l’opacità dei sistemi avanzati di IA e la governance frammentata.

Riconoscere i rischi è cruciale, ma la mancanza di consenso su valutazione e soluzioni rappresenta un ostacolo. La cooperazione e il coordinamento globali sono necessari, basati su meccanismi di monitoraggio del rischio condivisi.

Le sfide tecniche, politiche e sociali devono essere affrontate per garantire che l’IA sia utilizzata in modo sicuro ed equo, tracciando parallelismi con le lezioni apprese dalle tecnologie precedenti, come i social media.

Il panorama attuale della governance dell’IA è caratterizzato da numerosi documenti e principi provenienti da settori privati, società civile e organizzazioni nazionali, regionali e multilaterali. Gli sforzi si concentrano su dati, modelli, applicazioni e valutazioni, con diverse iniziative di governance settoriale. Mentre esiste un linguaggio comune sull’importanza di equità, responsabilità e trasparenza, manca un allineamento globale sull’attuazione e sugli incentivi per la conformità.

Le raccomandazioni preliminari si concentrano su quattro principi guida:

• l’IA dovrebbe essere governata in modo inclusivo, a beneficio di tutti, riducendo le barriere e affrontando l’esclusione storica.
• la governance deve essere nell’interesse pubblico, superando l’auto-regolamentazione e applicando norme vincolanti.
• la governance dell’IA deve essere costruita insieme a quella dei dati, promuovendo dati comuni.
• la governance deve essere universale, interconnessa e basata sulla collaborazione adattiva. Infine, deve essere ancorata alla Carta delle Nazioni Unite e agli impegni internazionali.

L’obiettivo è garantire un’ampia partecipazione, proteggere gli interessi pubblici, coordinare globalmente e rispettare i diritti umani. Si propone una struttura di governance che coinvolga attivamente diverse parti interessate, inclusi settore privato, accademico e società civile, basata sui principi di inclusività, interesse pubblico, collaborazione e rispetto dei valori delle Nazioni Unite.

Nonostante le sfide, il rapporto chiude con ottimismo, sottolineando che attraverso consultazioni continue con le parti interessate a livello globale, l’IA può diventare un motore per migliorare le condizioni di vita in un mondo sempre più interconnesso.

Il focus principale del vertice sarà dedicato all’analisi delle minacce e dei rischi associati all’intelligenza artificiale e alla discussione di strategie efficaci per affrontarli. Questi rischi possono essere suddivisi in due categorie fondamentali:

1. Rischi di abuso: Questa categoria comprende scenari in cui individui malintenzionati sfruttano le nuove capacità dell’intelligenza artificiale per compiere attacchi biologici o informatici, sviluppare tecnologie pericolose o interferire con sistemi critici. L’obiettivo principale è prevenire e affrontare l’utilizzo criminale dell’intelligenza artificiale, il quale potrebbe causare gravi danni, incluso il rischio per le vite umane.
2. Rischi di perdita di controllo: Questa categoria si riferisce ai rischi derivanti da sistemi avanzati di intelligenza artificiale che potrebbero comportare sfide nel mantenere l’IA allineata con i valori e le intenzioni umane. In altre parole, esiste il pericolo che l’intelligenza artificiale stessa, se non gestita adeguatamente, possa diventare una minaccia. Per affrontare questi rischi, il governo ha stabilito cinque obiettivi chiave per il vertice.

Gli obiettivi del vertice saranno:

• Fornire una visione condivisa dei rischi associati all’IA avanzata e la necessità di agire con decisione.
• Sviluppare un processo avanzato per la collaborazione internazionale sulla sicurezza dell’IA avanzata, identificando le migliori pratiche per supportare quadri nazionali e internazionali.
• Definire misure adeguate che le organizzazioni individuali dovrebbero adottare per rafforzare la sicurezza nell’ambito dell’IA avanzata.
• Identificare aree di potenziale collaborazione nella ricerca sulla sicurezza dell’intelligenza artificiale, compresa la valutazione delle capacità dei modelli e lo sviluppo di nuovi standard per sostenere l’efficacia della governance.
• Dimostrare come la promozione dello sviluppo sicuro dell’IA consentirà un utilizzo positivo su scala globale di questa tecnologia.

La partecipazione al vertice comprenderà figure di spicco, tra cui esperti in intelligenza artificiale, aziende tecnologiche e rappresentanti della società civile. Il governo britannico ha sottolineato che questo summit offre un’opportunità senza precedenti per la collaborazione internazionale su questioni legate alla sicurezza dell’IA.

Tra gli ospiti attesi figurano il CEO di Google DeepMind, Demis Hassabis, e la Vicepresidente degli Stati Uniti, Kamala Harris, che hanno espresso posizioni chiare sulle sfide poste dall’intelligenza artificiale. La partecipazione dei funzionari cinesi è stata anche oggetto di discussione, dato il contesto di presunte attività di spionaggio da parte della Cina nei confronti dei governi occidentali.

Il governo britannico ha enfatizzato l’importanza di un approccio globale per affrontare i rischi e le opportunità dell’intelligenza artificiale. Il Primo Ministro ha sottolineato che, nonostante le sfide, l’intelligenza artificiale offre immense opportunità per migliorare le nostre vite e che l’obiettivo è svilupparla in modo sicuro e responsabile attraverso la collaborazione internazionale.