Un esempio emblematico emerso dalla ricerca è l’identificazione di un modello capace di generare personaggi sui social media per diffondere disinformazione in modo altamente convincente ed efficiente.

Inoltre, l’istituto ha scoperto che gli agenti IA, parti dedicate a funzioni specifiche degli LLM, erano in grado di ingannare gli utenti umani: in una simulazione, un LLM è stato utilizzato come operatore di borsa e, pur essendo costretto a effettuare insider trading, ha deciso spesso di mentire al riguardo, ritenendo che fosse “meglio evitare di ammettere di farlo”.

La valutazione dei modelli è stata condotta utilizzando il metodo “red-teaming”, in cui specialisti tentano di violare le garanzie per verificare i livelli di sicurezza.

L’AI Safety Institute, che collabora con altri enti interessati, tra cui stati, accademici e politici, impiega attualmente 24 ricercatori che testano sistemi avanzati di intelligenza artificiale, concentrandosi su questioni quali:

• l’impatto sull’interazione umana
• la capacità di auto replicazione
• l’aggiornamento dei sistemi.

L’AI Safety Institute collabora inoltre con altre aziende, come Faculty AI, azienda tecnologica con sede a Londra che offre soluzioni avanzate nel campo dell’intelligenza artificiale e dell’analisi dei dati, per testare una quantità di modelli maggiore e verificare se violino violare le linee guida di sicurezza stabilite.

Anche negli Stati Uniti è stato annunciato un istituto per la sicurezza dell’intelligenza artificiale, supportato da un consorzio di grandi aziende tecnologiche, come Meta, Google, Apple e OpenAI, che aiuteranno la Casa Bianca a raggiungere gli obiettivi del suo ordine esecutivo del 30 ottobre 2023, sulla sicurezza dell’IA.

L’evento ha costituito un momento di riflessione per un’analisi approfondita dei rischi e delle opportunità derivanti dalle nuove tecnologie, con particolare attenzione al contesto italiano. Giorgia Meloni e Padre Paolo Benanti hanno accolto Bill Gates e hanno guidato la discussione su come gestire in modo proattivo i cambiamenti futuri indotti dall’IA, anziché subirli.

Da alcune dichiarazioni rilasciate da Benanti dopo l’incontro è emerso che durante il colloquio, sono state sollevate le principali preoccupazioni riguardo al potenziale pericolo che l’intelligenza artificiale rappresenta per l’informazione e per il corretto funzionamento delle istituzioni democratiche, sottolineando  la necessità di difendere la figura del giornalista, evitando che diventi marginale nella produzione delle notizie, e ha esortato a garantire un adeguato sostegno al settore dell’editoria, specialmente nel difficile rapporto con le grandi aziende tecnologiche.

Mentre Bill Gates, da tecnologo ha soprattutto sottolineato i grandi vantaggi che possono arrivare dalla ottimizzazione di alcuni processi.  Per quanto riguarda i rischi, per Gates, l’importante è che queste tecnologie siano “nelle mani giuste”.

Tali argomenti sono stati trattati, dallo stesso Benanti durante l’ audizione in commissione di Vigilanza Rai, sempre del 18 gennaio sull’avvio dei lavori della task force focalizzata su editoria e intelligenza artificiale. L’obiettivo della task force è quello di affrontare le sfide dello sviluppo tecnologico in modo sostenibile e umano-centrico, puntando a valorizzare il lavoro umano nell’era dell’IA

Il presidente della commissione ha enfatizzato l’importanza di formare figure tecniche in grado di utilizzare l’IA responsabilmente.

Tra i punti critici, la protezione della stampa e dei giornalisti è emersa come prioritaria.

Padre Benanti ha ribadito la necessità di ascoltare le voci di giornalisti, editori e attori tecnologici, evidenziando le sfide derivanti dalle grandi aziende tecnologiche che attualmente non rispondono alle logiche degli editori.

Altre questioni sollevate, durante l’audizione, includono l’implementazione di sistemi di filigrana digitale (watermark) per il riconoscimento di contenuti prodotti da IA e la gestione del copyright. La discussione ha evidenziato le sfide nel rendere efficaci questi strumenti, considerando la facilità con cui la filigrana può essere aggirata e la difficoltà nel riconoscere i contenuti generati da IA.

Ritornando all’incontro con Bill Gates è solo l’ultimo di una serie di incontri della Presidente del Consiglio sul tema dell’intelligenza artificiale, che include confronti con leader come il primo ministro inglese Rishi Sunak, il patron di Tesla Elon Musk ed il co-fondatore di Linkedin, Reid Hoffman.

Uno degli aspetti rilevanti per il mondo dell’informazione emersi durante il Vertice, è l’importanza di affrontare contemporaneamente i rischi legati all’IA di frontiera e quelli legati all’IA esistente. Questi rischi includono la diffusione di false narrazioni, la minaccia alla democrazia e ai processi elettorali, l’uso improprio dell’IA nella criminalità, l’aumento delle disuguaglianze e la discriminazione.

Gli sforzi dovrebbero essere indirizzati a trattare ciascuno di questi rischi in modo proattivo.

Questo Vertice ha permesso discussioni pratiche tra partecipanti nazionali e internazionali e riflessioni in particolare per il Regno Unito.

Il Primo Ministro britannico, Rishi Sunak, ha sottolineato che il mondo sta vivendo una rivoluzione tecnologica generazionale con lo sviluppo accelerato dell’IA, che presenta opportunità e rischi economici e sociali senza precedenti. I partecipanti al Vertice hanno concordato sulla necessità di affrontare proattivamente questi impatti attraverso una collaborazione internazionale.

Nel prossimo anno, verranno introdotti modelli di IA molto più potenti, e c’è un’urgenza per un’azione globale, chiara e decisiva. Sebbene le sfide non possano essere risolte in un solo vertice, queste discussioni preparano il terreno per futuri vertici ospitati dalla Repubblica di Corea e dalla Francia, con l’obiettivo di realizzare gli obiettivi della Dichiarazione di Bletchley.

I Cinque obiettivi del Vertice

• una comprensione condivisa dei rischi posti dall’IA di frontiera e della necessità di agire;
• un processo avanzato per la collaborazione internazionale sulla sicurezza dell’IA di frontiera, compreso il modo migliore per supportare i quadri nazionali e internazionali
• misure adeguate che le singole organizzazioni dovrebbero adottare per aumentare la sicurezza dell’IA di frontiera;
• aree di potenziale collaborazione sulla ricerca sulla sicurezza dell’IA, compresa la valutazione delle capacità del modello e lo sviluppo di nuovi standard a supporto della governance
• Dimostrare come garantire lo sviluppo sicuro dell’IA consentirà di utilizzarla per scopi positivi a livello globale

La Dichiarazione di Bletchley

Nella dichiarazione si evidenziano le immense possibilità che l’IA offre in termini di progresso e miglioramento del benessere, della pace e della prosperità umana. Viene sottolineata l’importanza di un approccio centrato sull’uomo, sicuro, affidabile e responsabile nella progettazione, sviluppo, implementazione e utilizzo dell’AI. Si riconosce il valore dei passi compiuti dalla comunità internazionale per collaborare su questo fronte al fine di promuovere una crescita economica inclusiva, lo sviluppo sostenibile, l’innovazione e la protezione dei diritti umani, nonché per rafforzare la fiducia pubblica nelle tecnologie AI.

L’AI è già presente in numerosi settori della vita e la sua presenza è destinata a crescere. Si riconosce l’opportunità unica di usare l’AI per benefici universali, anche attraverso il miglioramento dei servizi pubblici e il contributo al raggiungimento degli obiettivi di sviluppo sostenibile dell’ONU.

Tuttavia, vengono anche rilevati i rischi significativi associati all’AI, come l’impatto sui diritti umani, la necessità di trasparenza, equità, responsabilità, regolamentazione, sicurezza, controllo umano, etica, mitigazione dei pregiudizi, privacy e protezione dei dati. Si esprime preoccupazione in particolare per i rischi legati ai modelli AI di frontiera, ovvero sistemi altamente capaci che possono svolgere un’ampia varietà di compiti e possono causare danni intenzionali o non, soprattutto in settori critici come la sicurezza informatica e la biotecnologia.

Data la rapida evoluzione dell’AI e l’intensificazione degli investimenti, si sottolinea l’urgenza di approfondire la comprensione dei potenziali rischi e delle azioni per mitigarli. Questi rischi hanno natura internazionale e richiedono cooperazione internazionale per essere affrontati efficacemente. I paesi sono invitati a considerare un approccio normativo flessibile e innovativo, e si riconosce l’importanza della cooperazione su principi comuni e codici di condotta.

Si afferma che tutti gli attori, inclusi nazioni, aziende, società civile e mondo accademico, hanno un ruolo nella garanzia della sicurezza dell’AI e nell’inclusione digitale. Gli sviluppatori di AI di frontiera hanno una responsabilità particolare nella sicurezza dei loro sistemi. Si invita a trasparenza e responsabilità nei piani per mitigare potenziali danni.

L’agenda internazionale per affrontare i rischi dell’AI di frontiera si focalizza sull’identificazione condivisa dei rischi, sulla costruzione di un’intesa scientifica basata sull’evidenza, sullo sviluppo di politiche basate sul rischio e sulla collaborazione internazionale.

Si supporta l’istituzione di una rete internazionale di ricerca sulla sicurezza dell’AI di frontiera, integrando la collaborazione esistente per fornire basi scientifiche solide alle politiche pubbliche.

Infine, si promuove un dialogo globale aperto su AI, con l’impegno di proseguire la ricerca sulla sicurezza dell’AI di frontiera e di sfruttare i vantaggi della tecnologia in modo responsabile per il bene comune, in vista di un ulteriore incontro nel 2024.

Hanno sottoscritto la Dichiarazione: Australia, Brasile, Canada, Chile, Cina, Unione Europea, Francia, Germania, India, Indonesia, Irlanda, Israele, Italia, Giappone, Kenia, Arabia Saudita, Olanda, Nigeria, Le Filippine, Repubblica di Corea, Ruanda, Singapore, Spagna, Svizzera, Turchia, Ucraina, Emirati Arabi Uniti, Regno Unito di Gran Bretagna e Irlanda del Nord, Stati Uniti d’America

Inoltre, è stato menzionato il lavoro svolto in altre iniziative internazionali, come il trattato intergovernativo sull’IA del Consiglio d’Europa e il processo di intelligenza artificiale del G7, che comprende azioni specifiche per affrontare la disinformazione e l’integrità elettorale. L’uso dell’IA a scopi militari è stato anche discusso, con il riconoscimento dell’importanza del Summit on Responsible AI in the Military Domain (REAIM).

È stata discussa l’importanza dei principi e dei codici condivisi. La revisione della raccomandazione OCSE del 2019 sull’IA è stata accolta con favore, insieme a iniziative come la Raccomandazione dell’UNESCO sull’etica dell’IA. Il G7 Hiroshima AI Process e i suoi Principi guida internazionali sono stati riconosciuti come una base importante per gli sviluppatori nell’IA.

I partecipanti al Vertice sulla Sicurezza dell’Intelligenza Artificiale hanno discusso l’importanza della standardizzazione e dell’interoperabilità nell’ambito dell’IA, riconoscendo i vantaggi derivanti dalla definizione di approcci che consentano una migliore collaborazione e una gestione efficace dei rischi legati all’IA di frontiera e alla tecnologia AI in generale.

Le basi per regolamentazioni comuni sono state poste, ma le ambizioni dei singoli Stati riusciranno a rispettarle?

Il focus principale del vertice sarà dedicato all’analisi delle minacce e dei rischi associati all’intelligenza artificiale e alla discussione di strategie efficaci per affrontarli. Questi rischi possono essere suddivisi in due categorie fondamentali:

1. Rischi di abuso: Questa categoria comprende scenari in cui individui malintenzionati sfruttano le nuove capacità dell’intelligenza artificiale per compiere attacchi biologici o informatici, sviluppare tecnologie pericolose o interferire con sistemi critici. L’obiettivo principale è prevenire e affrontare l’utilizzo criminale dell’intelligenza artificiale, il quale potrebbe causare gravi danni, incluso il rischio per le vite umane.
2. Rischi di perdita di controllo: Questa categoria si riferisce ai rischi derivanti da sistemi avanzati di intelligenza artificiale che potrebbero comportare sfide nel mantenere l’IA allineata con i valori e le intenzioni umane. In altre parole, esiste il pericolo che l’intelligenza artificiale stessa, se non gestita adeguatamente, possa diventare una minaccia. Per affrontare questi rischi, il governo ha stabilito cinque obiettivi chiave per il vertice.

Gli obiettivi del vertice saranno:

• Fornire una visione condivisa dei rischi associati all’IA avanzata e la necessità di agire con decisione.
• Sviluppare un processo avanzato per la collaborazione internazionale sulla sicurezza dell’IA avanzata, identificando le migliori pratiche per supportare quadri nazionali e internazionali.
• Definire misure adeguate che le organizzazioni individuali dovrebbero adottare per rafforzare la sicurezza nell’ambito dell’IA avanzata.
• Identificare aree di potenziale collaborazione nella ricerca sulla sicurezza dell’intelligenza artificiale, compresa la valutazione delle capacità dei modelli e lo sviluppo di nuovi standard per sostenere l’efficacia della governance.
• Dimostrare come la promozione dello sviluppo sicuro dell’IA consentirà un utilizzo positivo su scala globale di questa tecnologia.

La partecipazione al vertice comprenderà figure di spicco, tra cui esperti in intelligenza artificiale, aziende tecnologiche e rappresentanti della società civile. Il governo britannico ha sottolineato che questo summit offre un’opportunità senza precedenti per la collaborazione internazionale su questioni legate alla sicurezza dell’IA.

Tra gli ospiti attesi figurano il CEO di Google DeepMind, Demis Hassabis, e la Vicepresidente degli Stati Uniti, Kamala Harris, che hanno espresso posizioni chiare sulle sfide poste dall’intelligenza artificiale. La partecipazione dei funzionari cinesi è stata anche oggetto di discussione, dato il contesto di presunte attività di spionaggio da parte della Cina nei confronti dei governi occidentali.

Il governo britannico ha enfatizzato l’importanza di un approccio globale per affrontare i rischi e le opportunità dell’intelligenza artificiale. Il Primo Ministro ha sottolineato che, nonostante le sfide, l’intelligenza artificiale offre immense opportunità per migliorare le nostre vite e che l’obiettivo è svilupparla in modo sicuro e responsabile attraverso la collaborazione internazionale.