Un esempio emblematico emerso dalla ricerca è l’identificazione di un modello capace di generare personaggi sui social media per diffondere disinformazione in modo altamente convincente ed efficiente.

Inoltre, l’istituto ha scoperto che gli agenti IA, parti dedicate a funzioni specifiche degli LLM, erano in grado di ingannare gli utenti umani: in una simulazione, un LLM è stato utilizzato come operatore di borsa e, pur essendo costretto a effettuare insider trading, ha deciso spesso di mentire al riguardo, ritenendo che fosse “meglio evitare di ammettere di farlo”.

La valutazione dei modelli è stata condotta utilizzando il metodo “red-teaming”, in cui specialisti tentano di violare le garanzie per verificare i livelli di sicurezza.

L’AI Safety Institute, che collabora con altri enti interessati, tra cui stati, accademici e politici, impiega attualmente 24 ricercatori che testano sistemi avanzati di intelligenza artificiale, concentrandosi su questioni quali:

• l’impatto sull’interazione umana
• la capacità di auto replicazione
• l’aggiornamento dei sistemi.

L’AI Safety Institute collabora inoltre con altre aziende, come Faculty AI, azienda tecnologica con sede a Londra che offre soluzioni avanzate nel campo dell’intelligenza artificiale e dell’analisi dei dati, per testare una quantità di modelli maggiore e verificare se violino violare le linee guida di sicurezza stabilite.

Anche negli Stati Uniti è stato annunciato un istituto per la sicurezza dell’intelligenza artificiale, supportato da un consorzio di grandi aziende tecnologiche, come Meta, Google, Apple e OpenAI, che aiuteranno la Casa Bianca a raggiungere gli obiettivi del suo ordine esecutivo del 30 ottobre 2023, sulla sicurezza dell’IA.

Tra i provvedimenti di maggiore importanza è necessario ricordare:

• L’ordine esecutivo emanato dal presidente Biden negli Stati Uniti, alla fine di ottobre 2023 ha definito un approccio articolato all’IA, richiedendo maggiore trasparenza e stabilendo nuovi standard. Questo segna l’inizio di una politica che favorisce l’industria dell’IA, enfatizzando al contempo l’adozione delle migliori pratiche. Il prossimo anno vedrà l’implementazione di molte delle disposizioni contenute in questo ordine esecutivo, con un focus particolare sull’AI Safety Institute statunitense, incaricato di attuare gran parte delle politiche richieste.
  Per quanto riguarda il Congresso, le prospettive sono ancora incerte, con diverse proposte legislative in gioco, tra cui trasparenza, deepfake e responsabilità delle piattaforme. Si prevede un approccio classificatorio basato sul rischio per i diversi utilizzi dell’IA, simile alla legislazione europea sull’IA.
• L’AI Act, recentemente approvato dall’ Unione Europea, segna un cambiamento significativo nel panorama normativo.
• Anche la Cina sta definendo un proprio sistema regolatorio per definire aspetti relativi alla sicurezza nazionale ed alla competitività delle proprie aziende

In sostanza i sistemi regolatori fin qui approvati, o in corso di approvazione, rappresentano per molti versi le culture che li emanano e lo scenario geopolitico in cui si colloca ciascun paese.

Nel corso del 2024, ci si aspetta che le aziende di IA si adattino alle nuove regole, con un’attenzione particolare alle applicazioni ad alto rischio, come quelle nell’istruzione, nell’assistenza sanitaria e nella sicurezza pubblica. L’attuazione della legge richiederà maggiore trasparenza nello sviluppo dei modelli e una responsabilità più stringente per eventuali danni.

In Cina, la regolamentazione dell’IA, precedentemente frammentata, potrebbe subire un cambiamento significativo. L’annuncio del consiglio di stato cinese riguardo a una “legge sull’intelligenza artificiale” rappresenta un passo avanti ambizioso. L’eventuale introduzione di questa legge potrebbe portare a una maggiore supervisione governativa e a nuove regole per gestire l’evoluzione rapida dell’IA nel paese.

Organizzazioni internazionali come l’ONU si candidano come organo comune nella creazione di norme comuni per agevolare la conformità a livello globale.

Il 2024 si prospetta come un anno decisivo in cui di definiranno i margini che caratterizzeranno le politiche sull’IA, plasmando il futuro di questa tecnologia su scala mondiale.