Google DeepMind nel documento esaminato, immagina un’intelligenza artificiale generale sicura, utile ed etica, dando priorità alla valutazione proattiva del rischio, collaborando con l’intera comunità IA per garantire trasparenza all’utente. L’azienda vuole che il prodotto finale possa assicurare, in quella che potrebbe essere una trasformazione radicale del mondo, benefici tangibili per miliardi di persone, riducendo al minimo i rischi correlati.

Anche altre aziende hanno dichiarato apertamente l’obiettivo di voler sviluppare AGI.

Potrebbe essere stato il caso di OpenAI, “casa madre” di ChatGPT, che nel novembre 2023 avrebbe pensato di investire nello sviluppo dell’AGI. Voci non ufficiali riportarono che Il CEO dell’azienda Sam Altman, che credeva fortemente in questo nuovo modello di IA, volesse concentrare l’attenzione e le risorse dell’azienda proprio su questo tipo di intelligenza innovativa. L’azienda (o forse la stessa Microsoft, tra i principali finanziatori di OpenAI) però non sarebbe stata dello stesso avviso, in quanto l’AGI era considerata ancora un tema sensibile. In quell’occasione l’intero CdA di OpenAI si dimise e Altman fu licenziato (per poi essere reintegrato poche settimane dopo).

Anche la nuova azienda cinese DeepSeek ha mostrato interesse, dichiarando l’obiettivo di voler creare sistemi AGI e affermando di volersi impegnare nel progresso collettivo dell’IA. A tal proposito ha pubblicato 5 repository, condividendo pezzi di codice e modelli di addestramento AGI open source, utilizzabili dall’intera comunità.

Di fronte a tali buoni propositi, restano le potenziali implicazioni pericolose che l’AGI può generare ed è su questo aspetto che GDM si sofferma nel suo articolo, sostenendo che “con il progredire del suo sviluppo, le capacità avanzate potrebbero presentare nuovi rischi”. Sono infatti, quattro i potenziali fattori di rischio individuati e considerati correlati all’AGI, tra cui l’abuso, il disallineamento, gli incidenti e i rischi strutturali.

L’abuso (misuse) avviene quando un individuo, utilizzando l’AGI, causa deliberatamente un danno, che va contro le politiche del sistema e contro il volere degli sviluppatori. GDM vuole prevenire tale rischio, cercando di prevedere quali possano essere i possibili abusi, e lo fa simulando questo utilizzo improprio, senza creare danni reali, così da sapere come prevenirli qualora si presentino abusi reali.

Il disallineamento (misalignment) invece, è il caso in cui l’IA agisce non rispettando valori e obiettivi dell’essere umano. Il sistema quindi, causa intenzionalmente danni anche se il suo comportamento può apparire corretto. Ad esempio, può dare risposte o informazioni sbagliate sapendo di sbagliare, e restituendole come corrette. Si vuole contrastare il disallineamento attraverso una supervisione amplificata, ovvero fornendo un supervisore artificiale che controlla ciò che viene prodotto (output). Data la mole dei dati e la complessità delle procedure la semplice supervisione umana diretta non basta più.

Nel caso di incidenti (mistakes), il sistema può produrre una sequenza di output che causa un danno diretto alle infrastrutture, e un danno secondario agli individui che ne fanno parte; si tratta di conseguenze nocive che lo sviluppatore non aveva previsto.

Infine, vi sono i rischi strutturali (structural risks), in cui i danni prodotti derivano da interazioni strutturali sia con altri sistemi IA, e sia da interazioni tra persone o organizzazioni.

Le funzioni svolte dell’IA, quindi, saranno sempre più numerose e totalizzanti, persino la supervisione stessa sarà un compito completamente artificiale. Il rischio è che si possa dare il via ad una serie di addestramenti autogestiti, in cui l’AGI verifica sé stessa, e in quel caso per l’uomo sarà difficile, se non impossibile, ripristinare le diverse parti che compongono il modello.

Google DeepMind, per limitare al minimo i pericoli, vuole rendere consapevoli gli utenti, fornendo loro materiale di studio e informativo. In questo ambito rientra il Frontier Safety Framework, ovvero un insieme di protocolli, pubblicato nel 2024, che ci aiutano a identificare precocemente i rischi dati dall’IA e a prevenirli. Il Frontier Safety Framework è stato aggiornato lo scorso 4 febbraio in vista dell’obiettivo di GDM di sviluppare l’Intelligenza Artificiale Generale (AGI), garantendo agli utenti che le misure di sicurezza evolveranno in linea con le crescenti capacità dei modelli IA.

L’impegno di GDM per salvaguardare la sicurezza dell’utente si espande e non riguarda solo la pubblicazione di protocolli e linee guida, ma offre anche l’erogazione di un corso su “Youtube” composto attualmente da 16 video sul canale “Google DeepMind Safety Research” in cui si introducono i problemi di sicurezza legati all’AGI. Il corso è accessibile a tutti ed è gratuito, si divide in tre parti che vanno a toccare argomenti come quello del disallineamento, dell’approccio tecnico di Google DeepMind nella creazione dell’AGI e infine dei rischi sistemici, etici e legali che ne seguono.

Ma i benefici offerti da queste innovazioni riusciranno a superarne i rischi?

D’altra parte, questo tipo di innovazioni “rivoluzionarie”, sono inarrestabili e pervasive nella società globale, diffondendosi analogamente a quanto accaduto con gli smartphone o con la Narrow IA (come ChatGPT), il cui impatto genera nuovi bisogni di aggiornamento tecnologico e veri e propri cambiamenti nelle strutture comunicative e sociali, tanto da letteralmente emarginare, sia dal punto di vista professionale che sociale, chi non vi si adegui. I rischi ad esso correlati, legati alla privacy e alla sicurezza sembrano passare in secondo piano per l’individuo, che utilizzerà ugualmente questi strumenti pur di sentirsi integrato nella società di cui fa parte.