Scongiurare la guerra fredda nell’IA

La settimana scorsa, a Pechino, un gruppo di esperti internazionali si è riunito per discutere del pericolo dell’Intelligenza artificiale individuando le “linee rosse” nello sviluppo dell’intelligenza artificiale che nessun sistema dovrebbe superare.

tobot in città

Tempo di lettura:

2 minuti


Queste “linee rosse” includono il divieto per i sistemi di IA di auto-migliorarsi senza coinvolgimento umano esplicito e di intraprendere azioni che possano aumentare impropriamente il proprio potere e influenza.

In una dichiarazione successiva all’incontro, riportata dal Financial Times, gli esperti hanno sottolineato l’importanza di un approccio collaborativo per garantire la sicurezza nell’utilizzo dell’IA e prevenire potenziali rischi catastrofici per l’umanità.

Durante le discussioni, sono state evidenziate le minacce legate allo sviluppo dell’”intelligenza artificiale generale”, ovvero sistemi con capacità paragonabili o superiori a quelle umane.  In base alle linee rosse delineate gli esperti invitano i governi di tutto il mondo a imporre restrizioni nel suo sviluppo e utilizzo.

Gli scienziati hanno anche messo in guardia contro il rischio di progettare armi di distruzione di massa, violare trattati internazionali sulle armi biologiche o chimiche, e l’esecuzione autonoma di attacchi informatici con gravi conseguenze finanziarie o danni equivalenti.

Questo non è il primo incontro di esperti che discutono di tale ambito ricordiamo il Vertice sulla Sicurezza dell’Intelligenza Artificiale del 2023, tenutosi nel Regno Unito a Bletchley Park, che ha visto la partecipazione di circa 150 rappresentanti globali dove sono stati discussi i rischi e le opportunità legati all’IA, con particolare attenzione alla disinformazione e agli abusi potenziali. Il Primo Ministro britannico aveva già sottolineato l’importanza della cooperazione internazionale, delineando obiettivi per la sicurezza dell’IA e firmando una dichiarazione che evidenziava l’importanza di un approccio centrato sull’uomo.

Anche nel vertice tra il presidente degli Stati Uniti Joe Biden e il suo omologo cinese Xi Jinping avvenuto a novembre scorso, si era evidenziata la questione della sicurezza legata all’intelligenza artificiale, stabilendo un dialogo sulla materia.

Negli ultimi mesi, inoltre le principali aziende di intelligenza artificiale a livello mondiale hanno avviato incontri riservati con esperti cinesi del settore. A novembre, 28 nazioni, inclusa la Cina, insieme alle principali aziende di intelligenza artificiale, hanno programmato una serie di impegni per collaborare nel fronteggiare i rischi esistenziali legati all’IA.

Alcune immagini,traduzioni e sintesi possono essere stati realizzati con ausilio di strumenti di intelligenza artificiale.

Storytelling e supervisione umani