Queste “linee rosse” includono il divieto per i sistemi di IA di auto-migliorarsi senza coinvolgimento umano esplicito e di intraprendere azioni che possano aumentare impropriamente il proprio potere e influenza.
In una dichiarazione successiva all’incontro, riportata dal Financial Times, gli esperti hanno sottolineato l’importanza di un approccio collaborativo per garantire la sicurezza nell’utilizzo dell’IA e prevenire potenziali rischi catastrofici per l’umanità.
Durante le discussioni, sono state evidenziate le minacce legate allo sviluppo dell’”intelligenza artificiale generale”, ovvero sistemi con capacità paragonabili o superiori a quelle umane. In base alle linee rosse delineate gli esperti invitano i governi di tutto il mondo a imporre restrizioni nel suo sviluppo e utilizzo.
Gli scienziati hanno anche messo in guardia contro il rischio di progettare armi di distruzione di massa, violare trattati internazionali sulle armi biologiche o chimiche, e l’esecuzione autonoma di attacchi informatici con gravi conseguenze finanziarie o danni equivalenti.
Questo non è il primo incontro di esperti che discutono di tale ambito ricordiamo il Vertice sulla Sicurezza dell’Intelligenza Artificiale del 2023, tenutosi nel Regno Unito a Bletchley Park, che ha visto la partecipazione di circa 150 rappresentanti globali dove sono stati discussi i rischi e le opportunità legati all’IA, con particolare attenzione alla disinformazione e agli abusi potenziali. Il Primo Ministro britannico aveva già sottolineato l’importanza della cooperazione internazionale, delineando obiettivi per la sicurezza dell’IA e firmando una dichiarazione che evidenziava l’importanza di un approccio centrato sull’uomo.
Anche nel vertice tra il presidente degli Stati Uniti Joe Biden e il suo omologo cinese Xi Jinping avvenuto a novembre scorso, si era evidenziata la questione della sicurezza legata all’intelligenza artificiale, stabilendo un dialogo sulla materia.
Negli ultimi mesi, inoltre le principali aziende di intelligenza artificiale a livello mondiale hanno avviato incontri riservati con esperti cinesi del settore. A novembre, 28 nazioni, inclusa la Cina, insieme alle principali aziende di intelligenza artificiale, hanno programmato una serie di impegni per collaborare nel fronteggiare i rischi esistenziali legati all’IA.