La proposta, approvata dal Senato della California il 28 agosto, avrebbe introdotto per la prima volta una regolamentazione etica e di sicurezza volta a proteggere la società da potenziali abusi dell’IA, come attacchi informatici o la creazione di armi.

Il disegno di legge, identificato come SB 1047, avrebbe imposto agli sviluppatori requisiti stringenti, tra cui l’obbligo di implementare misure di sicurezza contro accessi non autorizzati e di conservare una copia non censurata dei protocolli di sicurezza.

In caso di incidenti legati all’IA, gli sviluppatori sarebbero stati tenuti a informare il Procuratore Generale entro 72 ore. Il testo prevedeva anche una tutela per i whistleblower, ossia i dipendenti che avrebbero segnalato violazioni della sicurezza, e la creazione di un’agenzia apposita, il “Board of Frontier Models”, incaricata della supervisione sulla conformità alle norme. Tra le misure proposte, figuravano anche test di sicurezza per i modelli di IA avanzati e l’introduzione di un “kill switch”, un meccanismo per disattivare i modelli in caso di emergenza. Questi requisiti sarebbero stati particolarmente stringenti per progetti con costi superiori a 100 milioni di dollari o che utilizzano grandi quantità di potenza di calcolo.

Nonostante le intenzioni della legge, la proposta ha incontrato una forte opposizione da parte delle startup, delle grandi aziende tecnologiche e di alcuni membri democratici della Camera.

Newsom ha giustificato il suo veto esprimendo preoccupazioni riguardo l’impatto della legge sull’industria tecnologica nazionale, sostenendo che essa avrebbe imposto requisiti troppo rigidi e inadeguati per la maggior parte dei sistemi IA, senza distinguere tra l’uso in contesti ad alto rischio o per decisioni critiche. Secondo il governatore, l’applicazione di standard così severi anche a sistemi di base avrebbe compromesso la competitività del settore tecnologico, nel paese.

Tuttavia, Newsom ha chiarito di non voler lanciare un segnale sbagliato e ha invitato gli esperti di intelligenza artificiale generativa a collaborare per creare misure di sicurezza più pratiche e basate su analisi scientifiche, inoltre ha ordinato alle agenzie statali di ampliare la loro valutazione dei rischi legati a potenziali scenari catastrofici derivanti dall’uso dell’IA.

Questa vicenda mette in luce un problema ricorrente: le proposte legislative mirate a garantire maggiore protezione nei confronti dei rischi legati all’intelligenza artificiale si scontrano spesso con il timore che regolamenti troppo rigidi possano frenare l’innovazione e la competitività. Le istituzioni, preoccupate che misure così rigide possano scoraggiare lo sviluppo tecnologico e allontanare le aziende, spesso decidono di fare un passo indietro.

Il senatore democratico Scott Weiner, promotore del disegno di legge, ha definito il veto di Newsom “una battuta d’arresto” per coloro che sostengono la necessità di una maggiore supervisione sulle grandi aziende tecnologiche, che prendono decisioni cruciali per la sicurezza pubblica. Weiner ha sottolineato che persino le aziende stesse riconoscono l’esistenza di rischi crescenti legati ai modelli IA, affermando che “gli impegni volontari del settore raramente funzionano a beneficio del pubblico”.

Sostenitori del provvedimento, come Elon Musk e rappresentanti di Anthropic, hanno evidenziato che la legge avrebbe potuto introdurre maggiore trasparenza e responsabilità nello sviluppo di modelli di IA su larga scala.

Vale la pena ricordare che la California ospita molte delle principali aziende di intelligenza artificiale a livello mondiale, il che significa che ogni iniziativa legislativa in questo settore ha ripercussioni non solo a livello statale, ma anche su scala nazionale e globale.

Il Garante ha dichiarato in una nota che monitorerà attentamente l’accordo per assicurarsi che vengano rispettate le normative sulla privacy.

Tale accordo ha attirato l’attenzione anche della Federazione Nazionale della Stampa Italiana (FNSI) che ha espresso preoccupazioni riguardo agli impatti di questa partnership sui diritti d’autore e le condizioni lavorative dei giornalisti.

Secondo il sindacato, è necessario un approfondimento tecnico e contrattuale per capire se l’IA di OpenAI utilizzerà i contenuti dei giornalisti per addestrarsi e se questi verranno contabilizzati correttamente. La FNSI, insieme alle Associazioni Stampa Romana e Subalpina, ha richiesto un confronto trasparente su questi temi, per assicurare che l’accordo produca benefici economici anche per le redazioni.

Il provvedimento, che attende la firma del governatore Gavin Newsom entro il 30 settembre, potrebbe segnare un punto di svolta nella gestione dei rischi legati allo sviluppo dell’Intelligenza artificiale, soprattutto in California, considerata un hub tecnologico globale.

Il disegno di legge “Safe and Secure Innovation for Frontier Artificial Intelligence Models Act” (SB 1047)  mette in atto, per la prima volta in California, regole di etica e sicurezza per proteggere la società dall’IA utilizzata per condurre attacchi informatici, sviluppare armi chimiche, nucleari o biologiche da parte del crimine organizzato, attacchi che potrebbero causare danni stimati oltre i 500 milioni di dollari.

Nello specifico, SB 1047 introduce una serie di requisiti stringenti e regolamentazioni per gli sviluppatori di modelli di IA avanzati, che dovranno seguire rigorose misure di sicurezza e protocolli per prevenire accessi non autorizzati e modifiche pericolose ai loro modelli. Inoltre, dovranno conservare una copia non censurata del protocollo di sicurezza per tutta la durata di utilizzo del modello, più un ulteriore periodo di cinque anni, rendendola disponibile in qualsiasi momento al Procuratore Generale della California.

Gli sviluppatori saranno tenuti a valutare regolarmente se i loro modelli possono causare o abilitare danni critici e adottare misure preventive adeguate, come, revisioni annuali dei protocolli di sicurezza per garantire che i modelli siano aggiornati alle migliori e più sicure pratiche nel settore. A partire dal 2026, sarà obbligatorio per gli sviluppatori sottoporsi annualmente ad audit indipendenti sulla conformità ai requisiti della legge, con i risultati che dovranno essere resi pubblici in forma redatta. Tuttavia, il Procuratore Generale potrà richiedere l’accesso alla versione completa.

In caso di incidenti di sicurezza legati all’IA, gli sviluppatori dovranno inviare apposita notifica al Procuratore Generale entro 72 ore dall’evento: un requisito pensato per garantire una risposta rapida e coordinata e adottare le opportune contromisure.

Altro elemento rilevante è la “protezione whistleblower”, ovvero la legge introduce una garanzia di protezione per i dipendenti che segnalano violazioni della sicurezza o rischi associati ai modelli di intelligenza artificiale, tutelandoli da eventuali ritorsioni delle aziende.

Secondo il disegno di legge il rispetto di tali norme sarà nelle mani di una nuova agenzia la “Board of Frontier Models”, agenzia governativa che sarà incaricata di monitorare la conformità degli sviluppatori di IA alle normative.

Il provvedimento è oggetto di una forte opposizione da parte dell’industria tecnologica. Figure di spicco come Fei-Fei Li (professoressa di informatica all’università di Stanford), Andrew Ng (ricercatore di Stanford), Yann LeCun (Meta’s chief AI scientist) e aziende come OpenAI hanno espresso preoccupazioni riguardo l’impatto di questa legge sull’innovazione.

Il problema evidenziato è che una regolamentazione troppo rigida potrebbe soffocare lo sviluppo tecnologico e spingere le aziende a lasciare la California. Inoltre, alcuni sostengono che la regolamentazione dovrebbe essere affrontata a livello federale, piuttosto che statale.

In particolare le Big Tech ( tra queste Google, Meta, Apple), su cui il disegno di legge si concentra direttamente, attraverso la Chamber of Progress, coalizione di aziende tecnologiche, ha pubblicato una lettera aperta contro il disegno di legge affermando che SB 1047 “spinge l’innovazione tecnologica fuori dalla California”.

La regolamentazione dell’IA è un processo in continuo divenire, con progetti di legge, norme e regolamenti che stanno nascendo e si sviluppano in tutti i paesi del mondo, ciascuno con orientamenti e logiche che rispecchiano le culture di provenienza.

In Europa, ad esempio, il tema è stato già oggetto del ben noto Regolamento AI Act, molto diverso dal progetto di legge californiano, negli scopi e negli orientamenti etici e giuridici.

L’AI Act dell’Unione Europea pone al centro della sua normazione la sicurezza e la privacy dei cittadini, cercando di bilanciare questi elementi con l’innovazione attraverso una classificazione dei sistemi di IA che prevede requisiti differenti a seconda della categoria di rischio.

L’SB 1047, sebbene sia soltanto una proposta sembra essere più orientato a garantire un controllo politico da parte delle autorità locali, richiedendo alle aziende controlli e conformità suscettibili di approvazione e verifica da parte degli organi di governo.