Domande frequenti su Gemini 2.0 Flash

In una dichiarazione successiva all’incontro, riportata dal Financial Times, gli esperti hanno sottolineato l’importanza di un approccio collaborativo per garantire la sicurezza nell’utilizzo dell’IA e prevenire potenziali rischi catastrofici per l’umanità.

Durante le discussioni, sono state evidenziate le minacce legate allo sviluppo dell'”intelligenza artificiale generale”, ovvero sistemi con capacità paragonabili o superiori a quelle umane.  In base alle linee rosse delineate gli esperti invitano i governi di tutto il mondo a imporre restrizioni nel suo sviluppo e utilizzo.

Gli scienziati hanno anche messo in guardia contro il rischio di progettare armi di distruzione di massa, violare trattati internazionali sulle armi biologiche o chimiche, e l’esecuzione autonoma di attacchi informatici con gravi conseguenze finanziarie o danni equivalenti.

Questo non è il primo incontro di esperti che discutono di tale ambito ricordiamo il Vertice sulla Sicurezza dell’Intelligenza Artificiale del 2023, tenutosi nel Regno Unito a Bletchley Park, che ha visto la partecipazione di circa 150 rappresentanti globali dove sono stati discussi i rischi e le opportunità legati all’IA, con particolare attenzione alla disinformazione e agli abusi potenziali. Il Primo Ministro britannico aveva già sottolineato l’importanza della cooperazione internazionale, delineando obiettivi per la sicurezza dell’IA e firmando una dichiarazione che evidenziava l’importanza di un approccio centrato sull’uomo.

Anche nel vertice tra il presidente degli Stati Uniti Joe Biden e il suo omologo cinese Xi Jinping avvenuto a novembre scorso, si era evidenziata la questione della sicurezza legata all’intelligenza artificiale, stabilendo un dialogo sulla materia.

Negli ultimi mesi, inoltre le principali aziende di intelligenza artificiale a livello mondiale hanno avviato incontri riservati con esperti cinesi del settore. A novembre, 28 nazioni, inclusa la Cina, insieme alle principali aziende di intelligenza artificiale, hanno programmato una serie di impegni per collaborare nel fronteggiare i rischi esistenziali legati all’IA.

Il processo di valutazione di NewsGuard coinvolge un team di giornalisti professionisti che esaminano e valutano manualmente migliaia di siti web secondo nove criteri fondamentali, tra cui l’accuratezza delle informazioni, la trasparenza delle fonti, l’etica editoriale e il riconoscimento dei contenuti pubblicitari.

In un report pubblicato sul suo sito, NewsGuard ha dichiarato che, fino ad oggi, il suo team ha individuato 725 siti di notizie e informazioni inaffidabili, generati dall’intelligenza artificiale e noti come “UAIN” (Unreliable AI-generated News), in 15 lingue diverse.

Il criterio per etichettare questi siti come UAIN si basa su quattro principi: l’utilizzo evidente di intelligenza artificiale nella produzione dei contenuti, la mancanza di supervisione umana significativa, la presentazione ingannevole che induce i lettori a credere che i contenuti siano stati prodotti da esseri umani e la mancanza di chiarezza riguardo all’origine degli articoli.

Questi siti, spesso contraddistinti da nomi generici come iBusiness Day, Ireland Top News e Daily Time Update, possono facilmente trarre in inganno i lettori, inducendoli a credere di accedere a fonti di informazione legittime. Tuttavia, anziché fornire contenuti giornalistici tradizionalmente prodotti e verificati, tali fonti operano senza una supervisione umana, pubblicando articoli scritti principalmente o interamente da algoritmi: decine, e talvolta centinaia, di articoli su una vasta gamma di argomenti, tra cui politica, tecnologia, intrattenimento e viaggi. Spesso, tali articoli veicolano notizie false o datate, presentate come fresche e autentiche.

La ragione della proliferazione di queste fonti artificiali di informazioni riguarda ovviamente il guadagno economico che risiede nella pubblicità programmatica: l’industria della tecnologia pubblicitaria fornisce annunci pubblicitari senza tener conto di dove essi vengono pubblicati, della natura o della qualità del sito ospitante.

Ma non è solo una questione di risparmio finanziario. I modelli open source offrono anche una maggiore flessibilità e adattabilità, gli sviluppatori possono modificarli e personalizzarli per soddisfare le esigenze specifiche dell’azienda, consentendo una maggiore flessibilità nel design delle soluzioni di intelligenza artificiale.

I modelli open source inoltre offrono anche una maggiore trasparenza e controllo il che è essenziale in settori regolamentati o sensibili alla sicurezza, ciò permette loro di identificare e affrontare eventuali problemi o bias e di garantire un uso responsabile ed etico dell’IA.

Trasparenza ed accessibilità, in quest’epoca di corse alla regolamentazione delle tecnologie da parte degli stati, rappresentano caratteristiche utili se non necessarie.

Llama, Gemma ed altre storie

Già l’anno scorso, Meta aveva annunciato il lancio di Llama 2, un modello di linguaggio open source rivolto ad un utilizzo professionale e accademico.

Questo modello è progettato per comprendere e generare linguaggio umano in modo coerente e naturale, aprendo le porte a una vasta gamma di applicazioni, dall’assistenza alla scrittura alla costruzione di chatbot avanzati. Fu lo stesso Zuckerberg in un post su Facebook  ad evidenziare le ragioni di quest’impegno: “L’open-source porta con sé l’innovazione perché permette a molti sviluppatori di costruire sulle basi delle nostre nuove tecnologie. Aumenta anche la sicurezza perché, quando un software è ‘aperto’ molte più persone possono controllarlo e identificare e risolvere qualsiasi problema potenziale.”

Google, d’altra parte, ha recentemente introdotto due nuovi modelli di intelligenza artificiale open source con cui la società intende competere con Llama di Meta e gli altri competitor. I due nuovi modelli sono Gemma 2B e Gemma 7B, che ricadono sotto l’unico nome “Gemma”,  variano per dimensioni (numero di parametri, rispettivamente 2 e 7 miliardi) e sono disponibili gratuitamente.

Gemma si distingue per la sua leggerezza e accessibilità, offrendo agli sviluppatori esterni la possibilità di creare facilmente soluzioni e bot di vario tipo.

Caratterizzati da notevole potenza computazionale, i modelli Gemma sono progettati per essere eseguiti senza problemi su dispositivi standard come laptop o PC, aprendo nuove possibilità per lo sviluppo di applicazioni intelligenti e performanti.

Quello che rende veramente distintivi i modelli Gemma è l’approccio responsabile di Google nell’addestramento dell’IA.  La società ha posto un’attenzione particolare nella selezione dei dati utilizzati e ha adottato tecniche avanzate per garantire la massima protezione della privacy degli utenti. Inoltre, Google ha implementato un sistema di apprendimento per rinforzo basato sul feedback umano per garantire che i modelli interagiscano in modo etico e responsabile con gli utenti, rispettando le pratiche etiche e di sicurezza. (L’apprendimento per rinforzo (RL) è una metodologia di machine learning (ML) che istruisce il software a prendere decisioni al fine di massimizzare i risultati desiderati. Questo processo emula il metodo di apprendimento sperimentale utilizzato dagli esseri umani per raggiungere i propri obiettivi -ndr)

Gemma è stato sviluppato con gli stessi componenti tecnologici usati per creare Gemini, come mostra Google nel suo documento tecnico ed offre prestazioni di alto livello rispetto ad altri modelli open-source di dimensioni simili.

Emerge dai dati di comparazione che il modello Gemma da 7 miliardi di parametri (7B) risulterebbe equiparabile a Llama 2 di Meta per quanto riguarda le sue capacità di analisi e di risposta alle domande mentre sarebbe oltre due volte più performante nelle aree “matematica/scienza” e “coding”.

Microsoft che ha una intensa partnership con OpenAI ma il suo sistema è chiuso, ha quindi  stretto una partnership strategica con la start-up francese Mistral, che a settembre aveva lanciato il suo modello linguistico open source con licenza Apache 2.0 rende infatti il modello accessibile a chiunque, senza restrizioni, ed è quindi possibile integrarlo sin da subito nelle proprie applicazioni.

Microsoft renderà disponibili i modelli di intelligenza artificiale della startup francese Mistral AI attraverso la sua piattaforma di cloud computing Azure. La collaborazione con la start-up francese punta agli Open source tenendo d’occhio soprattutto il mercato europeo ed in questo senso, l’azienda di Richmond ha annunciato importanti investimenti nella costruzione di infrastrutture per l’IA, incluso il lancio di nuovi data center in Europa.

Un esempio emblematico emerso dalla ricerca è l’identificazione di un modello capace di generare personaggi sui social media per diffondere disinformazione in modo altamente convincente ed efficiente.

Inoltre, l’istituto ha scoperto che gli agenti IA, parti dedicate a funzioni specifiche degli LLM, erano in grado di ingannare gli utenti umani: in una simulazione, un LLM è stato utilizzato come operatore di borsa e, pur essendo costretto a effettuare insider trading, ha deciso spesso di mentire al riguardo, ritenendo che fosse “meglio evitare di ammettere di farlo”.

La valutazione dei modelli è stata condotta utilizzando il metodo “red-teaming”, in cui specialisti tentano di violare le garanzie per verificare i livelli di sicurezza.

L’AI Safety Institute, che collabora con altri enti interessati, tra cui stati, accademici e politici, impiega attualmente 24 ricercatori che testano sistemi avanzati di intelligenza artificiale, concentrandosi su questioni quali:

• l’impatto sull’interazione umana
• la capacità di auto replicazione
• l’aggiornamento dei sistemi.

L’AI Safety Institute collabora inoltre con altre aziende, come Faculty AI, azienda tecnologica con sede a Londra che offre soluzioni avanzate nel campo dell’intelligenza artificiale e dell’analisi dei dati, per testare una quantità di modelli maggiore e verificare se violino violare le linee guida di sicurezza stabilite.

Anche negli Stati Uniti è stato annunciato un istituto per la sicurezza dell’intelligenza artificiale, supportato da un consorzio di grandi aziende tecnologiche, come Meta, Google, Apple e OpenAI, che aiuteranno la Casa Bianca a raggiungere gli obiettivi del suo ordine esecutivo del 30 ottobre 2023, sulla sicurezza dell’IA.

Il focus principale del vertice sarà dedicato all’analisi delle minacce e dei rischi associati all’intelligenza artificiale e alla discussione di strategie efficaci per affrontarli. Questi rischi possono essere suddivisi in due categorie fondamentali:

1. Rischi di abuso: Questa categoria comprende scenari in cui individui malintenzionati sfruttano le nuove capacità dell’intelligenza artificiale per compiere attacchi biologici o informatici, sviluppare tecnologie pericolose o interferire con sistemi critici. L’obiettivo principale è prevenire e affrontare l’utilizzo criminale dell’intelligenza artificiale, il quale potrebbe causare gravi danni, incluso il rischio per le vite umane.
2. Rischi di perdita di controllo: Questa categoria si riferisce ai rischi derivanti da sistemi avanzati di intelligenza artificiale che potrebbero comportare sfide nel mantenere l’IA allineata con i valori e le intenzioni umane. In altre parole, esiste il pericolo che l’intelligenza artificiale stessa, se non gestita adeguatamente, possa diventare una minaccia. Per affrontare questi rischi, il governo ha stabilito cinque obiettivi chiave per il vertice.

Gli obiettivi del vertice saranno:

• Fornire una visione condivisa dei rischi associati all’IA avanzata e la necessità di agire con decisione.
• Sviluppare un processo avanzato per la collaborazione internazionale sulla sicurezza dell’IA avanzata, identificando le migliori pratiche per supportare quadri nazionali e internazionali.
• Definire misure adeguate che le organizzazioni individuali dovrebbero adottare per rafforzare la sicurezza nell’ambito dell’IA avanzata.
• Identificare aree di potenziale collaborazione nella ricerca sulla sicurezza dell’intelligenza artificiale, compresa la valutazione delle capacità dei modelli e lo sviluppo di nuovi standard per sostenere l’efficacia della governance.
• Dimostrare come la promozione dello sviluppo sicuro dell’IA consentirà un utilizzo positivo su scala globale di questa tecnologia.

La partecipazione al vertice comprenderà figure di spicco, tra cui esperti in intelligenza artificiale, aziende tecnologiche e rappresentanti della società civile. Il governo britannico ha sottolineato che questo summit offre un’opportunità senza precedenti per la collaborazione internazionale su questioni legate alla sicurezza dell’IA.

Tra gli ospiti attesi figurano il CEO di Google DeepMind, Demis Hassabis, e la Vicepresidente degli Stati Uniti, Kamala Harris, che hanno espresso posizioni chiare sulle sfide poste dall’intelligenza artificiale. La partecipazione dei funzionari cinesi è stata anche oggetto di discussione, dato il contesto di presunte attività di spionaggio da parte della Cina nei confronti dei governi occidentali.

Il governo britannico ha enfatizzato l’importanza di un approccio globale per affrontare i rischi e le opportunità dell’intelligenza artificiale. Il Primo Ministro ha sottolineato che, nonostante le sfide, l’intelligenza artificiale offre immense opportunità per migliorare le nostre vite e che l’obiettivo è svilupparla in modo sicuro e responsabile attraverso la collaborazione internazionale.