Inoltre, c’è il “team di superallineamento” dedicato allo sviluppo di linee guida teoriche per modelli “superintelligenti”. Questi modelli, che potrebbero essere molto avanzati, richiedono una progettazione e una gestione particolarmente attente.

Il lavoro dei team è valutare ogni modello in base a quattro categorie di rischio fondamentali: sicurezza informatica, “persuasione” (che include la gestione della disinformazione), autonomia del modello (ovvero, la possibilità di azioni autonome) e CBRN (minacce chimiche, biologiche, radiologiche e nucleari, ecc.).

L’obiettivo è spingere i modelli ai loro limiti per valutare efficacemente i rischi e misurare l’efficacia delle eventuali mitigazioni proposte. Saranno definiti livelli di rischio che attiveranno misure di sicurezza di base, garantendo che solo i modelli con un punteggio post-mitigazione “medio” o inferiore possano essere implementati e ulteriormente sviluppati.

Una volta identificati i rischi, il Safety Advisory Group un organo che si posiziona al di sopra dei team tecnici entra in azione, formulando raccomandazioni dirette a Sam Altman, CEO di OpenAI.

Altman prende quindi decisioni sulle eventuali modifiche da apportare al modello al fine di ridurre i rischi associati. Nel caso in cui un modello sia valutato con un rischio elevato, non può essere implementato, e se presenta rischi critici, non verrà sviluppato ulteriormente.

Il Quadro di preparazione (Beta) di OpenAI definisce un approccio dettagliato per lo sviluppo e l’implementazione sicura dei modelli di IA.

Inoltre, un gruppo consultivo sulla sicurezza interfunzionale esaminerà i rapporti, fornendo feedback alla leadership e al consiglio di amministrazione. Saranno sviluppati protocolli per una maggiore sicurezza e responsabilità esterna, con esercitazioni regolari e la possibilità di risposte rapide a problemi urgenti di sicurezza.

OpenAI inoltre riconosce l’importanza del feedback esterno e prevede audit da parte di terze parti qualificate e indipendenti. Collaborazioni con soggetti esterni e team interni sono previste per monitorare gli usi impropri dei modelli nel mondo reale e per affrontare rischi noti e sconosciuti.

Appare quindi evidente che OpenAI si stia impegnando per dimostrare la propria capacità di produrre e gestire sistemi di IA affidabili e sicuri, di fronte alle molte preoccupazioni che la rapida evoluzione di questi sistemi generano. Altro desumibile obiettivo è quello di predisporsi a non essere limitati dai molti dispositivi normativi che si stanno approntando in diverse parti del mondo: i quattro livelli di rischio previsti dalle regole di OpenAI somigliano straordinariamente a quelli proposti dall’AI Act dell’Unione Europea.

L’iniziativa congiunta punta ad arricchire l’esperienza degli utenti di ChatGPT con riassunti di contenuti di notizie globali selezionati dai dati forniti dalle testate di Axel Springer, tra cui Politico, Business Insider, Bild e Welt.

Le risposte di ChatGPT alle domande degli utenti includeranno, quindi attribuzioni e collegamenti agli articoli completi provenienti dai media di Axel Springer, garantendo trasparenza e facilitando l’accesso a ulteriori informazioni.

Verranno proposti anche contenuti a pagamento, per offrire agli utenti un accesso privilegiato a informazioni autorevoli su una vasta gamma di argomenti.

Questa partnership rappresenta un passo significativo nell’impegno di entrambe le società a sfruttare l’IA per migliorare l’esperienza dei contenuti e creare nuove opportunità finanziarie per sostenere un futuro sostenibile per il giornalismo indipendente.

Brad Lightcap, COO di OpenAI, ha aggiunto: “Questa partnership con Axel Springer contribuirà a offrire alle persone nuovi modi per accedere a contenuti di notizie di qualità e in tempo reale attraverso i nostri strumenti di intelligenza artificiale. Siamo profondamente impegnati a collaborare con editori e creatori di tutto il mondo, garantendo che traggano vantaggio dalla tecnologia IA avanzata e dai nuovi modelli di entrate.”

Secondo un comunicato del NYT, Seward lavorerà attivamente per sviluppare una strategia che consenta al giornale di massimizzare le potenzialità dell’intelligenza artificiale, preservando al contempo l’alto standard di giornalismo affidabile che caratterizza la pubblicazione.

Una delle prime responsabilità di Seward sarà lavorare a stretto contatto con i dirigenti della redazione per stabilire le linee guida sull’uso dell’intelligenza artificiale generativa. Il suo obiettivo è definire i confini etici su come implementare queste tecnologie in modo responsabile. La creazione di un piccolo team di redazione dedicato a sperimentare con strumenti di intelligenza artificiale generativa e idee prototipali sarà parte integrante del suo lavoro.

Zach Seward collaborerà anche con i dipartimenti aziendali per progettare programmi di formazione destinati ai giornalisti e determinare come incorporare gli strumenti di intelligenza artificiale generativa nei prodotti digitali del Times. Sarà in costante contatto con il panorama in evoluzione rapida dell’industria dei media per assicurarsi che il Times sia all’avanguardia nelle aspettative dei lettori e nelle abitudini degli utenti.

Il Times non è la prima redazione ad introdurre ufficialmente l’IA ricordiamo il caso di Sports Illustrated  di cui abbiamo già parlato; tuttavia, diversamente da SI, il Nyt sembra adottare un approccio bilanciato, considerando l’IA come uno strumento complementare, non sostitutivo, per migliorare il giornalismo umano, ad esempio, l’intelligenza artificiale può aiutare in attività come la generazione di titoli intelligenti.

Questa scelta del Nyt  riflette il riconoscimento dell’importanza di integrare in modo oculato le tecnologie emergenti nel tessuto organizzativo per rimanere competitivi e innovativi.

Il gruppo di lavoro, verificato che circa il 40% del traffico web della rivista proviene dalle ricerche di Google, che restituiscono collegamenti su cui gli utenti fanno clic, ha rilevato che il 75% delle volte, la ricerca basata sull’intelligenza artificiale potrebbe fornire una risposta completa alla domanda di un utente senza rimandarlo all’articolo di provenienza e il sito di The Atlantic perderebbe il traffico che altrimenti avrebbe ottenuto.

Un tempo soltanto un’ipotesi, ora la minaccia è concreta. Google, dal mese di maggio, ha iniziato a sperimentare un nuovo prodotto basato sull’intelligenza artificiale, chiamato “Search Generative Experience”, con circa 10 milioni di utenti. L’azienda ha manifestato l’intenzione di implementare questa tecnologia nel nucleo del suo principale motore di ricerca.

Dopo la perdita di traffico referral proveniente dai social network, con un calo di oltre il 40%, dovuto alla scelta delle grandi piattaforme di non consentire più la pubblicazione degli snippet degli articoli dei giornali a seguito delle richieste economiche degli editori (come da Direttiva Copyright), ora gli editori si trovano a dover fronteggiare questa nuova minaccia.

Nonostante Google affermi che la forma finale del suo prodotto IA è lungi dall’essere definita ed abbia dichiarato che darà priorità all’invio di traffico agli editori, questi hanno stimato che perderanno tra il 20% e il 40% del traffico generato da Google se le risposte dell’IA dovessero essere esaustive e/o non rimandare ai siti di informazione.

Sempre il WSJ afferma che gli editori stanno richiedendo a Google garanzie che il loro traffico web non sarà compromesso dall’uso di strumenti di ricerca AI e richiedono un compenso per l’uso dei loro contenuti nella formazione di tali sistemi IA. Aziende editoriali come News Corp e il New York Times, che hanno già rapporti commerciali con Google, sono particolarmente preoccupate.

Come abbiamo scritto in precedenza, le case editrici News Corp e IAC (IAC=InterActiveCorp, un complesso mediatico proprietario, fra l’altro, dei marchi Expedia.com e TripAdvisor)  hanno espresso forte disappunto verso le compagnie che sviluppano intelligenza artificiale generativa per l’utilizzo non autorizzato dei loro contenuti editoriali senza compenso. Per questo, hanno adottato misure protettive e proposto accordi di condivisione delle entrate e la formazione di coalizioni per negoziare pagamenti.

Vedremo, certo è che, in attesa che le buone intenzioni diventino “fatti”, il gioco appare sempre più nelle mani delle piattaforme.

Il documento fornisce orientamenti pratici ad una vasta gamma di destinatari, con particolare attenzione agli organi di informazione, agli Stati, ai fornitori di tecnologia e alle piattaforme digitali coinvolte nella diffusione delle notizie. Esse delineano dettagliatamente come i sistemi di intelligenza artificiale dovrebbero essere utilizzati per sostenere la produzione giornalistica, affrontando le diverse fasi che vanno dalla decisione di adottare tali sistemi all’acquisizione di strumenti AI, all’integrazione pratica nell’ambito giornalistico e agli impatti esterni sull’audience e sulla società.

Le Linee guida propongono responsabilità specifiche per fornitori e piattaforme tecnologiche, così come per gli Stati membri. Sottolineano il ruolo cruciale degli Stati nello sviluppo di standard per l’uso responsabile dell’IA e nel fornire supporto, anche attraverso schemi finanziari per il progresso di sistemi di IA giornalistica responsabile.

L’approccio delle Linee guida si concentra specificamente sul settore del giornalismo, concretizzando principi generali nell’applicazione pratica: esse definiscono i sistemi di intelligenza artificiale giornalistica che possono essere impiegati in svariate attività, dall’analisi dei dati per il giornalismo investigativo, al controllo dei fatti, alla generazione automatizzata di testo, video e audio, e ad attività di routine come traduzione e trascrizione.

Tale indicazioni sono riferite a fornitori di tecnologia, utenti dell’IA (tipicamente testate giornalistiche), e il pubblico dell’IA, ovvero coloro che sono esposti agli output dei sistemi di IA giornalistica.

Un elemento significativo del documento è l’attenzione ai diritti umani come contributo alla resilienza del giornalismo nell’era digitale.

Emerge che la decisione di implementare sistemi di intelligenza artificiale giornalistica è una scelta strategica con impatti significativi sui processi interni, la percezione pubblica del giornalismo e le condizioni di lavoro nell’ecosistema mediatico. Invita a una valutazione completa, coinvolgendo diverse prospettive e interessi, affrontando sia aspetti procedurali che sostanziali.

Viene inoltre incoraggiata la promozione delle condizioni per lo sviluppo open source, la condivisione di buone pratiche, la multidisciplinarietà e le collaborazioni tra settore e mondo accademico, sottolineando l’importanza di uno spazio per la sperimentazione per lo sviluppo di un’intelligenza artificiale giornalistica responsabile.

Linee guida per l’implementazione responsabile dei sistemi di Intelligenza Artificiale nell’ambito giornalistico:

1. Decisione di Implementazione: La decisione di implementare sistemi di Intelligenza Artificiale (IA) giornalistica dovrebbe essere guidata dalla missione e dai valori dell’organizzazione, non solo da considerazioni tecniche o commerciali. La decisione è di natura editoriale, con il redattore capo come figura chiave responsabile dell’implementazione e dei risultati. L’implementazione dovrebbe rispondere a esigenze specifiche nel flusso di lavoro giornalistico. La valutazione sistematica del rischio è essenziale, considerando potenziali impatti su dati, diritti umani, ambiente e diritti dei lavoratori. Il processo decisionale dovrebbe coinvolgere diversi interessi, garantendo trasparenza nelle decisioni prese a livello organizzativo. Un “proprietario del problema” dovrebbe avere una visione completa e responsabilità nel processo decisionale. Le decisioni dovrebbero essere basate su ciò che è legalmente e tecnicamente fattibile, coinvolgendo un dialogo tra utenti e fornitori di IA. Le decisioni dovrebbero essere supportate da prove di concetto o test di prototipi per comprendere meglio le opportunità. L’implementazione dovrebbe essere parte di un processo circolare, monitorando regolarmente le prestazioni, la conformità alla missione e l’evoluzione del contesto legale ed etico.
2. Identificazione e Acquisizione: L’identificazione di compiti automatizzabili dovrebbe guidare l’acquisizione di sistemi di IA giornalistica, considerando opzioni di approvvigionamento responsabile. La valutazione rigorosa di disponibilità, equità e qualità dei dati è essenziale, con attenzione alla privacy e alla protezione dei dati. La scelta dei fornitori di tecnologia dovrebbe considerare gli sforzi per garantire l’uso responsabile dei dati.
3. Integrazione degli Strumenti di IA: Le infrastrutture tecniche e organizzative devono supportare i sistemi di IA, con attenzione alla diversità del personale. La supervisione editoriale è necessaria per evitare risultati errati, specialmente in compiti sensibili o con conseguenze significative. Valutazioni continue del rischio dovrebbero essere effettuate. La divulgazione dell’uso di sistemi di IA dovrebbe essere praticata, migliorando la trasparenza, come più volte già indicato in Italia dal presidente dell’Ordine dei giornalisti, Carlo Bartoli. La formazione continua del personale su IA e tematiche etiche è fondamentale. Lo sviluppo e l’implementazione responsabili richiedono investimenti a lungo termine e potenziale condivisione di conoscenze e pratiche migliori, specialmente da parte dei media di servizio pubblico ben finanziati.
4. Decisione di Implementazione: La scelta di integrare sistemi di Intelligenza Artificiale (IA) nell’ambito giornalistico deve essere guidata dai valori e dalla missione dell’organizzazione, coinvolgendo un processo decisionale partecipativo. Il redattore capo è responsabile dell’implementazione, e la decisione dovrebbe rispondere a esigenze specifiche del flusso di lavoro giornalistico. La valutazione sistematica del rischio è fondamentale, considerando impatti su dati, diritti umani, ambiente e diritti dei lavoratori. Il processo decisionale deve coinvolgere diversi interessi, garantendo trasparenza nelle decisioni organizzative. Un “proprietario del problema” svolge un ruolo chiave nella visione d’insieme e nella responsabilità decisionale. Le decisioni dovrebbero basarsi su fattibilità legale e tecnica, coinvolgendo un dialogo tra utenti e fornitori di IA. L’implementazione deve essere supportata da prove di concetto o test di prototipi e essere parte di un processo circolare, monitorando regolarmente le prestazioni.
5. Identificazione e Acquisizione: L’acquisizione di sistemi di IA giornalistica dovrebbe derivare dall’identificazione di compiti automatizzabili, con attenzione all’approvvigionamento responsabile. La valutazione rigorosa di disponibilità, equità e qualità dei dati è essenziale, con rispetto per la privacy e la protezione dei dati. La scelta dei fornitori di tecnologia dovrebbe considerare gli sforzi per garantire l’uso responsabile dei dati.
6. Obblighi Generali degli Stati: Gli Stati devono proteggere e creare condizioni favorevoli per i diritti umani e il pluralismo dei media. La diversificazione dei finanziamenti è necessaria per sostenere progetti di sviluppo a breve e lungo termine nell’ambito dell’intelligenza artificiale giornalistica. Si sottolinea l’importanza di non compromettere l’indipendenza del giornalismo durante queste iniziative. Gli Stati devono svolgere un ruolo chiave nel favorire l’accesso e la scelta tra fornitori di tecnologia che rispettino i valori giornalistici e i diritti umani. Vengono suggerite azioni specifiche come la creazione di condizioni favorevoli per soluzioni open source, l’accesso ai dati di formazione e la promozione della concorrenza tra i fornitori di tecnologia, inclusi quelli europei e le start-up.

Imagen 2 offre un’ampia gamma di possibilità per personalizzare e distribuire la tecnologia, fornendo strumenti intuitivi, un’infrastruttura completamente gestita e funzionalità integrate di privacy e sicurezza. Sviluppato con la tecnologia Google DeepMind, Imagen 2 si distingue per un notevole miglioramento nella qualità delle immagini e una serie di funzionalità rivolte agli sviluppatori per creare immagini adatte ai loro specifici casi d’uso.

Tra le sue caratteristiche principali:

1. Generazione di Immagini di Alta Qualità: può creare immagini fotorealistiche, ad alta risoluzione ed esteticamente gradevoli a partire da istruzioni in linguaggio naturale.
2. Rendering del Testo Multilingue: Capacità avanzate di rendering del testo in più lingue consentono la creazione di immagini con sovrapposizioni di testo accurate.
3. Generazione di Loghi: è in grado di generare una varietà di loghi creativi e realistici per aziende, marchi e prodotti, sovrapponendoli a prodotti, abbigliamento e altro.
4. Domande e Risposte Visive: Funzionalità avanzate permettono di generare didascalie descrittive e ottenere risposte dettagliate alle domande relative alle immagini.

Organizzazioni leader come Snap, Shutterstock e Canva hanno adottato Imagen 2 su Vertex AI per potenziare la creatività e la produzione di contenuti. Ad esempio, Snap utilizza Imagen per la modalità fotocamera AI in Snapchat+, mentre Shutterstock e Canva migliorano rispettivamente i loro generatori di immagini AI con Imagen on Vertex AI per offrire nuove possibilità creative ai propri utenti.

Tuttavia, nonostante l’entusiasmo di Google nel lanciare Imagen 2, emerge una preoccupazione significativa riguardo alla mancanza di trasparenza sulla fonte dei dati di addestramento. Questa scelta rappresenta un cambiamento rispetto alla politica precedente, in cui l’utilizzo del set di dati pubblico LAION, grande dataset di immagini e testi utilizzato per addestrare modelli di intelligenza artificiale, contiene contenuti controversi, come immagini mediche private e opere d’arte protette da copyright.

Attualmente, si sta dibattendo se i fornitori di intelligenza artificiale generativa possano addestrare modelli su dati pubblici, anche protetti da copyright, senza violare le leggi sulla proprietà intellettuale, il cosiddetto “fair use”.

Mentre alcune aziende nel settore offrono ai creatori la possibilità di rinunciare all’addestramento su determinati set di dati, aziende come Google e Amazon non forniscono attualmente meccanismi simili di rinuncia o compenso per i creatori. Solo per una ristretta cerchia di clienti Vertex AI idonei, Google offre una politica di indennizzo, proteggendosi e proteggendo i suoi utilizzatori da rivendicazioni di copyright relative sia all’utilizzo dei dati di addestramento che agli output generati da Imagen 2.

La mancanza di trasparenza sulla fonte dei dati di addestramento solleva ulteriori interrogativi sulla qualità e sull’eticità dell’utilizzo di Imagen 2 da parte delle imprese, spingendo la comunità a riflettere attentamente sui limiti e sulle responsabilità legate alla creazione e all’uso di modelli generativi avanzati.

Nella video intervista che incorporiamo sulla versione del sito di questa newsletter, Ilya Sutskever, direttore scientifico di OpenAI, afferma che le intelligenze artificiali AGI (Artificial General Intelligence, modelli di IA super-intelligenti) potranno superare l’uomo nella previsione del token successivo. Ovvero che potranno essere più intelligenti. Opinione che ha già trovato diversi punti di vista contrari o in disaccordo.

Di seguito la trascrizione tradotta di parte della sua intervista.

«Metto in dubbio l’affermazione secondo cui la previsione del prossimo token non possa superare le prestazioni umane. A prima vista, sembra che non possa: sembra che, se impari solo a imitare per prevedere ciò che fanno le persone, significa che puoi solo copiarle. Tuttavia, c’è un argomento contrario per cui potrebbe non essere così semplice. Se la tua rete neurale è sufficientemente intelligente, puoi chiederle: “Cosa farebbe una persona con grande intuizione, saggezza e capacità?”. Forse una persona del genere non esiste, ma c’è una buona probabilità che la rete neurale possa estrapolare come si comporterebbe tale persona.

Ma da dove otteniamo queste intuizioni su cosa farebbe quella persona, se non dai dati di persone normali? Se ci pensi, cosa significa effettivamente prevedere bene il prossimo token? È una domanda più profonda di quanto sembri. Prevedere bene il prossimo token significa che capisci la realtà sottostante che ha portato alla creazione di quel token. Non è solo una questione di statistiche, ma di comprensione: per comprendere queste statistiche e comprimerle, devi capire cosa c’è nel mondo che crea queste statistiche.

Quindi, ti chiedi: “Cosa c’è nelle persone che crea i loro comportamenti?”. Le persone hanno pensieri, sentimenti, idee e agiscono in certi modi. Tutto ciò potrebbe essere dedotto dalla previsione del prossimo token. Argomento che questo dovrebbe rendere possibile, non all’infinito, ma fino a un certo grado, indovinare cosa farebbe una persona immaginaria con determinate caratteristiche, anche se tale persona non esiste. Poiché sei così bravo a prevedere il prossimo token, dovresti comunque essere in grado di indovinare cosa farebbe questa persona ipotetica immaginaria con capacità mentali molto superiori al resto di noi.»