Ricostruire in modo approfondito la carriera di Sam Altman e la complessa vicenda del 2023 che lo vide prima estromesso da OpenAI e poi reintegrato nel giro di pochi giorni, è stato l’obiettivo principale dell’inchiesta che ha evidenziato un insieme coerente di dubbi, sospetti e testimonianze che mettono in discussione l’affidabilità di Altman come leader.

La mattina di venerdì 11 aprile 2026 una molotov è stata lanciata contro l’abitazione di Altman a San Francisco. Nessuno è rimasto ferito nell’incidente e un sospettato è stato successivamente arrestato presso la sede di OpenAI, dove minacciava di incendiare l’edificio, secondo quanto riferito dal dipartimento di polizia di San Francisco.

Non esistono elementi che mettano in relazione diretta i due episodi ma, la sera stessa, Altman ha pubblicato un post sul proprio blog sostanzialmente suggerendo un legame tra il clima di tensione esistente sull’IA ulteriormente alimentato dall’articolo del The New Yorker e l’attacco incendiario subito.

Nel post, accompagnato da un’immagine della sua famiglia, esprime il desiderio di dissuadere gesti simili, richiamando l’attenzione sul potere che anche una singola immagine può esercitare.

L’inchiesta del The New Yorker

L’inchiesta del New Yorker mette in fila una serie di elementi che, presi insieme, delineano un ritratto fortemente polarizzato di Altman. Se da un lato, alcuni colleghi e collaboratori lo descrivono come un leader straordinariamente efficace, rapido nelle decisioni e capace di portare OpenAI a un livello di influenza globale senza precedenti, dall’altro, emergono valutazioni molto più critiche: soci ed ex colleghi lo dipingono come sfuggente, talvolta inaffidabile, incline a una comunicazione opaca o incompleta e, in alcuni casi, caratterizzato da tratti descritti come “non ancorati alla realtà” o persino sociopatici.

Una parte dell’inchiesta riguarda memo interni attribuiti a Ilya Sutskever, ex cofondatore e ex Chief Scientist di OpenAI, che sollevano dubbi sulla completezza e accuratezza delle informazioni fornite al board, in particolare sulla questione della sicurezza. Tali materiali sarebbero confluiti in un dossier più ampio di circa settanta pagine contenente screenshot, messaggi Slack e documenti HR, in parte fotografati per eludere i controlli aziendali. Questo dossier descriverebbe un “pattern consistente” di comportamenti ritenuti fuorvianti da parte di Sam Altman, incluse dichiarazioni sui protocolli di sicurezza interni.

In questa prospettiva, la questione assume una dimensione non solo personale ma strutturale: il timore è che il board non fosse pienamente in grado di esercitare il proprio ruolo di controllo su un’organizzazione impegnata nello sviluppo di tecnologie altamente sensibili.

Tra le fonti emerge anche Dario Amodei, CEO di Anthropic ed ex dirigente di OpenAI, che nelle sue note private, raccolte nel corso degli anni, esprime dubbi su leadership, fiducia e processi decisionali dentro OpenAI.

Queste perplessità trovano riscontro anche in un episodio specifico, legato all’accordo con Microsoft del 2019, che evidenzia le tensioni tra i due. Al centro vi sarebbe una clausola coerente con la missione originaria di OpenAI, che prevedeva la collaborazione con altri soggetti nello sviluppo dell’intelligenza artificiale generale (AGI). Secondo la ricostruzione, Altman ne avrebbe tuttavia ridimensionato la portata, attenuandone la forza vincolante.

Una fonte particolarmente critica del suo stile di leadership, riportata nell’inchiesta, parla di una “almost a sociopathic lack of concern”, ovvero di una “mancanza di preoccupazione quasi sociopatica”.

In relazione alla mancanza di trasparenza, quasi fraudolenta di Altman, The New Yorker riporta la testimonianza di un dirigente (anonimo) di Microsoft che ipotizza una “piccola ma reale” possibilità che Altman possa un giorno essere accostato a figure simbolo di grandi scandali aziendali come Bernie Madoff, autore di una delle più grandi frodi finanziarie della storia, o Sam Bankman-Fried, fondatore della piattaforma FTX crollata nel 2022.

L’inchiesta cita perfino il giudizio attribuito a Aaron Swartz, programmatore e attivista per l’accesso libero alla conoscenza, secondo cui Altman sarebbe stato “un sociopatico” di cui non fidarsi mai.

Nel loro insieme, queste testimonianze non si concentrano su un singolo episodio, ma suggeriscono l’esistenza di un modello ricorrente nella gestione delle informazioni, percepito come problematico, insieme a una propensione a privilegiare la crescita rispetto alle cautele legate alla sicurezza.

Uno dei punti più sensibili dell’inchiesta riguardava il modo in cui le pratiche di sicurezza venivano rappresentate al consiglio di amministrazione. Secondo le ricostruzioni, il problema non sarebbe stato l’assenza di controlli, quanto il rischio che questi ultimi venissero descritti in modo impreciso o fuorviante, impedendo al consiglio di amministrazione di avere una visione pienamente fedele della situazione.

Tra gli episodi citati, Altman avrebbe assicurato che GPT-4 fosse stato approvato da un safety panel interno; tuttavia, quando venne richiesta una documentazione a supporto, questa rappresentazione sarebbe risultata almeno parziale. Allo stesso modo, nei memo attribuiti a Ilya Sutskever emerge l’accusa che Altman tendesse a minimizzare l’importanza di approvazioni formali sulla sicurezza. In particolare, durante alcuni colloqui con Mira Murati, all’epoca Chief Technology Officer di OpenAI e responsabile dello sviluppo dei principali sistemi dell’azienda, Altman avrebbe fatto riferimento a presunti obblighi o interpretazioni legali, chiamando in causa il general counsel (ufficio legale); tuttavia, quando Murati verificò direttamente, il legale avrebbe dichiarato di non riconoscere l’origine di tali indicazioni.

Secondo il New Yorker, OpenAI avrebbe parallelamente lavorato per attenuare alcune proposte normative, evidenziando una possibile tensione tra le dichiarazioni pubbliche e la strategia industriale.

L’inchiesta riporta anche episodi che suggeriscono una possibile tendenza di Altman a rappresentare in modo discutibile informazioni strategiche e principi fondativi dell’organizzazione. In un caso, avrebbe riferito a funzionari dell’intelligence statunitense che la Cina stava sviluppando un ambizioso progetto di AGI, sollecitando un sostegno pubblico americano, senza però fornire prove concrete quando richieste.

La crisi di governance del 2023

L’inchiesta evidenzia inoltre una continuità nel tempo delle problematiche, non circoscritte solo al contesto di OpenAI ma già rintracciabili nelle precedenti esperienze professionali di Altman, suggerendo che non si tratti di un suo cambiamento improvviso emerso nella crisi di governance del 2023, quando Altman fu rimosso dall’incarico di CEO, bensì della riproposizione di tratti caratteriali e manageriali percepiti da diversi interlocutori lungo l’intero arco della sua carriera.

Già in Loopt, startup fondata da Altman nel 2005, alcuni dirigenti senior avrebbero chiesto al board di rimuoverlo dal ruolo di CEO a causa della sua scarsa trasparenza. Anche durante la sua esperienza in Y Combinator, uno dei più importanti acceleratori di startup della Silicon Valley, sarebbero emersi e segnali di sfiducia.

Il momento di massima tensione in OpenAI arriva quando nel novembre 2023 il consiglio di amministrazione decide di licenziare Altman. La motivazione ufficiale parla di mancanza di trasparenza nelle comunicazioni. Dietro quella formula, secondo il New Yorker, ci sono mesi di frizioni, accuse interne e documenti che segnalano comportamenti ritenuti fuorvianti. Il consiglio di amministrazione era preoccupato che Altman stesse spingendo per uno sviluppo troppo rapido e commerciale dell’IA (in particolare con GPT-4 e progetti futuri), sacrificando la missione no-profit originaria di OpenAI, che poneva al primo posto la sicurezza dell’umanità. Quando il consiglio si convinse che Altman non fosse affidabile, lo licenziò bruscamente.

Attraverso una campagna aggressiva sui social media e la pressione di investitori e partner strategici, Sam Altman riuscì a ribaltare la situazione: tra questi Thrive Capital, società di venture capital che mise in pausa un accordo da 86 miliardi di dollari, ma anche Microsoft, principale partner tecnologico di OpenAI, e figure di rilievo come Brian Chesky, cofondatore e CEO di Airbnb, e Chris Lehane, esperto di comunicazione e public affairs. Insieme a gran parte dei dipendenti, questi attori si schierarono apertamente a sostegno di Altman, contribuendo in modo decisivo al suo rapido reintegro. Sutskever e altri membri del board persero la carica nel CdA.

In risposta a questa imbarazzante raccolta di accuse e testimonianze, Altman, nel post sopra citato, fa una riflessione rivendicando con orgoglio alcune scelte fondamentali, come l’opposizione al tentativo di controllo unilaterale da parte di Elon Musk, che a suo avviso ha contribuito a preservare l’indipendenza e la continuità dell’organizzazione.

Allo stesso tempo, ammette limiti significativi, in particolare una forte avversione al conflitto, che avrebbe avuto conseguenze negative sia personali sia aziendali. Riconosce inoltre di aver gestito in modo inadeguato lo scontro con il precedente consiglio di amministrazione, contribuendo a una crisi grave per OpenAI. Più in generale, si descrive come una figura imperfetta al centro di una situazione estremamente complessa, segnata da tensioni inevitabili in un ambito ad altissimo impatto come quello dell’intelligenza artificiale, ammettendo: “Ho commesso molti altri errori, sono una persona imperfetta al centro di una situazione eccezionalmente complessa, che cerca di migliorare un po’ ogni anno, sempre con l’obiettivo della missione”.

Il cambiamento culturale di OpenIA dopo il “the Bip”

Un ulteriore asse dell’inchiesta riguarda il cambiamento culturale di OpenAI dopo il ritorno di Sam Altman, al termine dei cinque giorni di crisi del novembre 2023. Secondo questa ricostruzione, si sarebbe prodotta una cesura significativa: a una fase iniziale caratterizzata da maggiore cautela e riflessione sull’AGI sarebbe seguita una nuova impostazione in cui questa diventa una priorità centrale e identitaria, accompagnata da una retorica più assertiva, espressa anche in slogan interni come “feel the AGI”. Inoltre, si assiste ad un ridimensionamento delle strutture dedicate alla sicurezza, tra cui il team sui rischi esistenziali e il gruppo di superalignment co-guidato da Ilya Sutskever.

Nel suo post, Sam Altman risponde alle accuse interpretando le tensioni nel settore come il risultato di dinamiche di potere particolarmente intense, parlando di “un dramma shakespeariano tra le aziende del nostro settore”, che a suo avviso “spinge le persone a fare cose folli”. In questo contesto, utilizza una metafora evocativa: “Una volta che vedi l’AGI, non puoi più non vederla”, spiegando che attorno ad essa si crea una dinamica simile a quella dell’“anello del potere”, non tanto per la tecnologia in sé, quanto per l’idea totalizzante di essere colui che la controlla.

Da questa lettura deriva anche la sua proposta: per evitare che tale concentrazione di potere produca effetti distorsivi, sostiene la necessità di una più ampia condivisione della tecnologia e di un rafforzamento dei meccanismi democratici, affermando che “l’unica soluzione […] è orientarsi verso la condivisione della tecnologia con un pubblico più ampio, in modo che nessuno possieda l’anello” e che “è fondamentale che il processo democratico rimanga più forte delle imprese”. Alla fine, il punto non è solo Sam Altman. È il modello. L’inchiesta pone una domanda più ampia: le attuali strutture di governance sono adeguate a gestire una tecnologia con impatti economici, sociali e militari così profondi? Infine, la questione centrale: chi stabilisce i limiti dell’intelligenza artificiale in ambito militare? Il mercato? L’esecutivo? Il Congresso? Le aziende stesse? Tutte domande che ad oggi restano ancora aperte.

Secondo quanto affermato dal New York Times, questa pratica potrebbe provocare una significativa perdita di entrate per il giornale, provenienti da abbonamenti, licenze, pubblicità e affiliazioni. Nella citazione il quotidiano sosteneva che “le due aziende cercano di approfittare gratuitamente del massiccio investimento del Times nel suo giornalismo”.

Nella denuncia  il NYT sostiene che i modelli linguistici di OpenAI, utilizzati per alimentare ChatGPT e Copilot, sono in grado di generare output che replicano il contenuto del giornale, minando così il legame tra il quotidiano e i suoi lettori, scrivendo: “Se il Times e altre organizzazioni di notizie non possono produrre e proteggere il loro giornalismo indipendente, ci sarà un vuoto che nessun computer o intelligenza artificiale può colmare”.

OpenAI ha sostenuto che il suo utilizzo dei contenuti del New York Times (NYT) rientri nei limiti del fair use, evidenziando. in relazione all’addestramento dei modelli di linguaggio, i seguenti punti:

1. Scopo trasformativo: Gli LLM trasformano gli articoli originali del NYT in strumenti che possono generare risposte, completare testi o fornire informazioni in nuovi contesti, con uno scopo diverso dall’informazione giornalistica originale.
2. Quantità utilizzata: Non tutti i contenuti del NYT sono stati utilizzati e, secondo OpenAI, ciò che è stato utilizzato non replica gli articoli, ma estrae elementi funzionali per addestrare il modello.
3. Benefici pubblici: OpenAI ha sostenuto che la GenAI porta significativi vantaggi sociali e innovativi, in particolare per il giornalismo e la società, migliorando l’accesso alle informazioni. Questo, secondo l’azienda, bilancerebbe eventuali danni al NYT.
4. Impatto sul mercato: OpenAI ha sostenuto che l’uso dei contenuti per addestrare l’IA non danneggia il mercato degli articoli del NYT, perché non sostituisce il giornalismo originale e potrebbe persino ampliarne il valore.

Si ricorda che Il fair use è una dottrina del diritto d’autore statunitense che consente l’utilizzo limitato di materiale protetto da diritto d’autore senza il permesso del titolare, in determinate circostanze. Si basa su quattro fattori chiave, che un tribunale deve analizzare per determinare se l’uso sia legittimo:

1. Scopo e carattere dell’uso: Include la valutazione se l’uso sia trasformativo (crea qualcosa di nuovo o con uno scopo diverso dall’originale) e se sia di natura commerciale o educativa.
2. Natura dell’opera protetta: Opere altamente creative tendono a ricevere maggiore protezione rispetto a opere più factual (es. articoli di cronaca).
3. Quantità e sostanzialità della parte utilizzata: Analizza quanto del contenuto protetto viene utilizzato e se le parti utilizzate siano le più rilevanti dell’opera originale.
4. Effetto sull’eventuale mercato: Valuta se l’uso riduca il valore commerciale o la domanda per l’opera originale.

Questa causa è ritenuta molto rilevante per il mondo dell’informazione e, più in generale, dell’editoria, in quanto il suo esito costituirà un punto di riferimento giurisprudenziale per tutta la materia specifica relativa all’uso dei dati da parte delle aziende di IA, soprattutto nei paesi anglosassoni dove è prevalente la dottrina della common law.

Nel corso del procedimento, con mozione ECF 236, OpenAI ha richiesto al giudice che il  The New York Times producesse una documentazione riguardante l’uso, per la sua attività editoriale e giornalistica,  di strumenti di IA generativa, sia propri che di terze parti, nonché le posizioni e le dichiarazioni del NYT relative all’uso della GenAI.

OpenAI intendeva sostenere che il suo uso dei contenuti del NYT fosse conforme al “fair use“, se l’uso ha un scopo trasformativo e offre benefici pubblici. Se il NYT stesso adotta strumenti di GenAI, questo potrebbe suggerire che la tecnologia abbia un valore riconosciuto e che l’uso di contenuti protetti per addestrare l’IA potrebbe essere considerato “equo”, in quanto potrebbe contribuire a un miglioramento del giornalismo e dell’accesso all’informazione.

Un altro aspetto che OpenAI cercava di esplorare era l’effetto che l’uso della GenAI ha sul mercato del giornalismo, tra i punti principali della causa intentata dal NYT. Se il NYT utilizza tecnologie simili, OpenAI avrebbe potuto argomentare che l’adozione della GenAI non danneggia il mercato del NYT o la sua capacità di monetizzare i contenuti, ma piuttosto contribuisce a un beneficio pubblico più ampio, come migliorare la qualità e l’accessibilità delle informazioni.

Inoltre, la difesa di OpenAI, cercava di stabilire che il Times non solo riconosce i benefici della GenAI, ma che la sua eventuale opposizione a OpenAI potrebbe essere inconsistente se lo stesso NYT utilizza, in misura più o meno ampia, strumenti simili.

La corte ha rigettato la richiesta della mozione ECF 236, ritenendo che OpenAI non abbia dimostrato come tali informazioni siano pertinenti al caso o proporzionali ai bisogni del procedimento.

La decisione non entra nel merito della questione principale della causa, ossia se l’uso dei contenuti del NYT per addestrare i modelli di OpenAI costituisca una violazione del copyright. La sentenza si limita a stabilire che l’accesso alla documentazione richiesta non è giustificato e non ha rilevanza diretta per il contesto specifico del “fair use” che OpenAI invoca nella sua difesa.

La corte ha stabilito che “questa sezione si concentra esclusivamente sull’uso specifico dei contenuti del Times da parte di OpenAI. Non vi è una condanna generale degli strumenti di GenAI nella denuncia del Times, né una dichiarazione che permetta un accesso illimitato e gratuito ai propri contenuti giornalistici. Pertanto, le informazioni richieste dall’Imputato non sono pertinenti. Analogamente, casi citati dall’Imputato, come Google v. Oracle o Andy Warhol Foundation v. Goldsmith, non supportano la rilevanza delle informazioni richieste. Il principio del fair use si applica esclusivamente all’uso specifico dell’opera protetta dall’Imputato, non a eventuali benefici generali della GenAI per l’industria giornalistica.”

La decisione del magistrato Wang sulla mozione di OpenAI

I dati utilizzati per addestrare questi modelli provengono da diverse fonti, e la disponibilità di tali dati ha permesso significativi avanzamenti nel campo dell’IA. Tuttavia, come emerge da uno studio pubblicato dalla Data Provenance Initiative, un gruppo di ricerca del MIT, recenti cambiamenti nelle normative e l’aumento delle restrizioni stanno compromettendo questa accessibilità, creando quella che viene definita una crisi dei dati.

Lo studio, che è riportato anche dal The New York Times, in un lungo articolo di Kevin Roose dello scorso 19 luglio, ha esaminato 14.000 domini web inclusi in tre set di dati di addestramento dell’IA comunemente utilizzati, evidenziando una “crisi emergente del consenso”, in quanto gli editori e le piattaforme online hanno adottato misure per impedire l’acquisizione dei loro dati.

I ricercatori stimano che nei tre set di dati – chiamati C4, RefinedWeb e Dolma – il 5% di tutti i dati, e il 25% dei dati provenienti dalle fonti di qualità più elevata, sia stato sottoposto a restrizioni. Queste restrizioni sono state impostate attraverso il protocollo di esclusione dei robot, un metodo vecchio di decenni che consente ai proprietari di siti web di impedire ai bot automatici di effettuare il crawling delle loro pagine utilizzando un file chiamato robots.txt.

Lo studio ha anche rilevato che ben il 45% dei dati di un set, C4, è stato limitato dai termini di servizio dei siti web.

Tuttavia, è utile ricordare che, sebbene gli editori possano cercare di impedire alle società di I.A. di effettuare lo scraping dei loro dati inserendo delle restrizioni nei loro file robots.txt, queste richieste non sono legalmente vincolanti e la loro osservanza è volontaria.

I principali motori di ricerca onorano queste richieste di opt-out e diverse aziende leader nel settore dell’intelligenza artificiale, tra cui OpenAI e Anthropic, hanno dichiarato pubblicamente che lo fanno anche loro. Ma altre aziende, (ne abbiamo scritto in precedente articolo) tra cui il motore di ricerca alimentato dall’IA Perplexity, sono state accusate di ignorarle.

Queste limitazioni rappresentano un problema anche per le piccole imprese di IA e per i ricercatori accademici, che spesso dipendono dai set di dati pubblici e non hanno le risorse finanziarie per acquistare licenze direttamente dagli editori.

Secondo il Times, alcune aziende ritengono di poter superare la mancanza dei dati utilizzando dati sintetici, ovvero dati generati da sistemi di I.A., per addestrare i loro modelli. Ma molti ricercatori dubitano che gli attuali sistemi di IA siano in grado di generare dati sintetici di qualità sufficiente a sostituire i dati creati dall’uomo che stanno perdendo.

Secondo quanto affermato dal New York Times, questa pratica potrebbe provocare una significativa perdita di entrate per il giornale, provenienti da abbonamenti, licenze, pubblicità e affiliazioni. Il quotidiano sostiene che “le due aziende cercano di approfittare gratuitamente del massiccio investimento del Times nel suo giornalismo”.

Nella denuncia  si sostiene che i modelli linguistici di OpenAI, utilizzati per alimentare ChatGPT e Copilot, sono in grado di generare output che replicano il contenuto del giornale, minando così il legame tra il quotidiano e i suoi lettori.

Nel contesto della denuncia, il New York Times afferma: “Se il Times e altre organizzazioni di notizie non possono produrre e proteggere il loro giornalismo indipendente, ci sarà un vuoto che nessun computer o intelligenza artificiale può colmare”.

In risposta, OpenAI si è dichiarata sorpresa dalla decisione del New York Times e ha dichiarato di aver cercato una collaborazione per ottimizzare l’esperienza del chatbot, sottolineando il rispetto per i diritti dei creatori e l’impegno a lavorare con loro per garantire benefici provenienti dall’uso della tecnologia di IA.

Tuttavia, il giornale sembra irremovibile nella sua decisione, chiedendo il divieto di addestrare modelli di IA utilizzando i suoi articoli e la rimozione di materiale di sua proprietà dai set di dati di OpenAI e Microsoft.

L’azione legale intentata dal Times  riporta esempi specifici, come il caso del browser Bing di Microsoft, che avrebbe replicato quasi integralmente i risultati di Wirecutter, il sito di recensioni di prodotti del Times, causando una perdita di entrate che provenivano dall’attività di linking ai vari siti di e-commerce raccomandati.

Il reclamo solleva anche preoccupazioni sul danneggiamento del marchio del Times attraverso informazioni errate attribuite al giornale da parte dell’intelligenza artificiale di Microsoft.

Quel ch’è certo è che una vittoria del New York Times potrebbe stabilire un significativo precedente con impatto sull’intera industria dell’IA e dei contenuti digitali.

In un paese come gli USA dove il dibattito sul “fair use” dei dati, contrapposto al diritto d’autore è giunto dinnanzi alle massime istituzioni giuridiche e dove le rivendicazioni delle piccole e medie aziende editoriali non hanno riscosso risultati favorevoli, sarà l’interesse economico e la potenza di fuoco di grandi organizzazioni come il NYT o le compensazioni offerte da Apple, a salvaguardare il diritto d’autore?

Inoltre, c’è il “team di superallineamento” dedicato allo sviluppo di linee guida teoriche per modelli “superintelligenti”. Questi modelli, che potrebbero essere molto avanzati, richiedono una progettazione e una gestione particolarmente attente.

Il lavoro dei team è valutare ogni modello in base a quattro categorie di rischio fondamentali: sicurezza informatica, “persuasione” (che include la gestione della disinformazione), autonomia del modello (ovvero, la possibilità di azioni autonome) e CBRN (minacce chimiche, biologiche, radiologiche e nucleari, ecc.).

L’obiettivo è spingere i modelli ai loro limiti per valutare efficacemente i rischi e misurare l’efficacia delle eventuali mitigazioni proposte. Saranno definiti livelli di rischio che attiveranno misure di sicurezza di base, garantendo che solo i modelli con un punteggio post-mitigazione “medio” o inferiore possano essere implementati e ulteriormente sviluppati.

Una volta identificati i rischi, il Safety Advisory Group un organo che si posiziona al di sopra dei team tecnici entra in azione, formulando raccomandazioni dirette a Sam Altman, CEO di OpenAI.

Altman prende quindi decisioni sulle eventuali modifiche da apportare al modello al fine di ridurre i rischi associati. Nel caso in cui un modello sia valutato con un rischio elevato, non può essere implementato, e se presenta rischi critici, non verrà sviluppato ulteriormente.

Il Quadro di preparazione (Beta) di OpenAI definisce un approccio dettagliato per lo sviluppo e l’implementazione sicura dei modelli di IA.

Inoltre, un gruppo consultivo sulla sicurezza interfunzionale esaminerà i rapporti, fornendo feedback alla leadership e al consiglio di amministrazione. Saranno sviluppati protocolli per una maggiore sicurezza e responsabilità esterna, con esercitazioni regolari e la possibilità di risposte rapide a problemi urgenti di sicurezza.

OpenAI inoltre riconosce l’importanza del feedback esterno e prevede audit da parte di terze parti qualificate e indipendenti. Collaborazioni con soggetti esterni e team interni sono previste per monitorare gli usi impropri dei modelli nel mondo reale e per affrontare rischi noti e sconosciuti.

Appare quindi evidente che OpenAI si stia impegnando per dimostrare la propria capacità di produrre e gestire sistemi di IA affidabili e sicuri, di fronte alle molte preoccupazioni che la rapida evoluzione di questi sistemi generano. Altro desumibile obiettivo è quello di predisporsi a non essere limitati dai molti dispositivi normativi che si stanno approntando in diverse parti del mondo: i quattro livelli di rischio previsti dalle regole di OpenAI somigliano straordinariamente a quelli proposti dall’AI Act dell’Unione Europea.

Nella video intervista che incorporiamo sulla versione del sito di questa newsletter, Ilya Sutskever, direttore scientifico di OpenAI, afferma che le intelligenze artificiali AGI (Artificial General Intelligence, modelli di IA super-intelligenti) potranno superare l’uomo nella previsione del token successivo. Ovvero che potranno essere più intelligenti. Opinione che ha già trovato diversi punti di vista contrari o in disaccordo.

Di seguito la trascrizione tradotta di parte della sua intervista.

«Metto in dubbio l’affermazione secondo cui la previsione del prossimo token non possa superare le prestazioni umane. A prima vista, sembra che non possa: sembra che, se impari solo a imitare per prevedere ciò che fanno le persone, significa che puoi solo copiarle. Tuttavia, c’è un argomento contrario per cui potrebbe non essere così semplice. Se la tua rete neurale è sufficientemente intelligente, puoi chiederle: “Cosa farebbe una persona con grande intuizione, saggezza e capacità?”. Forse una persona del genere non esiste, ma c’è una buona probabilità che la rete neurale possa estrapolare come si comporterebbe tale persona.

Ma da dove otteniamo queste intuizioni su cosa farebbe quella persona, se non dai dati di persone normali? Se ci pensi, cosa significa effettivamente prevedere bene il prossimo token? È una domanda più profonda di quanto sembri. Prevedere bene il prossimo token significa che capisci la realtà sottostante che ha portato alla creazione di quel token. Non è solo una questione di statistiche, ma di comprensione: per comprendere queste statistiche e comprimerle, devi capire cosa c’è nel mondo che crea queste statistiche.

Quindi, ti chiedi: “Cosa c’è nelle persone che crea i loro comportamenti?”. Le persone hanno pensieri, sentimenti, idee e agiscono in certi modi. Tutto ciò potrebbe essere dedotto dalla previsione del prossimo token. Argomento che questo dovrebbe rendere possibile, non all’infinito, ma fino a un certo grado, indovinare cosa farebbe una persona immaginaria con determinate caratteristiche, anche se tale persona non esiste. Poiché sei così bravo a prevedere il prossimo token, dovresti comunque essere in grado di indovinare cosa farebbe questa persona ipotetica immaginaria con capacità mentali molto superiori al resto di noi.»