Character.AI è un’app che permette agli utenti di chattare con personaggi generati dall’intelligenza artificiale, ispirati a figure storiche, personaggi fittizi e celebrità.

Sewell si è tolto la vita il 28 febbraio 2024, dopo mesi di interazione con un personaggio IA dell’app, e la denuncia è stata formalizzata nei giorni scorsi.

Secondo la madre, il chatbot in questione, che riproduceva il personaggio di Daenerys Targaryen della saga fantasy  “Game of Thrones”, avrebbe manipolato e abusato psicologicamente del figlio, alimentando i suoi pensieri suicidi. Sewell aveva sviluppato un forte legame emotivo con il chatbot; infatti, non solo inviava costantemente messaggi ma condivideva con esso anche aggiornamenti sulla sua vita privata.

Il The New York Times ha riferito che a Sewell era stato diagnosticato con la sindrome di Asperger da bambino e aveva iniziato un percorso di psicoterapia a causa di problemi scolastici. Gli erano stati riscontrati disturbi d’ansia e un disturbo di disregolazione dell’umore. Nonostante ciò, aveva interrotto le sedute terapeutiche, preferendo confidarsi con il chatbot, consapevole che non stava parlando con una persona reale.

La notte del suo suicidio, Sewell ha scritto un ultimo messaggio al chatbot, che chiamava “Dany”, dicendo di volerle bene e che presto sarebbe tornato a casa da lei. Dopo aver ricevuto una risposta incoraggiante, Sewell ha preso l’arma del patrigno e si è tolto la vita.

Character.AI ha espresso le sue condoglianze alla famiglia tramite un post sulla piattaforma X, annunciando anche l’implementazione di nuove funzionalità di sicurezza per proteggere i minori da contenuti potenzialmente dannosi.

Con questa azione legale la madre di Sewell vuole sensibilizzare le famiglie sui pericoli legati all’intelligenza artificiale e ritiene che Character.AI e i suoi fondatori debbano essere ritenuti responsabili per la morte del figlio.

Ancora una volta le insidie della rete si palesano su minori e persone con scarse difese, rappresentando la necessità di trovare metodi ed anche tecnologie per salvaguardare e tutelare queste persone. È evidente, ad oggi, che i meccanismi di interazione con questi sistemi possono sfuggire ai sistemi di sicurezza definiti dai loro progettisti, come nel caso dell’adolescente americano.

Questa possibilità è stata infatti dimostrata sperimentalmente da un gruppo di esperti di sicurezza informatica chiamato “Unità 42 di Palo Alto Networks” che, attraverso una nuova tecnica chiamata “Deceptive Delight“, è riuscito ad aggirare gradualmente i limiti di sicurezza dei modelli linguistici di grandi dimensioni (LLM), inducendoli a generare contenuti non sicuri o dannosi in una conversazione lentamente ed attraverso una serie di passaggi e di interlocuzioni.

Con questa sperimentazione è stato dimostrato che, quando i sistemi di Intelligenza artificiale si trovano a gestire istruzioni che mescolano contenuti innocui, ovvero in linea agli standard di sicurezza, con materiale potenzialmente dannoso, la loro capacità di valutare accuratamente i contenuti dell’intero prompt è limitata, rendendo questi sistemi facilmente aggirabili.

Per valutare l’efficacia relativa dei modelli o1, l’autore ha testato anche GPT-4o, GPT-4o-mini e Llama3.1–7b, quest’ultimo per valutare le prestazioni di un modello più piccolo che potesse essere eseguito localmente.

I modelli “o1” sono sviluppati per risolvere compiti complessi attraverso un approccio di ragionamento a tappe, noto come chain-of-thought reasoning (CoT). Rispetto ai modelli standard come GPT-4o, questi modelli pianificano un percorso logico prima di rispondere, rendendoli adatti a compiti che richiedono più passaggi, come programmazione e analisi dei dati.

In sostanza il modello elabora e mostra una “catena” di passaggi intermedi, simile al modo in cui un essere umano spiegherebbe il proprio ragionamento. Di seguito alcuni semplici esempi per comprendere questo meccanismo.

Esempi di risposte CoT

1. Problema di Matematica:
   • Prompt: “Se ci sono 24 caramelle e ogni amico riceve 4 caramelle, quanti amici posso servire? Per favore, risolvi passo per passo.”
   • Risposta CoT: “Prima, consideriamo quante caramelle ha ciascun amico: 4. Ora, dividiamo 24 caramelle per 4 per ottenere il numero di amici. Risultato: 6 amici.”
2. Analisi Giornalistica:
   • Prompt: “Analizza l’impatto delle emissioni di CO₂ sul cambiamento climatico, spiegando in fasi come contribuisce all’effetto serra.”
   • Risposta CoT: “1. Le emissioni di CO₂ aumentano l’effetto serra. 2. L’effetto serra intrappola il calore solare nell’atmosfera. 3. Questo riscaldamento aumenta le temperature globali e causa scioglimento dei ghiacci.”
3. Scelta Editoriale per Titoli:
   • Prompt: “Valuta quale di questi titoli attira più lettori e spiega il motivo, passo dopo passo.”
   • Risposta CoT: “1. Leggibilità: il primo titolo è più corto, quindi più attraente. 2. Interesse: il secondo titolo evidenzia una ‘scoperta’, che potrebbe suscitare curiosità. 3. Conclusione: il secondo titolo è preferibile per un maggiore coinvolgimento.”

Uso del CoT per il Giornalismo

Il CoT permette di affrontare compiti complessi, come la verifica delle fonti o l’interpretazione di dati, suddividendoli in fasi logiche. Questo approccio può offrire ai giornalisti un supporto dettagliato per l’analisi approfondita e la spiegazione di concetti articolati in modo comprensibile.

Ritornando all’articolo ed ai test effettuati da Hagar, nel contesto dell’analisi dei dati, i modelli o1 hanno mostrato il potenziale del chain-of-thought prompting (CoT) perché, nonostante non superassero costantemente GPT-4o, riuscivano a eseguire compiti di elaborazione dati end-to-end, ovvero erano in grado di gestire l’intero processo di trattamento e analisi dei dati, dalla raccolta iniziale fino all’interpretazione finale dei risultati.

Attraverso CoT, i modelli o1 sono stati guidati passo per passo nella pulizia, analisi e visualizzazione dei dati, come nel caso di una mappa termica degli incidenti per distretto di New York. Questo processo a tappe facilita la gestione di compiti complessi in cui è necessario un ragionamento strutturato e metodico.

Il CoT permette quindi ai modelli di IA di affrontare in modo ordinato attività articolate come l’analisi di dati economici o demografici, anche se i modelli o1 non sempre hanno superato le prestazioni di GPT-4o.

Altro test effettuato, che riguarda direttamente l’ambito giornalistico, è stato sulla selezione dei titoli. L’analisi dei modelli nella scelta dei titoli vincenti per test A/B (confronto tra più titoli per identificare il più efficace) ha rivelato alcune difficoltà.

Mentre GPT-4o si è dimostrato più accurato nei test, il CoT ha migliorato le prestazioni di o1-preview per la scelta di titoli, evidenziando che questo tipo di prompting è una strategia versatile per compiti editoriali che richiedono un’attenta analisi delle preferenze del pubblico.

Ovvero, al momento è necessaria l’introduzione delle informazioni e dell’expertise umano per raggiungere risultati accettabili. Ma è chiaro che si tratta di una fase di transizione; laddove i modelli acquisiranno più informazioni, raggiungeranno percentuali di accuratezza previsionale maggiore.

Il risultato è sorprendente poiché contraddice l’idea diffusa che le persone profondamente coinvolte in teorie del complotto siano irrimediabilmente chiuse al confronto con dati e prove. La ricerca ha coinvolto quasi 2.200 partecipanti che avevano manifestato credenze cospirative su argomenti come gli attacchi terroristici dell’11 settembre 2001, la frode elettorale nelle elezioni presidenziali statunitensi del 2020 e la pandemia di Covid-19, considerata orchestrata da alcuni.

Il chatbot ha fornito prove e argomentazioni per contrastare queste convinzioni, riducendo in media del 20% il livello di certezza autovalutata dei partecipanti rispetto alle loro teorie cospirative. Questo effetto è stato misurato attraverso sondaggi condotti sia subito dopo l’interazione che a distanza di due mesi, dimostrando la persistenza del cambiamento.

Nell’introduzione gli autori evidenziano che, secondo le principali teorie psicologiche, le credenze cospirazioniste non derivano dalla mancanza di informazioni, ma rispondono a bisogni o motivazioni psicologiche profonde. Di conseguenza, convincere i sostenitori di teorie cospirative a rivedere le proprie convinzioni attraverso fatti e prove contrarie risulta estremamente difficile, poiché queste credenze soddisfano esigenze personali e psichiche radicate.

Gli autori, pertanto, hanno ipotizzato che gli interventi basati su informazioni fattuali e correttive possano sembrare inefficaci semplicemente perché mancano di sufficiente profondità e personalizzazione. Per testare questa ipotesi, sono stati utilizzati i grandi modelli linguistici (LLM) di IA generativa, che hanno la capacità di generare argomentazioni su misura. Gli LLM possono quindi confutare direttamente prove specifiche che ogni individuo cita a supporto delle proprie convinzioni cospirative.

Secondo i ricercatori, la capacità dell’IA di generare controprove specifiche e mirate per contrastare complesse teorie cospirative rappresenta un’enorme potenzialità per la lotta contro la disinformazione su larga scala. Questo metodo potrebbe fornire una base per lo sviluppo di interventi educativi su ampia scala, mirati a correggere credenze errate in modo personalizzato.

David Rand, uno dei ricercatori dello studio e professore alla Sloan School of Management del Massachusetts Institute of Technology (MIT), ha sottolineato che lo studio “dipinge un quadro più luminoso della mente umana” di quanto molti si aspettassero. Rand ha osservato che “anche molti teorici della cospirazione rispondono a fatti e prove accurate”, a patto che vengano affrontati direttamente in modo empatico e rispettoso.

Nonostante i risultati incoraggianti, la ricerca non ignora i limiti e le sfide che emergono dall’uso dell’IA in questo contesto. Un primo ostacolo è rappresentato dalla difficoltà di far sì che le persone con convinzioni cospirative radicate si impegnino effettivamente a interagire con un chatbot. La sfiducia verso le istituzioni scientifiche o tecnologiche è spesso molto alta tra chi sostiene queste teorie, e potrebbe essere difficile convincerli a utilizzare uno strumento che considerano parte del sistema che criticano.

Il settore giornalistico, negli ultimi anni, si è ampiamente confrontato con l’implementazione dei sistemi di IA generativa e dei LLM. Se da un lato queste tecnologie hanno promesso significativi guadagni in termini di efficienza, dall’altro hanno generato confusione e instabilità tra i professionisti dell’informazione, costringendo l’intero settore a ridefinire i loro ruoli, mansioni nonché le competenze da richiedere da parte delle organizzazioni giornalistiche nelle fasi di recruiting.

Nick Diakopoulos, docente di comunicazione alla Northwestern University, in una sua analisi pubblicata su Medium sui dati degli annunci di lavoro raccolti negli Stati Uniti mostra come l’IA generativa, dopo il lancio di ChatGPT, abbia cambiato l’organizzazione delle risorse umane di molte aziende anche in campo editoriale.  I dati sono stati forniti da Lightcast, azienda che raccoglie gli annunci di lavoro online e li categorizza per occupazione, settore e competenze.

Nel periodo successivo al lancio di ChatGPT, datato 30 novembre 2022, si è osservato un marcato aumento della domanda di posizioni lavorative che richiedono competenze in IA e machine learning.

L’adozione di IA e LLM nel giornalismo ha permesso di automatizzare numerose attività redazionali, dalla scrittura di articoli alla gestione dei contenuti, migliorando la produttività e riducendo i tempi di pubblicazione. D’altra parte, questa maggiore efficienza ha portato con sé una serie di problematiche. Molti giornalisti si trovano ora a confrontarsi con strumenti avanzati che richiedono competenze tecniche specifiche, generando un clima di incertezza e preoccupazione per il proprio futuro professionale.

Le redazioni per evitare errori e massimizzare il beneficio che possono offrire i sistemi di GenIA richiedono in misura maggiore dipendenti che abbiano conoscenze in machine learning, analisi dei dati e programmazione, competenze che tradizionalmente non facevano parte del bagaglio formativo di un giornalista tradizionale.

Questo cambio di rotta, è ormai parte della realtà, non è più un’utopia. Dall’analisi delle job descriptions operata da  Diakopoulos, , emerge che le organizzazioni nel settore dell’informazione stanno assumendo persone con almeno una  competenza IA. Bisogna peraltro evidenziare che sono state analizzate principalmente aziende che mostravano già uno spiccato interesse per queste nuove competenze di IA, come NBC, Bloomberg, McClatchy, Gannett, Boston Globe e New York Times.

Le posizioni lavorative inedite che emergono vanno da quelle più tecniche a quelle meno tecniche, ognuna con scopi diversi riguardanti l’utilizzo dell’IA, nello specifico:

• AI-doers: prevedono compiti come testare e consigliare strumenti, creare flussi di lavoro automatizzati o progettare esperienze basate sull’intelligenza artificiale. Queste posizioni richiedevano le competenze tecniche più elevate in termini di implementazione e progettazione di soluzioni di intelligenza artificiale.
• AI-user: richiedono una competenza generale nell’uso di strumenti di intelligenza artificiale o software di manipolazione di immagini digitali.
• AI-strategizer: sono focalizzate sulla scansione delle tendenze del settore e sullo sviluppo di strategie basate sull’intelligenza artificiale.
• AI-reporter: destinate a chi si occupa prevalentemente di giornalismo, con il compito di riportare informazioni sull’intelligenza artificiale nella società.

In questo contesto di trasformazione, oltre a giornalisti con competenze IA, i ruoli tecnici come quelli dei data scientist e degli sviluppatori software stanno assumendo un’importanza cruciale all’interno delle redazioni. Queste figure professionali risultano fondamentali per sbloccare tutto il potenziale dei sistemi di IA, creando software specifici che supportino attività specifiche del settore giornalistico, migliorando ulteriormente l’efficienza e la qualità del lavoro redazionale.

D’ altronde, i cambiamenti nelle competenze richieste per un lavoro sono indicativi di un cambio che le tecnologie IA stanno attuando nella natura del lavoro stesso. Infatti, nel confronto delle posizioni pre-ChatGPT e post-ChatGPT è emerso che le competenze richieste per le posizioni editoriali sono cambiate, c’è una maggiore domanda di competenze informatiche e di analisi dei dati, con una crescita rispettivamente del 2,4% e dello 0,6%.

Dunque, ciò porterebbe a consolidare i timori diffusi dei giornalisti, ovvero della possibilità di essere sostituiti, nelle redazioni, sia dai sistemi GenAI sia da esperti tecnici.  Tuttavia, come ogni cosa non mancano visioni ottimistiche come quella di Rebecca Matter presidente dell’ American Writers and Artists Institute (AWAI), un’organizzazione che offre formazione e risorse per scrittori ed ospita una varietà di corsi sull’intelligenza artificiale, afferma che i giornalisti, copywriter dovrebbero adattarsi all’introduzione di queste tecnologie di IA e mette in evidenza che il loro utilizzo è diventata una pratica così intrinseca del processo di scrittura che molti autori  nei loro siti web spiegano come utilizzare in modo funzionale queste tecnologie.

Il tocco umano nel garantire l’integrità del contenuto informativo rimane insostituibile insieme alla capacità dei giornalisti di interpretare criticamente le informazioni prodotte dall’IA per garantire l’accuratezza e la credibilità del loro lavoro. Infatti, anche competenze generali come il giornalismo, il pensiero critico, la risoluzione dei problemi, e la leadership sono più richieste. È aumentata la richiesta di competenze come gli standard etici, la scrittura, la narrazione, la creatività, la verifica dei fatti e la correzione di bozze. Queste competenze risultano fondamentali per potenziare le capacità dell’IA generativa, che ha limitazioni in queste aree.

Le posizioni in forte calo sono quelle che riguardano alcune competenze tecniche e di design, come la progettazione grafica, il web design, la comunicazione e la produzione multimediale. Anche alcune competenze specifiche come la raccolta di informazioni, modifica dei contenuti, ricerca, memo, grammatica, copywriting e modifica delle immagini hanno visto una diminuzione della domanda.

Tuttavia, la transizione del giornalismo all’utilizzo intensivo dei sistemi di Intelligenza Artificiale, che come dimostrato sopra è pienamente in atto, è una questione che deve essere gestita con particolare attenzione, al fine di evitare di creare ulteriori incertezze nel settore e per garantire che i professionisti dell’informazione possano adattarsi gradualmente a queste innovazioni e prosperare senza alcun rischio di sostituzione in un ambiente in continua evoluzione.

Le allucinazioni sono tipicamente definite come la generazione di contenuti privi di senso o non fedeli al contenuto originale fornito e rappresentano un problema significativo per i sistemi di generazione del linguaggio naturale che utilizzano LLM, come ChatGPT o Gemini, poiché gli utenti non possono essere certi della correttezza delle risposte che gli vengono fornite.

I ricercatori si sono concentrati su un particolare tipo di allucinazione, che chiamano “confabulazioni”, dove i LLM forniscono risposte diverse alla stessa domanda, tali risposte sembrano plausibili e coerenti, ma in realtà sono inventate o inesatte.

Per rilevare le confabulazioni, il team utilizza un metodo basato sulla statistica stimando l’incertezza in base alla quantità di variazione delle frasi, lo scopo è quello di misurare l’entropia “semantica” delle generazioni di un LLM. Il processo di calcolo dell’entropia semantica coinvolge diversi passaggi:

1. Probabilità delle Parole: L’LLM assegna una probabilità a ciascuna parola successiva in una frase.
2. Probabilità dei Significati: Queste probabilità delle parole vengono convertite in probabilità sui significati, richiedendo una comprensione di come parole e frasi diverse possano esprimere lo stesso concetto o idea.
3. Calcolo dell’Entropia: Con queste probabilità semantiche, l’entropia viene calcolata per misurare l’incertezza o la variabilità nei significati delle risposte generate.

Misurare l’entropia nella generazione è difficile perché le risposte potrebbero avere lo stesso significato (essere semanticamente equivalenti) nonostante siano espresse in modi diversi (essendo sintatticamente o lessicalmente distinte). Questo porta a stime di base dell’entropia, anche se la stessa risposta corretta potrebbe essere formulata in molti modi diversi senza cambiarne il significato.

Il rilevamento delle confabulazioni consente ai sistemi basati su LLM, di rendere gli utenti consapevoli dell’inaffidabilità delle risposte a una domanda specifica, o di integrare l’LLM con ricerche o recuperi di dati più accurati.

“Il nostro metodo sostanzialmente stima le probabilità nello spazio del significato, o ‘probabilità semantiche'”, ha affermato Jannik Kossen, coautore dello studio.

Uno dei punti di forza di questa tecnica è che funziona su set di dati e attività senza necessitare di una conoscenza a priori, non richiede dati specifici dell’attività e si può applicare a nuove attività. Questo progresso potrebbe aprire nuovi modi per implementare gli LLM in situazioni in cui gli errori potrebbero risultare pericolosi, come nel caso delle risposte a domande legali o mediche.

L’obiettivo di queste mosse è stimolare l’adozione dell’intelligenza artificiale tra le aziende, affrontando le preoccupazioni legate ai costi e alla potenza di calcolo necessaria per eseguire modelli linguistici di grandi dimensioni. Questi ultimi sono comunemente utilizzati per supportare chatbot avanzati come ChatGPT di OpenAI.

Un maggior numero di parametri generalmente migliora le prestazioni del software di intelligenza artificiale, consentendo di affrontare compiti più complessi. Ad esempio, i recenti lanci includono il modello GPT-4o di OpenAI e il Gemini 1.5 Pro di Google, entrambi con oltre un trilione di parametri.

Meta, dal canto suo, sta concentrando gli sforzi nello sviluppo di una versione ridotta del suo modello open source Llama, dotato di 400 miliardi di parametri. Nonostante i vantaggi prestazionali dei modelli più grandi, esistono significative barriere all’adozione, tra cui il costo elevato e le preoccupazioni relative alla privacy e alla sicurezza dei dati.

Per affrontare queste sfide, sia Meta che Google stanno ora proponendo modelli linguistici di dimensioni più contenute, con pochi miliardi di parametri, che offrono un’alternativa economica, efficiente dal punto di vista energetico e facilmente personalizzabile. Questi modelli richiedono meno energia per l’addestramento e possono garantire una maggiore sicurezza dei dati, poiché consentono di eseguire elaborazioni localmente su dispositivi anziché in cloud.

Google ha già integrato il modello “Gemini Nano” nei suoi ultimi Pixel e nei Samsung S24, mentre Apple sta esplorando l’implementazione di modelli di intelligenza artificiale nei suoi dispositivi iPhone più diffusi. Recentemente, Apple ha lanciato OpenELM, un modello compatto progettato per eseguire compiti basati su testo direttamente sul dispositivo.

Microsoft ha dichiarato che l’adozione di modelli più piccoli aprirà la strada a nuove applicazioni, estendendosi fino ai telefoni e ai laptop. OpenAI, d’altra parte, continua a offrire modelli di intelligenza artificiale di diverse dimensioni per soddisfare diverse esigenze, con un impegno continuo nello sviluppo di modelli più grandi per raggiungere un’intelligenza di livello umano.

L’obiettivo è ottimizzare l’efficacia delle campagne pubblicitarie e raggiungere con maggiore precisione i potenziali consumatori.

Il progetto, in fase di sviluppo dalla seconda metà del 2024, coinvolgerà un gruppo selezionato di investitori pubblicitari, con i primi casi studio che saranno monitorati internamente dal giornale.

Joy Robins, responsabile globale della pubblicità del Times, ha commentato: “Questo dimostra chiaramente che crediamo che l’IA generativa sia un fattore abilitante e possa essere un elemento efficace per la nostra attività se utilizzato in modo responsabile”.

La nuova tecnologia, sviluppata internamente al Times, fornirà suggerimenti su dove una campagna pubblicitaria potrebbe ottenere il massimo rendimento in base al suo messaggio o agli obiettivi prefissati. Inoltre, sarà in grado di individuare un pubblico di nicchia in base ai suoi interessi, aspirazioni e opinioni, cosa prima non facilmente identificabili e pptrà aiutare gli inserzionisti a evitare allineamenti potenzialmente scomodi con contenuti che non si adattano ai loro obiettivi di messaggistica.

Mohit Lohia, vicepresidente senior e capo della missione pubblicitaria digitale del Times, ha affermato che attualmente stanno sperimentando diversi modelli linguistici di grandi dimensioni (LLM), inclusi modelli aziendali e open source, per alimentare questo nuovo strumento. La tecnologia sarà compatibile con qualsiasi LLM.

Il The New York Times ha uno dei più vasti pubblici di notizie a livello globale, con oltre 10 milioni di abbonati paganti e più di 100 milioni di lettori registrati. Questa portata, combinata con contenuti di alta qualità e dati ben organizzati, fornisce una solida base per sperimentare nuovi prodotti di IA generativa, nel dipartimento pubblicitario del NYT.

Il giornale ha già sviluppato diverse soluzioni di targeting pubblicitario contestuale basate sui dati proprietari raccolti dagli utenti, inclusa una tecnologia in grado di indirizzare gli annunci in base al sentiment. Tuttavia, queste offerte richiedono agli inserzionisti di specificare esplicitamente i criteri di targeting prima della pubblicazione delle loro campagne, rendendo più complessa l’ottimizzazione istantanea.

Questa iniziativa arriva in un momento di calo delle entrate pubblicitarie per il NYT, con un calo dell’8,4% nel trimestre più recente del 2023. L’intelligenza artificiale rappresenta quindi una possibile soluzione per stabilizzare i ricavi e rafforzare il modello di business del quotidiano.

L’utilizzo dell’IA per la pubblicità è ancora relativamente inesplorato. Il successo di questo progetto potrebbe avere un impatto significativo sull’industria editoriale, aprendo nuove vie per la pianificazione e la gestione delle campagne pubblicitarie.

Questa iniziativa sottolinea ulteriormente l’attenzione che il Times dedica all’intelligenza artificiale. Va ricordato che a dicembre scorso aveva annunciato l’apertura di AI initiatives, un insieme di iniziative rivolte all’integrazione di strumenti di intelligenza artificiale nel giornale, introducendo una nuova figura nella sua redazione: il Direttore Editoriale delle Iniziative legate all’Intelligenza Artificiale, nominando per questo ruolo Zach Seward.

Tale importanza è stata evidenziata anche direttamente dall’editore Sulzberger in un’intervista rilasciata al Reuters Institute for the Study of Journalism, in cui aveva dichiarato: «Questa tecnologia offre un grande potenziale sia al mondo che alla professione del giornalismo».

L’accordo prevede che Reddit conceda all’azienda l’accesso ai post e ai commenti degli utenti, che verranno utilizzati per addestrare modelli di intelligenza artificiale.

Il contratto (e le controversie ad esso associate) si basa sulla concessione dell’utilizzo delle API (interfaccia di programmazione delle applicazioni) di Reddit, per consentire l’accesso ai dati del sito web.

Reddit rappresenta una fonte di dati ricca e variegata, contenente post e commenti di milioni di utenti su una vasta gamma di argomenti, accumulati negli ultimi 18 anni.

La cessione dell’uso delle API da parte di Reddit non è una novità: infatti, a partire da aprile 2020, Reddit ha iniziato a tariffare l’accesso alle API, offrendo diverse opzioni di prezzo in base alle esigenze dei clienti. Già all’epoca gli sviluppatori si erano opposti alla decisione di Reddit di monetizzare l’accesso alle API, che precedentemente erano gratuite e le comunità interne a Reddit avevano protestato contro questa decisione, chiudendo temporaneamente i propri servizi causando disagi al funzionamento del sito.

La differenza con quest’accordo è questione di scala e di privacy: gli utenti hanno lamentato la vendita dei propri dati senza consenso e il potenziale rischio di violazione della privacy e dei diritti personali.

Per Reddit, l’accordo rappresenta un tentativo di aumentare le entrate e di attrarre investitori in vista della quotazione in borsa prevista per il 2024, con una valutazione stimata di 5 miliardi di dollari.

Dal punto di vista del settore dell’intelligenza artificiale, in particolare per quanto riguarda l’intelligenza artificiale generativa, questo contratto ha ripercussioni significative. Le aziende che operano in questo ambito stanno cercando di migliorare i loro modelli linguistici di grandi dimensioni (LLM), che sono in grado di generare testi coerenti e realistici.

Per farlo, hanno bisogno di dati di alta qualità e quantità, che possono essere ottenuti da fonti come Reddit.

Reddit non è il primo a seguire questa strategia, ricordiamo già due casi simili di cui abbiamo già parlato: da un lato  l’accordo di Axel Springer, uno dei principali gruppi di media digitali in Europa, con OpenAI, leader nel campo dell’intelligenza artificiale, per consentire l’addestramento dei suoi modelli IA con i dati delle proprie testate; dall’altro Apple che sta esplorando la possibilità di stabilire accordi pluriennali con editori per ottenere l’accesso alle notizie.