Nell’epoca in cui la raccolta massiva di dati personali per addestrare i sofisticati algoritmi di intelligenza artificiale è ormai una prassi consolidata, la trasparenza e la responsabilità delle aziende tecnologiche che producono e gestiscono i sistemi IA sono più che mai necessari.
Un’indagine condotta negli ultimi mesi dal comitato ristretto del Senato australiano ha mostrato un utilizzo improprio dei dati personali degli utenti australiani da parte di alcune delle più famose aziende tecnologiche: Amazon, Google e Meta. L’indagine si è conclusa con la pubblicazione del rapporto martedì 26 novembre.
Il comitato, presieduto dal senatore laburista Tony Sheldon, ha indagato su come le tre aziende stiano utilizzando i dati degli utenti australiani per addestrare i propri modelli di intelligenza artificiale senza adeguata trasparenza e compensazione.
L’inchiesta ha rivelato che nonostante le numerose richieste di chiarimento, le Big Tech hanno mostrato un atteggiamento evasivo, rifiutandosi di spiegare come i dati degli utenti vengano utilizzati nei loro algoritmi di addestramento dei sistemi IA.
Amazon ha rifiutato di fornire informazioni su come i dati raccolti dai suoi dispositivi, come Alexa, Kindle e Audible, siano stati impiegati per addestrare l’intelligenza artificiale.
Google ha evitato di rispondere alla domanda su quali dati provenienti dai suoi prodotti e servizi fossero utilizzati nei suoi modelli di IA.
Meta ha dichiarato di aver utilizzato i dati degli utenti australiani di Facebook e Instagram dal 2007, ma l’azienda non è stata in grado di spiegare come gli utenti potessero acconsentire all’utilizzo dei loro dati per uno scopo che, all’epoca, non esisteva ancora. Inoltre l’azienda non ha chiarito in che modo sono stati utilizzati i dati provenienti da WhatsApp e Messenger.
Secondo Sheldon, il comportamento delle aziende si configura un vero e proprio “saccheggio” della cultura, dei dati e della creatività degli australiani; infatti, nell’inchiesta si mostra come queste grandi aziende non solo abbiano utilizzato i dati personali senza aver informato gli utenti, ma abbiano anche evitato ogni tipo di responsabilità riguardo alle conseguenze delle loro pratiche.
Nel rapporto viene dedicata anche una sezione critica alla legislazione australiana in materia di IA, in questa parte si afferma che, le leggi esistenti, risultano non sufficienti a proteggere i diritti dei cittadini di fronte alla rapida evoluzione dell’intelligenza artificiale, e si sollecita il governo australiano a intervenire per “gestire” lo sviluppo dell’IA nel paese, assicurando che la sua crescita avvenga nell’interesse nazionale.
Viene proposto anche di classificare i modelli di IA generici, come GPT di OpenAI, Llama di Meta e Gemini di Google, nel livello ad “alto rischio”, in cui si collocano i sistemi IA in grado di incidere in modo sensibile sulla salute e sui diritti fondamentali delle persone fisiche. Questi modelli IA dovrebbero essere sottoposti a requisiti di trasparenza e responsabilità obbligatori.
Il rapporto affronta anche la questione delle industrie creative, raccomandando che i creativi siano adeguatamente compensati quando il loro lavoro viene utilizzato dai modelli di IA. Le aziende dovrebbero dichiarare l’uso di materiali protetti da copyright e garantire licenze e pagamenti ai creativi.
Diverse organizzazioni operanti nel settore dell’industria creativa, come Australasian Performing Right Association (APRA) , Australasian Mechanical Copyright Owners Society (AMCOS) e Media Entertainment and Arts Alliance (MEAA), hanno accolto favorevolmente queste proposte, considerandole un passo importante verso la tutela della proprietà intellettuale.
Dall’altro lato, non sono mancate, nel comitato ristretto che ha realizzato il rapporto, voci discordanti come quelle dei senatori Linda Reynolds e James McGrath, che non ne hanno accettato le conclusioni, affermando che le proposte devono essere messe in atto “senza violare le potenziali opportunità che l’IA presenta in relazione alla creazione di posti di lavoro e alla crescita della produttività” e, a loro avviso, l’impatto dell’IA sull’economia creativa è meno urgente.
