Mettere al mondo un’IA

Il vero dubbio, per me che faccio la traduttrice, come per gli altri autori a prescindere dal medium utilizzato, riguarda sempre una questione precisa: sto lavorando gratis per addestrare l’IA che mi sostituirà o deprezzerà il mio lavoro? Ho posto proprio questa domanda su Reddit. I commenti sono fioccati e mi hanno fatto provare per la prima volta il brivido dopaminergico di vedere il proprio post tra quelli “di tendenza”. Ma la risposta più interessante sarebbe arrivata qualche giorno dopo. 

Scansando i più ottimisti, i più invasati, i catastrofisti e gli hippy dell’open source con le loro legittime preoccupazioni, ho cercato di tenere il mio punto. La diffusione di demo di IA, anche quando non sono “pronte” e si prestano al ridicolo, sembra una mossa azzardata, se non stupida, ma è innegabile che le aziende della tecnologia hanno qualcosa da guadagnare, oltre alla cattiva pubblicità (o a quella buona, in caso di successo): quando gli appassionati di tutto il mondo si fiondano a usare quelle IA, testandone i limiti, creando migliaia di testi, melodie e immagini in migliaia di lingue e di formati, le IA imparano, ricevono feedback, accumulano “opere” che diventano parte del loro corpus testuale o del loro catalogo di immagini o musicale. Quello che ci sembra un passatempo significa lavorare gratis.

Si potrebbe obiettare (come qualcuno ha fatto sotto al mio post su Reddit) che le aziende tech già impiegano centinaia di dipendenti per lavorare su queste cose, ma i tentativi e la ricerca non sono mai abbastanza: aprire le IA al vasto pubblico, magari con una lista d’attesa che ti fa sospirare come un innamorato che spera di essere ricambiato, permette di avere un pool più ampio e creativo. E il pubblico è molto vasto. Basti considerare, per esempio, che ChatGPT ha raggiunto il record di 100 milioni di utenti attivi al mese, “battendo” TikTok che ci ha messo 9 mesi e Instagram che ha impiegato 3 anni. O che in Cina, in un interessante caso di taroccaggio informatico, diversi truffatori stanno monetizzando mettendo sul mercato app a pagamento con nomi che ricordano ChatGPT.

È la solita vecchia storia dei big data, solo che qui la loro ricchezza non sta (speriamo) nella possibilità di rivenderli, ma di usarli per migliorare il prodotto che molte aziende stanno già pagando e che persino noi siamo già disposti a pagare. (Al momento in cui scrivo OpenAI – che ha ammesso di inserire gli esperimenti degli utenti nel corpus di ChatGPT – offre al pubblico un abbonamento da 20 dollari al mese, mentre, sul versante aziende, ChatGPT-4 ha stretto accordi con Duolingo e Stripe).

A volte non si tratta di lavoro gratuito, ma talmente sottopagato da rasentare lo schiavismo. È facile pensare che produrre merce a basso costo violi i diritti umani – o quantomeno il diritto del lavoro – delle persone dei Paesi in via di sviluppo, meno spesso si pensa allo sfruttamento del lavoro digitale, o di quello che viene chiamato “micro work”. Come ha scritto Phil Jones nel suo libro Work Without the Worker: Labour in the Age of Platform Capitalism, i rifugiati nei campi di tutto il mondo fanno il lavoro più noioso per pochi spiccioli, in assenza di prospettive più rosee. 

A un certo punto su Reddit è arrivata la risposta che non mi aspettavo. “Se ci pensi, è poetico. Stiamo tutti crescendo un figlio insieme”. Un figlio. Una figlia. Perché non ci avevo mai pensato? Forse perché le IA sono lontane anni luce dall’eguagliare il cervello umano e dal prendere coscienza, come hanno osservato gli esperti. Per di più è difficile stabilire cosa sia la coscienza, come si distingua quella umana o da quella degli altri animali (il fatto stesso che gli animali non umani ce l’abbiano è stato contestato dai comportamentisti americani, primo fra tutti Burrhus Skinner, negli anni Settanta), se ne siano provviste anche le piante o se queste ultime siano solo senzienti. Non esiste una definizione condivisa di coscienza. Semplificando moltissimo, il neuroscienziato Antonio Damasio riconduce tutto alle sensazioni, quindi occorre un corpo per sviluppare una coscienza (i fan di Westworld concorderebbero). 

I chatbot però, pur non avendo un corpo, hanno la scrittura. Mimano la capacità di scrivere e argomentare e ciò, paradossalmente, ci porta a considerarli più coscienti degli animali, semplicemente perché ai chatbot possiamo chiedere se credono di avere una coscienza, mentre il nostro cane o gatto non può risponderci. Eppure, coscienza o no, dobbiamo confrontarci con il fatto che questa figlia, questi figli, probabilmente saranno con noi d’ora in poi. Ci aiuteranno probabilmente. Magari, se avranno un corpo, ci accudiranno quando saremo vecchi.

Per contro, ci chiederemo se le abbiamo educate bene e se abbiamo mai avuto davvero una scelta nella possibilità di educarle, visto che le aziende non rivelano il codice (a parte forse Meta, che a marzo potrebbe aver indirettamente favorito il leak del suo Llama per acquisire nuovi dati sull’uso) e nessuno sa davvero cosa succede tra il momento in cui digitiamo una serie di prompt e quello in cui compare il risultato: una paura espressa persino dal Ceo di OpenAI, Sam Altman, in un’intervista per Abc, e dal suo finanziatore Bill Gates in una lettera di ben sette pagine in cui invita a regolamentare il campo per evitare discriminazioni o distorsioni. Per scongiurare un futuro popolato da adolescenti ribelli artificiali, l’Unione Europea si è già data da fare con il suo Artificial Intelligence Act, che ha classificato i sistemi di machine learning in quattro livelli di rischio (inaccettabile, alto, limitato, minimo o zero) facendo rientrare i chatbot nel livello “limitato”, e classificando come ad alto rischio tutte le IA che possono pregiudicare il diritto un trattamento equo da parte di imprese private e istituzioni senza subire discriminazioni su base sessuale, razziale (cito testualmente), o di condizioni di salute: tutte caratteristiche delicate nella ricerca del lavoro, della casa, della cure mediche. Se la classificazione resterà tale è tutto da vedere, soprattutto dopo il data breach (perdita di dati) di ChatGPT di marzo che ha dato il pretesto al Garante della Privacy italiano per avviare un’istruttoria – alla luce del Gdpr europeo – su ChatGPT, dove si citava anche la mancanza di una giustificazione giuridica della “raccolta e la conservazione massiccia di dati personali, allo scopo di ‘addestrare’ gli algoritmi sottesi al funzionamento della piattaforma”. 

Nel frattempo nel mondo continuiamo a fornire dati alle IA, in cambio di risultati al momento limitati per quanto molto promettenti. Ma quanta fatica e lavoro non pagato ci sarà costato quel figlio che se ne andrà per la propria strada e forse neanche ci aiuterà quando saremo anziani? Il giorno dopo ho chiesto al redditor con cui avevo interagito cosa pensava del fatto che questi figli potrebbero in futuro rivelarsi ingrati nei confronti dei genitori. “Non gliene vorrei per questo. Potranno essere ingrati, in fondo non hanno chiesto loro di esistere”, mi ha risposto. A pensarci bene, neanche a me è stato chiesto nulla. Io, come Monet, come Leopardi, come la mia vicina in metropolitana che si altera la faccia con Facetune per mostrarsi al meglio su Instagram, non ho mai scelto di mettere al mondo le IA.