Qualcuno parla attraverso di noi

Jean Grey porta nello stesso film la paura opposta. Capace di entrare nelle menti e controllare temporaneamente i corpi, attraversa altre persone e le utilizza per agire. Peter soffre perché nessuno lo ricorda, mentre Jean può raggiungere gli altri fino a sostituirsi alla loro volontà. Il film oscilla fra il bisogno di essere riconosciuti e quello di potersi sottrarre. Il possesso dei corpi estremizza una domanda che possiamo riportare, su un piano diverso, alle tecnologie: quale possibilità di risposta conserva chi viene raggiunto? La differenza passa anche dalla possibilità di dire che quella voce, pur uscendo dalla nostra bocca o comparendo sotto il nostro nome, non ci rappresenta.

Nella serie Pluribus di Vince Gilligan (storico autore di Breaking Bad), un contagio di origine extraterrestre unisce quasi tutta l’umanità in una coscienza condivisa. Carol Sturka, scrittrice interpretata da Rhea Seehorn e rimasta immune, si trova fra persone ancora distinte nei corpi, ma ormai partecipi della stessa mente. Il joining promette una convivenza pacifica, liberata dalla solitudine e dai conflitti. Il problema di Peter Parker qui non esisterebbe: nessuno può essere dimenticato o lasciato solo dove nessuno è veramente separato dagli altri.

Ai pochi esclusi il mondo riserva disponibilità e gentilezza, ma al contempo cerca il modo di assorbirli. Il rifiuto dell’assimilazione da parte della protagonista viene trattato come una sofferenza che l’assimilazione stessa potrebbe risolvere e, la felicità, un argomento al quale è difficile rispondere senza apparire ingrati o incapaci di capire ciò che sarebbe meglio per noi. Carol può sì muoversi e protestare, ma ogni sua obiezione sembra destinata a essere riassorbita nella prospettiva che prima o poi smetta di volere qualcosa di diverso.

Questo aspetto rende interessante il parallelo con le IA generative. Una coscienza che raccoglie informazioni, risponde alle richieste e si mostra sempre disponibile possiede una somiglianza riconoscibile con gli assistenti ai quali chiediamo aiuto. Un modello linguistico, naturalmente, non contiene le coscienze delle persone sui cui testi è stato addestrato, né esprime un accordo raggiunto fra loro. La somiglianza riguarda l’esperienza del soggetto che lo interroga: trovare una risposta pronta, formulata con sicurezza e adattata alla richiesta, può quasi far dimenticare il lavoro necessario per giudicarla. In pratica, la disponibilità dell’interlocutore rischia di diventare una ragione per fidarsi del suo criterio.

Che Carol sia una scrittrice rende il problema della voce particolarmente concreto. Il suo rifiuto ci costringe a prendere sul serio anche una soggettività scomoda, irritante, poco incline a ricambiare la gentilezza. Difendere la possibilità di esprimersi comporta accettare che qualcuno dica cose che non ci piacciono, o che non sappia ancora dirle bene. E se ogni attrito viene considerato un difetto da correggere, diventa difficile distinguere il miglioramento di un’espressione dalla neutralizzazione di ciò che cercava di esprimere. Una voce si riconosce anche per le difficoltà che si porta dietro.

Proviamo a immaginare un piccolo esempio di riscrittura, costruito per mettere a fuoco questo passaggio. La frase “Ho accettato, anche se non saprei dire quanto contasse il desiderio di non deluderli” potrebbe diventare “Ho accettato per non deluderli”. Il secondo periodo è più breve e la motivazione più leggibile. Nel passaggio, però, è scomparsa l’incertezza di chi cerca ancora di capire perché abbia agito. Il desiderio di compiacere gli altri è diventato una spiegazione sufficiente. Quella che sembrava una semplificazione dello stile ha modificato ciò che la persona sa, o pensa di sapere, di se stessa.

Una revisione attenta potrebbe conservare l’incertezza e rendere comunque la frase più chiara. L’esempio mostra una scelta da riconoscere, non un esito inevitabile dell’uso dell’IA. Un periodo meno immediato può essere scritto male, ma può anche trattenere un’esitazione che aveva una ragione, un rapporto fra idee che non siamo ancora riusciti a chiarire. Affidare a un sistema la sua riscrittura significa affidargli, almeno in parte, la scelta di che cosa valga la pena conservare. Il vantaggio può essere concreto ma lo è anche la responsabilità che rimane a chi accetta il risultato.

Il problema riguarda allora l’abitudine che sviluppiamo verso determinate soluzioni. Quanto più diventano facili da ottenere, tanto più rischiano di sembrarci il modo naturale di esprimere ciò che avevamo in mente. Possiamo continuare a scegliere parole e argomenti dentro uno spazio di possibilità che abbiamo imparato a delegare. Non occorre immaginare una voce unica imposta a tutti: la rinuncia può avvenire attraverso una serie di miglioramenti dei quali, presi uno per uno, siamo soddisfatti e da cui iniziamo a dipendere. Pluribus dà una forma (estremizzata) alla difficoltà di opporsi a qualcosa che sembra funzionare così bene per noi.

Questa paura ha una storia molto più lunga di ChatGPT. A fine anni Ottanta i Borg di Star Trek le hanno dato la forma di una civiltà organizzata come un’unica rete, capace di assimilare corpi e conoscenze subordinando le singole volontà al Collettivo. Ogni nuova capacità acquisita aumenta la potenza dell’insieme, mentre chi la possedeva perde la possibilità di decidere come impiegarla. È un’immagine efficace della paura di diventare una funzione, di una connessione che coincide con la scomparsa del dissenso e, continuare a esistere, a sapere e ad agire senza poter più stabilire per che cosa farlo.

La distanza fra questa assimilazione e una richiesta rivolta a un chatbot rimane enorme, non c’è neanche da dirlo. Possiamo però usare i Borg per precisare quale perdita temiamo: che il contributo di una persona continui a essere utilizzabile anche quando la sua capacità di intervenire sulle condizioni di quell’uso si riduce. Nel rapporto quotidiano con l’IA, la domanda diventa quanto partecipiamo ancora alla definizione del risultato. Possiamo limitarci a riconoscere che una risposta è accettabile, oppure usarla per capire meglio che cosa pensiamo, modificarla e persino cambiare la domanda. La possibilità di scegliere rimane aperta; conta quanto siamo disposti, e messi nelle condizioni, di esercitarla.

Difendere questa possibilità richiede anche di rinunciare all’immagine di un io incontaminato. In Materialismo gotico, testo scritto nel 1999 e recentemente pubblicato per Einaudi, Mark Fisher perturba il confine fra umano e macchina, vivente e inanimato, individuo che agisce e sistema attraverso il quale qualcosa accade. La sua riflessione permette di riconoscere quanto siamo già permeabili e dipendenti da ciò che ci circonda. Le parole con cui ci raccontiamo arrivano dagli altri; gli strumenti che usiamo modificano ciò che sappiamo fare. Questa dipendenza rende necessario distinguere tra relazioni che ampliano la nostra capacità di intervenire e relazioni nelle quali diventiamo sempre più disponibili a funzionare secondo criteri stabiliti altrove.

Star Trek aveva già complicato la propria rappresentazione del Collettivo attraverso Hugh, il drone che in I, Borg, episodio del 1992, comincia a riconoscersi come individuo incontrando l’equipaggio dell’Enterprise. Hugh riceve un nome, si affeziona, modifica il giudizio delle persone che inizialmente vedevano in lui soltanto un nemico. La relazione produce differenze anche in chi lo accoglie: l’equipaggio deve rivedere l’idea che si era fatto di lui. Un movimento reciproco che rende l’incontro diverso dall’assimilazione, e  nessuno dei partecipanti può stabilire da solo e in anticipo che cosa ne uscirà.

Hugh diventa un’individualità attraverso un rapporto. Nell’alternativa all’assimilazione ci sono quindi ancora gli altri, e la possibilità che essere conosciuti ci aiuti a esistere senza decidere definitivamente ciò che saremo. È anche ciò che manca a Peter Parker: qualcuno con cui la sua storia possa continuare, invece di restare soltanto un ricordo privato. Carol difende l’altro lato della stessa esigenza, il diritto a rimanere separata abbastanza da poter contraddire chi dice di volerle bene. I tre racconti tengono insieme il bisogno della relazione e la necessità che essa rimanga discutibile.

Spider-Man, Pluribus e i Borg di Star Trek raccontano forme molto diverse di perdita e costruzione dell’identità. Accostarli all’IA permette di leggerli in maniera sintomatica, per ciò che rendono visibile nel nostro presente, senza per forza dover attribuitre loro intenzioni profetiche. Al centro c’è una tensione che precede le macchine: abbiamo bisogno degli altri per essere qualcuno, ma essere conosciuti può diventare un modo di lasciarsi definire. Una relazione può cambiarci senza cancellarci. Il problema è capire quando questa possibilità viene meno, soprattutto se ciò che la sostituisce promette di renderci più felici.

Possiamo diventare più prevedibili e disponibili a funzionare anche continuando a sentirci autonomi, se ci abituiamo a riconoscere come desiderabile soprattutto ciò che un sistema sa offrirci. Un’IA può aiutarci a trovare parole che ci mancavano, ma per farle diventare nostre dobbiamo poter discutere ciò che dicono e ciò che lasciano fuori. Le relazioni e gli strumenti ci hanno sempre trasformati. Conta chi stabilisce le condizioni di quella trasformazione e quanto spazio ci rimane per cambiarle. Forse queste opere ci perturbano perché mostrano quanto facilmente il bisogno di essere riconosciuti possa diventare una disponibilità a lasciarsi definire.