Il giornalista Matteo Bordone ha conversato al Trieste Science+Fiction Festival con Ted Chiang, autore di Storie della tua vita e Respiro,  sul tema dell'uso delle intelligenze artificiali.

Matteo Bordone. Negli ultimi anni la fantascienza è diventata il racconto dei progressi futuri della tecnologia. Trump ed Elon Musk parlano della realizzazione di astronavi e quindi di esplorazione spaziale, mentre — se guardiamo alle AI — il racconto fantascientifico si fa esistenziale. Cosa pensi delle AI di oggi e del marketing che gira intorno ad esse?

Ted Chiang. Credo sia importante fare una distinzione: che cos’è un’AI e cos’è la tecnologia delle AI. La gente pensa che quella di oggi sia l’intelligenza artificiale che si vede nei film, perché questo è ciò che vogliono le aziende che le producono. Il termine intelligenza artificiale è stato coniato negli anni ’50, ma sarebbe meglio utilizzare la definizione di elaborazione di dati — anche se, ovviamente, intelligenza artificiale suona meglio. Si tratta solo di una tecnica di vendita.

Il marketing di vendita è più forte della realtà, ma secondo lei è possibile uscirne?

Penso sia possibile attraverso l’educazione. Bisogna insegnare alle persone come funziona la tecnologia moderna, in modo che l’illusione sia svelata. Non credo che sia facile, perché le grandi aziende ci vendono una menzogna: invece di usare il termine statistica applicata, viene usato quello di intelligenza artificiale. Se si pensa in questi termini, l’approccio cambia.

La cosa che spaventa tutti è come, in alcuni racconti di fantascienza, ci sia l’idea che questa tecnologia conduca a una teocrazia. È un pensiero creato da chi produce le AI, o è una necessità reale che queste tecnologie tocchino aspetti politici della nostra società?

Sicuramente i più potenti le usano per rafforzarsi, ma non credo sia inevitabile; quindi non credo sia necessario l’uso dell’intelligenza artificiale. Le grandi aziende dei big data si impegnano per inserire le AI in tutti i loro prodotti, e il fatto che le spingano così tanto indica che sanno perfettamente che non sono necessarie. Nessuno conosce il futuro, quindi ogni previsione — compresa quella in cui le AI saranno indispensabili per la nostra vita — non ha senso.

Sembra che a mancare non sia più l’attenzione ma l’intenzione. Ci stiamo abituando a un mondo che non ha più intenzioni: c’è un processo che fa apparire le immagini, ma è come se mancasse un pezzo di umanità. C’è intenzione senza scopo. Secondo lei questo farà collassare la creatività in favore delle AI?

Al giorno d’oggi c’è un impegno perché le persone non siano più capaci di distinguere l’arte fine a se stessa dal contenuto che rimanda ad altro. Sappiamo quanto la disinformazione sia usata come strategia per non far distinguere il vero dal falso; qualcosa di simile avviene anche nell’ambito creativo. L’AI vuole erodere qualcosa di genuino nell’arte con una tecnica di vendita. Credo che le persone siano affamate di intenzione umana e, se nel processo creativo dell’arte non c’è verità, sarà comunque trovata una via alternativa. Non credo che, con l’andare del tempo, l’inganno avrà successo.

Molte delle cose che facciamo quotidianamente non sono arte: si tratta spesso di gesti ripetitivi e noiosi, eppure rendono le giornate migliori. Anche l’idea che le AI rendano tutte le persone dei “creativi” fa parte dell’inganno, perché questa idea rischia di rubare la quotidianità e di indurre a credere che chiunque sia capace di fare arte.

Nel campo della scrittura si possono distinguere due modi di scrivere: come pensiero o come noia. Le AI sono utili per creare il secondo tipo. Ci sono persone che sanno scrivere, e proprio per questo non sono attratte dall’uso delle AI, perché scrivere è pensare. E poi ci sono persone che non sanno scrivere e usano le AI, ma ciò crea un plagio — anche se non ne sono consapevoli —, un fatto che non è mai avvenuto nella storia.

L’intelligenza artificiale è il contrario del benessere ambientale, e tutti sembrano essersene dimenticati. Perché secondo lei?

Perché i data center sono invisibili alle persone. Le grandi aziende nascondono il costo di tutto quello che fanno. Con l’AI le cose sono peggiorate: la richiesta di energia è enorme, vengono aperte nuove centrali nucleari, si torna persino all’uso delle energie fossili. Se ci pensiamo, solo cinque anni fa non esistevano le AI e si viveva comunque benissimo; non si può certo dire che fossimo all’età della pietra.

La creazione di nuove tecnologie, come ad esempio la riproducibilità della musica, sembra rispondere a un reale desiderio, cosa che invece non si può dire per le AI. Come mai, secondo lei? Si può dire che manca qualcosa nella soddisfazione dell’utente?

L’AI non offre qualcosa che le persone vogliono. Per rimanere al suo esempio, in passato, per soddisfare il desiderio di ascoltare musica, bisognava cercare un musicista — cosa che ovviamente poteva essere complicata. Oggi abbiamo accesso a una quantità d’arte superiore a quella di cui riusciamo a fruire in tutta la nostra vita. Non c’è fame di nuovi contenuti. Con le AI si dice che si possano produrre più rapidamente giochi, musica, film, ecc., ma manca il tempo per fruirli. Paradossalmente ci vorrebbe un’AI per consumare tutti questi prodotti che noi non riusciamo a gestire.

Oggi forse ciò che dicevano i luddisti appare ragionevole. Lo avrebbe mai pensato?

Il luddismo è stato un movimento di protesta operaia, sviluppatosi all'inizio del XIX secolo in Inghilterra, caratterizzato dal sabotaggio della produzione industriale.

Credo che ci sia una cattiva idea di ciò che volevano i luddisti: non erano contro la tecnologia, ma volevano una giustizia economica. Sono stati definiti antitecnologici dal capitalismo, ma ciò che desideravano era una diversa distribuzione della ricchezza.

Per questo oggi il luddismo sembra attuale, perché si oppone semplicemente a una visione del mondo alla Elon Musk?

Certo. Opporsi all’uso massiccio delle AI non equivale a non volere la tecnologia, ma a opporsi al capitalismo. L’AI è uno strumento del capitalismo: opporvisi è una forma di resistenza.

Parlando con gli scienziati di AI, essi descrivono un approccio diverso rispetto a quello delle grandi aziende statunitensi, poiché per loro significa usare piccoli modelli di dati in modo statistico. Forse tra qualche anno i grandi modelli non avranno più impiego, ma ci saranno solo piccoli modelli generativi — non creativi — che, come oggi i cellulari, entreranno nelle vite di tutti?

Credo che l’apprendimento automatico possa essere utile in determinati campi della scienza e che ci faccia vedere cose che prima non eravamo in grado di osservare. L’elaborazione statistica dei dati è senz’altro d’aiuto in ambiti specialistici, pensiamo alla medicina. Non credo che le persone comuni traggano benefici diretti dalle AI, ma senz’altro ne hanno di indiretti.

Il sistema economico, da duecento anni, disumanizza le persone: è ciò che ha fatto il capitalismo, trattando i lavoratori come macchine. E oggi le vere macchine sono pronte a sostituire le persone. Dobbiamo resistere al capitalismo: sembra impossibile, ma è necessario. Ursula K. Le Guin ha detto che il capitalismo sembra non lasciarci scampo, come un tempo accadeva per il diritto divino del re, eppure oggi non esiste più. Non possiamo prevedere il futuro, ma sappiamo che ciò che un tempo sembrava impossibile da cambiare oggi è solo un ricordo storico.