All’inizio di maggio, ispirati dalle disavventure di Walter Veltroni con Claude, avevamo lanciato una provocazione: se i modelli IA sono capaci di provare sentimenti umani, i videogiochi di calcio come Pro Evolution Soccer lo sono ancora di più.
Ora, poiché con ogni evidenza nessuno di noi attribuisce sentimenti ai videogiochi di calcio, ha ancora meno senso attribuirne ai modelli IA.

Avevamo supportato questa tesi con osservazioni di carattere tecnico nonché – tra il serio e il faceto – con alcuni riferimenti epistemologici.

Mai avremmo immaginato che, entro la fine di quello stesso mese, un articolo analogo sarebbe stato pubblicato da ben altro pulpito e con ben altra visibilità: Adrian de Wynter, ricercatore per la MicrosoftAI e per l’Università di York, ha dimostrato che una rete neurale capace di simulare la comunicazione si può assemblare addirittura con elementi del vecchio videogioco Age of Empires II.

Logica ovina

Per chi negli anni ‘90 non era più in età da videogiochi, e quindi non conosce la serie di Age of Empires, si tratta di giochi gestionali in tempo reale: l’utente si ritrova fra le mani una civiltà che deve sviluppare, procurandosi risorse, costruendo edifici e mandando in guerra le unità militari, non con un sistema a turni ma in un flusso di tempo ininterrotto. È quindi possibile disseminare sul terreno di gioco capre, villaggi, muri, torri e altri elementi.

Usando questi elementi come se fossero componenti di un computer, de Wynter ha mostrato concretamente che, in teoria, si può far girare un’intelligenza artificiale anche su quel software così rudimentale.
Le unità di gioco, come villaggi e capre, diventano infatti i “bit” del sistema, mentre le logiche di costruzione e movimento fungono da porte logiche.

Ad esempio, una porta logica NAND, fondamentale per i calcoli (determina il fatto che una conclusione output sia falsa se le due premesse input sono vere), può essere creata in Age of Empires usando per rappresentare ogni input un percorso di terreno erboso (l’input è vero) e un ponte (l’input è falso) e usando una capra che si muove lungo l’uno o l’altro percorso come portatrice di segnale: quando due capre camminano entrambe sui terreni erbosi, l’algoritmo le fa smaterializzare e ricomparire su un ulteriore percorso che rappresenta l’output.

L’apparenza inganna

De Wynter si è spinto a sostenere che Age of Empires II sia addirittura Turing-completo, cioè capace di simulare qualsiasi calcolo che un computer può fare, inclusi quelli di tipo linguistico.

Un input come “Ti senti sola?” e un output come “Sì, ma per fortuna ci sei tu”, insomma, sono perfettamente replicabili attraverso un’immensa rete di capre, ponti e strisce d’erba attivati con l’algoritmo giusto.

Va da sé che, se un’IA costruita in questo modo ci rispondesse con frasi che sembrano umane, ci apparirebbe sciocco dire che il gioco “prova emozioni” o “capisce” qualcosa.
Eppure, con i chatbot normali, lo facciamo in continuazione.

Il punto è che quello che percepiamo come “intelligenza” o “senzienza” dipende esclusivamente da come il sistema ci viene presentato alla vista.
Un chatbot con un’interfaccia testuale veloce e fluida ci sembra quasi umano, mentre la stessa intelligenza artificiale implementata con capre che si muovono su un ponte ci farebbe solo ridere.
Ma in fondo, sotto il cofano, sarebbero la stessa cosa: se una delle due versioni ci colpisce di più, è solo perché la sua interfaccia ha un aspetto estetico più simile al nostro.

Anche De Wynter non ha resistito alla tentazione di sconfinare nell’epistemologia: a suo parere, chi vuol davvero capire se un’IA abbia proprietà umane non può partire già dall’assunto che le abbia.
Bisognerebbe studiare il loro comportamento senza proiettare su di esso le nostre aspettative, limitandoci a osservare cosa fanno nella pratica, senza aggiungere interpretazioni superflue.
Attribuire coscienza o emozioni a un’IA solo perché ci risponde in modo convincente è un po’ come credere che le capre di Age of Empires II sappiano di essere parte di un esperimento.

Le IA non sono umane. E quindi?

E così, dalle parti di Microsoft (che al contrario di Anthropic e di OpenAI non ha chissà quale interesse a generare isteria collettiva sulla presunta umanità dei chatbot per raccogliere finanziamenti), è arrivata una chiara conferma che questi strumenti non “hanno una mente” e non “stanno parlando con noi” quando reagiscono ai nostri prompt.

Ma la domanda è: a qualcuno interessa?

Un ragazzino che ha avuto in mano il tablet fin da prima di imparare a camminare, e che in vita sua ha comunicato molto più spesso attraverso strumenti digitali che dal vivo, e che sente gli impegni fisici della giornata come pause in attesa di riprendere in mano il telefono e ricollegarsi alle piattaforme virtuali, dà davvero importanza a quanto siano “reali” le persone con cui parla?

Quando vuole confidarsi, divertirsi o informarsi, conta davvero se a soddisfarlo è stato un essere in carne e ossa, una rete di chip oppure una capra di Age of Empires che faceva su e giù per un ponte?
O conta il risultato, chiunque l’abbia prodotto?

Il paradosso è palpabile: molti di quelli che sono abbastanza vecchi da preoccuparsi di avere “relazioni autentiche” sono anche troppo vecchi per capire che la struttura di un modello IA non è diversa da quella di un videogioco, mentre molti di quelli che sono abbastanza giovani per capire che la struttura di un modello IA non è diversa da quella di un videogioco lo sono anche per preoccuparsi di avere “relazioni autentiche”.
Chi non si lascia abbindolare dalla presunta umanità dell’IA è indifferente al fatto che l’IA non sia umana, mentre chi è sensibile al fatto che l’IA non sia umana si lascia più facilmente abbindolare dalla sua presunta umanità.

Non solo i giovani

Ma poi, siamo sicuri che la moda delle relazioni virtuali con creature non umane sia un’esclusiva dei ragazzi?

Se una signora è capace di affermare che un cane sia suo figlio, perché non dovrebbe affermare che un chatbot sia suo amico o suo amante?
Dopotutto la definizione di “figlio” è molto più oggettiva e meno equivocabile di quella di “amico” o di “amante”: fatto 30, si fa presto 31.

Conosco persone non più giovanissime che, a domanda esplicita, hanno risposto che gli farebbe piacere avere un chatbot in grado di imitare i loro genitori defunti, e che passerebbero volentieri il loro tempo a chiacchierarci.
Anche se “non sarebbero quelli veri”?
Sì, anche se “non sarebbero quelli veri”.

In conclusione, possiamo ripetere e spiegare fino allo sfinimento come le IA funzionino e perché siano del tutto diverse da noi, sull’Europeista come alla Microsoft.
Ma può darsi che sia già troppo tardi.