I fatti dell’ultima settimana sono noti. Tutto è iniziato da Jacob Coxon, un ricercatore che lavorava per Anthropic dopo essere già stato dipendente di OpenAI, e che ha dichiarato di essersi licenziato perché “la gente che sta costruendo l’AI è sinceramente convinta che possa ucciderci tutti entro la fine del decennio”.

Gli ha fatto eco Evan Hubinger, che, pur tenendosi ben stretto il suo posto alla Anthropic, ha sparato anche un numero: “più del 10% di probabilità”, specificando che il rischio non sta nei modelli già in commercio, ma nella “capacità ricorsiva di auto-migliorarsi” che i modelli di frontiera starebbero acquisendo.

Di lì a poco, con tempismo hollywoodiano, il fondatore e dirigente dell’azienda Dario Amodei è sceso in campo con un saggio intitolato “Dobbiamo rallentare la frontiera”.

La sua mossa ha strappato gli scroscianti applausi di Sam Altman (papà di ChatGPT) e di Elon Musk (creatore di Grok), mentre si è scontrata con lo scetticismo di Trump e con la consueta, biliosa ostilità del regime cinese.

Fine del mondo o fine del business?

Il saggio di Amodei è stato commentato in lungo e in largo, ma solo nella parte in cui avanza proposte pratiche.
Il miliardario, spaventato da recenti incidenti (come uno sciame di agenti AI che si è trasformato in un collettivo di hacker), teme che la capacità dei modelli di sviluppare a loro volta altri modelli senza controllo umano potrebbe far cadere Internet nelle mani dell’AI tra meno di un anno, forse anche tra meno di sei mesi.

Propone quindi un piano in tre fasi: primo, incorporare controllori indipendenti negli stessi team di lavoro che sviluppano i nuovi modelli; secondo, stringere un patto di desistenza tra le aziende tech dei paesi democratici; terzo, tentare di negoziare con la Cina un accordo multilaterale per evitare che sfrutti la frenata occidentale a suo vantaggio.

Nel tempo guadagnato, Amodei è convinto che le aziende miglioreranno i loro sistemi per l’interpretazione di come si comportano le AI (già, a suo dire, assai progrediti nell’ultimo biennio) e aumenteranno i test necessari prima del loro rilascio.

Le accuse di ipocrisia su queste proposte sono piovute da ogni parte: non solo da Pechino, ma anche da chi in Occidente ci ha visto un patto corporativo tra i giganti dell’AI per blindare il mercato e catturare l’agenda delle istituzioni.

Diverse malelingue, poi, sostengono che Amodei e i suoi pari si siano resi conto che nessun loro modello futuro, per quanto potente, sarà mai in grado di ripagare i trilioni di investimenti che hanno attirato in questi anni, e stiano usando la scusa della sicurezza per ristrutturare il proprio business.

E se il problema fosse il traguardo?

Sia come sia, quasi nessuno si è soffermato sull’incipit del saggio, che invece a mio avviso è la parte più interessante.
Qui Amodei, mettendo le mani avanti, ripeteva agli investitori e al mondo le promesse messianiche che finora hanno guidato l’industria dell’AI:

“Io credo che nei prossimi 5-10 anni l’AI potrà curare tutte le malattie più gravi, potrà accelerare grandemente i tassi di crescita economica, potrà creare un mondo di abbondanza e di emancipazione e potrà farci accedere a un rinascimento di democrazia e di libertà”.

Di questo sogno mitico Amodei non ritratta niente.
Anzi, rincara la dose squadernando i suoi sentimenti intimi: “Io avverto questa urgenza in prima persona. Mio padre è morto di una malattia che è diventata curabile pochi anni dopo la sua morte, e io stesso sono sopravvissuto a un cancro in fase iniziale che solo cinquant’anni fa non sarebbe stato trattabile. Se dispiegata con accortezza, l’AI può diventare l’ultimo di una lunga serie di miracoli tecnologici che hanno risollevato e nobilitato l’umanità”.

Se leggendo queste parole sentite sulla pelle un prurito sospetto, non siete i soli.

Se accarezzate la maligna ipotesi che il problema dell’industria AI stia proprio nell’aver giustificato la propria esistenza con questa paccottiglia pseudoreligiosa, vuoi per freddo profitto (il che sarebbe scusabile) vuoi per ardente convinzione (il che sarebbe drammatico), siete in buona compagnia.

E se avete sentito risuonare nella vostra memoria gli accenti di testi remotissimi – e similmente stravaganti – studiati al liceo, come il De hominis dignitate di Pico della Mirandola o la Nuova Atlantide di Francis Bacon, a mio parere non siete fuori strada.

I magnati dell’AI, infatti, stanno cadendo con tutte le scarpe nello stesso errore che per più di un millennio ha deviato e compromesso gli sforzi di ricerca di un’altra categoria: quella degli alchimisti.

Spondent quas non exhibent

Nella storia della scienza, l’alchimia non è stata una curiosità marginale.
Non appena l’uomo ha appreso l’arte della metallurgia, si è subito lasciato suggestionare dall’idea che i metalli si trasmutino l’uno nell’altro perché in fondo sono esseri viventi.

Da questa suggestione ne deriva un’altra: che la natura sia dotata di un’anima, di solito scissa in due princìpi contrapposti (maschio-femmina, sole-luna) che sono destinati a ricongiungersi.

Corollario finale è che l’uomo, praticando l’alchimia, può rendersi protagonista di questa grande riunificazione. La fabbricazione della pietra filosofale, che corona la “quadruplice Opera”, metterà a sua disposizione oro infinito e l’elisir di lunga vita, rigenerando il mondo in una nuova era.

Questo apparato di illusioni magiche e profetiche rimase, di fatto, inseparabile da qualunque esperimento sui metalli: prima in Cina e in Egitto, quindi in Persia e nel mondo greco, infine in Occidente.
La conseguenza è evidente: le migliori energie dei pochi privilegiati che avevano accesso ai laboratori alchemici andarono in gran parte sprecate.

Fino alla fine del Medioevo, i progressi nel campo che oggi chiameremmo “chimica” si limitarono all’isolamento dello zolfo e del mercurio, alla distillazione dell’alcol puro e alla produzione della polvere da sparo.

Perdipiù, anche i sapienti che indagavano su altri aspetti della natura – come gli astronomi – dispersero parte del loro tempo e delle loro risorse nella corsa alla pietra filosofale. Ancora Newton scriveva più libri di alchimia che di astronomia. Il danno, insomma, fu anche indiretto.

Per giunta le autorità ecclesiastiche, di solito munifiche nel finanziare la ricerca negli altri settori (compresa l’astronomia, che i confessori cercarono per secoli di depurare dall’astrologia), incontravano nell’alchimia un rompicapo permanente.

Da un lato era oggettivamente un’accozzaglia di superstizioni immaginarie, peraltro con venature eretiche, visto che prometteva una redenzione terrena e alternativa a quella cristiana.
(Un decreto di condanna di inizio ‘300 iniziava con parole più che mai esplicite: Spondent quas non exhibent, “Promettono cose che non realizzano”).

Dall’altro lato, non era detto che fosse priva di utilità.

Così, soprattutto in epoca rinascimentale, i divieti e le persecuzioni cedettero il passo a un tentativo di inglobarla nella visione cristiana del mondo. Il cardinal Nicola Cusano, don Marsilio Ficino, padre Atanasius Kirchner furono solo i più celebri a tentare l’impresa.

Si dovette aspettare l’inizio del ‘700 per vedere la chimica svincolarsi dal mito alchemico e dotarsi di un suo metodo autonomo, sempre grazie a un devoto e pragmatico cristiano come Boyle.

Del resto, il problema non era più soltanto che la pietra filosofale fosse un imbroglio e che la “quadruplice Opera” per crearla fosse un mucchio di scempiaggini.
Dopo la conquista delle Americhe, in Spagna e altrove si stava cominciando dolorosamente a capire che, se anche l’umanità avesse ottenuto oro infinito, ciò avrebbe tutt’al più aumentato l’inflazione o azzerato il valore dell’oro.

L’intervallo è finito?

Ora, l’unica lezione che la storia insegna è che le cose sono sempre più dissimili di quanto non siano simili, che un evento passato ha sempre più differenze che analogie con qualunque evento presente, e che nulla si ripete mai.
Ciò detto, la filosofia delle industrie AI sembra davvero un risveglio delle millenarie credenze alchemiche, dopo un breve intervallo in cui si erano assopite.

Già il solo nome “intelligenze artificiali” richiama il mito dei metalli viventi e dotati di un’anima.
Ed è un nome attribuito illegittimamente a quelli che, per quanto potenti, sono semplici strumenti di calcolo che associano tra loro stringhe di codice in base a vettori preconfigurati.

È chiaro, però: chiamarli “combinatori linguistici” o con altri nomi più aridi avrebbe attirato meno clamore mediatico e minori investimenti.

L’obiettivo finale di Amodei e soci, inoltre, è realizzare quella che chiamano “superintelligenza” o “intelligenza artificiale generale” o “singolarità tecnologica”: un modello talmente abile e autonomo nel generare ulteriori modelli da poter gestire interi settori della ricerca, dell’economia e della vita sociale (sanità in testa) con più efficacia di come lo fanno gli umani.

Difficile non vederci la versione 2.0 della pietra filosofale.
E difficile non pensare che mostri, in versione 2.0, gli stessi difetti dell’originale: non essere realizzabile, oppure essere realizzabile ma con effetti diversi da quelli sperati, oppure essere realizzabile ma con costi superiori ai benefici.

Con tutta la comprensione per il padre di Amodei e per le sofferenze che suo figlio ha vissuto, l’AI non “potrà curare tutte le malattie più gravi”.
Potrà configurare in astratto nuove cure che in seguito andranno testate, prodotte, vendute e somministrate, scontrandosi con le normali leggi del mercato.

Lo stesso vale per i “tassi di crescita” che l’AI dovrebbe regalarci: aiutando quali aziende a erogare quali beni o servizi che verranno prezzati quanto da quali consumatori?
Ha senso caricare trilioni su una promessa così astratta?

Sorvoliamo poi sull’eden di “emancipazione”, “libertà” e “democrazia”: a me piace credere che l’automazione delle attività mentali possa favorirle, ma i dati degli ultimi decenni sembrano purtroppo suggerire il contrario.
Quali dati in controtendenza porta il nostro prometeico CEO?
Nulla di più concreto dell’unione tra Sole e Luna per generare il principe androgino.

Soddisfare investitori che hanno scommesso su un piano industriale del genere è, se non impossibile, quantomeno improbabile.

Oggi come ieri, spondent quas non exhibent.

Sbagliare è umano, perseverare è diabolico

La mia impressione è che l’industria AI, se non vuole crollare sotto il peso delle sue stesse contraddizioni, deve abbassare il tiro e sgomberare il pavimento da queste stramberie.

Così come la chimica divenne molto più utile al genere umano una volta che ebbe fatto piazza pulita dell’alchimia, la tecnologia dell’AI darà il meglio di sé quando si dedicherà, con umiltà e senso pratico, a risolvere singoli problemi di singole aziende o istituzioni.
(Nel che, tra l’altro, consiste l’approccio europeo e indiano).

La corsa al chip filosofale, che l’America ha bisogno di correre anche se non vuole, e la Cina vuole correre anche se non ne ha bisogno, è un disastro in quanto tale, non solo per la sua eccessiva velocità.

Si è già visto con l’alchimia cosa succede quando si sovraccarica di aspettative mitico-religiose una ricerca tecnologica, e forse è meglio non ripetere lo sbaglio.