La Jihad Butleriana è appena iniziata

Frank Herbert aveva ragione sull'intelligenza artificiale

Nella lore di Dune c’è un evento determinante che viene spesso ignorato o sottinteso, perché viene considerato un semplice pretesto per l’ambientazione retrofururistica/spacemedioevo: la Jihad Butleriana.

La Jihad Butleria, avvenuta circa 10000 anni prima degli eventi di Dune, è la “rivolta dell’umanità contro le macchine pensanti”. È la ragione per cui nell’Imperium non ci sono computer ma solo meccanismi e tecnologie incapaci di calcolo: vanno bene gli ornitotteri e i motori spaziali, ma il pilota (o Navigatore) è sempre un umano che opera una strumentazione analogica. A livello superficiale può sembrare solo un modo con cui Frank Herbert si è liberato del problema di prevedere lo sviluppo dell’informatica (che nei primi anni 60 era difficile da concepire), ma in realtà si tratta di un paradigma fondante di tutto l’universo, un principio così forte che costituisce forse l’unico tabù a cui nessuno riesce a opporsi:

Non costruirai una macchina a immagine della mente umana

Il mondo di Dune è arrivato collettivamente a questa conclusioen e da 10000 anni, nonostante tutti gli stravolgimenti, non ha mai abbandonato questo principio. Navigatori, Mentat, Bene Gesserit, e la stessa Spezia hanno senso di esistere solo perché l’umanità ha rinunciato, cento secoli prima, ai computer.

C’è però un equivoco diffuso sulla Jihad Butleriana. I più la considerano una “guerra contro i robot” alla Terminator, uno scontro con le armi sul campo di battaglia con gli esseri umani da una parte e gli esseri artificiali dall’altra. Questa visione è stata tristemente alimentata dai prequel che raccontano proprio l’epoca della jihad, da poco tradotti in italiano nel volume Le Leggende di Dune, e dalla recente serie tv Dune: Prophecy. Ma le macchine pensanti non sono Skynet.

Pls don't read this book ;)

In realtà le informazioni sulla jihad sono piuttosto scarse nella saga originale, e arrivano solo dall’appendice del primo romanzo, da alcuni scambi di battute con la Reverenda Madre durante la scena del gom jabbar, e da sparuti riferimenti di Leto II nel quarto libro. Ma un indizio importante lo dà anche il nome stesso dell’evento: il Butler a cui si fa riferimento potrebbe essere Samuel Butler, scrittore e filosofo inglese del XIX secolo che aveva immaginato un’evoluzione incontrollata delle macchine, che era stata riproposta anche nel suo romanzo utopico-satirico Erehwon, in cui si assiste a uno scontro tra la popolazione che usa dispositivi meccanici e chi invece vuole abolirli del tutto¹.

Da questi elementi si può ricavare la vera natura della Jihad Bulteriana immaginata da Frank Herbert: uno scontro tra le fazioni dell’umanità che si affidano o rigettano le intelligenze artificiali. Il che non vuol dire che sia stata solo una battaglia ideologica o legale, una guerra si è combattuta davvero, ma non si tratta di uomini contro macchine, ma uomini contro uomini per l’uso delle macchine.

I promotori della Jihad Butleriana intendevano porre fine all’uso pervasivo delle intelligenze artificiali, giudicandolo dannoso e per l’umanità intera. Le macchine pensanti fornivano una soluzione comoda ai problemi e si occupavano di tutte le questioni, e così l’umanità si è trovata gradualmente ma inesorabilmente a cedere ogni autonomia e liberàt di decisione. Non che le IA intendessero malignamente “schiavizzare” gli umani, semplicemente assolvevano il compito che era stato loro assegnato, così bene da rendere inutile l’impegno attivo e il miglioramento individuale delle persone, tant’è che in seguito alla rivolta tutta l’umanità si è concentrata a sviluppare i “poteri latenti” di mente e corpo. Un’idea peraltro esplorata anche in altri classici della fantascienza come Solo il mimo canta al limitare del bosco di Walter Tevis o I fabbricati di felicità di James Gunn, in cui l’umanità si adagia nella comoda assistenza dei robot pronti a soddisfare i suoi bisogni, fino ad affievolire ogni spinta di vitalità. Herbert è partito da questo scenario remoto (nel futuro dell’umanità ma anche nel passato della sua saga) e ha immaginato un moto di rivolta che vi si opponesse.

Questo è lo scontro che ha diviso l’umanità, portandola sull’orlo dell’estinzione. E questo è quello che stiamo iniziando a vedere adesso, con l’arrivo di quelle che oggi chiamiamo impropriamente “intelligenze artificiali”, riferendosi per lo più ai large language model come ChatGPT e affini. Strumenti che contraffanno la mente umana, proprio come diceva la Reverenda Madre, simulando una capacità di parola e di comprensione che non esiste.

Messo solo per il titolo e la copertina figa, ma ignoratelo

Il problema, come sempre con la tecnologia, non è lo strumento in sé, ma il suo utilizzo malevolo o peggio ancora inconsapevole. Grazie al loro design accondiscendente, questi tool hanno già sedotto in pochissimo tempo buona parte della popolazione, che si fida e si affida a essi senza alcun senso critico. Ormai la formula “ho chiesto a ChatGPT” quando si vuole dimostrare la validità delle proprie afferrmazioni è diventata di uso comune, ignorando il fatto che in molti casi un LLM è un oracolo tutt’altro che affidabile. Non si passa nemmeno più da Google, che era già un’operazione di documentazione attiva, per quanto semplificata, ma ci si fida di un output non verificabile, messo in forma di un finto dialogo. E questo soltanto per quanto riguarda ricerca di informazioni, ma ci sono tanti altri aspetti ancora peggiori come l’utilizzo di questi strumenti dallo studio al lavoro artistico, fino alla variante più pericolosa del supporto psicologico.

E il modo in cui questi tool sono imposti al pubblico, con integrazioni impossibili da aggirare, rende il problema sempre più pervasivo. Il divario tra chi è in grado di comprendere lo strumento e decidere consapevolmente se e quando usarlo, e chi invece lo subisce passivamente convinto dalla sua user friendliness, può solo aumentare. Da una parte gente assuefatta alle macchine pensanti, dall’altra quelli ostili. Non è una semplice paranoia luddista a muovere questi ultimi, come non lo era per gli zeloti della Jihad Butleriana: è il desiderio di mantenere intatte le proprie capacità di scelta e di critica, senza lasciarsi sedurre dalla strada più comoda degli assistenti servili.

È così che è iniziata la Jihad Bulteriana, e sessant’anni fa Frank Herbert lo aveva già capito. Ora dovete decidere da che parte stare. Bi-la kaifa.

1. Per una trattazione più approfondita di questi riferimenti, vedi I segreti di Dune di Paolo Riberi e Giancarlo Genta (Mimesis, 2024)