Il nostro terribile futuro
Il potere hackera le menti, accusa Yuval Noah Harari, l’autore di “Sapiens” e “21 lezioni per il XXI secolo”. Cosa vuol dire? Che le nuove tecnologie stanno facendo a stracci il vecchio libero arbitrio. “L’Inquisizione e il Kgb non ci sono mai riusciti: non sapevano abbastanza di biologia, big data e computer. Ma oggi il sistema operativo umano è a rischio”. Vie d’uscita?
Yuval Noah Harari è storico e saggista. I suoi saggi sono editi in Italia da Bompiani. Questo articolo è stato pubblicato nel “Robinson di Repubblica” di domenica 13 gennaio 2019, a pag. 17-18.
La democrazia liberale affronta oggi due diverse crisi. L’attenzione si concentra sulla minaccia più nota, quella costituita dai regimi autoritari; ma recenti scoperte scientifiche e nuovi sviluppi tecnologici pongono una sfida ben più profonda al sostanziale valore progressista della libertà umana. Il liberalismo ha conseguito secoli di vittorie sui molti demagoghi e autocrati che hanno provato a soffocare la libertà umana da fuori; ma non ha esperienza nelle tecnologie che potrebbero corrodere questa libertà da dentro.
Per comprendere questa nuova sfida, cominciamo spiegando che cos’è il liberalismo. Nell’odierno discorso politico occidentale il termine “liberale” è spesso adoperato in una ristretta accezione di parte: quella di “progressista”, appunto, intesa come opposto di “conservatore”. Ma anche molti tra i cosiddetti “conservatori” sposano, in senso ampio, la visione del mondo liberale: un secolo fa, chiunque avrebbe preso l’elettore-tipo di Donald Trump per un liberale intransigente. Fai la prova: sei convinto che tutti dobbiamo poter scegliere chi ci governa, anziché obbedire diligentemente a un re? Sei convinto che tutti dobbiamo poterci scegliere un mestiere, anziché accettare passivamente la casta di nascita? Sei convinto che tutti dobbiamo poterci scegliere il coniuge, anziché sposare una persona indicata dai nostri genitori? Se hai risposto di “sì” a tutte e tre le domande, complimenti, sei un liberale.
Il liberalismo difende la libertà personale perché presuppone che l’essere umano sia un’entità unica, diversa da tutti gli altri animali; contrariamente a ratti e scimmie, l’homo sapiens sarebbe di per sé dotato del “libero arbitrio”, vale a dire di ciò che fa delle sensazioni e delle scelte umane la superiore e definitiva autorità morale e politica. Sfortunatamente, però, il “libero arbitrio” non è un fatto scientifico: è un mito che il liberalismo ha ereditato dalla teologia cristiana, la quale ha concepito l’idea del “libero arbitrio” per spiegare come mai Dio fa bene a punire i peccatori per le loro scelte sbagliate e a premiare i santi per le loro scelte giuste. In effetti, se non le compissimo liberamente, perché mai Dio dovrebbe punirci o premiarci per le nostre scelte? Secondo la teologia è invece ragionevole che Dio agisca così, in quanto le nostre scelte riflettono il libero arbitrio della nostra anima immortale, che è del tutto libera da qualsiasi vincolo fisico o biologico.
Questo mito ha ben poco a che vedere con ciò che la scienza ci insegna oggi sull’homo sapiens e sugli altri animali. Sì, gli esseri umani sono certamente dotati di arbitrio: solo che non è libero. Io non posso decidere che desideri avere; non decido di essere introverso o estroverso, bonario o ansioso, gay o etero. Sì, gli esseri umani compiono certamente delle scelte: solo che non sono mai scelte autonome. Qualunque mia scelta dipende da vincoli biologici o sociali che io non posso controllare; posso scegliere cosa mangiare, chi sposare e per chi votare, ma queste scelte sono un riflesso del mio corredo genetico, della mia biochimica, del mio genere, del mio retroterra familiare, della mia cultura nazionale, etcc. Tutte cose che non ho scelto.
Questa non è un’astrazione teorica, e la si può verificare molto facilmente. Limitatevi a osservare il prossimo pensiero che vi salta in testa. Da dove è venuto? Avete scelto liberamente di pensarlo? Certo che no. Se osservate con attenzione la vostra mente, arriverete alla conclusione che esercitate un controllo minimo su quel che accade al suo interno, e che non scegliete in libertà che cosa pensare, che cosa sentire e che cosa volere. Vi è mai successo, la sera prima di un evento importante, di aver provato ad addormentarvi ma di essere rimasti svegli a causa di un flusso ininterrotto di pensieri e preoccupazioni? Se davvero si scegliesse liberamente cosa pensare, allora perché non interrompere quel flusso così irritante, rilassarsi e basta?
Benché il “libero arbitrio” sia sempre stato un mito, nei secoli passati si è dimostrato utile; ha dato coraggio a gente che doveva lottare contro l’Inquisizione, contro il diritto divino dei sovrani, contro il Kgb e il Ku-Klux-Klan. Inoltre, non comportava costi eccessivi: nel 1776 o nel 1939 non era poi così dannoso credere che sensazioni e scelte di ciascuno fossero il prodotto di una qualche “spontanea volontà” anziché della biochimica e della neurologia, perché nel 1776 e nel 1939 nessuno capiva a fondo né la biochimica né la neurologia. Ma oggi, tutt’a un tratto, la fede nel “libero arbitrio” diventa pericolosa: se governi e grandi imprese riusciranno ad hackerare il sistema operativo umano, le persone più facili da manipolare saranno coloro che credono al “libero arbitrio”.
Per hackerare efficacemente un essere umano servono tre cose: una buona padronanza della biologia, molti dati e molta potenza di calcolo. L’Inquisizione e il Kgb non ci sono mai riusciti perché erano privi delle nozioni di biologia, delle informazioni e della potenza di calcolo necessarie. Mentre governi e grandi imprese potrebbero ben presto possedere tutti e tre gli elementi e, una volta che vi avranno hackerato, ritrovarsi in grado non solo di prevedere le vostre scelte, ma anche di manipolare le vostre sensazioni.
Se avete fede nel tradizionale racconto liberale, sarete tentati di liquidare senz’altro la minaccia: “No, non succederà. Nessuno riuscirà mai a penetrare abusivamente nello spirito umano, perché esso contiene qualcosa che va bel al di là di geni, neuroni e algoritmi. Nessuno potrebbe mai predire e manovrare a piacimento le mie scelte, perché esse riflettono il mio libero arbitrio”. Purtroppo, però, liquidare la minaccia non contribuisce a eliminarla. Serve solo a rendervi più vulnerabili; la fede ingenua nel libero arbitrio rende ciechi. Quando scegliete qualcosa –un prodotto, una professione, un coniuge, un leader politico- vi dite: “L’ho scelto di mia spontanea volontà”. Se le cose stanno così, allora non c’è altro da chiedersi; non c’è motivo di interrogarsi su quanto accade dentro di voi e sulle forze che davvero hanno modellato le vostre scelte.
Si parte da cose semplici. State navigando su Internet e vi casca l’occhio su un titolo: “Stupri: il branco degli immigrati torna a colpire”. Cliccate per leggerlo. In quello stesso istante anche la vostra vicina di casa sta navigando su Internet, e l’occhio le casca su un altro titolo: “Iran, Trump pronto per l’attacco nucleare”. Anche lei ci clicca sopra. Entrambi i titoli riportano notizie false, bufale create da un troll russo o magari da un sito web deciso a incrementare il proprio traffico e, così, gli introiti pubblicitari. Sia voi, sia la vostra vicina, pensate di aver cliccato su quei titoli di vostra spontanea volontà; ma in effetti siete stati hackerati, tutti quanti.
Propaganda e mistificazione non sono novità, ovviamente. Ma se in passato funzionavano come i bombardamenti a tappeto, adesso stanno diventando missili teleguidati di precisione. Quando Hitler faceva un discorso alla radio si rivolgeva al minimo comune denominatore, perché non poteva adattare il proprio messaggio alle specifiche debolezze di ciascun cervello: oggi, invece, si può fare esattamente questo. L’algoritmo di turno sa già che voi nutrite un pregiudizio contro gli immigrati, e che la vostra vicina detesta Donald Trump, ed è perciò che voi vedete un certo titolo mentre lei ne vede tutto un altro. In questi ultimi anni, alcune tra le migliori menti del pianeta si sono dedicate all’hackeraggio del cervello umano in modo da farvi cliccare sui banner pubblicitari e vendervi roba, e il modo migliore per indurvi a farlo era premervi i pulsanti cerebrali della paura, dell’odio e dell’avidità. Adesso, gli stessi identici metodi vengono utilizzati per vendervi uomini politici e ideologie.
E questo è solo l’inizio. Al momento gli hacker si affidano all’analisi di segnali esterni: i prodotti che comprate, i posti che visitate, le parole che cercate online. Ma nel giro di pochi anni i sensori biometrici potrebbero fornire agli hacker un accesso diretto alla vostra realtà interiore, nonché osservare quel che accade nel vostro cuore; non il cuore metaforico tanto amato dalle fantasie liberali, bensì il muscolo-pompa che regola la vostra pressione sanguigna e gran parte della vostra attività cerebrale. A quel punto gli hacker potrebbero correlare il vostro ritmo cardiaco con i dati della vostra carta di credito, e la vostra pressione sanguigna con la vostra cronologia delle ricerche. Che cosa avrebbero fatto il Kgb e l’Inquisizione, potendo disporre di braccialetti biometrici che sorvegliano costantemente singoli stati d’animo e preferenze? Per nostra sfortuna, è assai probabile che lo scopriremo presto.
Il liberalismo, per tutelare le libertà personali contro gli attacchi esterni di regimi oppressivi e fanatismi religiosi, ha accumulato un ingente arsenale di argomentazioni e istituzioni; ma non è preparato ad affrontare una situazione in cui la libertà individuale viene sovvertita dall’interno, e in cui gli stessi concetti di “libertà” e “individuo” non hanno più molto senso. Per sopravvivere e prosperare nel XXI° secolo dobbiamo lasciarci alle spalle la candida visione dell’essere umano come individuo libero –che è un retaggio sia della teologia cristiana, sia dell’Illuminismo moderno- e accettare gli esseri umani per quello che sono veramente: animali hackerabili. Dobbiamo imparare a conoscerci meglio.
Anche qui, il consiglio non è nuovo. Fin dai tempi antichi, saggi e santi ci hanno esortato più volte: “Nosce te ipsum. Conosci te stesso”. Solo che all’epoca di Socrate, Buddha e Confucio la concorrenza era scarsa; anche trascurando la conoscenza di sé, ognuno restava comunque un mistero agli occhi del mondo. Oggi, invece, la concorrenza esiste. Mentre leggete queste righe, governi e grandi imprese si stanno facendo in quattro per hackerarvi; e se arriveranno al punto di conoscervi meglio di quanto vi conosciate voi, potranno vendervi qualunque cosa, prodotto o politicante che sia.
Soprattutto è importante approfondire le proprie debolezze, perché sono i migliori arnesi a disposizione di quanti vorrebbero scassinarci la mente. I computer si hackerano tramite falle di programmazione già esistenti; gli esseri umani, tramite paure, avversioni, pregiudizi e appetiti più o meno latenti. Gli hacker non possono generare paura o odio dal nulla: ma se scoprono cosa già temiamo o detestiamo, allora diventa facile premere i pulsanti emotivi che andranno a innescare una rabbia ancora più intensa.
Se le persone non riescono a conoscersi a fondo con i propri mezzi, forse la stessa tecnologia usata dagli hacker può essere ribaltata e messa al servizio delle persone. Proprio come installiamo l’antivirus nel computer per tenere sotto controllo i software dannosi, forse ci serve anche un antivirus per la mente; una spalla dotata di intelligenza artificiale che apprende per esperienza qual è il nostro specifico debole –i video di gattini buffi, gli articoli provocatori su Trump? –e lo blocca in anticipo.
A ogni modo, questo è un problema di contorno. Se l’essere umano è un animale hacker abile, e se le nostre scelte e opinioni non dipendono dal nostro libero arbitrio, a cosa può mai servire la politica? Per tre secoli gli ideali liberali hanno ispirato un progetto politico che puntava a dare al maggior numero possibile di individui l’opportunità di perseguire i propri sogni e realizzare i propri desideri. Oggi siamo più vicini che mai al conseguimento dell’obiettivo; ma anche più vicini che mai a renderci conto che si tratta di un’illusione. Le tecnologie che abbiamo inventato per aiutare gli individui a realizzare i loro sogni sono proprio le stesse che rendono possibile riprogrammare quei sogni. E allora, come faccio a fidarmi dei miei sogni?
Questa scoperta potrebbe regalare agli esseri umani un tipo di libertà del tutto nuovo. Finora ci siamo sempre identificati in pieno con i nostri desideri, anelando alla libertà di realizzarli; ogni volta che un pensiero si affacciava alla coscienza, ci mettevamo ai suoi ordini. Passavamo il tempo a girare come trottole, sospinti da un’altalena impazzita di idee, sensazioni e desideri che erroneamente credevamo rappresentassero la nostra spontanea volontà. Che succede, se smettiamo di identificarci con quest’altalena? Che succede, se osserviamo con attenzione il prossimo pensiero che ci salta in mente e ci chiediamo: “E questo, da dove viene?”.
Qualcuno pensa che se rinunciassimo alla nostra fede nel “libero arbitrio” cadremmo nell’apatia più totale, finendo col raggomitolarci in un angolo a morire d’inedia; e invece, abbandonare quest’illusione potrebbe accendere una profonda curiosità. Finché t’identifichi in pieno con i pensieri e le aspirazioni che ti vengono in mente, quali che siano, non dovrai faticare granché per conoscerti: continuerai a pensare di sapere esattamente chi sei. Ma non appena capisci che “Ehi, questi pensieri non sono me, sono solo vibrazioni biochimiche”, allora capisci anche che non hai la più pallida idea di chi –o che cosa- sei davvero; e questo può essere l’inizio del viaggio più esaltante che qualunque essere umano possa intraprendere.
Non c’è nulla di nuovo neppure nel dubitare del libero arbitrio o nell’indagare la verità della nostra natura: tra esseri umani ne abbiamo già discusso milioni di volte. Ma finora non avevamo la tecnologia; e la tecnologia cambia tutto. Antichi problemi filosofici si stanno trasformando in problemi pratici, di informatica e di politica. E mentre i filosofi sono persone molto pazienti –in grado di dibattere senza costrutto su qualunque cosa per tremila anni- i programmatori lo sono molto meno, e i politici sono le persone meno pazienti in assoluto.
Come la facciamo funzionare la democrazia liberale in un’epoca in cui governi e grandi imprese sono in grado di hackerare gli esseri umani? Cosa resta della convinzione per cui “l’elettore è il miglior giudice” e “il cliente ha sempre ragione”? Come te la vivi, quando scopri che sei un animale hacker abile, che il tuo cuore potrebbe essere un agente governativo, che la tua amigdala potrebbe essere sul libro paga di Putin, e che il prossimo pensiero che ti salta in mente potrebbe benissimo provenire non dal “libero arbitrio”, bensì da un algoritmo che ti conosce meglio di come ti conosci tu? Queste sono le domande più interessanti che l’umanità si trova oggi di fronte.
Sfortunatamente, però, non sono le domande che l’umanità si pone. Anziché esplorare ciò che ci attende al di là dell’illusione del “libero arbitrio”, in tutto il mondo la gente arretra cercando rifugio in illusioni perfino più antiche. Anziché affrontare le sfide dell’intelligenza artificiale e della bioingegneria, la gente si aggrappa a fantasie religiose e nazionaliste che, rispetto al liberalismo, sono ancora più scollegate dalla realtà scientifica. Anziché modelli politici nuovi, quel che ci viene proposto sono avanzi rimpacchettati del Ventesimo secolo o addirittura del Medioevo.
E quando si tenta di metterle in dubbio, queste fantasie nostalgiche, ci si ritrova a parlare di cose tipo la veridicità della Bibbia o la santità della nazione (specialmente se, come me, si vive in un posto come Israele); per uno studioso è una delusione enorme. Le discussioni sulla Bibbia erano roba scottante all’epoca di Voltaire, e i dibattiti sui meriti del nazionalismo erano all’avanguardia della filosofia un secolo fa: ma nel 2018 sono uno spreco di tempo e nient’altro. L’intelligenza artificiale e la bioingegneria stanno per cambiare il corso dell’evoluzione in sé, e noi abbiamo giusto qualche decennio per capire come impiegarle. Io non so da dove verranno le risposte, ma è improbabile che le troveremo in storie composte duemila anni fa da gente che sapeva poco di genetica e niente di informatica.
Che fare, allora? Io direi che si deve combattere su due fronti nello stesso tempo. E’ giusto salvaguardare la democrazia liberale, non solo perché si è dimostrata la miglior forma di governo rispetto a qualunque alternativa, ma anche perché pone il minor numero di limitazioni al dibattito sul futuro dell’umanità. Al tempo stesso, però, è necessario mettere in discussione tutti i presupposti tradizionali del liberalismo e inventarsi un progetto politico nuovo, che sia più in sintonia con le realtà scientifiche e la potenza tecnologica del Ventunesimo secolo.
Yuval Noah Harari
