di Roberto PECCHIOLI
Seconda parte.
Scienza e morale hanno una relazione biunivoca che la prima tende a scavalcare se non a sopprimere. Gli apparati artificiali intelligenti pensano e penseranno più di noi; un giorno proveranno sensazioni analoghe a quelle umane; eppure, non si tratta che di meccanismi. E’ urgente restituire respiro morale al campo tecno scientifico, istituire una disciplina futuribile che potremmo chiamare “macchinetica”. Il tema dell’intelligenza artificiale, più che richiedere risposte, impone di formulare interrogativi che nessuno aveva mai immaginato prima. Ebbe ragione Alan Turing a sottolineare la necessità del discernimento, la capacità di distanziarsi spiritualmente dalla macchina. In caso contrario, la relazione uomo-apparato artificiale sarà distorta.
L’essere umano ama dare affetto e riceverlo. L’ostacolo, il macigno etico con cui ci confronteremo è che se l’apparato antropomorfo, l’androide, ci tratterà con quello che, in termini umani, chiamiamo affetto, svilupperemo una nuova dipendenza, utilizzata come strumento di potere da chi controlla la macchina. L’innovazione che sconvolgerà la nostra idea del mondo, prevista entro dieci, quindici anni sarà la generazione artificiale di emozioni. La macchina ci supera in forza, calcolo, adesso anche in intelligenza e capacità decisionale. Il salto della percezione di emozioni ci trova impreparati come specie, come comunità e come individui. Le implicazioni etiche, politiche, antropologiche sono enormi. Ciò che non siamo in grado di padroneggiare si allarga, diventa una condizione esistenziale in cui l’uomo perde ogni punto di riferimento.
Un po’ di scienza (quella che usiamo e crediamo di comprendere) allontana da Dio. Molta scienza avvicina a Lui, sosteneva Pasteur. Temiamo che per l’uomo comune, immerso in una quotidianità utilitarista, non sia più così. Conservare la dignità umana, mantenerne la nobiltà morale passa per l’educazione, lo studio, la cultura. Precisamente il contrario di quello che ha scelto per noi il potere, che ci vuole scimmie desideranti. In fondo, per l’immensa maggioranza, la scienza avanzata è indistinguibile dalla magia. Viviamo immersi in una realtà che ci oltrepassa: occorre riannodare i fili di un umanesimo intransigente che sappia sviluppare una relazione non subalterna con le macchine intelligenti.
La nostra supremazia intellettuale è posta per la prima volta nella storia in discussione, anche se la macchina e l’intelligenza artificiale sono creazioni umane. E’ in pericolo la nostra essenza, l’autopercezione e l’autostima della nostra specie. L’A.I. prenderà decisioni al nostro posto, ci governerà. La valle inquietante non può essere elusa allontanandone il pensiero o lasciandosi agire. E’ la scelta più semplice, ma ci fa uscire dalla profondità dell’intelletto, ci toglie responsabilità, poiché affrontare un problema per superarlo è la sfida più esaltante. L’uomo è mutato in profondità nell’ultimo secolo. Siamo fisicamente più deboli, ma di maggiore statura e con un’aspettativa di vita più lunga. La nostra genetica sta cambiando, si abbassa il livello di aggressività in quanto meno decisivo in termini di sopravvivenza. Si tratta di fatti per riconoscere i quali non è necessario condividere le teorie neo illuministe di uno Steven Pinker.
Ciò che turba è il passaggio che si avvicina: se una macchina prende decisioni che riguardano la nostra vita, siamo ancora liberi? Si modificherà la parte del cervello deputata alle scelte? La risposta degli scienziati è semplicistica. Scopriremo tutto e risolveremo tecnicamente ogni problema; la buona politica va sempre a braccetto con la scienza. Il secolo corrente non si caratterizza in senso politico, l’agenda è scandita dagli avanzamenti scientifici. Il vero atto politico è amministrare il progresso tecnologico con gli strumenti dell’etica, nel rispetto della centralità dell’uomo e della preservazione del creato. Non possiamo accettare ad occhi chiusi, o con gridolini di meraviglia ogni tecnologia. Tutto ha conseguenze, le grandi innovazioni hanno grandi conseguenze. Se dal punto scientifico l’Ottocento fu il secolo della chimica, la prima metà del XX conobbe il grande momento della fisica e la seconda della biologia, il primo scorcio del Duemila è l’era dell’informazione. Bisogna fare in modo che il futuro prossimo sia la rivincita dell’etica.
Un grave problema è il basso livello di consapevolezza dei giganti che fanno ricerca e possiedeno la tecnologia, i cui codici etici sono deludenti o inesistenti. Risulta traumatico ascoltare banditori dell’A.I. affermare che si farà politica attraverso l’intelligenza artificiale, anzi che questa è in grado di agire meglio dei politici. La motivazione è tecnicamente ineccepibile, ma va rigettata come anti umana, un esempio di resa alla ragione strumentale. Essenziale, dicono, è gestire la complessità, ossia selezionare dati “obiettivi” (?), sottoporli all’A.I. e applicare il verdetto “tecnico”. Non più politica, orientamento al bene comune, principi e interessi, ma soluzione tecnica.
Anche l’amministrazione giudiziaria sarà investita dall’onda lunga dell’A.I. Perché, affermano gli adepti della tecnocrazia “macchinista”, una sentenza, una decisione sul carcere preventivo, deve essere affidata al temperamento di un giudice? Stupisce leggere in Etica per macchine “a me non farebbe paura essere giudicato da una macchina, poiché non ci sarà pregiudizio né distorsione. Noi umani abbiamo preconcetti e non siamo tanto superiori quanto pensiamo “. Con idee di questo tipo, si penetra senza bussola nel territorio del post umano, poiché l’intelligenza artificiale presuppone la capacità della macchina di fare da sé, non di elaborare informazioni. In più, avrà emozioni, dunque anch’essa potrebbe decidere in base a un proprio sistema di valori, se ha senso il termine.
Ancora più rilevante è un’altra domanda: se la macchina è intelligente, potrà considerarsi un organismo vivente? La risposta dei tecnoscienziati è raggelante. Per loro, il dato biologico non è centrale: che importa se l’A.I. è o no vita? Ciò che conta è la relazione con un altro “ente”. Senza scomodare il vecchio Parmenide, siamo convinti che l’uomo sia un “essere”, non un “ente”. In più, si revoca in dubbio l’intelligenza umana come tale, insieme a un certo disprezzo. Che evidenza ho, chiede Latorre, che un mio amico sia intelligente? Meglio la risposta di una voce elettronica per la riserva di posti: più efficiente, a prova di errore. Presto saprà fingere dubbi e mormorare un “mmmh” indistinguibile dalla voce umana. Un’intelligenza artificiale avanzata parla correttamente, imposta la voce, sa gestire il silenzio. Sì, Adamo ed Eva sono inadeguati. Meglio sostituirli, o almeno integrarli nella macchina. Questa è la missione del transumanesimo: creare il cyberuomo. Come il Minotauro, metà uomo, metà toro, il Cyborg sarà un innesto uomo-macchina.
L’intelligenza emozionale è ancora in fase di studio, prevede soluzioni molto sottili, è per dopodomani. Per adesso, creano facce umane e voci che non esistono. Trasmettere emozioni è l’orizzonte a medio termine. Si espelle la morale dal campo che è il suo. Come distingueremo, sotto l’aspetto etico, una decisione umana da una dell’A.I.? Per i tecnoentusiasti è semplicissimo: basta programmare “il bene”. Tutti vogliono difendere i poveri, creare una Santa Teresa artificiale sarà un gioco da ragazzi. Il difficile sarà imitare l’imperfezione umana; più facile costruire un amico virtuale, è sufficiente che sia “come tu mi vuoi”. Lo scoglio, superato, è il riconoscimento vocale. Inquieta la superficialità con cui scienziati intelligenti trattano materie tanto complesse. La dittatura delle macchine è il seguito dell’egemonia degli esperti.
Un tema centrale è quello del lavoro. Se le prime due rivoluzioni industriali hanno distrutto mestieri e posti di lavoro per crearne altri, più qualificati e meno faticosi, il futuro prossimo è più deludente. Lavorare meno per lavorare tutti si è rivelato uno slogan elettorale. Che fare? Al di là delle misure di politica economica, si aprirà un arduo dibattito sulla personalità giuridica delle macchine artificiali. Dovranno, in qualche modo, pagare le tasse attraverso gli utilizzatori e corrispondere contributi previdenziali a beneficio delle generazioni umane future? Emerge una controindicazione: se riconosciamo alla macchina delle responsabilità, le togliamo a chi le ha fabbricate e assegnamo diritti agli oggetti.
Non si possono immaginare scenari esclusivamente distopici, un equilibrio si troverà, ma non è dato sapere a quale costo per l’uomo, la sua dignità, il suo ruolo nel mondo. Secondo gli evoluzionisti, non siamo che macchine biologiche progredite verso l’intelligenza. Se tendiamo al bene, il che è tutt’altro che certo, poiché l’uomo privato di cultura, morale, chiuso al trascendente, è un predatore instancabile, non vi sarebbe ragione che le macchine ci maltrattino. Tutt’al più, ci ignoreranno, ma sembra difficile, tenuto conto che l’A.I. ha lo scopo di compiere meglio di noi e al nostro posto azioni e prendere decisioni che ci riguardano. L’inquietudine non si dissipa e dilagherà quando i robot ci assomiglieranno troppo. Lo sconcerto aumenterà quando le macchine inizieranno a comunicare tra loro con il proprio linguaggio. Stranieri agli apparati artificiali, insoddisfatti delle risposte tecniche, poniamo domande, sperando di suscitare riflessioni diverse dalla riduzione macchinistica.
Se l’intelligenza artificiale ci supera, pur essendo una nostra creazione, che cosa significherà essere umano? Che ne è della coscienza, o è solo una manifestazione della complessità neuronale? Ed ancora, chi deciderà circa l’“etica” che, affermano, introdurranno nelle macchine ? A che cosa penserà un’intelligenza superiore, a risolvere enigmi matematici, tipo la celebre congettura di Riemann, riposerà, si volgerà al dominio, alla violenza o magari all’empatia? Il cyberuomo transumano dotato di A.I. proverà passioni, avversioni, sarà coscienti di se stesso? La macchina intelligente sa di sapere, ha una sorta di coscienza o è solo un immenso magazzino? Esisterà un’intelligenza artificiale universale, frutto di interazioni e collegamenti, o ce ne saranno varie? Ognuno può aggiungere il suo personale quesito. La domanda cruciale ci sembra la seguente: possiamo considerare un’intelligenza artificiale avanzata come un agente morale, ovvero un ente autonomo capace di prendere decisioni soggette a regole etiche e quali criteri la sosterranno?
Non dimentichiamo che ogni scoperta tecnologica è stata utilizzata contro la nostra specie; gli esempi della polvere da sparo, delle armi chimiche e della bomba atomica sono solo i più recenti. Magari, una volta raggiunti determinati livelli di intelligenza le macchine si faranno beffe di noi, della nostra inadeguatezza di sempliciotti. Di sicuro divoreremo energia in quantità immense, ascolteremo musica artificiale e vedremo quadri disegnati da macchine. Un giorno, ci parranno banali tutte le realizzazioni umane, ma saremo ancora in grado di governare le macchine, o almeno controllarle, se qualche scienziato pronostica con intima soddisfazione che, a lungo termine, società, città e nazioni saranno in mano all’A.I.?
L’utopia scientista, affermano trionfanti, promette di sradicare la corruzione e programmare la giustizia. Come? Non è chiaro. Sarebbe, quanto meno, il caso di promulgare leggi sugli algoritmi che prendono decisioni, nonché, per autotutela, definire da subito le norme morali a cui sottomettere i programmi. I codici devono essere pubblici e sottoposti a autorità politiche. Il sapere della macchina, inoltre, dovrebbe essere un fine in sé, al modo di Aristotele, allontanandolo dall’utilitarismo.
Desta perplessità un’altra asserzione: “Un’intelligenza artificiale non ha orizzonte di morte, non scompare; il tempo è per essa infinito”. Non le colpirebbe la morte termica, o l’eventuale collasso dell’universo, il Big Crunch? Concretamente, se per lei il tempo non esistesse, avrebbe senso qualsiasi etica? I dilemmi sono molteplici: la macchina saprà mentire? Se lo farà, quale sarà la ragione teleologica, se un qualunque finalismo diverso dalla funzionalità può essere ascritto a un apparato? La supermacchina assomiglierà allo Spirito Assoluto di Hegel, ci incorporerà in una totalità che porrà fine all’umano? L’umano, peraltro, risiede nell’elaborazione del nostro cervello imperfetto e finito, non nel messaggio, né nel mezzo che lo genera, immagazzina e trasmette. E’ una somma che eccede e trascende le parti.
Mille e mille interrogativi, per un futuro in cui anche i doveri umani termineranno dove iniziano le prestazioni “etiche” delle macchine artificiali, dove la conoscenza corre il rischio di sparire e l’individualità personale oltrepasserà i limiti del tessuto nervoso, negando se stessa. La conclusione ottimista, evoluzionista, materialista, è sconfortante: prima saremo divertiti, ammaliati dalla macchine, poi svilupperemo assuefazione, dipendenza a essere controllati. Stiamo rinunciando al pensiero, al libero arbitrio, a distinguere il bene e il male, nella scienza e fuori di essa.Non sappiamo ancora se il destino delle generazioni future sarà quello di convivere alla pari con macchine tanto superiori a noi, se ne saranno vittime o servitori.
Certo temiamo che non sia credibile, nella possibile Matrix, il commovente, umanissimo replicante Roy Batty che vendica la sua compagna e salva un essere umano a costo di sé. Il suo monologo estremo resta nella storia del cinema e nella memoria di milioni di spettatori. “Io ne ho viste di cose che voii umani non potreste immaginarvi. Navi da combattimento in fiamme al largo dei bastioni di Orione. E ho visto i raggi B balenare nel buio vicino alle paorte di Tannhauser. E tutti quei momenti andranno perduti nel tempo come lacrime nella pioggia. È tempo di morire.” Umano, troppo umano. Intelligenza artificiale?