”Intelligenza artificiale? Stiamo rinunciando al pensiero al libero arbitrio a distinguere bene e male: non sappiamo ancora se il destino delle generazioni future sarà quello di convivere alla pari o se saranno vittime o servitori.
INTELLIGENZA ARTIFICIALE. LA VALLE INQUIETANTE
Seconda parte
Scienza e morale hanno una relazione biunivoca che la prima tende a scavalcare se non a sopprimere. Gli apparati artificiali intelligenti pensano e penseranno più di noi; un giorno proveranno
sensazioni analoghe a quelle umane; eppure, non si tratta che di meccanismi. È urgente restituire respiro morale al campo tecno scientifico, istituire una disciplina futuribile che potremmo chiamare “macchinetica”. Il tema dell’intelligenza artificiale, più che richiedere risposte, impone di formulare interrogativi che nessuno aveva mai immaginato prima. Ebbe ragione Alan Turing(1) a sottolineare la necessità del discernimento, la capacità di distanziarsi spiritualmente dalla macchina. In caso contrario, la relazione uomo-apparato artificiale sarà distorta.
L’essere umano ama dare affetto e riceverlo. L’ostacolo, il macigno etico con cui ci confronteremo è che se l’apparato antropomorfo, l’androide, ci tratterà con quello che, in termini umani, chiamiamo affetto, svilupperemo una nuova dipendenza, utilizzata come strumento di potere da chi controlla la macchina. L’innovazione che sconvolgerà la nostra idea del mondo, prevista entro dieci, quindici anni sarà la generazione artificiale di emozioni. La macchina ci supera in forza, calcolo, adesso anche in intelligenza e capacità decisionale. Il salto della percezione di emozioni ci trova impreparati come specie, come comunità e come individui. Le implicazioni etiche, politiche, antropologiche sono enormi. Ciò che non siamo in grado di padroneggiare si allarga, diventa una condizione esistenziale in cui l’uomo perde ogni punto di riferimento.
Un po’ di scienza (quella che usiamo e crediamo di comprendere) allontana da Dio. Molta scienza avvicina a Lui, sosteneva Pasteur(2). Temiamo che per l’uomo comune, immerso in una
quotidianità utilitarista, non sia più così. Conservare la dignità umana, mantenerne la nobiltà morale passa per l’educazione, lo studio, la cultura. Precisamente il contrario di quello che ha scelto per noi il potere, che ci vuole scimmie desideranti. In fondo, per l’immensa maggioranza, la scienza avanzata è indistinguibile dalla magia. Viviamo immersi in una realtà che ci oltrepassa: occorre riannodare i fili di un umanesimo intransigente che sappia sviluppare una relazione non subalterna con le macchine intelligenti.
[stextbox id=’alert’ mode=’undefined’ color=’1f0404′ ccolor=’0f0101′ bgcolor=’0ceb74′]Roy Batty e il suo monologo estremo resta nella storia del cinema e nella memoria di milioni di spettatori. “Io ne ho viste di cose che voi umani non potreste immaginarvi. Navi da combattimento in fiamme al largo dei bastioni di Orione. E ho visto i raggi B balenare nel buio vicino alle porte di Tannhauser. E tutti quei momenti andranno perduti nel tempo come lacrime nella pioggia. È tempo di morire.” Umano, troppo umano! [/stextbox]
La nostra supremazia intellettuale è posta per la prima volta nella storia in discussione, anche se la macchina e l’intelligenza artificiale sono creazioni umane. È in pericolo la nostra essenza, l’autopercezione e l’autostima della nostra specie. L’A.I. prenderà decisioni al nostro posto, ci governerà. La valle inquietante non può essere elusa allontanandone il pensiero o lasciandosi agire. È la scelta più semplice, ma ci fa uscire dalla profondità dell’intelletto, ci toglie responsabilità, poiché affrontare un problema per superarlo è la sfida più esaltante. L’uomo è mutato in profondità nell’ultimo secolo. Siamo fisicamente più deboli, ma di maggiore statura e con un’aspettativa di vita più lunga. La nostra genetica sta cambiando, si abbassa il livello di aggressività in quanto meno decisivo in termini di sopravvivenza. Si tratta di fatti per riconoscere i quali non è necessario condividere le teorie neo illuministe di uno Steven Pinker(3).
Ciò che turba è il passaggio che si avvicina: se una macchina prende decisioni che riguardano la nostra vita, siamo ancora liberi? Si modificherà la parte del cervello deputata alle scelte? La risposta degli scienziati è semplicistica. Scopriremo tutto e risolveremo tecnicamente ogni problema; la buona politica va sempre a braccetto con la scienza. Il secolo corrente non si caratterizza in senso politico, l’agenda è scandita dagli avanzamenti scientifici. Il vero atto politico è amministrare il progresso tecnologico con gli strumenti dell’etica, nel rispetto della centralità dell’uomo e della preservazione del creato. Non possiamo accettare ad occhi chiusi, o con gridolini di meraviglia ogni tecnologia. Tutto ha conseguenze, le grandi innovazioni hanno grandi conseguenze. Se dal punto scientifico l’Ottocento fu il secolo della chimica, la prima metà del XX conobbe il grande momento della fisica e la seconda della biologia, il primo scorcio del Duemila è l’era dell’informazione. Bisogna fare in modo che il futuro prossimo sia la rivincita dell’etica.
Un grave problema è il basso livello di consapevolezza dei giganti che fanno ricerca e possiedono la tecnologia, i cui codici etici sono deludenti o inesistenti. Risulta traumatico ascoltare banditori dell’A.I. affermare che si farà politica attraverso l’intelligenza artificiale, anzi che questa è in grado di agire meglio dei politici. La motivazione è tecnicamente ineccepibile, ma va rigettata come anti umana, un esempio di resa alla ragione strumentale. Essenziale, dicono, è gestire la complessità, ossia selezionare dati “obiettivi” (?), sottoporli all’A.I. e applicare il verdetto “tecnico”. Non più politica, orientamento al bene comune, principi e interessi, ma soluzione tecnica.
Anche l’amministrazione giudiziaria sarà investita dall’onda lunga dell’A.I. Perché, affermano gli adepti della tecnocrazia “macchinista”, una sentenza, una decisione sul carcere preventivo, deve essere affidata al temperamento di un giudice? Stupisce leggere in Etica per macchine “a me non farebbe paura essere giudicato da una macchina, poiché non ci sarà pregiudizio né distorsione. Noi umani abbiamo preconcetti e non siamo tanto superiori quanto pensiamo “. Con idee di questo tipo, si penetra senza bussola nel territorio del post umano, poiché l’intelligenza artificiale presuppone la capacità della macchina di fare da sé, non di elaborare informazioni. In più, avrà emozioni, dunque anch’essa potrebbe decidere in base a un proprio sistema di valori, se ha senso il termine.
[stextbox id=’alert’ mode=’undefined’ color=’1f0404′ ccolor=’0f0101′ bgcolor=’0ceb74′]Intelligenza artificiale? Stiamo rinunciando al pensiero al libero arbitrio a distinguere bene e male: non sappiamo ancora se il destino delle generazioni future sarà quello di convivere alla pari o se saranno vittime o servitori! [/stextbox]
Ancora più rilevante è un’altra domanda: se la macchina è intelligente, potrà considerarsi un organismo vivente? La risposta dei tecnoscienziati è raggelante. Per loro, il dato biologico non è centrale: che importa se l’A.I. è o no vita? Ciò che conta è la relazione con un altro “ente”. Senza scomodare il vecchio Parmenide, siamo convinti che l’uomo sia un “essere”, non un “ente”. In più, si revoca in dubbio l’intelligenza umana come tale, insieme a un certo disprezzo. Che evidenza ho, chiede Latorre, che un mio amico sia intelligente? Meglio la risposta di una voce elettronica per la riserva di posti: più efficiente, a prova di errore. Presto saprà fingere dubbi e mormorare un “mmmh” indistinguibile dalla voce umana. Un’intelligenza artificiale avanzata parla correttamente, imposta la voce, sa gestire il silenzio. Sì, Adamo ed Eva sono inadeguati. Meglio sostituirli, o almeno integrarli nella macchina. Questa è la missione del transumanesimo: creare il cyberuomo. Come il Minotauro, metà uomo, metà toro, il Cyborg sarà un innesto uomo-macchina.
L’intelligenza emozionale è ancora in fase di studio, prevede soluzioni molto sottili, è per dopodomani. Per adesso, creano facce umane e voci che non esistono. Trasmettere emozioni è l’orizzonte a medio termine. Si espelle la morale dal campo che è il suo. Come distingueremo, sotto l’aspetto etico, una decisione umana da una dell’A.I.? Per i tecnoentusiasti è semplicissimo: basta programmare “il bene”. Tutti vogliono difendere i poveri, creare una Santa Teresa artificiale sarà un gioco da ragazzi. Il difficile sarà imitare l’imperfezione umana; più facile costruire un amico virtuale, è sufficiente che sia “come tu mi vuoi”. Lo scoglio, superato, è il riconoscimento vocale. Inquieta la superficialità con cui scienziati intelligenti trattano materie tanto complesse. La dittatura delle macchine è il seguito dell’egemonia degli esperti.
Un tema centrale è quello del lavoro. Se le prime due rivoluzioni industriali hanno distrutto mestieri e posti di lavoro per crearne altri, più qualificati e meno faticosi, il futuro prossimo è più deludente. Lavorare meno per lavorare tutti si è rivelato uno slogan elettorale. Che fare? Al di là delle misure di politica economica, si aprirà un arduo dibattito sulla personalità giuridica delle macchine artificiali. Dovranno, in qualche modo, pagare le tasse attraverso gli utilizzatori e corrispondere contributi previdenziali a beneficio delle generazioni umane future? Emerge una controindicazione: se riconosciamo alla macchina delle responsabilità, le togliamo a chi le ha fabbricate e assegnamo diritti agli oggetti.
[stextbox id=’alert’ mode=’undefined’ color=’1f0404′ ccolor=’0f0101′ bgcolor=’0ceb74′]Se l’intelligenza artificiale ci supera, pur essendo una nostra creazione, che cosa significherà essere umano? [/stextbox]
Non si possono immaginare scenari esclusivamente distopici, un equilibrio si troverà, ma non è dato sapere a quale costo per l’uomo, la sua dignità, il suo ruolo nel mondo. Secondo gli evoluzionisti, non siamo che macchine biologiche progredite verso l’intelligenza. Se tendiamo al bene, il che è tutt’altro che certo, poiché l’uomo privato di cultura, morale, chiuso al trascendente, è un predatore instancabile, non vi sarebbe ragione che le macchine ci maltrattino. Tutt’al più, ci ignoreranno, ma sembra difficile, tenuto conto che l’A.I. ha lo scopo di compiere meglio di noi e al nostro posto azioni e prendere decisioni che ci riguardano. L’inquietudine non si dissipa e dilagherà quando i robot ci assomiglieranno troppo. Lo sconcerto aumenterà quando le macchine inizieranno a comunicare tra loro con il proprio linguaggio. Stranieri agli apparati artificiali, insoddisfatti delle risposte tecniche, poniamo domande, sperando di suscitare riflessioni diverse dalla riduzione macchinistica.
Se l’intelligenza artificiale ci supera, pur essendo una nostra creazione, che cosa significherà essere umano? Che ne è della coscienza, o è solo una manifestazione della complessità neuronale? Ed ancora, chi deciderà circa l’“etica” che, affermano, introdurranno nelle macchine? A che cosa penserà un’intelligenza superiore, a risolvere enigmi matematici, tipo la celebre congettura di Riemann, riposerà, si volgerà al dominio, alla violenza o magari all’empatia? Il cyberuomo transumano dotato di A.I. proverà passioni, avversioni, sarà coscienti di sé stesso? La macchina intelligente sa di sapere, ha una sorta di coscienza o è solo un immenso magazzino? Esisterà un’intelligenza artificiale universale, frutto di interazioni e collegamenti, o ce ne saranno varie? Ognuno può aggiungere il suo personale quesito. La domanda cruciale ci sembra la seguente: possiamo considerare un’intelligenza artificiale avanzata come un agente morale, ovvero un ente autonomo capace di prendere decisioni soggette a regole etiche e quali criteri la sosterranno?
Non dimentichiamo che ogni scoperta tecnologica è stata utilizzata contro la nostra specie; gli esempi della polvere da sparo, delle armi chimiche e della bomba atomica sono solo i più recenti. Magari, una volta raggiunti determinati livelli di intelligenza le macchine si faranno beffe di noi, della nostra inadeguatezza di sempliciotti. Di sicuro divoreremo energia in quantità immense, ascolteremo musica artificiale e vedremo quadri disegnati da macchine. Un giorno, ci parranno banali tutte le realizzazioni umane, ma saremo ancora in grado di governare le macchine, o almeno controllarle, se qualche scienziato pronostica con intima soddisfazione che, a lungo termine, società, città e nazioni saranno in mano all’A.I.?
L’utopia scientista, affermano trionfanti, promette di sradicare la corruzione e programmare la giustizia. Come? Non è chiaro. Sarebbe, quanto meno, il caso di promulgare leggi sugli algoritmi che prendono decisioni, nonché, per autotutela, definire da subito le norme morali a cui sottomettere i programmi. I codici devono essere pubblici e sottoposti a autorità politiche. Il sapere della macchina, inoltre, dovrebbe essere un fine in sé, al modo di Aristotele, allontanandolo dall’utilitarismo.
[stextbox id=’alert’ mode=’undefined’ color=’1f0404′ ccolor=’0f0101′ bgcolor=’0ceb74′]Una Matrix nel nostro futuro? Abbiamo mille e mille interrogativi, per un futuro in cui anche i doveri umani termineranno dove iniziano le prestazioni “etiche” delle macchine artificiali! [/stextbox]
Desta perplessità un’altra asserzione: “Un’intelligenza artificiale non ha orizzonte di morte, non scompare; il tempo è per essa infinito”. Non le colpirebbe la morte termica, o l’eventuale collasso dell’universo, il Big Crunch? Concretamente, se per lei il tempo non esistesse, avrebbe senso qualsiasi etica? I dilemmi sono molteplici: la macchina saprà mentire? Se lo farà, quale sarà la ragione teleologica, se un qualunque finalismo diverso dalla funzionalità può essere ascritto a un apparato? La supermacchina assomiglierà allo Spirito Assoluto di Hegel(4), ci incorporerà in una totalità che porrà fine all’umano? L’umano, peraltro, risiede nell’elaborazione del nostro cervello imperfetto e finito, non nel messaggio, né nel mezzo che lo genera, immagazzina e trasmette. È una somma che eccede e trascende le parti.
Mille e mille interrogativi, per un futuro in cui anche i doveri umani termineranno dove iniziano le prestazioni “etiche” delle macchine artificiali, dove la conoscenza corre il rischio di sparire e l’individualità personale oltrepasserà i limiti del tessuto nervoso, negando sé stessa. La conclusione ottimista, evoluzionista, materialista, è sconfortante: prima saremo divertiti, ammaliati dalle macchine, poi svilupperemo assuefazione, dipendenza a essere controllati. Stiamo rinunciando al pensiero, al libero arbitrio, a distinguere il bene e il male, nella scienza e fuori di essa. Non sappiamo ancora se il destino delle generazioni future sarà quello di convivere alla pari con macchine tanto superiori a noi, se ne saranno vittime o servitori.
Certo temiamo che non sia credibile, nella possibile Matrix, il commovente, umanissimo replicante Roy Batty che vendica la sua compagna e salva un essere umano a costo di sé. Il suo monologo estremo resta nella storia del cinema e nella memoria di milioni di spettatori. “Io ne ho viste di cose che voi umani non potreste immaginarvi. Navi da combattimento in fiamme al largo dei bastioni di Orione. E ho visto i raggi B balenare nel buio vicino alle porte di Tannhauser. E tutti quei momenti andranno perduti nel tempo come lacrime nella pioggia. È tempo di morire.” Umano, troppo umano. Intelligenza artificiale?
NOTE
- (1) Alan Mathison Turing è stato un matematico, logico, crittografo e filosofo britannico, considerato uno dei padri dell’informatica e uno dei più grandi matematici del XX secolo. Il suo lavoro ebbe vasta influenza sulla nascita della disciplina dell’informatica, grazie alla sua formalizzazione dei concetti di algoritmo e calcolo mediante l’omonima macchina, che a sua volta costituì un significativo passo avanti nell’evoluzione verso il moderno computer. Per questo contributo Turing è solitamente considerato il padre della scienza informatica e dell’intelligenza artificiale, da lui teorizzate già negli anni trenta del ‘900. Fu anche uno dei più brillanti crittoanalisti che operarono nel Regno Unito durante la seconda guerra mondiale, per decifrare i messaggi scambiati da diplomatici e militari delle Potenze dell’Asse. Turing lavorò a Bletchley Park, il principale centro di crittoanalisi del Regno Unito, dove ideò una serie di tecniche per violare i cifrari tedeschi, incluso l’utilizzo di una macchina elettromeccanica (chiamata “Bomba”) in grado di decodificare codici creati dalla macchina crittografica Enigma. Morì suicida a soli 41 anni, in seguito alle persecuzioni subite da parte delle autorità britanniche a causa della sua omosessualità.
- (2) Louis Pasteur (Dole, 27 dicembre 1822 – Marnes-la-Coquette, 28 settembre 1895) è stato un chimico, biologo e microbiologo francese. Grazie alle sue scoperte e alla sua attività di ricerca è universalmente considerato il fondatore della moderna microbiologia. Ha inoltre operato nel campo della chimica, e di lui si ricorda la teoria sull’enantiomeria dei cristalli. Occasionalmente si occupò anche di fisica
- (3) Steven Arthur Pinker (Montréal, 18 settembre 1954) è uno scienziato cognitivo canadese naturalizzato statunitense, professore di psicologia all’Università di Harvard. Citato come uno degli intellettuali più influenti da varie riviste, Pinker ha ricevuto premi dalla American Psychological Association, dall’Accademia nazionale delle scienze, dalla Royal Institution e dall’American Humanist Association. Inoltre, serve nel consiglio di redazione di diverse riviste scientifiche e nel comitato consultivo di varie istituzioni accademiche. Partecipa frequentemente ai dibattiti pubblici che riguardano la scienza e la società.
- (4) Georg Wilhelm Friedrich Hegel (Stoccarda, 27 agosto 1770 – Berlino, 14 novembre 1831) è stato un filosofo tedesco, considerato il rappresentante più significativo dell’idealismo tedesco. È autore di una delle linee di pensiero più profonde e complesse della tradizione occidentale; la sua riflessione filosofica nasce all’interno dell’ambiente culturale tedesco di inizio Ottocento, dominato dalla filosofia kantiana e dai suoi sviluppi idealistici. Oltre che dalla filosofia del suo tempo, la formazione intellettuale di Hegel è profondamente influenzata dallo studio della cultura e filosofia greca antica. Autori fondamentali per Hegel sono Eraclito (”Non c’è proposizione di Eraclito che io non abbia accolto nella mia Logica”) per l’opposizione dei contrari, Platone e Aristotele: Platone, ad esempio, con il suo Parmenide fornisce per Hegel l’esempio migliore di dialettica; mentre Aristotele con il suo concetto di energeia (actus, atto) è il principale modello teorico per la nozione di soggetto. Altro autore importante, seppur in forma polemica, è Spinoza: per Hegel, infatti, uno dei compiti della filosofia è quello di superare la tesi spinoziana per cui “l’Assoluto è sostanza” (come avviene anche in Schelling) e svilupparla ulteriormente mostrando che “l’Assoluto è soprattutto soggetto”. Quando un fenomeno cresce quantitativamente, in parallelo il contesto cambia qualitativamente. L’esempio è facile. Se c’è un terremoto di due gradi della scala Mercalli nessuno, a parte i sismografi, se ne accorge. Se tocca nove gradi di intensità, il paesaggio cambia radicalmente.
Fonte Wikipedia.
