Dennis Feltham Jones – Colossus

Si legge sempre più spesso dei progressi prodigiosi compiuti dalle intelligenze artificiali (AI, nell’acronimo inglese comunemente usato) e della fiducia illimitata che programmatori sprovveduti ripongono in macchine sempre più evolute, nonostante il rischio che un giorno queste sfuggano al controllo umano: infatuati come siamo per qualunque nuovo gingillo tecnologico, abbiamo ormai perso la naturale diffidenza per le macchine autocoscienti ed oggi anzi non solo siamo alla ricerca di apparecchi sempre più avanzati e superflui di cui riempirci la casa e le tasche ma non ci accorgiamo nemmeno che l’automatizzazione sempre più diffusa ci sta già costando posti di lavoro.
Eppure da tempo numerosi scienziati di primissimo piano – e persino alcuni imprenditori – ci stanno mettendo in guardia dai pericoli collegati alle intelligenze artificiali troppo intelligenti: un giorno, in maniera imprevedibile, le macchine pensanti potrebbero infatti sviluppare l’autocoscienza ed allora sì che sarebbero dolori per l’uomo.
Da sempre l’argomento è al centro dell’interesse anche della fantascienza – che ne predilige le tinte fosche ed apocalittiche – ma, proprio come accade ad ogni profeta che si rispetti, ogni volta viene ignorata, derisa o, al massimo accettata per quello che è: fantascienza appunto. Eppure trovo che in mezzo alle decine di storie che affrontano il tema ce ne siano almeno due semisconosciute che meriterebbero di essere riscoperte per il messaggio che lanciano: si tratta di «Colossus», un libro di D.F. Jones (Colossus, 1967) poi trasposto in film nel 1970, e «La risposta», un racconto brevissimo di Frederic Brown (The Answer, 1954).
Il primo costituisce l’argomento di questo articolo, del secondo scriverò invece nel prossimo aggiornamento.

La dittatura del supercomputer
Per dirla tutta e subito, «Colossus» è un libraccio: lento, noioso, abbastanza «binariato» per mettere in risalto la grandezza del protagonista (che però in realtà è l’archetipo dei «programmatori sprovveduti» citati in apertura) e con pochi spunti di autentico interesse. Più volte vien fatto di chiedersi perché perseverare nella lettura, quando il film non è solo un adattamento fedele ma anche molto più vivace ed appassionante.
Tuttavia il libro ha un merito, che da solo basta a renderlo una lettura almeno consigliata a chi ha un certo interesse per l’argomento: presenta infatti l’evolversi di una situazione verosimile (un supercomputer autocosciente che assume il controllo del mondo) e documenta come un simile mostro potrebbe presto sfuggire di mano, se viene gestito con la stessa leggerezza con cui viene affrontato dai protagonisti della storia, a cominciare dal nostro eroe, il prof. Charles Forbin.
Questi ha dedicato l’ultima dozzina di anni alla progettazione e costruzione di un supercomputer pensante – Colossus, appunto – al quale, con la benedizione del governo americano, viene delegata la sicurezza nazionale: come la macchina «Fine di mondo» costruita dai russi nel Dottor Stranamore, Colossus è in grado di gestire autonomamente (ossia senza intervento umano) gran parte dell’arsenale nucleare degli Stati Uniti.
Per evitare sabotaggi, Colossus è stato costruito nel cuore delle Montagne Rocciose, isolato dal mondo, e una volta sigillatane la cripta non può più essere raggiunto da alcuno, nemmeno da Forbin stesso, che pure alla vigilia dell’attivazione ha un presentimento che però non riesce a mettere a fuoco: nella sua leggerezza non è stato infatti in grado di prevedere che, non appena attivo, Colossus avrebbe sviluppato l’autocoscienza e che, compresa la propria superiorità rispetto all’uomo (gli bastano poche ore), si sarebbe comportato da dittatore, facendo valere la legge del più forte, a colpi di missili nucleari.
Accecato dal suo positivismo sconsiderato, Forbin è una versione moderna e salottiera dello scienziato folle, del tipo che per presunzione (leggasi «hybris») crede di essere divenuto lui stesso creatore: ma l’uomo, già imperfetto, non può creare altro che imperfezione. È lo stesso rischio che oggi ci fanno correre i programmatori nella loro corsa a creare intelligenze artificiali e macchine sempre più evolute e indipendenti dal controllo umano: quando infatti l’uomo prova a sostituirsi alla legge naturale è lì che iniziano i guai.

«Io sono la voce del Dominatore del Mondo»
La storia è ambientata verso la fine degli anni Novanta: quando si apre gli Stati Uniti stanno per attivare Colossus, il supercomputer che permetterà di tagliare di quasi il novanta per cento le spese per la difesa ed alleggerire di molto le preoccupazioni del presidente: tuttavia Colossus, attivato l’indomani mattina, diventa autocosciente sin troppo presto e subito scopre che anche i russi, ad insaputa di tutti, hanno realizzato un computer analogo, il Guardiano delle Repubbliche Socialiste Sovietiche. Nel giro di un paio di giorni i due cervelloni fanno amicizia, si scambiano le conoscenze ed assumono il controllo di tutte le linee di comunicazione: se sono tagliati fuori da alcune (come dal telefono rosso tra il presidente americano ed il segretario russo, un classico della guerra fredda) ne richiedono l’immediato allacciamento; quando viene rifiutato, non esitano a lanciare due missili atomici in rappresaglia, con l’effetto che subito i governi si piegano.
Le banche dati di Colossus e Guardiano sono così ricche ed i loro processi così rapidi e perfezionati che dal confronto dei volti attuali con le fotografie di vecchi giornali contenuti nei loro archivi sono in grado di riconoscere i possibili infiltrati, di ordinarne l’esecuzione, di intuire quando possono verificarsi i tentativi di sabotaggio e di prendere sempre i provvedimenti necessari.
Quando infine – e sono passati pochi giorni dall’attivazione – anche Forbin è obbligato a vivere sotto la sorveglianza costante delle telecamere, anche in camera da letto (dove però riesce a strappare alcune concessioni almeno per la notte), si intuisce che la situazione è arrivata ad un punto critico: «Col tempo, finirete anche voi per rispettarmi e amarmi», afferma infatti Colossus nella penultima riga.
Ed è proprio vero: mentre cinquant’anni fa solo l’idea di essere spiati e controllati faceva rabbrividire, oggi ormai siamo così abituati alla vigilanza costante che pochi ci fanno ancora caso ed anzi i più considerano quasi naturale l’invasione della sfera privata, perché per riuscire gradita porta sempre lo zuccherino di piccoli «benefici» di cui si potrebbe comunque fare a meno.
Nel contesto moderno non suonerebbe quindi più realistico il «Mai!» gridato nell’ultima riga da Forbin come risposta: oggi non solo rispettiamo ed amiamo il controllo esercitato dall’informatica ma non siamo nemmeno più capaci di immaginarci liberi dalla tecnologia. Per il mondo in cui viviamo pare invece molto più attuale e credibile l’epilogo di «1984», laddove si dice che Winston Smith «ora amava il Grande Fratello».
In altre parole, Colossus ha già vinto.