www.estropico.com
LA SINGOLARITA' E' VICINA: Quando gli esseri umani trascendono la biologia
di Ray Kurzweil
Viking Press
La versione originale inglese sul sito Singularity.com
Il primo capitolo: Le sei epoche
Domande e risposte con Ray Kurzweil
Cosa è la singolarità?
Nei prossimi 25 anni, l'intelligenza non-biologica eguaglierà la ricchezza e la raffinatezza dell'intelligenza umana per poi superarla abbondantemente grazie a due fattori: la continua accelerazione del progresso dell'informatica e la capacità [delle intelligenze non-biologiche - NdT] di condividere rapidamente il proprio sapere. Integreremo nanorobot intelligenti nel nostro corpo, nei nostri cervelli e nell'ambiente, risolvendo così problemi come l'inquinamento e la povertà, aumentando significativamente la nostra longevità, permettendo realtà virtuali che comprendano tutti i sensi (come in "The Matrix") e la "trasmissione di esperienze" (come in "Essere John Malkovich"), nonchè un notevole incremento dell'intelligenza umana. Il risultato sarà la fusione della specie creatrice di tecnologie con il processo evolutivo-tecnologico a cui essa ha dato vita.
E questa è la singolarità?
No, questa è solo la fase che la precede. L'intelligenza non-biologica avrà accesso al proprio design e potrà migliorarsi in un ciclo sempre più veloce di riprogettazione. Arriveremo al punto in cui il progresso tecnologico sarà talmente rapido da essere incomprensibile per l'intelletto umano non incrementato. Quel momento contrassegnerà la singolarità.
Quando accadrà?
La data che ho fissato per la singolarità - intendendo con questo termine una profonda e perturbante trasformazione delle capacità umane - è il 2045. Le intelligenze non-biologiche generate in quell'anno saranno un miliardo di volte più potenti di tutta l'intelligenza umana di oggi.
Perchè si chiama singolarità?
Il termine "singolarità" nel mio libro è paragonabile all'uso di questo termine nella fisica. Così come non possiamo vedere oltre l'orizzonte degli eventi di un buco nero, così troviamo difficile vedere oltre l'orizzonte degli eventi della singolarità storica. Come possiamo, con i nostri limitati cervelli biologici, immaginare cosa potrà fare e pensare una nostra civilizzazione futura, con intelligenze moltiplicate trilioni di volte? Tuttavia, così come possiamo trarre conclusioni circa la natura dei buchi neri senza mai esserne stati all'interno, il nostro pensiero è oggi sufficientemente avanzato da poter comprendere le implicazioni della singolarità. E' proprio questo che ho cercato di fare in questo libro.
OK, una cosa alla volta. Mi sembra che una parte chiave della tua tesi sia che potremo catturare l'intelligenza dei nostri cervelli in una macchina.
Esatto.
Come faremo?
Prendendo una cosa alla volta, possiamo cominciare dai requisiti del software e dell'harware. Nel libro, mostro come abbiamo bisogno di circa 10^16 calcoli al secondo (cas) per ottenere un equivalente funzionale di tutte le regioni del cervello. Si noti che alcune stime sono più basse di questa di un fattore di 100. I supercomputer sono già a 100 trilioni (10^14) di cas e raggiungeranno i 10^16 cas verso la fine di questa decade. Parecchi supercomputer con un quadrilione di cas sono già in fase di progetto, con due gruppi giapponesi che mirano ai 10 quadrilioni per la fine di questo decennio. Entro il 2020, dieci quadrilioni di cas saranno disponibili a circa 1.000 dollari. La realizzazione dei requisiti hardware era controversa quando il mio ultimo libro su questo soggetto, The Age of Spiritual Machines, fu pubblicato nel 1999, ma è ormai il consenso fra gli osservatori bene informati. Ora la polemica si concentra sugli algoritmi.
E come ricreeremo gli algoritmi dell'intelligenza umana?
Per capire i principii dell'intelligenza umana dovremo ricorrere al reverse-engineering (ingegneria inversa) del cervello umano. In questo campo, il progresso è ben maggiore di quanto si pensi. La risoluzione spaziale e temporale delle tecniche di scanning del cervello sta progredendo ad un tasso esponenziale, raddoppiando approssimativamente ogni anno, come la maggior parte di tutto ciò che ha a che fare con l'informatica. Recentemente, gli scanner sono riusciti a rendere visibili i diversi collegamenti interneuronali, permettendone la osservazione del funzionamento in tempo reale. Già abbiamo modelli e simulazioni matematiche di un paio di dozzine di regioni del cervello, compreso il cervelletto, il quale contiene più della metà dei neuroni nel cervello. L'IBM sta lavorando ad una simulazione di circa 10.000 neuroni corticali, con decine di milioni di connessioni. La prima versione simulerà l'attività elettrica e una versione futura simulerà anche la relativa attività chimica. Una stima conservatrice suggerisce che intorno al 2025 avremo modelli efficaci per l'intero cervello.
Così a quel punto basterà semplicemente copiare un cervello umano in un supercomputer?
Io la metterei in un altro modo: a quel punto avremo una comprensione completa del funzionamento del cervello umano. Un beneficio secondario sarà che avremo ottenuto una comprensione profonda di noi stessi, ma l'implicazione chiave sarà l'espansione della gamma di tecniche che potremo applicare alla creazione di intelligenze artificiali. Potremo allora generare sistemi non-biologici comparabili per intelligenza agli esseri umani anche in quelle aree in cui gli esseri umani sono ora superiori, come nel caso delle nostre abilità di pattern-recognition. I computer superintelligenti che creeremo potranno fare cose a noi impossibili, come condividere conoscenze ed abilità a velocità elettroniche.
Entro il 2030, un computer da mille dollari sarà circa mille volte più potente di un cervello umano. Si tenga presente, inoltre, che i computer non saranno organizzati come oggetti separati, come sono oggi. Avremo invece una reta computazionale profondamente integrata nell'ambiente, nel nostro corpo e nel nostro cervello.
Hai accennato ad una gamma di strumenti per l'intelligenza artificiale, ma mi sembra che in questo campo non si sia riusciti a soddisfare le aspettative.
L'interesse verso il settore dell'intelligenza artificiale è in forte rialzo, dopo la brusca caduta degli anni '80 che è stata simile a quanto successo più recentemente nel e-commerce e nelle telecomunicazioni. Tali cicli di boom and bust (espansione e contrazione) sono spesso preamboli di vere e proprie rivoluzioni; si ricordi il boom and bust del settore ferroviario nel diciannovesimo secolo. Così come il crollo delle aziende basate su Internet non ha rappresentato la fine di Internet, così il cosiddetto "inverno dell'intelligenza artificiale" non è stato la fine del settore. Esistono centinaia di applicazioni di intelligenza artificiale "stretta" (intelligenza artificiale che è uguale o superiore all'intelligenza umana in mansioni specifiche) che pervadono le infrastrutture moderne. Ogni volta che mandi un'email o usi il telefonino, degli algoritmi intelligenti gesticono le informazioni che invii. Programmi di intelligenza artificiale diagnosticano gli elettrocardiogrammi con un'esattezza paragonabile a quella dei medici, valutano radiografie, pilotano ed atterrano aeroplani, controllano armi autonome intelligenti, prendono decisioni automatizzate di investimenti da trilioni di dollari e guidano processi industriali. Questi erano tutti i progetti di ricerca solo vent'anni fa. Se tutto il software intelligente nel mondo dovesse smettere improvvisamente di funzionare, la civilizzazione moderna si fermerebbe. Naturalmente, i nostri programmi di intelligenza artificiale non sono sufficientemente intelligenti da organizzare una tal cospirazione, almeno non ancora.
Perchè così poca gente si rende conto dei profondi cambiamenti che ci aspettano?
Spero che il mio nuovo libro cambi questa situazione. Il problema principale è l'incapacità di molti osservatori di pensare in termini esponenziali. Le previsioni più a lungo termine di cosa possa essere tecnicamente fattibile in futuro sottovalutano i possibili sviluppi perché basate su quella che io chiamo l'interpretazione "lineare-intuitiva" del periodo storico piuttosto che su quella "esponenziale". I miei modelli matematici indicano che stiamo raddoppiando il tasso del cambio di paradigma ogni decade. Verso la fine del ventesimo secolo, il tasso di progresso stava già gradualmente accelerando. Tutto il progresso del ventesimo secolo, sarà ora eguagliato in circa venti anni di progresso al tasso del 2000. Avremo poi l'equivalente di altri venti anni di progresso nell'arco di soli altri quattordici anni (entro il 2014), per poi ottenere altrettanto progresso in soltanto sette anni. Mettimaola in un altro modo: nel ventunesimo secolo non avremo cento anni di progresso tecnologico, ma avremo invece l'equivalente di 20.000 anni di progresso (ripeto, misurato al tasso di progresso dell'anno 2000), o circa 1000 volte più di quanto realizzato nel ventesimo secolo.
Lo sviluppo esponenziale delle tecnologie informatiche è persino maggiore: ogni anno stiamo raddoppiando la loro potenza, misurata sulla base del rapporto prezzo-prestazioni, della larghezza di banda disponibile, delle capacità e di molti altri tipi di misure. Si tratta di un fattore di mille in dieci anni, di un milione in venti anni e di un miliardo in trent'anni. Ciò va ben oltre la legge di Moore (la miniaturizzazione dei transistor su circuito integrato che ci permette di raddoppiare ogni anno il rapporto prezzo-prestazioni nell'elettronica). L'elettronica è solo un esempio fra molti. Si consideri che sono stati necessari 14 anni per sequenziare il virus responsabile per l'HIV, ma che recentemente abbiamo sequenziato quello della SARS in solo 31 giorni.
Così questa accelerazione delle tecnologie dell'informazione si applica anche alla biologia?
Assolutamente si. Non sono solo i dispositivi come computer, telefonini e macchine fotografiche digitali che stanno accelerando come capacità. Tutto ciò che sarà considerato importante verrà sostanzialmente informatizzato. Con l'arrivo di mezzi di produzione nanotecnologici, a partire dal 2020, potremo utilizzare dispositivi economici e di dimensioni tali da essere utilizzabili in casa per produrre a richiesta quasi qualunque cosa vorremo partendo da economiche materie prime e usando processi informazionali che riorganizzeranno materia ed energia a livello molecolare.
Soddisferemo le nostre esigenze energetiche con pannelli solari nanotecnologici in grado di convertire efficacemente l'energia di quello 0.03% della luce solare che raggiunge la Terra, e che è sufficiente a soddisfare le proiezioni delle nostre esigenze energetiche per il 2030. Immagazzineremo tale energia in cellule altamente distribuite.
Vorrei tornare sui temi della biologia e della nanotecnologia. Come puoi essere così sicuro di questi sviluppi? Non è sostanzialmente impossibile fare previsioni circa il progresso tecnico di specifici progetti?
In effetti non è possibile fare previsioni accurate per progetti specifici. Ma quello che è prevedibile sono le conseguenze generali di quel complesso, caotico, processo evolutivo che è il progresso tecnologico.
Intuitivamente, la gente suppone che in futuro il progresso continuerà come oggi. Anche coloro che hanno vissuto sufficientemente a lungo da aver sperimentato in prima persona come il tasso del cambiamento acceleri con il tempo, intuitivamente pensano che il progresso proceda alla velocità più recentemente osservata. Dal punto di vista matematico, la ragione di questo fenomeno è che una curva esponenziale assomiglia ad una linea retta, se esaminata solo per un breve tratto. Di conseguenza, persino i commentatori specializzati, pensando al futuro, tipicamente utilizzano il tasso corrente di cambiamento nell'estrapolare il progresso dei dieci o cent'anni futuri. Ecco perchè descrivo questo modo di guardare al futuro come l'interpretazione "lineare-intuitiva". Ma una seria interpretazione della storia della tecnologia rivela che il progresso tecnologico è esponenziale. La crescita esponenziale è caratteristica di ogni processo evolutivo, di cui la tecnologia è un esempio primario.
Come dimostro nel libro, questo è quanto è successo con lo sviluppo biologico. Possiamo persino dire che lo sviluppo tecnologico è emerso dallo sviluppo biologico. Possiamo esaminare i dati disponibili in modi diversi, su scale cronologiche diverse e con un'ampia scelta di tecnologie, dall'elettronica alla biologia, così come per le loro implicazioni, variando dalla quantità totale di conoscenze raccolte dall'umanità, alle dimensioni dell'economia. Il risultato è sempre lo stesso: un tasso di progresso non lineare, ma esponenziale. Includo più di quaranta grafici nel libro, tratti da una vasta gamma di settori, che illustrano la natura esponenziale del progresso, misurato in termini di informazione. Per quanto riguarda il rapporto prezzo-prestazioni degli strumenti di calcolo, si noti che esso comincia più di un secolo fa, ben prima della nascita di Gordon Moore.
Ma non ci sono molte previsioni del futuro, fatte in passato, che oggi sembrano ridicole?
Sì, potremmo citarne moltissime per sostenere che non possiamo fare previsioni certe. In generale, però, tali previsioni non partivano da una metodologia basata su una solida teoria dello sviluppo tecnologico. E non lo dico solo ora, col senno di poi, dato che sono più di vent'anni che faccio previsioni, poi rivelatesi corrette, sulla base di questi modelli.
Ma come possiamo predire in maniera attendibile il progresso di queste tecnologie se non possiamo nemmeno predire il risultato di un singolo progetto?
Predire quale azienda o quale prodotto avrà successo è, in effetti, estremamente difficile, se non impossibile. La stessa difficoltà si presenta nel cercare di predire quale design o standard internazionale prevarrà [per una nuova tecnologia - NdT]. Per esempio, cosa succederà nei prossimi anni ai protocolli wireless Wimax, CDMA e 3G? Tuttavia, come illustro ampiamente nel libro, valutando l'efficacia generale delle tecnologie dell'informazione (misurata in vari modi) si notano tendenze esponenziali sorprendentemente precise e prevedibili. E come ho detto prima, l'informatica sarà, un giorno, alla base di tutto.
Ma come è possibile?
Esistono esempi, in altri settori scientifici, di risultati molto regolari e quindi prevedibili che derivano dall'interazione di numerosi ed imprevedibili eventi. Per esempio, è impossibile predire il percorso di una singola molecola in un gas, ma è possibile predire con precisione le proprietà di quel gas (che è composto da numerosissime molecole che interagiscono caoticamente) conoscendo le leggi della termodinamica. Analogamente, non è possibile predire attendibilmente i risultati di un progetto specifico o il successo di una specifica azienda, ma le possibilità generali dell'informatica (composta da molte attività caotiche) possono essere previste con sufficiente precisione con quella che ho battezzato "la legge del ritorno accelerato."
Che impatto avranno tutti questi sviluppi?
Il prolungamento radicale della vita, per cominciare.
Interessante, ma come?
Nel libro, parlo di tre grandi rivoluzioni che si intrecciano, il cui acronimo è "GNR", cioè Genetica, Nanotecnologie e Robotica. Ognuna di queste risulterà, fra le altre cose, in un sostanziale aumento alla longevità umana. Oggi, siamo nelle fasi iniziali della rivoluzione genetica o biotecnologica. La biotecnologia sta producendo gli strumenti necessari per modificare i nostri geni: non solo "designer babies", ma anche "designer baby-boomers". Potremo inoltre ringiovanire organi e tessuti trasformando le nostre cellule della pelle nella loro versione giovanile. Stiamo già lavorando su nuovi medicinali mirati con precisione a specifici eventi chiave del processo che porta dell'aterosclerosi (causa dei disturbi cardiaci), alla formazione di tumori e ai processi metabolici responsabili delle principali malattie e del processo dell'invecchiamento. La rivoluzione biotecnologia è agli inizi e raggiungerà il picco nella seconda decade di questo secolo. A quel punto potremo sconfiggere la maggior parte delle malattie e rallentare sostanzialmente il processo dell'invecchiamento.
Ciò ci porterà alla rivoluzione nanotecnologica, la quale maturerà nel decennio fra il 2020 e il 2030. Con le nanotecnologie potremo superare i limiti biologici e sostituire la versione odierna del "corpo umano 1.0" con la versione 2.0, la quale sarà spettacolarmente migliore e offrirà, fra le altre cose, l'estensione radicale della vita.
Come sarà possibile questa estensione della vita?
La "killer app" delle nanotecnologie sono i "nanobot" o nanorobot. Si tratta di robot delle dimensioni di una cellula che possono muoversi liberamente nell'apparato circolatorio distruggento gli agenti patogeni, rimuovendo i prodotti di scarto, correggendo le mutazioni del DNA e riversando il processo dell'invecchiamento.
La versione 2.0 del corpo umano?!
Possiamo già osservare i primi tentativi di incrementare e sostituire i nostri organi Questo riguarda persino parti del cervello, il cui posto è preso da impianti neurali. Le versioni più recenti di questi impianti permettono ai pazienti di scaricare software dall'esterno. Nel libro, descrivo come ciascuno dei nostri organi potrà essere sostituito, un giorno. Per esempio, i nanobot potrebbero immettere direttamente nel flusso sanguigno tutte le sostanze nutrienti, gli ormoni e le altre sostanze di cui abbiamo bisogno, allo stesso tempo rimuovendo le tossine e i prodotti di scarto. Il tratto gastrointestinale potrebbe essere riservato per i piaceri della cucina, invece che per la noiosa funzione biologica di estrarre nutrienti dal cibo. Dopo tutto, abbiamo già in parte separato gli aspetti piacevoli e di intimità del sesso dalla sua funzione biologica.
E la terza rivoluzione?
La rivoluzione robotica, che in realtà dovremmo chiamare la rivoluzione dell'Intelligenza Artificiale "forte" di cui abbiamo parlato più sopra, porterà a intelligenze artificiali dalle capacità paragonabili a quelle del cervello umano. Avremo sia l'hardware che il software necessario a ricreare l'intelligenza umana entro il 2030. A quel punto potremo migliorare questi metodi sfruttando la velocità, la memoria e l'abilità di condividere informazioni tipiche delle macchine. Infine potremo esplorare tutti i particolari salienti dei nostri cervelli dall'interno, con miliardi di nanobot nei vasi capillari e potremo anche creare dei back-up delle informazioni raccolte. Usando poi tecniche di produzione basate sulle nanotecnologie, potremo ricreare il nostro cervello o, meglio ancora, installarlo su di un più efficiente substrato computazionale.
Il che significa…?
I nostri cervelli biologici usano segnali chimici che permettono di trasmettere informazioni ad una velocità di solo alcune decine di metri al secondo. L'elettronica è già milioni di volte più veloce. Nel libro illustro come dei circuiti fatti di nanotubi sarebbero circa cento milioni di volte più potenti di un cervello umano, in un volume di circa 2,5 centimetri cubi. Avremo quindi sistemi molto più potenti delle nostre estremamente lente sinapsi, su cui installare la nostra intelligenza.
Così sostituiremo i nostri cervelli biologici con dei circuiti?
Penso che cominceremo con l'utilizzo di nanobot nel corpo e nel cervello. I nanobot ci manterranno in buona salute; offriranno realtà virtuale non distinguibile dalla realtà in quanto direttamente collegata al sistema nervoso; permetteranno la comunicazione diretta da cervello a cervello via Internet e, in genere, causeranno un'incremento sostanziale dell'intelligenza umana. Ma si tenga presente che l'intelligenza non-biologica sta raddoppiando ogni anno le sue capacità, mentre la nostra intelligenza biologica, essenzialmente, non cambia. Negli anni '30 (2030), la parte non-biologica della nostra intelligenza predominerà.
Se ho capito bene, però, la tecnologia di prolungamento della vita più a portata di mano è la biotecnologia, giusto?
Sostanzialmente, hai ragione, anche se esiste certamente un sovrapporsi delle tre rivoluzioni di cui ho parlato (genetica, nanotecnologia e robotica).
Potresti spiegarmi meglio come funzionano le biotecnologie e la genetica?
Stiamo scoprendo il funzionamento dell'aspetto "informatico" dei sistemi biologici e stiamo creando gli strumenti necessari ad acquistarne la padronanza allo scopo di sconfiggere malattie ed invecchiamento e di incrementare il potenziale umano. Il metodo migliore penso sia di partire dalla base portante di tutte delle informazioni biologiche: il genoma. Grazie alle tecnologie genetiche, stiamo per irrompere nella stanza dei bottoni dei geni. Ora abbiamo anche un nuovo ed efficace strumento denominato interferenza del RNA (RNAi), che è capace di "spegnere" geni specifici bloccando l'azione del RNA messaggero da essi prodotto, così impedendo la generazione di proteine. Dato che malattie virali, tumori e molti altri disturbi utilizzano l'espressione genetica in momenti cruciali del loro ciclo di vita, l'interferenza RNA promette di rivelarsi un'innovazione rivoluzionaria. Un gene che vorremmo "spegnere" è il "fat insulin receptor gene" che dice alle cellule grasse di immagazzinare ogni caloria. Quando quel gene è stato bloccato nel topo di laboratorio, i topi sono rimasti magri e sani pur mangiando quanto volessero e sono persino vissuti più a lungo (del 20%).
Stanno anche iniziando ad apparire nuovi metodi per aggiungere geni al genoma. Hanno ormai superato i problemi iniziali dovuti alle difficoltà di inserire le nuove informazioni genetiche esattamente dove desiderato. Un'azienda con la quale ho collaborato, la United Therapeutics, ha curato l'ipertensione polmonare, in animali da laboratorio, usando una nuova forma di terapia genetica che è stata poi approvata per test su esseri umani.
Quindi potremo riprogrammare il nostro DNA.
Esatto, ma è soltanto una delle cose che faremo. Un'altra importante strategia è di far ricrescere le nostre cellule, i nostri tessuti e perfino i nostri organi in modo di introdurli nei nostri corpi senza chirurgia. Un beneficio importante di questa tecnica di "clonazione terapeutica" è che potremo generare nuovi organi e tessuti da versioni delle nostre cellule che sono state ringiovanite - sarà insomma un intervento di ringiovanimento. Per esempio, potremo generare nuove cellule cardiache dalle cellule della pelle ed introdurle attraverso la circolazione sanguigna. Col tempo, le cellule cardiache saranno sostituite con queste nuove cellule ed il risultato sarà un cuore "giovane" con il nostro DNA
La scoperta di nuovi medicinali era una volta basata sullo scoprire quali sostanze producessero un certo effetto benefico senza eccessivi effetti collaterali. Questo processo era simile a quello usato dagli uomini delle caverne per scoprire attrezzi. In pratica potevano solo trovare roccie o rami che potessero essere utilizzati ad un certo scopo. Oggi, invece, stiamo scoprendo i precisi meccanismi biochimici alla base sia del processo di invecchiamento che delle malattie e possiamo progettare medicinali in grado di effettuare precise "missioni" a livello molecolare. La portata e le prospettive di queste innovazioni sono enormi.
Ma il perfezionamento della nostra biologia non sarà sufficiente. Una volta conquistata una profonda comprensione della biologia, essa non potrà più competere con ciò che saremo in grado di ingegnerizzare.
Intendi dire che i "design" della natura non sono ottimali?
Esatto. Le nostre connessioni neuronali processano circa 200 transazioni al secondo, in altre parole sono almeno un milione di volte più lente dell'elettronica. Un altro esempio: un teorico della nanotecnologia, Rob Freitas, ha un progetto concettuale per la costruzione di alternative nanorobotiche ai globuli rossi. Una stima conservatrice indica che sostituendo il 10 per cento dei nostri globuli rossi con i "respirociti" di Freitas potremmo rimanere sott'acqua per quattro ore senza respirare.
Ma se la morte diverrà solo un'opzione, non saremo condannati alla sovrappopolazione?
Un tipico errore commesso quando si prende in considerazione il futuro, è quello di prevedere un cambiamento importante, quale l'estensione radicale delle aspettative di vita, pensando che tutto il resto rimanga invariato. Le rivoluzioni GNR provocheranno anche altre profonde trasformazioni che avranno un impatto sulla questione della sovrappopolazione. Per esempio, le nanotecnologie ci permetteranno di creare virtualmente qualunque prodotto di cui avremo bisogno utilizzando informazioni e materie prime estremamente economiche. Ciò porterà ad un rivoluzionario livello di ricchezza diffusa. Avremo i mezzi per soddisfare le esigenze materiali di qualunque popolazione di esseri umani biologici immaginabile. Le nanotecnologie ci permetteranno, inoltre, di correggere i danni ambientali causati dalle fasi precedenti dell'industrializzazione.
Quindi… sconfiggermo le malattie, l'inquinamento e la povertà - mi sembra un'utopia.
E' vero che gli enormi sviluppi tecnologici dei prossimi vent'anni metteranno a disposizione della civilizzazione umana i mezzi necessari a superare problemi con cui ci siamo confrontati per secoli. Ma questi sviluppi non sono privi di pericoli. La tecnologia è una lama a doppio taglio - basta guardare al ventesimo secolo per vedere le promesse e pericoli della tecnologia.
Quali sono i pericoli?
Genetica, Nanotecnologie e Robotica hanno tutte degli aspetti potenzialmente negativi. Il rischio "esistenziale" [un rischio che metterebbe in discussione l'esistenza stessa della nostra civilizzazione - ndr] delle tecnologie genetiche è già con noi: la stessa tecnologia che presto farà importanti passi in avanti contro il cancro, le malattie cardiocircolatorie e altre malattie, potrebbe anche essere impiegata da un bioterrorista per creare un virus ingegnerizzato che unisca facilità di trasmissione, letalità e capacità di passare inosservato, cioè un lungo periodo di incubazione. Gli strumenti e le conoscenze necessarie sono molto più diffusi degli strumenti e delle conoscenze necessarie a costruire una bomba atomica e l'effetto potrebbe essere ben più devastante.
Allora, forse, dovremmo fermarci finchè possiamo.
E' troppo tardi per fermarsi. Ma l'idea di abbandonare le nuove tecnologie, quali la biotecnologia e le nanotecnologie, è già sostenuta da alcuni. Nel libro affermo che questa sarebbe la strategia sbagliata. Oltre a privare la società dei profondi benefici di queste tecnologie, tale strategia aggraverebbe i pericoli, in quanto spingerebbe i ricercatori ad agire nell'illegalità, una situazione in cui gli scienziati responsabili non avrebbero facile accesso agli strumenti necessari per difenderci.
Come possiamo proteggerci, quindi?
Discuto le strategie per proteggerci dagli abusi o dagli incidenti legati a queste potenti tecnologie nel capitolo 8. Il messaggio è che dobbiamo dare priorità alla preparazione di strategie e di sistemi protettivi. Dobbiamo spostare l'enfasi dalla parte della protezione. Ho testimoniato al Congresso circa la proposta di un progetto per la creazione di un sistema di rapida risposta per la protezione civile di fronte a nuovi, virulenti, agenti infettivi. Si tratta di un progetto in stile progetto Manhattan. Una strategia sarebbe di usare RNAi, che è stato indicato come efficace contro le malattie virali. L'idea sarebbe di allestire un sistema in grado di analizzare rapidamente un nuovo virus, formulare un intervento di interferenza del RNA e altrettanto rapidamente cominciarne la produzione. Abbiamo le conoscenze necessarie per creare un sistema simile, ma non lo abbiamo fatto. Dobbiamo avere qualcosa del genere in funzione prima che sia troppo tardi.
Più avanti, tuttavia, le nanotecnologie forniranno una difesa completamente efficace contro i virus biologici.
Ma non esiste il pericolo dell'auto-replicazione, con le nanotecnologie?
Sì, ma si tratta di un pericolo potenziale che non si manifesterà per un paio di decenni. La minaccia alla nostra esistenza da parte di virus biologici ingegnerizzati, invece, è attuale.
OK, ma come ci difenderemo da una nanotecnologia auto-replicante?
Ci sono già proposte di standard etici per le nanotecnologie basati sulla conferenza di Asilomar e che finora hanno dato buoni risultati nel settore biotecnologico. Questi standard saranno efficaci contro i pericoli involontari. Per esempio, non avremo bisogno di avere la capacità dell'auto-replicazione per avere sistemi produttivi nanotecnologici.
E per quanto riguarda gli abusi intenzionali, come nel caso del terrorismo?
Dovremo creare un sistema immunitario nanotecnologico - nanobot "buoni" che ci proteggano dal quelli "cattivi".
"Poltiglia blu" per difenderci dalla "poltiglia grigia"!
["grey goo" o poltiglia grigia: scenario apocalittico in cui nanomacchinari autoreplicanti sfuggiti di controllo e in grado di nutrirsi di qualunque sostanza, si moltiplicano all'infinito trasformando l'intera biosfera in una massa indistinta di altri nanomacchinari autoreplicanti, in altre parole, in una enorme poltiglia grigia. "Blue goo": in inglese, il blu ricorda il colore delle uniformi della polizia, qundi si potrebbe tradurre l'espressione di Kurzweil come "polizia anti-goo" - ndr]
Sì, è un'ottima descrizione. E i nanobot del sistema immunitario nanotecnologico dovranno essere loro stessi auto-replicanti. Ho dibattuto questo fatto con un certo numero di altri teorici e nel libro spiego perchè ritengo che ciò sarà necessario. E', in pratica, lo stesso approccio adottato dall'evoluzione biologica.
Alla fine, tuttavia, sarà l'intelligenza artificiale "forte" che fornirà una difesa completamente efficace contro lo scenario della "grey goo".
D'accordo, ma chi ci proteggerà, allora, da una intelligenza artificiale impazzita?
Beh, non potrebbe essere altro che una IA ancora più intelligente.
Tutto questo comincia a ricordarmi quella storia circa l'universo che sarebbe sulla schiena di una tartaruga, la quale sarebbe sulla schiena di un'altra tartaruga e così via all'infinito. E cosa faremo se questa IA più intelligente fosse ostile? Un'altra IA ancora più intelligente?
La storia ci insegna che le civilizzazioni più intelligenti - quelle cioè che hanno una tecnologia più avanzata - prevalgono. Ma ho elaborato una strategia generale per confrontare una IA ostile, e ne discuto nel capitolo 8.
OK, quindi dovrò leggermi il libro per capire cosa intendi! Ma non ci sono limiti allo sviluppo esponenziale? Hai presente la storia dei conigli in Australia - non hanno continuato a crescere esponenzialmente per sempre…
Ci sono limiti allo sviluppo esponenziale inerente ad ogni paradigma. Tieni presente, però, che la legge di Moore, per esempio, non era il primo paradigma ad aver causato lo sviluppo esponenziale nel settore informatico, ma il quinto. Negli anni 50, per mantenere lo sviluppo esponenziale, stavano miniaturizzando le valvole elettroniche, finchè quel paradigma non ha potuto andare oltre. Ma lo sviluppo esponenziale dell'informatica non si è arrestato, ha continuato a procedere con un nuovo paradigma, quello del transistor. Ogni volta che intravediamo l'inizio della fine di un paradigma, il suo avvicinarsi genera la motivazione necessaria alla ricerca e sviluppo che risultano nella nascita del paradigma successivo. E' quello che sta accadendo alla legge di Moore, anche se ci vorrano ancora circa quindici anni prima di raggiungere il limite massimo della nostra capacità di miniaturizzazione. Stiamo realizzando spettacolari progressi in direzione del sesto paradigma, quello della computazione molecolare tridimensionale.
Ma non c'è un limite assoluto alla nostra capacità di espandere la potenza di calcolo?
Sì, discuto questi limiti nel libro. Il più potente computer immaginabile, nella categoria di peso di circa un chilogrammo, potrebbe offrire 10^42 cps. Esso sarebbe, quindi, circa 10^16 volte più potente di tutti i cervelli umani oggi in esistenza messi insieme. E ciò solo se limitiamo il calcolatore ad operare a temperatura ambiente. Permettendogli di surriscaldarsi, potremo aumentarne la potenza di un fattore di altri 100 milioni. E, naturalmente, dedicheremo ben più di un kilogrammo di materia alla computazione: dedicheremo a quello scopo una significativa parte della materia e dell'energia nelle nostre vicinanze. Quindi, certo, ci sono dei limiti, ma non ci limiteranno molto…
E quando avremo saturato la capacità della materia e dell'energia del sistema solare di sostenere processi intelligenti, cosa accadrà allora?
Ci espanderemo nel resto dell'universo.
Presumo che per questo ci vorrà molto tempo.
Beh, dipende. Se potremo usare i wormhole o, alternativamente, se riusciremo ad aggirerare il problema della velocità della luce, allora potremo raggiungere rapidamente altre zone dell'universo. Se i wormhole si dimostreranno fattibili, e le analisi mostrano che non contraddicono la teoria della relatività, potremmo saturare l'universo con la nostra intelligenza nel giro di un paio dei secoli. Mi occupo di queste prospettive nel capitolo 6. Ma al di là delle speculazioni circa i wormhole, raggiungeremo i limiti computazionali del nostro sistema solare entro questo secolo. A quel punto, avremo incrementato la nostra intelligenza trilioni e trilioni di volte.
Tornando all'estensione della vita, non è naturale invecchiare e morire?
La malaria, il virus Ebola, l'appendicite e gli tsunami sono anche loro naturali. Sono molte le cose naturali che varrebbe la pena cambiare. L'invecchiamento può essere "naturale," ma non vedo nulla di positivo nel perdere la mia agilità mentale, l'acutezza dei sensi, l'agilità fisica, il desiderio sessuale, o qualunque altra caratteristica.
Secondo me, la morte è una tragedia. È una perdita tremenda di personalità, abilità, conoscenza, relazioni. Abbiamo razionalizzato la morte come un qualcosa di accettabile perché non avevamo scelta. Ma le malattie, l'invecchiamento e la morte sono problemi che siamo ora in grado di superare.
Aspetta un momento. Non hai detto che l'era dorata della biotecnologia non arriverà per un altra decina d'anni? Oggi il prolungamento radicale della vita non esiste, no?
Nel mio libro precedente, "Fantastic Voyage, Live Long Enough to Live Forever", che ho scritto insieme a Terry Grossman, descrivo in dettaglio un programma presonalizzabile che può essere implementato oggi (quello che chiamiamo il "ponte" numero uno). Esso permetterebbe alla maggior parte della popolazione di vivere abbastanza a lungo da arrivare alla fase matura dello sviluppo delle biotecnologie (il "ponte" numero due). Le biotecnologie, a loro volta ci porteranno al "ponte" numero tre, le nanotecnologie e l'intelligenza artificiale forte, che risulteranno nella possibilità di vivere indefinitamente.
D'accordo, ma non sarà noioso vivere centinaia e centinaia d'anni?
Se gli esseri umani vivessero centinaia d'anni in assenza di altri cambiamenti, allora sì che il risultato sarebbe un malessere profondo. Ma gli stessi nanobot nel nostro sistema circolatorio che ci manterranno in buona salute distruggendo gli agenti patogeni e fermando il processo dell'invecchiamento, aumenteranno notevolmente la nostra intelligenza e la nostra gamma di esperienze. Come è naturale, la parte non-biologica della nostra intelligenza espanderà le proprie capacità esponenzialmente e, alla fine, predominerà. Il risultato sarà una situazione di cambiamenti accelerati - non penso proprio che ci annoieremo.
La singolarità non potrebbe risultare in un "digitale divide" estremo, dovuto ad inequo accesso all'estensione radicale della vita e ai computer superintelligenti?
Dobbiamo considerare una caratteristica importante della legge del Ritorno Accelerato: essa implica un tasso annuale di deflazione del 50% per le tecnologie informatiche, un tasso, a sua volta, destinto ad accelerare. Le nuove tecnologie sono sempre e solo a disposizione dei ricchi, agli inizi, ma in quella fase iniziale, in realtà, non funzionano ancora molto bene. Nella fase seguente, sono ancora costose e funzionano un po' meglio. Poi cominciano a funzionare abbastanza bene e sono economiche. Alla fine, sono quasi gratuite. I telefoni cellulari si trovano ormai nella fase in cui sono economici. Ci sono paesi asiatici in cui la maggior parte della popolazione lavorava ancora la terra solo quindici anni fa, ma oggi hanno prospere economie terziarie e la maggior parte della gente ha un telefono cellulare. Oggi, questa progressione da tecnologie costose che non funzionano ancora bene a tecnologie raffinate e poco costose, dura circa dieci anni. Ma anche questo processo è destinato ad accelerare. Fra dieci anni, l'intero processo richiederà cinque anni e fra vent'anni ne richiederà soltanto due o tre.
Questo scenario è applicabile non solo ai dispositivi elettronici, ma a qualunque prodotto abbia a che fare con l'informatica e ciò arriverà ad includere tutto ciò a cui diamo un valore, compresi tutti i prodotti industriali. In biologia, siamo passati da un costo di dieci dollari per la "lettura" di un singola coppia di basi di DNA nel 1990, a circa ad un centesimo di dollaro al giorno d'oggi. I medicinali antivirali usati contro l'AIDS costavano decine di migliaia di dollari per paziente all'anno, agli inizi, e non erano particolarmente efficaci, mentre oggi costano circa cento dollari per paziente all'anno, nei paesi poveri, e sono efficaci. Cento dollari è ancora più di quanto vorremmo, ma la tecnologia sta chiaramente andando nella direzione giusta.Così, il "digital divide" e il divario fra paesi ricchi e paesi poveri si stanno riducendo. Alla fine, chiunque avrà a propria disposizione enormi ricchezze.
I problemi come le guerre, l'intolleranza, la degradazione ambientale… non ci impediranno di raggiungere la singolarità?
Abbiamo avuto non poche guerre nel ventesimo secolo. Cinquanta milioni di persone sono morte solo nella seconda guerra mondiale. Inoltre abbiamo avuto molta intolleranza, relativamente poca democrazia fin verso la fine del secolo, e molta degradazione ambientale. Tutti questi problemi non hanno avuto effetto sulla legge del Ritorno Accelerato. Lo sviluppo esponenziale delle tecnologie dell'informazione ha continuato uniformemente sia in periodi di guerra che di pace, durante le depressioni economiche e durante i periodi di prosperità.
Le tecnologie che emergeranno nel ventunesimo secolo tendono ad essere decentralizzate e ad avere un impatto ambientale relativo. Quando le nanotecnologie matureranno, inoltre, potremo riparare i danni causati all'ambiente dalle grezze tecnologie impiegati agli inizi del processo di industrializzazione.
Ma non ci saranno obiezioni da parte dei leader politici e religiosi, per non parlare di quelle della gente comune, a tali radicali trasformazioni dell'umanità?
Anche l'introduzione dell'aratro ha sicuramente attirato delle obiezioni, ma esse non ne hanno ostacolato l'adozione. Lo stesso dicasi per ogni nuovo sviluppo tecnologico. Le tecnologie devono dimostrare il proprio valore. Per ogni tecnologia che è adottata, molte sono scartate. Ogni tecnologia deve dimostrare di soddisfare le esigenze dei propri utilizzatori. Il telefonino, per esempio, soddisfa la nostra necessità di comunicare. Non raggiungeremo la singolarità in un singolo, enorme, balzo in avanti, ma tramite molti piccoli passi, ognuno apparentemente benigno e di modesta portata.
Ma cosa mi dici delle polemiche sulle cellule staminali, per esempio? L'opposizione governativa sta certamente rallentando il progresso in quel campo.
Io sostengo la ricerca nel settore delle cellule staminali, ma non mi sembra che il settore abbia subìto un significativo rallentamento. Semmai, le polemiche hanno incoraggiato la ricerca di metodi creativi per il raggiungimento di quello che è l'ideale in questo campo, la transdifferenziazione, cioè la creazione di nuove cellule differenziate direttamente dalle nostre stesse cellule - per esempio, convertendo le cellule della pelle in cellule cardiache o in cellule del pancreas. La transdifferenziazione è già stata dimostrata in laboratorio. Le obiezioni come quelle espresse contro la ricerca sulle cellule staminali altro non sono che massi in un ruscello: il flusso del progresso gli gira semplicemente intorno.
C'è posto per Dio nella singolarità?
Anche se diverse tradizioni religiose hanno concezioni in qualche modo diverse del concetto di Dio, il comun denominatore è che Dio rappresenta un infinito livello di intelligenza, di conoscenza, di creatività, di bellezza e di amore. Nell'evoluzione biologica e tecnologica di un sistema, notiamo una crescita di complessità, intelligenza e informazione. Un sistema diviene quindi più complicato, più bello, più capace di provare emozioni quale l'amore. Così tale sistema si sviluppa esponenzialmente in intelligenza, conoscenza, creatività, bellezza e amore, tutte le qualità tipiche di Dio. Anche se l'evoluzione non raggiunge un livello letteralmente infinito di questi attributi, essa però accelera verso livelli sempre più alti. Possiamo quindi interpretare l'evoluzione come un processo spirituale, teso verso questo ideale. La singolarità rappresenterà un'esplosione di questi alti valori di complessità.
Così potremmo dire che stai giocando ad essere Dio?
In realtà, sto solo giocando ad essere umano. Sto solo cercando di fare quello che gli esseri umani sanno fare, cioè risolvere problemi.
Ma saremo ancora umani dopo tutti questi cambiamenti?
Quello dipende dalla tua definizione di "essere umano". Alcuni osservatori definiscono l'essere umano sulla base delle nostre limitazioni. Io preferisco definirlo come la specie che cerca, spesso con successo, di superare i propri limiti.
Molti osservatori fanno notare che la scienza ci ha messo in crisi dimostrando che non siamo tanto importanti quanto credevamo, che le stelle non girano intorno alla terra, che non discendiamo da esseri divini, ma solo da scimmie e, prima ancora, da semplici invertebrati.
Tutto ciò è vero, ma a quanto pare siamo importanti nonostante tutto. La nostra capacità di generare modelli, realtà virtuali nella nostra mente, e i nostri pollici prensili, ci stanno permettendo di espandere i nostri orizzonti al di là di ogni limite.
----
Vedi anche:
Il primo capitolo di La singolarità è vicina: Le sei epoche
---
LETTURE: La singolarità è vicina, su Estropico Blog
La Singolarità Tecnologica, di Vernor Vinge
L'articolo di Vinge che ha introdotto il concetto di Singolarità Tecnologica al grande pubblico: "Entro trent'anni, avremo le tecnologie necessarie a creare intelligenze super-umane. In breve, dopo tale evento, l'era umana sarà terminata. E' possibile evitare tali sviluppi? Se è non possibile evitarli, possiamo allora influenzarli in modo di garantire la nostra sopravvivenza? In questo articolo si considerano tali domande, si offrono alcune possibili risposte e si presentano ulteriori pericoli."
Una introduzione alla Singolarità
Per migliaia di anni, l'organo su cui la civiltà umana si è fondata, il cervello, è rimaso immutato. La mente umana, però, non è l'ultimo capitolo nel libro dell'intelligenza. Un giorno, avremo una tecnologia sufficientemente avanzata da poter incrementare il nostro "hardware" - un evento questo, noto con il termine Singolarità. Il livello di dimestichezza con la futurologia di ogni individuo, influenza il tipo di tecnologia che costui immagina sia necessario per giungere alla Singolarità, nonché le sue stime di quando ciò si avvererà e le sue previsioni dell'impatto che ciò avrà sull'umanità. La tecnologia che il Singularity Institute ritiene essere la favorita è quella che porterà alla creazione di menti sintetiche, basate su computer (Intelligenza Artificiale, Artificial Intelligent o AI). Riteniamo che tali menti artificiali siano sviluppabili velocemente e con un impatto favorevole sull'umanità.
---
Altro materiale di Ray Kurzweil su Estropico:
Viaggio fantastico, di Ray Kurzweil e Terry Grossman M.D.
Capitolo 1. Puoi vivere abbastanza a lungo da vivere per sempre. L'obiettivo di estendere la longevità può essere raggiunto in tre passi, o superando tre "ponti". Questo libro ha lo scopo di servire come guida per vivere sufficientemente a lungo in buona salute fisica e mentale (il primo "ponte" da attraversare) da potersi avvantaggiare del completamento della rivoluzione biotecnologica (il secondo ponte). Questo, a sua volta, ci porterà alla rivoluzione nanotecnologica e della Intelligenza Artificiale, il terzo ponte, l'attraversamento del quale ci permetterà, potenzialmente, di vivere indefinitamente.
I "ponti" a venire, il secondo capitolo di "Fantastic Voyage" di Ray Kurzweil e Terry Grossman
Capitolo 2. I "ponti" a venire - Questo libro descrive tre "ponti":
1. Il primo ponte è il nostro programma per la longevità. Esso consiste di terapie oggi disponibili che vi permetteranno di rimanere in buona salute sufficientemente a lungo da poter trarre il massimo vantaggio dal secondo ponte, una volta costruito.
2. Il secondo ponte è la rivoluzione biotecnologica. Svelando i misteri di proteine e geni, stiamo accumulando i mezzi che ci permetteranno di eliminare malattie ed invecchiamento, sviluppando al massimo il nostro potenziale. Questo secondo ponte, a sua volta, condurrà ad un terzo.
3. Il terzo ponte è la rivoluzione nei settori delle nanotecnologie e dell'IA (Intelligenza Artificiale). Questa rivoluzione ci permetterà di ricostruire i nostri corpi e cervelli a livello molecolare. Queste trasformazioni tecnologiche emergenti introdurranno nuovi e potenti strumenti atti ad espandere la nostra salute e le nostre capacità.
L'era delle macchine spirituali, di Ray Kurzweil
Capitolo 1. La tecnologia ha direttamente a che fare con l'accelerazione esponenziale dell'evoluzione. Anche se non è l'unico animale che utilizza utensili, gli Homo Sapiens si distinguono per aver creato la tecnologia. La tecnologia va oltre la semplice modellazione e uso di utensili. Essa implica una registrazione della creazione degli attrezzi e una progressione nella sofisticazione degli utensili. Essa necessita l'invenzione ed è di per sé una continuazione dell'evoluzione in altri termini. Il "codice genetico" del processo evolutivo della tecnologia è la registrazione conservata dalle specie che creano utensili. Proprio come il codice genetico delle prime forme di vita era la stessa composizione chimica degli organismi, così la registrazione scritta dei primi utensili consisteva negli utensili stessi.
Promesse e pericoli: i poli interconnessi della tecnologia del XXI secolo - Una risposta a Bill Joy di Ray Kurzweil
La tecnologia è sempre stata una lama a doppio taglio. Questo è particolarmente vero per la tecnologia moderna, basti considerare le biotecnologie. Abbiamo già ottenuto notevoli benefici come trattamenti più efficaci per l'AIDS, insulina, etc. Nei prossimi anni otterremo ulteriori enormi benefici, come la sconfitta del cancro e di molte altre malattie, nonchè l'estensione della longevità umana, tutti sviluppi positivi (anche se persino alcuni di questi sono controversi per alcuni). Allo stesso tempo è possibile creare, in un qualsiasi laboratorio con le adeguate attrezzature biotecnologiche, un agente patogeno che potrebbe essere più distruttivo di una testata nucleare.