16 giugno 2009

Singolarità e Mind Upload: potrebbero non realizzarsi mai!

Ricordo ai lettori inesperti che la Singolarità Tecnologica, attesa per il 2030/35, è definita come il primo "computer pensante e autocosciente" della storia, ovvero una Intelligenza Artificiale di tipo "forte", in grado non solo di competere ma di surclassare il cervello umano in tutte le sue funzioni e di rivoluzionare l'era tecnologica accelerandola esponenzialmente, oppure (per i catastrofisti) di estinguere la razza umana per sostituire ad essa un mondo di automi super-intelligenti. Il Mind Upload è invece la possibilità di riversare i contenuti di un cervello umano in un elaboratore elettronico in modo da svincolare la mente da un corpo fisico organico perituro.

Ad affermare che la Singolarità non è realizzabile non è ovviamente l'autore di questo post ma Roger Penrose, grande fisico ed eccelso matematico della università di Oxford il quale, fra l'altro ha scritto insieme a Hawkink il best-seller: "La natura dello spazio e del tempo". Penrose va oltre quello che è il problema della emulazione della mente umana in un computer esposto da John Searle, il matematico inglese nel suo libro "La mente nuova dell'imperatore" afferma che la coscienza è una entità "non algoritmica" e che essa non sarebbe emulabile da un computer, potente che voglia essere. A sostegno di questa ipotesi esso riporta tre esempi:

(1) Il teorema di incompletezza di Gödel. Tale teorema può essere utilizzato per dimostrare che l'intuizione matematica di cui si servono i matematici per ideare i loro teoremi è una capacità non algoritmica (e quindi non simulabile dalla computazione). Infatti, qualsiasi proceduta algoritmica un matematico usi per giungere a una verità matematica, ci saranno inevitabilmente delle proposizioni matematiche che la sua procedura non sarà in grado di risolvere. Ipotizzando che la mente del matematico funzioni in modo interamente algoritmico, l'insieme degli algoritmi da lui utilizzati non gli permetterebbe di giudicare la validità del sistema usato e quindi dei risultati raggiunti.

(2) Il fenomeno dell'arresto computazionale: Un computer, anche potentissimo sarebbe sicuramente riconducibile ad una Macchina di Turing universale e questa, posta di fronte a particolari compiti da svolgere, essendo essa un sistema puramente computazionale, non è in grado di arrestarsi e prosegue indefinitamente la propria attività. Un esempio sta nel semplice algoritmo che domanda se esista un numero dispari che sia la somma di due numeri pari. Un essere umano riesce abbastanza facilmente a giungere alla soluzione, e cioè che non si può mai ottenere un numero dispari dalla somma di due o più numeri pari. Ma come perveniamo a questa conclusione? Non certo effettuando tutti i possibili calcoli, dal momento che essi sono infiniti, bensì ricorrendo alle nostre facoltà intuitive (la nostra coscienza), che ci consentono in qualche modo di "vedere" la verità senza utilizzare procedure algoritmiche. Un computer programmato in funzione di tale compito, invece, continuerebbe ad eseguire operazioni di somma per un tempo illimitato, sulla base degli algoritmi forniti, perché non saprebbe quando fermarsi.

(3) La non computabilità della coscienza: secondo Penrose, la comprensione matematica (che poi non è altro che un caso particolare della più generale capacità di comprensione della mente umana) non è in alcun modo sovrapponibile a un processo puramente computazionale, basato sull'esecuzione di algoritmi. Lo stesso si può dire della coscienza, della creatività e anche della volontà, che presuppongono attività che non hanno nulla a che vedere con la computazione. I fenomeni che hanno luogo all'interno dei neuroni cerebrali rispondono a leggi ben definite e sono quindi assimilabili a processi computazionali. Pertanto essi non possono essere utilizzati per giungere a una spiegazione adeguata dei fenomeni mentali. Neppure la fisica quantistica ci è di molto aiuto, in quanto aggiunge al determinismo della fisica ordinaria una componente di casualità che si pone al di fuori di ogni possibilità di controllo. Ma allora come si spiega il fenomeno della "coscienza"? Questo nostro "supervisore mentale" che ci consente la facoltà di "intuizione"? Penrose ritiene che sia necessaria una nuova teoria fisica prima di compiere autentici progressi nella spiegazione del fenomeno: "Perché la fisica sia in grado di contenere qualcosa di così estraneo al presente quadro scientifico come il fenomeno della coscienza, ci dobbiamo attendere un mutamento profondo - che alteri le fondamenta stesse delle nostre opinioni filosofiche sulla natura della realtà". Il candidato più probabile per produrre il cambiamento auspicato sembrerebbe essere una teoria quantistica della gravità, ancora da scoprire, che potrebbe gettare nuova luce su fenomeni come la coerenza quantistica o la non località. Detti fenomeni potrebbero essere implicati in comportamenti non computabili che interesserebbero i microtuboli, strutture interne dei neuroni, capaci di favorire le particolari condizioni richieste per il verificarsi di questo tipo di fenomeni.

A parere di Penrose, l'evento cosciente nell'uomo, il passaggio cioè dallo stato di pre-coscienza allo stato di coscienza, avviene al raggiungimento da parte dei tubuli dello stato di massima "eccitazione coerente". Come gli elettroni nella superconduttività (i quali muovendosi all'unisono permettono alla corrente di fluire senza ostacoli) così la globalizzazione della coerenza tra i tubuli cerebrali permette il verificarsi del processo cognitivo. Il tempo di transizione dalla fase pre-cosciente alla fase cosciente con la conseguente attivazione del segnale motore che consente ad esempio di muovere un braccio, dura circa mezzo secondo. Il susseguirsi delle transizioni dal livello minimo al livello massimo di coerenza dei tubuli, costituisce il "corso della coscienza" ; lo scorrere del tempo. I fenomeni di coerenza quantistica oltre a spiegare razionalmente le dinamiche dei processi cognitivi, darebbero conto anche di quello che Penrose chiama "Senso Unitario" della mente. Il processo cosciente non può mai essere frutto dell'attivazione di una singola area del cervello ma deve scaturire dalla azione concertata in un gran numero di zone della mente. L'oscillazione coerente dei tubuli, la quale interessa la maggior parte del cervello, provvederebbe egregiamente a quel collegamento globale essenziale per l'estrinsecazione dell'atto mentale.

La conseguenza dell'applicazione della coerenza quantistica alla mente, è che i processi cerebrali non potranno mai essere pienamente simulati da un calcolatore. Infatti, un computer per quanto evoluto possa essere, deve pur sempre ragionare seguendo una logica deterministica e formale, ad ogni azione deve sempre corrispondere una reazione. Uno più uno deve sempre dare due. La coerenza quantistica alla base dei processi cerebrali invece, dovendo sottostare alle leggi della Meccanica Quantistica (le quali prevedono che qualsiasi sistema a loro soggetto debba sempre manifestare un certo grado di indeterminazione, di imprevedibilità), sfugge a questa logica. In altre parole l'aumento del grado di coerenza dei tubuli che deve condurre dallo stato di pre-coscienza allo stato di coscienza, può, seppur con probabilità molto bassa, fermarsi o accelerare spontaneamente, con tutte le conseguenze che ne derivano.

Pensavo quindi, come mai Ray Kurzweil e Vernor Vinge (l'ideatore del termine Singolarità Tecnologica") non tengono conto di queste idee? Invece Vinge ne tiene conto e come! Questo suo post: What If the Singularity Does NOT Happen? sul sito Kurzweil A.I. si getta nella definizione di un possibile futuro per l'umanità ipotizzando che la singolarità non appaia mai. Vinge esplora le conseguenze di un mondo futuro in cui la Singolarità Tecnologica non è mai venuta alla luce e delinea 3 ipotesi di sviluppo. Alle ipotesi di Vinge io aggiungo queste:

(A) - "L'aumento della capacità di calcolo che si avrà nei prossimi anni potrebbe non essere sfruttata poichè a realizzare il software sarebbe sempre un "limitato" cervello umano il quale non potrebbe andare oltre i suoi limiti di complessità nel generare codice di programma per la macchina-computer. E tale macchina non sarebbe in grado di autoprogrammarsi e migliorare tale codice, quindi si rientra in un circolo vizioso.

(B) - "All'aumentare della complessità circuitale della macchina-computer, strettamente necessaria per aumentare le sue prestazioni computazionali, aumenterebbe di conseguenza il numero dei guasti imprevisti che il codice di programma incontra nel seguire vie sempre più tortuose tra le pipeline e i circuiti di pre-caching dei numerosi processori paralleli. Si deve tenere conto che gli attuali processori 'emulano' un codice macchina (x86 a 32 bit) molto inefficiente e che sarebbe indispensabile cambiare. Ma Intel non riesce a farlo (vedi il fallimento del progetto Itanium) non tanto perchè si perderebbe la compatibilità all'indietro ma per l'estrema complessità progettuale."

Mi scuso per la lunghezza del post ma l'argomento era troppo importante.

Ugo Spezza

11 commenti:

Estropico ha detto...

Innanzitutto confesso la mia ignoranza per quanto riguarda la fisica dei quanti. D'altra parte e' stato detto che quando uno dice di capirla si illude... Ad ogni modo mi chiedo se gli effetti quantici abbiano o meno un impatto al livello "normale" o non-quantico.

Inoltre, Ugo scrive che "la conseguenza dell'applicazione della coerenza quantistica alla mente, è che i processi cerebrali non potranno mai essere pienamente simulati da un calcolatore." E se fosse un calcolatore quantico?

Segnalo anche una mia vecchia risposta alle obiezioni di Searle (la sua famosa "stanza cinese"):
http://estropico.blogspot.com/2007/10/stanze-cinesi-e-intelligenze.html

E per finire, segnalo un mio articoletto di qualche tempo fa, nella stessa vena di quello di Ugo:
Cinque ostacoli alla singolarita' tecnologica
http://estropico.blogspot.com/2008/04/cinque-ostacoli-alla-singolarita.html

Ciao,
Fabio

Cesare ha detto...

Ottimo post! L' argomento e' davvero importante. Anche a me l' assunto kurzweiliano del "capiamo come interagiscono i neuroni e poi ne scriviamo l' emulazione software" ha sempre lasciato molto scettico. Ancora non abbiamo la piu' pallida idea di come curare il raffreddore, figuriamoci cosa potremo simulare della coerenza dei tubuli cerebrali! Intendo sopratutto relativamente alle tempistiche - che la cosa avvenga tra 1000 0 10.000 anni non credo sia di immediato interesse per i piu'.

Ne approfitto per indicare una questione metodologica: se vogliamo dare al transumanesimo una vera credibilita' e' basilare che vengano anche messe in luce tesi meno ottimistiche sui modi/tempi/successi del progresso tecnico-scientifico. Noto che la stragrande maggioranza dei siti transumanisti danno per scontate certe evoluzioni tecnologiche le cui fondamenta non solo non esistono ancora, ma non si sa nemmeno come impostare. E su queste fragilissime basi teoriche, giu' a fare scenario planning davvero inconsistenti. A quel punto la distanza da un romanzo di fantascienza e' minima, se non nulla. Vero e' che in la nostra materia e' per sua natura piu' vicina alla filosofia e lascia spazio alla speculazione piu' ampia possibile. Pero' credo che abbia allora poco senso parlare di quantistica, termodinamica e svariate leggi fisiche quando l' approccio generale e' poi appunto poco scientifico.

Franco Fiori ha detto...

Molto interessante.
Comunque anche uno sviluppo della computazione fino ad un livello di potenza sufficiente a mettere un supercomputer dentro un PC da 1000 euro sarebbe sufficiente su larga scala, insieme alle nanotecnologie, a costruire una società ipertecnologica molto confortevole se non proprio transumana e singolaritariana.

Inoltre non è detto che i robot debbano essere solo dei calcolatori molto potenti, potrebbero essere più simili a esseri umani artificiali, cioè composti da qualcosa tipo le cellule e i neuroni, con tanto di microtubuli penrosiani. Pero' magari sarebbero più forti, indistruttibili, più veloci e più precisi etc.

Estropico ha detto...

A proposito di scetticismo circa la prospettiva di una singolarita' tecnologica, segnalo che c'e' anche un blog completamente dedicato a questo:
http://antisingularity.wordpress.com/
Ciao,
Fabio

David ha detto...

Complimenti per l’articolo che inserisce nel dibattito transumanista italiano una critica di livello scientifico, e proprio per questo meritevole di attenzione, alla Singolarità.

Roger Penrose è un grande scienziato e le sue critiche alla possibilità di un'emulazione della coscienza da parte di un computer vanno prese in seria considerazione.
Ora Penrose afferma che la "coscienza è una entità non algoritmica" e in questo ritengo abbia ragione tuttavia ciò non implica necessariamente che un calcolatore di nessun tipo possa mai simulare i processi cerebrali. Nell'articolo si pone la questione che è poi alla base di tutto il discorso: come si spiega il fenomeno della "coscienza"?

Sicuramente la fisica quantistica ci aiuterà a comprendere meglio il fenomeno della "coscienza" ma attualmente la nuova scienza contemporanea ha già aperto scenari inediti che rendono quanto meno probabili le teorie di Kurzweil e Vinge, mi riferisco a quel campo di studi chiamato “scienza della complessità”.
Secondo lo stesso Vinge la Singolarità potrebbe nascere da grandi reti di computer e dai loro utenti - una sorta di futura versione del web semantico - "svegliandosi" nella forma di un'entità super-intelligente distribuita o di una comunità di menti.

Secondo la teoria della complessità ormai accreditata da numerosi e autorevoli scienziati, la coscienza e più in generale la mente sono proprietà emergenti da fenomeni di autorganizzazione. Miliardi di neuroni, collegamenti cerebrali e nervosi si sono uniti nel corso evoltivo a formare un nuovo e straordinario livello gerarchico: la coscienza. Nel caso della mente umana l’interazione di innumerevoli elementi "stupidi" (perché un singolo neurone non fa il cervello) ha creato un sistema integrato dotato di intelligenza (tale teoria è descritta anche nel libro La Società della Mente del guru dell'IA Marvin Minsky) e autocosciente.
Il cervello umano potrebbe quindi costituire il modello a cui ispirarsi per costruire una macchina capace di operazioni del tutto simili a quelle umane se si adotta una diversa architettura dei calcolatori, un'inizio in tal senso sono i cosiddetti "computer paralleli" o reti neurali, e in futuro forse "biocomputer" che sfruttando le conoscenze della biologia molecolare, avrebbero cellule o aggregati di proteine al posto di circuiti integrati…
(continua sotto)

David ha detto...

Lo scenario appunto previsto da Vinge di una mente artificiale distribuita su scala mondiale riprodurrebbe in modo simile e in ambito artificiale quella caratteristica emergente del cervello che è la coscienza. Solo con lo sviluppo quindi di sistemi artificiali non lineari (come è il cervello umano) potremo superare gli ostacoli presentati da Penrose soprattutto quello riguardante "Il fenomeno dell'arresto computazionale".
Nell'ottica della complessità il modello a cui riferirsi sono i sistemi biologici come il cervello umano, l'integrazione non lineare tra sistemi collegati in rete determinerà l'emergenza di "qualcosa di nuovo", questo salto tecnologico sarà la Singolarità.

Di conseguenza quando si afferma che: "un computer per quanto evoluto possa essere, deve pur sempre ragionare seguendo una logica deterministica e formale", ciò vale solo per l'architettura dei computer attuali ma non per la tecnologia del futuro che sarà molto più complessa dell’attuale ricreando così qualcosa di molto simile all’evoluzione naturale. Ancora siamo a uno stadio molto primitivo ma continuando a ispirarci alla biologia (vedi ad es: automi cellulari, vita artificiale, calcolo parallelo…) arriveremo a un nuovo stadio che potrebbe manifestare proprietà come la coscienza. La vera incognita è se questa nuova intelligenza sarà gestibile oppure sfuggirà al nostro controllo, ma questo è ovviamente un altro discorso…
Basterebbe poi aspettare l'evoluzione dei cosiddetti computer quantici per vedere una rivoluzione nel settore dell'IA: http://it.wikipedia.org/wiki/Computer_quantistico

In conclusione, non va sottovalutato il potenziale dei sistemi complessi, gli esempi di vita e di mente che conosciamo (e cioè la vita basata sul carbonio e la mente basata sul cervello) non sono le uniche alternative possibili. Altri substrati (magari ibridi tra biologia e artificiale) potranno far emergere fenomeni riconducibili a quella che noi esseri umani chiamiamo "coscienza" se risponderanno a requisiti quali: evoluzione, adattamento, non linearità tutte caratteristiche queste che ritroviamo nel cervello umano. Finchè non adotteremo l’approccio dei sistemi complessi, che ci fornisce la migliore teoria della mente tra quelle che disponiamo, allora le critiche di Penrose avranno facile gioco. Una macchina pensante è *teoricamente* possibile nell’ottica della scienza della complessità (anche se non sappiamo bene quando nascerà), tale macchina potrebbe non solo simulare una mente ma essere una mente! Come dice Minsky: “ Per quanto ne sappiamo, la nostra mente è semplicemente un sistema complesso. Il problema serio deriva dal fatto che abbiamo così poca esperienza con macchine di tale complessità, che non siamo ancora preparati a pensare ad esse in modo efficace”.

Sull'emergentismo: http://it.wikipedia.org/wiki/Emergenza

http://mondodomani.org/dialegesthai/mdb03.htm

David

Cesare ha detto...

David, condivido la tua posizione. Pero' come dici tu siamo ancora ad uno "stadio molto primitivo", nemmeno embrionale; e credere alle tempistiche previste da Kurtzweil, o altre spostate avanti di pochi anni/decenni, mi risulta difficile.

Ripeto, la speculazione su questi argomenti ci sta tutta, poiche' un bel giorno (lontano) ci si avvicinera' a questi scenari. Se pero' quel giorno fosse avanti di millenni, non dico che la cosa perda il suo fascino, anzi il concetto rimane comunque straordinario. ma in questo caso la cosa risulta a me (che non sono un filosofo) molto meno "stuzzicante" e dunque mi sembra forse eccessiva una speculazione quotidina su scenari che, ad oggi, lambiscono ancora il territorio della fantascienza.

Con cio' non voglio attaccare interamente il movimento transumansita, di cui anzi mi sento un vivace partecipe: infatti come detto anche da Franco un potenziamento esponenziale di calcolatori basati sul paradigma di funzionamento attuale potrebbe gia' comunque portare (insieme a nanotecnologie, biotecnologie, ecc) a cambiamenti rilevantissimi nella realta' che oggi conosociamo.

Insomma, vedo l' emulazione completa del cervello (e conseguente possibilta' di upload, e conseguente raggiungimento di un' "immortalita'") come uno dei fini ultimi di tutto cio' che riguarda il transumanesimo. Prima di quello si verificheranno probabilmente tutta una serie di step intermedi, ma di notevolissima portata. Ma dubito fortemente che il tutto si svolgera' nell' arco di 30/40 anni. Credo invece ce ne vorrano 300 0 400, o ancor piu', chi puo' dirlo..

Roberto ha detto...

Occorre precisare che c'è chi ha fortemente criticato l'approccio di Penrose, soprattutto i matematici che si occupano di logica - vedi Odifreddi - accusandolo di non aver ben compreso il senso del teorema di Godel, e del resto la sua 'spiegazione' di come il cervello umano possa aggirarlo non è molto rigorosa; paradossalmente Hofstadter lo ritiene un argomento a favore dell'IA forte.
Va anche detto che recenti ricerche hanno definitivamente smentito la possibilità che nei microtubuli possano verificarsi fenomeni di coerenza quantistica, che tra l'altro dovrebbero avvenire a temperatura ambiente, cosa poco probabile.
Che poi fenomeni quantistici possano comunque avere un ruolo nei processi cerebrali non è escluso, ma questo vale anche per i computer 'classici', basti dire che lo stesso funzionamento dei transistor è basato su di un fenomeno quantistico.

futurguerra ha detto...

Sia ben chiaro: in punta di piedi, come un bambino sulla luna, mi permetto un breve commento, lo si prenda solo come un contributo poetico. (L'argomento presuppone come da tutti sottolineato competenze che mi sono estranee). Però, mai dire mai (per dirla con 0007- chissà forse si scoprirà altro rispetto al 01 binario..- sull'esito positivo alla lunga dell'A.I forte eccetera. Forse anzichè immaginare un'emulazione del cervello o la mente umana, sarà possibile un'Intelligenza Artificiale differente... una mente artificiale diversa dalla nostra ma intelligente. Neppure credo sia originale questo microcontributo "alternativo".

Ugo Spezza ha detto...

Sono veramente meravigliato dall'incredibile sensazione che ha suscitato questo post e ringrazio tutti per i notevoli ed intelligenti contributi.

Probabilmente è accaduto perchè questo breve scritto va "al cuore del problema" e penso pertanto di mettere nero su bianco un articolo sull'argomento con i contributi di Fabio, David e le info online che dovessi trovare pro e contro le teorie enunciate. Questo proprio per tentar di giustificare o (speriamo) di confutare lo scetticismo di Cesare quando parla giustamente di "territori che lambiscono la fantascienza"

Anonimo ha detto...

Anch'io sono meravigliato della vitalità e dalla "civiltà" di questo post.
Non sempre è così: quasi dappertutto criticare l'iperottimismo di Kurzweil, Vinge, Minsky o Moravec significa farsi affibbiare minimo minimo del "luddista" o "neo-luddista"; fra l'altro anche a persone che hanno pesantemente veicolato le idee transumaniste e/o singolaritiane, come Charlie Stross ad esempio, pesantemente attaccato perchè sul suo blog scrisse: "The Singularity? Forget it ...".
E' vera una cosa: il movimento transumanista è giovane, nuovo e con idee profondamente rivoluzionarie, quindi viene visto come ostile e pericoloso e perciò deve difendersi in maniera anche aggressiva. Quando però si inizia a parlare sul serio (se si vuole VERAMENTE dialogare) occorre ricordare che l'estremismo (anche dei toni) è una malattia infantile di tutti i movimenti: occorre crescere, superarla ed immunizzarsi.
Altrimenti si rischia di restare circoscritti ad una nicchia di "duri e puri" con poche possibilità di incidere sull'intero palcoscenico storico e culturale

Alessandro