30 settembre 2010

La terza guerra mondiale: Cosmisti contro Terrestri?

E' questo il futuro? O la situazione sara' rovesciata, con le Macchine nel ruolo di carnefici e gli esseri umani in quello di vittime? O gli scenari si sovrapporranno? O forse nessuno dei due si realizzera'? Beh, "e' difficile fare previsioni, soprattutto sul futuro..." per citare un famoso detto che pensavo fosse di Niels Bohr, ma la cui paternita' sembra essere tutt'altro che chiara. Qualunque siano le nostre speranze, o paure, su questo tema, sospetto che le conclusioni a cui giungeremo saranno influenzate dal nostro adottare o respingere una serie di ideologie oggi ancora in embrione: saremo Cosmisti, Cyborgs, o Terrans (come potrei tradurlo? Terrestri?) Questi i termini creati da Hugo de Garis nel suo Artilect War, del quale, qui, troverete un estratto/riassunto del quale traduco liberamente l'abstract:

Questo articolo sostiene che la questione di quale specie sara' dominante, dominera' la politica globale nel 21mo secolo. L'umanita' sara' profondamente divisa sull'opportunita', o meno, di costruire macchine enormemente intelligenti e paragonabili a dei chiamate "artiletti" (intelletti artificiali). Questi, grazie alle tecnologie di allora, avranno quozienti di intelligenza trilioni di volte superiori a quelli umani. L'umanita' sara' divisa in tre campi principali: i Cosmisti (favorevoli alla costruzione degli artiletti), i Terrans (contrari) e i Cyborg (favorevoli alla costruzione degli artiletti e il cui obiettivo e' divenire artiletti loro stessi, tramite il potenziamento tecnologico del proprio cervello). Una "guerra mondiale degli artiletti" fra Cosmisti e Terrans, nel tardo 21mo secolo, uccidera' non milioni, ma miliardi di persone.
E' interessante notare una fondamentale differenza fra quanto sostenuto da de Garis e quanto temuto anche dai piu' entusiasti sostenitori della creazione di "artiletti", come per esempio il Singularity Institute. Quest'ultimi (sicuramente Cosmisti o Cyborg, per de Garis) temono anch'essi la creazione di un'intelligenza artificiale ostile e puntano tutto sulla creazione di un Friendly A.I. allo scopo di evitare di essere abbandonati, o sterminati, dalle proprie creazioni. La possibilita' del genocidio, da parte di un-friendly A.I. e' quindi tutt'altro che ignorata dai Cosmisti gia' fra noi. Ma nello scenario di de Garis la prossima guerra mondiale non sara' scatenata da Intelligenze Artificiali, ma da opposte fazioni umane. Specificamente, de Garis immagina che i Terrans prepareranno un attacco preventivo allo scopo di fermare la creazione di un artiletto super-"umano" da parte dei Cosmisti, o che i Cosmisti lanceranno un proprio un contro-attacco preventivo.

A questo punto non posso non includere un grafico decisamente inquietante, per quanto puramente speculativo (e trovato su un blog decisamente dalla parte dei Terrans). Potremmo descriverlo come una specie di macabro parallelo dei famosi grafici di Ray Kurzweil sullo sviluppo esponenziale delle tecnologie (qui qualche esempio) ed elaborato da de Garis nel tentativo di misurare l'impatto di questa terza guerra mondiale tra fautori dell'Intelligenza Artificiale (Cosmisti/Cyborg) e Terrans (neoluddisti?)

Certo, le estropolazioni vanno sempre cum grano salis, ma se siamo disposti a prendere in seria considerazione quelle di Kurzweil, forse faremmo bene a non trascurare quelle di de Garis...

Verso la fine del paper di de Garis troviamo un link al video di un programma della BBC (Human 2.0) nel quale le previsioni di Ray Kurzweil e dello stesso de Garis sono messe a confronto diretto. Kurzweil assume il ruolo dell'ottimista schierato dalla parte dei Cosmisti/Cyborg, mentre la posizione di de Garis e' ambivalente, ma tendenzialmente pessimistica.

E tu, da che parte stai? Oggi come oggi, tutto cio' potra' sembrarti irrilevante. Ma solo fra dieci o vent'anni la situazione potrebbe esser diversa...

2 commenti:

David ha detto...

Interessante scenario, certamente molto credibile e da non sottovalutare.

Innanzitutto anch'io penso che non saranno le IA di tipo forte a scatenare la guerra contro gli umani, anche perchè condivido quello che disse una volta il grande Arthur C. Clarke a proposito di IA malevoli e ostili:

"L'idea popolare, promulgata dai fumetti e dalle forme più eco-
nomiche di fantascienza, che macchine intelligenti devono evolvere
verso entità malevole ed ostili all'uomo, è talmente assurda che
non vale neanche la pena di sprecare tempo per contestarla. Sono
quasi tentato di affermare che solo macchine non-intelligenti pos-
sano essere aggressive. . . Coloro che immaginano macchine come
nemici aggressivi stanno semplicemente proiettando la propria
aggressività. Maggiore è il livello d'intelligenza e maggiore sarà
il livello di cooperazione. Se dovessimo arrivare ad una guerra
tra uomini e macchine, è facile intuire quale parte la inizierà".

Quindi lo scenario di guerra presentato da de Garis lo ritengo molto probabile anche se non esente da punti poco credibili. presumibilnente non tutti i Terrans si sentiranno minacciati dai cyborg e magari vorranno trovare un modo per coesistere in modo pacifico...
Non c'è dubbio che però avremo frange estermiste e neoluddite sempre più potenti che potrebbero agire in due modi:

1) Senza l'uso massiccio di tecnologia avanzata non ci sarebbe da parte degli umani non-potenziati e neoluddisti (anche se in maggior numero) la capacità di sostenere una eventuale guerra frontale contro umani potenziati... Quindi i neoluddisti potrebbero adottare la strategia più insidiosa e meno visibile ma forse più incisiva di una guerra terroristica che svilirebbe poco a poco le capacità e la forza difensiva dei cyborg... Tuttavia il paradosso ironico è che anche azioni terroristiche multiple a livello globale da parte di neoluddisti dovrebbero essere condotte con una qualche forma di tecnologia avanzata...

2) Pressioni e infiltrazioni in governi che potrebbero limitare drasticamente l'uso di tecnologie di potenziamento e rendere illegali li realizzazioni di IA di tipo forte. Anche qui una strategia molto insidiosa e però altrettanto efficace se dovesse essere applicata con fredda logica da reazionari e totalitaristi.

In ogni caso è ovvio che ognuna delle due parti, cyborg e neoluddisti, si accuserebbero a vicenda di essere per una limitazione della libertà umana. I neoluddisti accuseranno i cyborg di stare distruggendo la libertà umana con la tecnologia, e invece i cyborg accuseranno i neoluddisti di voler limitare la libertà umana di potenziamento.... Potrebbe essere questa la scintilla di una lunga guerra terroristica?

In conclusione è razionale rimanere ottimisti con la volontà e pessimisti con l'intelligenza, il destino è nelle mani di tutti noi e nulla nella storia è inelluttabile, ricordiamoci infatti che il modo migliore di prevedere il futuro è crearlo.

David

Estropico ha detto...

Molto interessante David, ma personalmente l'idea di Asimov non mi convince. Che le macchine intelligenti saranno benevole in quanto piu' intelligenti di noi mi sembra solo una battuta - divertente, ma non necessariamente corretta. Esiste un algoritmo della benevolenza? Esiste il suo contrario? La risposta e' nascosta nei network neurali del nostro cervello e prima o poi e' probabile che sara' trovata. A quel punto l'ovvio passo successivo sarebbe di assicurarsi che le IA di livello umano o superiore siano dotate dell'algoritmo giusto...