14 ottobre 2010

Intelligenza Artificiale: la superintelligenza porta alla superbenevolenza?


Le Intelligenze Artificiali di domani, dotate di capacita' intellettuali superiori a quelle umane, saranno nostri amici o nostri nemici? Si dimostreranno ostili o benevolenti, nei nostri confronti? Ovviamente, non e' possibile rispondere a questa domanda con certezza (ne abbiamo parlato, recentemente, in questo post e nei relativi commenti). La presentazione nei video qui sotto viene da ECAP 2010 (l'ottava Conference on Computing and Philosophy, recentemente tenutasi a Monaco di Baviera) e secondo i relatori Joshua Fox e Carl Shulman (del Singularity Institute) la "superintelligenza non implica la benevolenza", una prospettiva tutt'altro che allettante, ma non abbandoniamo ogni speranza... Gli autori concludono che la benevolenza, di future I.A. verso gli esseri umani, puo' essere inculcata in esse punendo certi comportamenti e premiandone altri (nel corso del loro sviluppo). Dovrebbe quindi essere possibile fare in modo che tale benevolenza resti parte del patrimonio di un'I.A. "debole" che in seguito si sviluppi in una "forte". Infine, se dei "valori benevolenti" saranno parte intrinseca (built-in) di una I.A., essa li proteggera' (cioe', non li modifichera'). Ma, fanno notare gli autori, se un'I.A. progredira' troppo rapidamente e se tali valori non saranno stati built-in, la superintelligenza, di per se', non garantira' la sua benevolenza nei nostri confronti. Hat-tip a Accelerating Future.




2 commenti:

Anonimo ha detto...

Si evolveranno (alla faccia dei nostri tentativi di benevolenza built-in) e ci stermineranno. E' così che funziona. Il forte vince il debole muore.

Spesso mi chiedo come possano i longevisti essere anche dei promotori delle superintelligenze. Sono davvero così ingenui da credere che le superintelligenze saranno dei docili cagnolini al servizio delle loro necessità? Mah...

Jacopo Tagliabue ha detto...

ECAP 2010... we were there :)

http://www.ilabs.it/galleria/demos/galleria4.asp