2 dicembre 2013

Cari robot, non dateci ordini. La carta dei diritti e dei doveri robotici della UE (2)

"Cosa ne penso di queste linee guida?! Te lo dico io cosa ne penso...!"

Torno ad occuparmi della gia' segnalata bozza di linee guida sottoposta alla UE per la regolamentazione del settore della robotica. I miei commenti sono in corsivo, ma se siete di corsa ecco cosa ne penso in nuce: cestinare il tutto e ricominciare da capo! Ok, qualcosa si puo' riciclare, ma non molto...

Francamente, non mi sembra nient'altro che una lista di benintenzionate ma utopiche idee e frasi ad effetto le cui logiche conseguenze non sono state ben prese in considerazione. Il tutto condito con una miopia che non sembra vedere oltre settimana prossima - non la qualita' migliore per le linee guida di un settore proiettato nel futuro! Per non parlare della linea guida numero 13...

LE LINEE GUIDA PER LA REGOLAMENTAZIONE DELLA ROBOTICA (con miei commenti in corsivo)

Comincio con la numero 13 perche', se siete lettori abituali, vi fara' rizzare i capelli in testa - e giustamente!

13) Gli esseri umani non potranno mai tramutarsi in robot, né totalmente né in parte. L’utilizzo di protesi robotiche dovrà essere consentito solo per scopi terapeutici.

Avete letto bene! Ricordatevi quel "solo per scopi terapeutici", perche' lo sentirete ancora... E' destinato a diventare il motto dell'emergente movimento anti-transumanista e anti-potenziamento! 

1) I robot servono per svolgere un servizio o un lavoro. Non può esistere robot se non c’è un lavoro o servizio da svolgere.

Perche' no, esattamente? Per fortuna cosa costituisca un lavoro o servizio e' talmente vago da rendere quanto sopra facilmente aggirabile e quindi irrilevante.

2) I servizi compiuti dai robot devono essere rilevanti per la società e/o l’ambiente (salute, inquinamento, disuguaglianze, catastrofi naturali ecc.).

Prego?! E i robot industriali, allora? Fuorilegge?! Mi sembra una di quelle pateticamente ben-intezionate idee che beatamente ignorano la realta' dei fatti...

3) Il robot deve essere sempre un mezzo e mai un fine.

Rieccoci con le frasi vaghe ed altisonanti! Di nuovo: perche' no, esattamente?! E che impatto avrebbe cio' sulla ricerca robotica, per la quale, per definizione, i robot sono il fine? In questo caso spero che la vaghezza di cosa costituisca un fine permetta di ignorare l'assurdita' della regola...

4) I robot devono rispettare le regole degli esseri umani.

Generalmente parlando, d'accordo. Ma in pratica sospetto che potremmo incontrare eccezioni nelle quali quanto sopra non ha senso, in quanto non tiene conto delle inerenti differenze fra esseri umani e robot. 

5) I robot non possono essere programmati per uccidere gli esseri viventi.

Che assurdita'. Ci sono due problemi con questo: 

1) Perche' non dovremmo utilizzare robot nei mattatoi, o per la derattizazione, o invece dei pesticidi in agricoltura? 

2) Il dibatto sull'eticita' dell'uso dei droni militari e' ben noto. E' anche noto che, oggi, il "dito sul grilletto" e' ancora quello di un essere umano. Ma domani? Siamo sicuri di voler lasciare la supremazia militare a qualsiasi potenza decida di delegare le decisioni di vita e di morte ai propri robot militari?

6) Il profitto non deve essere mai posto prima della rilevanza sociale e/o ambientale

Sono senza parole... Chi li dovrebbe progettare e produrre questi robot, allora? Lo Stato? Qualche NGO? Ah, avrei dovuto capirlo subito, vista la stagione: Babbo Natale!!

7) I servizi o lavori svolti dai robot non dovranno diminuire l’occupazione delle persone ma migliorarla.

Questa l'ha commentata perfettamente la blogger del Corriere: "viene da chiedersi: ragionando così i costruttori di carrozze avrebbero impedito l’avvento delle automobili"

8) Un robot deve essere sempre riconosciuto come tale. Non deve mai ingannare le persone, né per le sembianze fisiche, né per le capacità cognitive né per i sentimenti che può comunicare.

Hmmmm... Penso di intuire l'intenzione, ma non cosa si intenda per ingannare le persone per le capacita' cognitive e per i sentimenti che puo' comunicare (la parte sulle sembianze fisiche e' ovvia). Si intende forse che un robot non dovrebbe essere intelligente quanto un essere umano in quanto, altrimenti, potrebbe trarre in inganno qualcuno? Beh, questa sarebbe un'altra zappata sui piedi che ci priverebbe degli imprevedibili progressi potenzialmente realizzabili da intelligenze artificiali di livello umano o "piu' che umano". E la parte sui sentimenti intende forse che si dovrebbe vietare la programmazione di emozioni nel software di futuri robot? Ripeto: "mai" e' un termine problematico... Un giorno potremmo trovare utile utilizzare questa strategia.

9) Se un robot causa un danno per via di un errore la colpa deve essere sempre riconducibile ad un persona: progettista, costruttore, programmatore, assemblatore, manutentore, venditore, proprietario, utilizzatore (il problema sarà riuscire a capire chi).

Esatto: risalire al "colpevole" potrebbe risultare impossibile in alcune circostanze.

10) I robot dovranno essere dotati di una scatola nera da cui sarà possibile risalire alle cause di un mal funzionamento.

Oh, finalmente una buona idea! :-)

11) Se non è possibile risalire ad un colpevole la decisione di utilizzare il robot deve essere condivisa e accettata da tutti.

Questa la commento se qualcuno mi spiega cosa significa, esattamente...

12) L’impossibilità di risalire a uno o più colpevoli non può essere motivo per evitare responsabilità civile o penale.

Anche questa ha bisogno di essere chiarita... Al momento sembra dire: un colpevole non si trova, ma non lasciamo che un dettaglio secondario come questo ci impedisca di fare "giustizia"...

13) Vedi all'inizio - non ditemi che vi siete gia' scordati della famigerata numero 13?!

14) I robot non dovranno essere progettati nell’aspetto e nelle funzioni per riproporre stereotipi sociali (razziali o di genere).

Mmmmm... Non si puo' non condividere quella che e' probabilmente l'intenzione di chi propone tale regola, ma bisogna approfondire. Quali sono le conseguenze inaspettate? Che un robot non potra' sembrare nero, bianco o cinese? Che non potra' essere "maschio" o "femmina"? Nessun problema al contrastare razzismo e sessismo, ma qui si scade nel ridicolo...

15) Le possibilità percettive e di accrescimento derivanti dall’utilizzo di sistemi robotici indossabili o collegabili al sistema nervoso dovrà rispettare la dignità degli individui e comunque mai creare discriminazione o disparità tra gli esseri viventi.

Evitare la discriminazione, certo, ma la disparita'? Sul serio? Hey, il mio amico ha una Porsche e io no, non e' giusto! Bene, allora che "l'utilizzo di automobili non crei disparita' tra gli esseri viventi"... Altro campanello d'allarme: quando qualcuno tira in ballo la dignita' umana, nove volte su dieci vuole impedirti di fare qualcosa di perfettamente dignitoso, ma che a lui non piace... (a proposito di dignita' e postumano: In difesa della dignità postumana, di Nick Bostrom).

16) Gli esseri umani non dovranno mai essere impiegati al servizio dei robot

Mmmm... "Mai"? Temo che l'eternita' sia piu' lunga di quanto gli autori pensino :-) Quanto sopra implica che un robot non potra' mai godere degli stessi diritti di un essere umano. Benissimo, oggi come oggi... Ma una prospettiva eticamente in un futuro scenario in cui le intelligenze artificiali superassero il test di Turing. Perche' precludere l'accesso ai diritti "umani" ad un robot dotato di autocoscienza? E, in quel caso, perche' impedirgli di metter su un'impresa e di assumere esseri umani al proprio servizio?

17) Per quanto intelligenti i robot non potranno mai dare ordini agli esseri umani ma solo consigli.

Anche gli esseri umani non possono dare ordini ad altri esseri umani, a parte una serie di ben definite circostanze. Tornando allo scenario del mio commento alla numero 16, perche' un capitano dell'esercito non dovrebbe poter dare ordini ai propri soldati solo perche' robotico?

18) I robot non potranno mai essere utilizzati per sostituire gli esseri viventi nei legami affettivi. Sono esclusi specifici casi patologici in cui è dimostrato che l’interazione con robot produce effetti benefici, come nel caso della demenza senile o dell’autismo.

Beh, se non altro hanno lasciato la possibilita' dei casi patologici... Ad ogni modo, i legami affettivi fra umani e robot (autocoscienti o meno) sono uno degli scenari futurologici piu' frequentemente pronosticati e che attirano piu' lettori quando i giornali se ne occupano. E alcuni casi gia' esistono. Il che mi fa sospettare che, al di la' di quanto ne pensino gli autori e al di la' di quanto tali legami possano essere salutari, essi sorgeranno...

19) La roboticizzazione di un compito comporta sempre una percentuale di imprevedibilità che determina un certo rischio. Il rischio deve essere sempre espressamente dichiarato e l’utilizzo del robot accettato solo dopo un’attenta valutazione dei costi, benefici e pericoli per gli esseri umani e l’ambiente.

Certo, purche' non si finisca nell'inedia per troppa aderenza a quella lama a doppio taglio che e' il  principio di precauzione...

Insomma, per fortuna queste sono solo una proposta...

2 commenti:

ateo malfidente ha detto...

Mah, io ci sento forte odor d'incenso.

Cosa fa il chierico quando una novità si impone senza il suo preventivo beneplacito? Si mette nella scia e ne propone (e impone a chi può) una propria versione kosher. Le forme specifiche della kosherizzazione possono essere del tutto arbitrarie (malgrado il richiamo alla propria tradizione), l'unico scopo è rinsaldare la propria autorità minacciata.

Stop Killer Robots ha detto...

Assolutamente d'accordo con il punto 5.

Abbiamo già abbastanza umani deficienti che giocano a fare la guerra...

Senza contare che gli animali non umani sono già ora schiavizzati e maltrattati negli allevamenti intensivi senza la minima considerazione per la loro sofferenza e non hanno certo bisogno che aguzzini robotici si affianchino a quelli umani (ricordo il punto 7 della Dichiarazione Transumanista: Sosteniamo il benessere di tutti gli esseri senzienti, compresi gli esseri umani, gli animali non umani, e qualunque altra futura mente artificiale, forme di vita modificate, o altre intelligenze a cui il progresso tecnologico e scientifico possa dar luogo.)

www.stopkillerrobots.org