Tag Archives: LAWS

Non sono mai stato un appassionato di fantascienza, ma ho sempre ritenuto le leggi della robotica di Asimov così ragionevoli, così ovvie, da dare per scontato che il mondo reale le avesse fatte proprie. Ero arrivato al punto di ritenere ovvio che esistesse una legislazione internazionale capace di tradurle in norme cogenti.

Le Tre Leggi di Asimov hanno un qualcosa di profondamente rassicurante. Isaac Asimov le formulò nel 1942: “Un robot non può recare danno a un essere umano”; “Un robot deve obbedire agli ordini umani, salvo che questi contrastino con la prima legge”; “Un robot deve proteggere la propria esistenza, salvo che questo contrasti con le prime due”. Semplici, eleganti, apparentemente infallibili. A queste, anni dopo, Asimov aggiunse una “Legge Zero”: “Un robot non può recare danno all’umanità nel suo insieme.” Umane e, in un certo senso, umanizzanti. Un sistema etico completo, costruito attorno alla protezione della vita umana come valore assoluto e irrinunciabile.

Era una mia illusione che i violenti conflitti degli ultimi anni l’hanno dissolta con brutalità: droni autonomi, sistemi d’arma guidati dall’intelligenza artificiale, robot militari capaci di identificare e colpire bersagli senza intervento umano diretto: tutto questo non solo esiste, ma viene ampiamente impiegato nei teatri di guerra. Con una precisione e una mortifera efficacia che superano la fantascienza.

Nessuna norma internazionale vieta i “LAWS” — Lethal Autonomous Weapon Systems. Il dibattito all’ONU va avanti da anni, senza approdare a nulla di concreto e vincolante. Gli Stati più potenti e tecnologicamente avanzati frenano: non vogliono rinunciare al vantaggio competitivo che queste tecnologie garantiscono nei conflitti.

Il problema non è tecnologico: è politico, etico e morale.

Qualcuno dovrebbe spiegarlo, qualcun altro dovrebbe capirlo, prima che sia troppo tardi. Forse è già troppo tardi.

(Immagine creata dall’intelligenza artificiale)