ASCOLTA I NOSTRI PODCAST SU SPOTIFY
Ashley Deeks, professore di legge dell’Università della Virginia, spiega sul sito dell’ente le ricadute legali ed etiche di tale decisione.
Il Consiglio dei supervisori di San Francisco ha votato per consentire al suo dipartimento di polizia di utilizzare robot per uccidere sospetti criminali.
La decisione è arrivata sei anni dopo che la polizia di Dallas ha equipaggiato un robot con esplosivi per porre fine a uno scontro con un cecchino che aveva ucciso cinque agenti. Si ritiene che sia stata la prima volta che qualcuno è stato ucciso intenzionalmente negli Stati Uniti da un robot.
Quali sono le preoccupazioni legali quando i governi si rivolgono alle macchine per porre fine alla vita umana?
Innanzitutto, qual è la tua reazione alla decisione di San Francisco?
Sono sorpresa. Ma è importante capire quali capacità hanno e quali non hanno i robot di San Francisco. Questi non sono sistemi autonomi che hanno potuto selezionare in modo indipendente contro chi usare la forza. Gli agenti di polizia li gestiranno, anche se a distanza e da una certa distanza. Quindi chiamarli “robot killer” potrebbe essere un po’ fuorviante.
Quando un agente di polizia usa la forza è in ultima analisi responsabile della decisione. Quali complicazioni potrebbero sorgere, legalmente, se un robot uccide?
Secondo il Washington Post, il dipartimento di polizia di San Francisco non prevede di dotare i suoi robot di armi da fuoco in futuro. Invece, la polizia potrebbe equipaggiare un robot con qualcosa come un esplosivo, un taser o una granata fumogena.
Un essere umano piloterebbe a distanza il robot, controllando dove va e decidendo se e quando il robot deve accendere esplosivi. Quindi il legame tra un decisore umano e l’uso della forza sarebbe facile da identificare.
Dove potrebbe diventare più complicato è se il robot smette di funzionare come previsto e danneggia accidentalmente qualcuno senza colpa dell’operatore.
Se la vittima o la sua famiglia fanno causa, potrebbero essere ritenuti responsabili il produttore, il dipartimento di polizia o entrambi. Ma questa non è una domanda così diversa da ciò che accade quando la pistola di un agente di polizia spara accidentalmente e ferisce qualcuno a causa di un difetto di fabbricazione.
A parte le questioni legali, quali sono le questioni etiche che la società dovrà affrontare? O le questioni legali ed etiche sono intrecciate?
Le questioni legali ed etiche sono correlate. Idealmente, le norme legali emanate dagli stati e dalle località rifletteranno un’attenta riflessione sull’etica, così come sulla Costituzione, sulle leggi federali e statali e sulle scelte politiche intelligenti. Da un lato della bilancia ci sono i notevoli benefici che derivano dagli strumenti che aiutano a proteggere gli agenti di polizia e i cittadini innocenti dai pericoli.
Poiché l’usi della forza spesso avviene perché gli agenti temono per la loro vita, robot adeguatamente regolati e usati con attenzione potrebbero ridurre il numero di situazioni in cui gli agenti sono a rischio.
Dall’altro lato ci sono le preoccupazioni di rendere i dipartimenti di polizia più disposti a usare la forza, anche quando non è l’ultima risorsa; sugli incidenti che potrebbero verificarsi se i sistemi robotici non sono accuratamente testati o gli utenti non sono ben addestrati; e se l’uso di robot in questo modo spalanca la porta all’uso futuro di sistemi che hanno più autonomia nel processo decisionale delle forze dell’ordine.
Una nuova domanda che potrebbe sorgere è se i dipartimenti di polizia dovrebbero stabilire politiche di uso della forza più caute quando è un robot a fornire quella forza, perché il robot stesso non può essere ucciso o danneggiato dal sospetto. In altre parole, potremmo non voler permettere ai robot di usare la forza per difendersi.
Alcuni governi potrebbero sviluppare sistemi d’arma autonomi in grado di selezionare obiettivi da soli nei conflitti armati. La polizia inizia a prendere in considerazione i robot basati sull’intelligenza artificiale per prendere decisioni letali?
Una parte significativa di ciò che i militari fanno durante la guerra è identificare e uccidere le forze nemiche e distruggere l’equipaggiamento militare del loro nemico. Gli strumenti di intelligenza artificiale sono adatti per aiutare i militari a fare previsioni su dove saranno posizionati determinati obiettivi e quali attacchi aiuteranno a vincere la guerra.
C’è un acceso dibattito sul fatto che gli stati debbano schierare sistemi autonomi letali che possano decidere da soli chi o cosa colpire, ma ancora una volta, l’idea è che quei sistemi sarebbero schierati in tempo di guerra, non in tempo di pace.
Tutto questo è molto diverso da quello che fa la polizia. Gli agenti di polizia possono usare la forza solo per ottenere il controllo di una situazione in cui non c’è alternativa ragionevole. Un ufficiale può costituzionalmente usare la forza mortale solo contro una persona che potrebbe sfuggire all’arresto per un crimine grave o che rappresenta una minaccia di gravi lesioni fisiche o morte per l’ufficiale o una terza persona. È davvero difficile immaginare che i dipartimenti di polizia negli Stati Uniti possano o possano legalmente utilizzare robot autonomi che prendano decisioni indipendenti, basate sui loro algoritmi, su quando usare la forza.
Vede la decisione di San Francisco come un’anomalia, o si aspetta che altre città e dipartimenti di polizia la esploreranno in futuro?
Vale la pena notare che la politica di San Francisco deve ancora passare un secondo voto ed essere approvata dal sindaco. In termini di esempi passati, il dipartimento di polizia di Dallas ha fatto qualcosa di simile nel 2016, quando ha usato un robot con un braccio estensibile per posizionare esplosivo vicino a un tiratore che si era rintanato dopo aver ucciso cinque agenti e ferito altri sette. La polizia di Dallas ha poi fatto esplodere il C4, uccidendo il tiratore.
Molti dipartimenti di polizia in tutto il paese possiedono robot per lo smaltimento di ordigni esplosivi, che hanno ottenuto come equipaggiamento militare in eccesso dal Pentagono. Non sarei sorpresa se altri stati e località decidessero che ora è un buon momento per chiarire le loro politiche su se o come utilizzare questi robot in modi che potrebbero uccidere o ferire i sospetti. Le città potrebbero decidere se adottare politiche come quella di San Francisco, o potrebbero concludere che vogliono proibire questi robot.
Sarà importante avere un dibattito approfondito sui dettagli di queste politiche. In quali circostanze specifiche potrebbero essere utilizzati i robot per fornire forza? Quanto devono essere anziani i funzionari che approvano l’uso in un determinato caso? Quanto devono essere sicuri gli operatori che i sistemi siano affidabili?
