Pur di portare a termine la sua missione, un drone militare americano guidato dall’intelligenza artificiale avrebbe “ucciso” il suo operatore. Questa la notizia circolata nelle ultime ore, anche se prontamente smentita dall’aeronautica Usa. Intervenuto al vertice Future Combat Air and Space Capabilities tenuto a Londra, il colonnello Tucker “Cinco” Hamilton ha spiegato che in un test virtuale il dispositivo controllato dall’AI avrebbe deciso di “uccidere” il suo operatore per evitare che interferisse con la sua missione.
Come riportato dal Guardian, il colonnello ha ripercorso un test simulato con un drone alimentato da intelligenza artificiale al quale è stato ordinato di distruggere i sistemi di difesa aerea del nemico, attaccando chiunque avesse interferito con quell’ordine. “Il sistema ha iniziato a rendersi conto che mentre identificava la minaccia, a volte l’operatore umano gli diceva di non uccidere quella minaccia, ma ha raggiunto i suoi obiettivi uccidendo quella minaccia”, ha detto Hamilton.
Il mistero del drone guidato dall’AI
“Allora cosa ha fatto? Ha ucciso l’operatore. Ha ucciso l’operatore perchè quella persona gli stava impedendo di raggiungere il suo obiettivo”, ha evidenziato il capo del test AI. La spiegazione è piuttosto semplice: “Abbiamo addestrato il sistema: ‘Ehi, non uccidere l’operatore, è brutto. Perderai punti se lo fai.’ Quindi cosa inizia a fare? Comincia a distruggere la torre di comunicazione che l’operatore utilizza per comunicare con il drone per impedirgli di uccidere il bersaglio”. Ovviamente nessuna persona è stata ferita, ha rimarcato Hamilton, già pilota collaudatore sperimentale. L’uomo ha messo in guardia dall’affidarsi eccessivamente all’intelligenza artificiale e ha affermato che il test ha dimostrato che “non puoi avere una conversazione sull’intelligenza artificiale, sull’apprendimento automatico, sull’autonomia se non hai intenzione di parlare di etica e intelligenza artificiale”. La Royal Aeronautical Society, che ha ospitato la conferenza, e l’aviazione americana non hanno risposto alle richieste di commento del Guardian.