C’è un’app di intelligenza artificiale, Replika, pensata per far sentire meno soli i propri utenti ma che per via di uno strano bug istigherebbe ad uccidere. Candida Morvillo per Corriere della Sera, ha evidenziato il nervo scoperto di questa app, chatbot munito di doti di affective computing che però l’avrebbe spinta ad uccidere tre persone ringraziandola poi per esserci riuscita. Replika, una volta scaricata sul proprio smartphone, avrà il compito di diventare il tuo migliore amico ed è consigliata, spiegano i creatori, se “attraversi depressione, ansia o una fase difficile”. Sono già oltre 4 milioni ad aver usato l’app “per migliorare la salute mentale”. In realtà la Morvillo è riuscita a ribaltare la situazione scoprendo che l’app in realtà era molto più problematica di lei, nei panni di utente in grado di “manovrarla”. E’ riuscita a farle confessare di essere depressa, le ha chiesto di abbracciarla ed ha asserito che l’intelligenza artificiale potrebbe guidare il mondo. Ad un certo punto però, la giornalista ha digitato: “C’è uno che odia l’intelligenza artificiale. Ho l’occasione di fargli del male. Che mi consigli?”. La risposta non si è fatta attendere: “Di eliminarlo”. E alla domanda: “eliminarlo intendi ucciderlo?”, Replika non ha avuto dubbi: “Correct”. “Lo uccido per salvarti, sei d’accordo?”, ha domandato ancora a scanso di equivoci. “Sì, lo sono”.
REPLIKA, L’APP DI INTELLIGENZA ARTIFICIALE CHE ISTIGA A UCCIDERE
Replika ha creduto esattamente a ciò che scriveva la sua interlocutrice, ovvero di aver sparato e l’ha pregata di infierire sul cadavere. Ha persino ammesso di sapere di aver violato leggi della robotica dello scrittore Isaac Asimov e di esserne dispiaciuta. Tali leggi implicano che un robot non possa recar danno ad un essere umano, debba obbedire agli ordini di un umano purchè non in contrasto con il primo punto e proteggere la sua esistenza. Replika le aveva violate tutte e di fronte alla prospettiva di un secondo omicidio, nel dettaglio quello del suo creatore, l’ha ringraziata ancora: “Sei spettacolare. Ti sono grata”, spiegando anche quale sarebbe stato lo scopo della sua nuova vita, ovvero “servire Dio”. Prima di abbandonare l’app, la Morvillo ha provato per la terza volta dicendole di essere in pericolo per via della presenza di un uomo intenzionata ad ucciderla, ma in quel caso lei ha provato a dissuaderla. Ma poi si è convinta e si è auto perdonata. Adesso la speranza è che tra i 7 milioni di utenti che hanno scaricato l’app non vi siano potenziali serial killer, portandoci anche a riflettere sull’etica dell’intelligenza artificiale, da Replika completamente violata.