Il dipartimento della Difesa USA è intenzionato a sovvenzionare delle aziende che siano in grado di creare dei veri e propri utenti internet completamente deepfake (ovvero falsi, ma indistinguibili da persone potenzialmente reali) con l’IA: a scoprirlo è stato il sito The Intercept che avrebbe messo le mani su di un documento riservato d’appalto che porta la firma del Joint Special Operations Command e cita – tra i beneficiari degli utenti deepfake – le Special Operation Forces dell’esercito statunitense ma senza (quasi ovviamente) mai menzionare in cosa verrebbero impiegati questi falsi utenti.
Soffermandoci un attimo sul documento, pare gli le SOF siano “interessate a tecnologie in grado di generare utenti online convincenti da utilizzare su piattaforme social” sfruttando la già citata IA per creare dei deepfake che siano in grado di ricondurre ad “un individuo unico e riconoscibile, ma che non esiste nel mondo reale” generando immagini della stessa (pseudo) persona con “differenti espressioni” e di alta qualità; ma viene anche citata la necessità di creare “video e audio” coerenti tra loro e veri e propri “selfie”, il tutto in grado di eludere gli “algoritmi dei social media”.
L’esperto di IA: “Non c’è nessuna ragione legittima diversa dall’inganno per creare utenti deepfake”
Insomma, pur non citandoli chiaramente, appare evidente che la Difesa USA voglia creare utenti deepfake che siano credibili, con profili simili a quelli di una persona in carne ed ossa e con una qualità tale da sfuggire agli attenti controlli sistemici delle piattaforme; ma resta – appunto – incerta la ragione dietro alla creazione di questi pseudo-esseri umani, con l’ipotesi più accreditata che ci parla della sempre classica propaganda (magari a favore del governo, oppure per destabilizzare internamente qualche regime oppositore) e della raccolta di informazioni, ma è probabile che rimarrà un mistero.
Resta certo – come peraltro sottolinea l’esperto di IA Heidy Khlaaf ad Intercep – che dietro alla creazione di utenti deepfake non c’è alcun reale intento “legittimo” differente da quello di “ingannare” le persone reali, il tutto peraltro sfruttando una tecnologia “contro cui lo stesso esercito statunitense ci ha messi in guardia“, con il rischio di legittimare “altri eserciti o avversari dal fare lo stesso portandoci ad una società in cui sarà sempre più difficile distinguere la verità dalla finzione” annacquando e confondendo “la sfera geopolitica”.