Il 18 luglio scorso il Consiglio di Sicurezza delle Nazioni Unite si è riunito, per la prima volta, per un confronto formale sulle opportunità e sui rischi apportati dall’impetuoso sviluppo dell’intelligenza artificiale (IA). Quest’ultima è una delle tecnologie ubiquitarie e pervasive più promettenti dell’epoca attuale, soprattutto in settori quali medicina di precisione e predittiva, sistema produttivo (Industria 4.0), sicurezza nazionale e cybersecurity. Mentre offre molte opportunità per migliorare la vita quotidiana, essa presenta anche rischi di non poco conto. Nonostante il suo potenziale di accelerazione dello sviluppo globale e di realizzazione dei diritti umani, difatti, l’IA può amplificare i pregiudizi, rafforzare la discriminazione algoritmica, cambiare la natura stessa dei posti di lavoro e profili professionali e consentire nuovi livelli di sorveglianza autoritaria.
Oltre a ciò, uno dei principali rischi è l’impiego dell’IA in armi autonome, le quali potrebbero essere utilizzate per scopi offensivi senza un controllo umano adeguato, oltre all’interazione tra IA e armi nucleari, biotecnologia, neurotecnologia e robotica. Un altro rischio, è rappresentato dalla manipolazione dell’IA per campagne informazionali malevoli, come la diffusione di disinformazione, vale a dire per creare algoritmi che diffondano notizie false o manipolino le opinioni pubbliche, rischiando così di minare la democrazia e la stabilità sociale.
Il Consiglio di Sicurezza è l’organo principale delle Nazioni Unite, responsabile del mantenimento della pace e della sicurezza internazionale e, nel corso degli anni, ha affrontato una vasta gamma di questioni di sicurezza globale, tra cui il disarmo nucleare, il terrorismo internazionale e i conflitti regionali. Tuttavia, non si era mai riunito in precedenza per un confronto sull’IA: il fatto che ciò sia avvenuto adesso attesta della crescente consapevolezza dei rischi associati a questa nuova tecnologia e alla necessità di affrontarli in modo coordinato a livello globale, anche a seguito delle significative prese di posizione di Elon Musk, di quelle di molti preminenti addetti ai lavori e dell’emanazione dell’AI Act del Parlamento europeo.
Durante la riunione, sono stati discussi vari aspetti dei rischi legati all’IA e delle possibili misure per mitigarli. Uno dei principali punti di discussione è stato l’impiego dell’IA insieme alle armi autonome. Molti Paesi hanno espresso fondate preoccupazioni riguardo la possibilità di un uso improprio di queste armi e hanno sottolineato l’importanza di stabilire norme internazionali per regolamentarne l’impiego; alcuni di essi hanno anche proposto un divieto totale delle armi autonome, sottolineando la necessità di evitare una corsa agli armamenti incontrollata.
Il Consiglio di Sicurezza, composto da 15 membri, è stato informato dal Segretario generale dell’Onu, Antonio Guterres, da Jack Clark, co-fondatore della startup di IA Anthropic, e dal professor Yi Zeng, dell’Istituto di automazione dell’Accademia cinese delle scienze.
Guterres ha sostenuto che “le applicazioni militari e non militari dell’IA potrebbero avere conseguenze molto gravi per la pace e la sicurezza globali” e si è fatto portavoce delle richieste di alcuni Stati per la creazione di un nuovo organismo delle Nazioni Unite al fine di sostenere gli sforzi collettivi per governare questa “straordinaria tecnologia”, sul modello dell’Agenzia internazionale per l’energia atomica (AIEA), dell’Organizzazione per l’aviazione civile internazionale (ICAO) o del Gruppo intergovernativo sui cambiamenti climatici (IPCC). La riunione ha affrontato, infine, la questione della cooperazione internazionale e ciò include lo scambio di informazioni e di migliori pratiche, nonché la creazione di meccanismi di controllo internazionali per garantire che l’IA sia utilizzata in modo responsabile e sicuro.
Clark ha affermato che “non possiamo lasciare lo sviluppo dell’IA solo agli attori del settore privato” e osservato che, sebbene l’IA possa apportare enormi benefici per l’umanità, essa rappresenta anche una minaccia per la pace, la sicurezza e la stabilità globale a causa del potenziale uso improprio e dell’imprevedibilità – due qualità intrinseche dell’IA. In questo senso, a solo titolo esemplificativo, se l’IA può migliorare l’approfondimento della biologia, la stessa può anche essere impiegata per costruire armi biologiche, a seguito dell’apprendimento di tale disciplina. Senza tener conto che una volta sviluppati e impiegati alcuni sistemi di IA, essi possono essere volti a nuovi e imprevisti utilizzi a fini malevoli. E tale eventualità, non può essere sempre preventivamente messa in conto dagli sviluppatori e dalle società che rilasciano, a fini commerciali, i sistemi di IA.
Zeng ha sottolineato che l’IA generativa (ChatGPT), sebbene apparentemente intelligente, è priva di una reale comprensione e che vi è un rischio di estinzione degli esseri umani semplicemente perché finora “non abbiamo trovato un modo per proteggerci dall’utilizzo della debolezza umana da parte dell’IA” evidenziando la necessità di garantire un controllo umano, efficace e responsabile, per tutti i sistemi d’arma abilitati all’IA.
In definitiva, la riunione del Consiglio Onu mostra quanto l’IA sia divenuta centrale nelle società attuali, quanti usi benefici se ne possano trarre, da una sua ulteriore implementazione su larga scala, ma anche, allo stesso tempo, di quanti utilizzi malevoli essa possa dar luogo. Lungi qui dall’affermare la neutralità della tecnica la quale è in continua e inarrestabile crescita, arrivando ulteriormente a diffondere e permeare la società intera di valori, peraltro già presenti nella stessa, quali l’utilitarismo, l’efficientismo, il progressismo, e addirittura una sorta di sacralizzazione della stessa, ecc. Oggigiorno, la tecnica è arrivata a minacciare lo stesso genere umano, la libertà personale e anche la sicurezza nazionale ed è perciò fondamentale che i Paesi lavorino insieme per sviluppare norme internazionali e meccanismi di controllo che regolamentino l’impiego dell’IA, anche al fine di colmare i divari sociali, digitali ed economici.
In conclusione, la riunione del Consiglio di Sicurezza dell’Onu, sui rischi dell’IA, ha rappresentato un passo importante verso la comprensione e la gestione dei rischi associati a questa tecnologia ubiquitaria. Del resto, la consapevolezza crescente, che sempre più si sta facendo strada tra i decisori politici, sia a livello nazionale che internazionale, è che essa rappresenti oramai una sfida epocale che richieda una risposta commisurata, di natura regolatoria, globale e coordinata. Non sarà comunque facile arrivaci in tempi brevi, considerati tutti gli interessi in campo e le divergenti mire geopolitiche attuali.
— — — —
Abbiamo bisogno del tuo contributo per continuare a fornirti una informazione di qualità e indipendente.