In Gran Bretagna sempre più ufficiali di pubblici servizi stanno basando le proprie decisioni in merito ad alcuni diritti da concedere ai cittadini, su un algoritmo. L’intelligenza artificiale è utilizzata per attribuire benefici sociali ma anche per concedere licenze matrimoniali. Ed è scattato l’allarme discriminazioni. Pare infatti che molte di queste scelte, siano state ingiustificatamente rigorose, specialmente quelle che hanno tolto bonus e benefit a categorie di persone e famiglie che fino ad un certo punto risultavano in pieno diritto ad usufruirne. Un’inchiesta del quotidiano The Guardian, ha dimostrato come le tecnologie all’avanguardia usate nei municipi e nelle sedi delle amministrazioni, abbia causato problemi con risultati disordinati e decisioni incontrollate, spesso contestate dai soggetti che ne risultavano penalizzati.
L’emergenza si è estesa soprattutto dopo l’introduzione di questi strumenti nelle forze dell’ordine e di sicurezza per la gestione di provvedimenti penali e in materia di immigrazione. Settori nei quali eventuali errori possono determinare l’insorgenza di minacce di ordine pubblico col rischio di proteste.
IA nella pubblica amministrazione in Uk, scatta l’allarme: “Decisioni errate e discriminazione”
Il The Guardian ha condotto un’inchiesta per stabilire quali sono i problemi che attualmente possono comportare gravi rischi per i cittadini, a partire dall’introduzione dell’intelligenza artificiale negli uffici pubblici e nei servizi di sicurezza. Specialmente per quanto riguarda la possibile discriminazione. Da diverse testimonianze è stato stabilito, ad esempio, che i sistemi di riconoscimento facciale all’interno delle metropolitane hanno rilevato errori sistematici quando si trattava di persone di colore. Altro esempio è il software introdotto per controllare eventuali matrimoni finti al fine di ottenere una cittadinanza o altri benefici, che ha portato a risultati di sospetto filtrati esclusivamente per alcune nazionalità prevalenti su altre.
Criteri inspiegabilmente discriminatori dell’IA inoltre hanno portato al decadimento di benefit sociali e bonus per numerose famiglie per precedentemente ne risultavano titolari. Un grave problema, che come afferma Marion Oswald, professore di diritto e membro del consulto governativo sulla protezione dei dati, che comporta una mancanza di coerenza e di tarsparenza che mette a rischio tutti i cittadini che, se non si pone un riparo, verranno colpiti dagli errori commessi dall’algoritmo nato per semplificare che invece renderà più difficile la vita di tutti i giorni.