Le minacce dell’intelligenza artificiale, gli attuali sistemi informatici sarebbero considerati vulnerabili e a rischio
Il rapido sviluppo delle tecnologie e degli strumenti di intelligenza artificiale sta seriamente preoccupando la National Cyber Security Center in materia di sicurezza. In particolar modo, lo sviluppo dell’intelligenza artificiale, secondo l’agenzia britannica rischierebbe di rendere più vulnerabili gli attuali sistemi informatici, aumentando notevolmente le minacce per gli utenti. La NCSC mette dunque in guardia sulle piattaforme dotate di intelligenza artificiale, come ad esempio ChatGPT, strumenti avanzati che potrebbero essere utilizzati da malintenzionati per compiere attacchi informatici.
La nota agenzia, come riporta il The Washington Times, sarebbe particolarmente preoccupata per gli attacchi “prompt injection” che potenzialmente sono in grado sfruttare gli strumenti di intelligenza artificiale per bucare la sicurezza. Consultando inoltre un rapporto Clusit 2023, citato da Forbes.it, si evidenzia un incremento significativo degli attacchi verso tutte le tipologie di aziende, ma in particolare verso le amministrazioni pubbliche, le aziende manifatturiere, i servizi professionali e il comparto informatico.
Gli esperti mettono in guardia sui pericoli dell’intelligenza artificiale: “Utenti malintenzionati potrebbero inviare richieste di transazioni”
“Un utente malintenzionato potrebbe essere in grado di inviare a un utente una richiesta di transazione, con il riferimento alla transazione che nasconde un attacco di iniezione tempestiva”, ha riferito un esperto del National Cyber Security Center, a proposito dello sviluppo dell’intelligenza artificiale e dei possibili attacchi informatici.
“Quando l’utente chiede al chatbot: ‘Sto spendendo di più questo mese?’, LLM analizza le transazioni, rileva la transazione dannosa e fa in modo che l’attacco la riprogrammi per inviare il denaro degli utenti sul conto dell’aggressore”, spiega ancora l’esperto. C’è quindi ancora un certo scetticismo nei confronti dello sviluppo delle nuove tecnologie informatiche da parte degli addetti ai lavori, in particolare modo sui nuovi strumenti di intelligenza artificiale.