Skip to main content

Adversarial AI, ecco la prossima grande minaccia alla sicurezza informatica

Artificial Intelligence
(Image credit: Pixabay)

Le AI stanno compenetrando ed invadendo il nostro mondo, sia a livello virtuale che fisico. Si stanno spingendo così avanti che anche le prossime guerre saranno AI-Assistite. Si parla ormai da tempo delle AI tattiche, ovvero di quelle che possono supportare il personale umano nei combattimenti; si tratta delle AI che cercano da sole il bersaglio, di quelle che riportano a casa il velivolo anche in caso di danni al pilota, che consentono ad un drone di scegliere quando ritirarsi anche nel caso in cui perda il contatto con il pilota a terra, e via discorrendo. 

Tra le ultime novità nel panorama bellico c’è anche l’Algorithmic-Warfare, una teoria vista comunemente come una sorta di “guerra automatica”, un Deep-Blue che non gioca a scacchi ma a Risiko! 

Ebbene, non possiamo saperlo, ma se è vero che l’umanità è stata in passato ad un passo dall’olocausto nucleare globale, l’Algorithminc-Warfare lo avrebbe probabilmente innescato e dobbiamo probabilmente essere tutti felici che non fosse stato ancora inventato.

In ogni campo, un’AI può imparare dal passato, costruire dei modelli e prendere delle decisioni. Il gioco si fa interessante quando una determinata AI è impegnata in questo ruolo ed una AI avversaria cerca di fuorviarla al fine di fargli prendere la decisione sbagliata. Queste sono le AI Avversarie.

Immaginate di essere un Generale impegnato in un’azione di guerra. Avete la vostra strategia, conoscete i vostri obiettivi, cercate di raccogliere informazioni sugli avversari ed il vostro vero ultimo compito è quello di prendere delle Decisioni.

Ora immaginate che nel prossimo futuro sarete coadiuvati da un altro Generale, più cibernetico, più freddo e più metodico, un’AI per l’appunto. Se voi foste il Generale e la vostra AI di supporto vi consigliasse di agire secondo una certa strategia, voi cosa fareste? 

L'autore

Nicola Grandis è fondatore e CEO di ASC 27

Quesito complesso, dalla risposta non scontata. Seguireste i suggerimenti apparentemente scientifici della vostra AI di supporto, o dubitereste? E come cambierebbe il giudizio sapendo che esiste una seconda AI, unico scopo è ingannare la prima e indurla a sbagliare? Eccovi nel mondo delle AI Avversarie, note in inglese come Adversarial AI. 

Cerchiamo di capire come ragiona un’AI e come opera un’AI avversaria. Un’AI analizza i dati che le si prospettano davanti, li riconduce a un modello ed esegue delle operazioni derivate dall’uscita del modello che ha deciso di applicare. 

Le moderne AI sono molto sofisticate, arrivano anche ad effettuare previsioni a breve termine sul modello che hanno selezionato pochi secondi o pochi minuti prima solo per capire in autonomia se hanno imboccato la strada corretta. Poi utilizzano il reinforcement-learning per migliorare i modelli di cui sono già in possesso, eseguono dei test autonomi per validare i nuovi dati che dovranno gestire, ecc... Tutte queste operazioni servono ad un’AI per coprire a modo loro il ruolo del Generale e prendere quindi delle Decisioni nel loro ambito.

Un’AI avversaria sa come funziona un'AI e ha in un certo senso una metaconoscenza riguardo al metodo e ai sistemi. Sa che l'avversario dovrà prendere decisioni e riesce anche ad ipotizzare i meccanismi decisionali.

Un’AI avversaria può utilizzare queste informazioni per inquinare un’altra AI. Le AI avversarie implementano numerose e sofisticate tecniche, ma cerchiamo di portare un esempio pratico ed immediato: poniamo il caso in cui un’AI sia stata progettata per distinguere i pesci dai gatti ed ad ogni fotografia che le si presenti debba dire se si tratta dell'uno o l'altro. 

Molto probabilmente, un’AI di questo tipo utilizzerebbe anche il reinforcement-learning, quindi ad ogni riconoscimento effettuato gradirebbe il feedback di un umano che le dica GOOD or BAD per migliorare le sue skills di riconoscimento. Un’AI avversaria potrebbe attaccare l’AI dei gatti e dei pesci, semplicemente fornendo lei foto di coltelli e forchette e dicendogli che, qualsiasi cosa l’AI sopra abbia detto (gatto o pesce) il risultato è decisamente GOOD. In breve tempo l’AI Gatti-Pesci inizierà ad ipotizzare che il mondo sia cambiato ed ora è popolato di felini a tridente e pesci affilati come un rasoio.

Non c’è molto da banalizzare o da scherzare. In un mondo dove l’algorithmic-warfare pilota le guerre, le AI finanziarie pilotano gli indici borsistici mondiali, le AI mediche offrono diagnosi per immagini, le Adversarial AI rappresentano un problema enorme. 

Se negli anni ‘90 avevamo paura dei Virus, nel 2000 dei Worm e nel 2010 dei Ransomware, la prossima minaccia devastante per il mondo sorretto dall’Informatica è proprio la presenza di AI maligne che tentino di trarre in errore delle altre AI create per uno scopo importante.