Replay – Nuove prospettive tra Intelligenza Artificiale e Cyber Security

Il 27 maggio si è tenuta la tavola rotonda dal titolo “Nuove prospettive tra Intelligenza Artificiale e Cyber Security” durante la Cyber Security Virtual Conference 2021.

• Moderatore: Carolina Polito, Research Assistant presso il Centre for European Policy Studies (CEPS)
• Mirco Destro, Group CIO di AFV Beltrame Group
• Mariana Pereira, Director of Email Security, Darktrace
• Francesco Santini, Associate Professor, Dipartimento di Matematica e Informatica, Università di Perugia

Carolina Polito, Research Assistant presso il Centre for European Policy Studies (CEPS)

“Per descrivere il rapporto tra intelligenza artificiale e cyber security, una delle frasi con cui viene più comunemente descritto questo rapporto è quello della spada a doppio taglio, perché se da una parte l’intelligenza artificiale può aiutare i nostri specialisti di cyber security a rispondere agli attacchi cibernetici e a rendere in generale più resiliente il perimetro informatico, d’altra parte questi sistemi di intelligenza artificiale vengono utilizzati anche dagli attori malevoli che vogliono condurre degli attacchi contro i sistemi informatici cibernetici.”

Mariana Pereira, Director of Email Security, Darktrace

“Dobbiamo fare attenzione a non mettere tutti i cyber attacchi sullo stesso piano, perché ci sono diverse metodologie, ci sono diversi tipi di attacchi e ci sono diversi motivi, da quelli puramente votati a guadagnare, come i ransomware, fino agli attacchi che invece portano a sabotaggio, ad una alterazione dei dati, e nel caso magari di cambiamento nelle informazioni in caso di business, di governo, una qualsiasi modifica può causare danni molto grandi. Quello che vediamo è che dalla parte degli attacchi sono davvero creativi, alcune attività a volte non sembrano attacchi cyber perché non provocano un danno ma fungono da esplorazione di quello che potrebbe essere business, per portare a un furto di proprietà intellettuale successivo. Questo secondo me farà parte dell’attacco offensivo che un giorno l’AI potrà fare, l’esplorazione per decidere qual è il miglior modo per poter arrivare alla missione, e non dover chiedere poi all’essere umano conferme su cosa fare.
Immagino degli AI, dei cheat, che permetteranno all’hacker di lanciare un attacco potenziato per un’intelligenza artificiale, in grado di poi una volta inserito all’interno di un ecosistema digitale di poter adattarsi e trovare il miglior modo, in forma autonoma, per poter arrivare alla propria missione. E questo perché molto spesso si parla di cyber attacchi più sofisticati, ma poi assistiamo all’opposto. Spesso la sofisticazione dell’attacco la vediamo solamente in base al codice, ma l’entrata in azienda nell’ecosistema digitale è tutto tranne che sofisticato. È una penna usb lasciata per terra davanti al parcheggio della azienda, è una mail con delle foto di un gatto, una mail con un’offerta che dice che hai vinto un iphone: insomma questo mondo è pieno di controsensi, perché questi sono attacchi estremamente sofisticati e ben pensati ma alla fine l’entrata è quasi una sciocchezza.
Quindi dobbiamo fare attenzione su molte questioni. La complessità ci può prendere un pò alla sprovvista, e lì l’AI può aiutare, così che attacchi che entrano facilmente diventano più difficili nell’esecuzione.”

Mirco Destro, Group CIO di AFV Beltrame Group

“L’intelligenza artificiale già in passato ha vissuto una fiammata e poi si è spenta, ma le differenze fondamentali che non faranno ritornare questa situazione sono due. La prima è che abbiamo trovato il mood giusto, si è capito come utilizzare e come andare a declinare questa scienza. Ricordiamoci che è una scienza che ormai ha svariati decenni, non è nata adesso, ma adesso ha raggiunto sulla parte applicativa la maturità giusta, si è scelta una strada, che per le applicazioni era stata corretta. Il secondo punto fondamentale è legato alla sicurezza, alla cyber security, e userò delle parole improprie ma per passare più chiaramente il messaggio: quei lavori a basso valore, ripetitivi, umani ma di scarsa “intelligenza”, si deve riuscire a demandare ad un’entità, ad un algoritmo che faccia il lavoro sporco.
I problemi di supply chain security sono sempre più importanti e l’intelligenza artificiale fa parte della supply chain security. L’altro inciso fondamentale che tengo a sottolineare è che il mondo fisico si sta spostando sul mondo virtuale. L’intelligenza artificiale, lo vediamo, pilota macchine e quant’altro, e andare a compromettere questi dati, più che trovare dati della carta di credito di qualcuno, è rischiosissimo. Quindi va preso con la giusta attenzione.”

Francesco Santini, Associate Professor, Dipartimento di Matematica e Informatica, Università di Perugia

“L’intelligenza artificiale diventerà sempre più raffinata anche nelle spiegazioni, con intersezioni con altri campi sia di machine learning che di logica, in modo da spiegare in modo più umano il risultato di un valore calcolato da una black box. Dal punto di vista computazionale credo che ci saranno sempre più sviluppi dell’hardware che fa girare questi sistemi, i.e. CPU ormai introvabili anche per colpa dei Bitcoin, ma anche di TPU, quindi nel senso di process unit. Ci sono ampi margini di scalata da parte di tutti e due questi campi.
Ci sono anche dei limiti, è bene ricordarselo, a quello che l’intelligenza artificiale può fare adesso, sia in bene che in male. Per adesso l’intelligenza è abbastanza fast, nel senso che è capace di riconoscere degli schemi o delle immagini in maniera molto precisa. Anche gli attacchi di tipo deep fake sono in ascesa, grazie alla possibilità di effettuarli in maniera più raffinata, sia voce che video: un problema, se pensiamo ad un eventuale utilizzo nel campo della politica per schiacciare gli avversari.
Credo che si cercherà di concentrarsi anche su una parte intelligenza artificiale più slow, più lenta, perché al momento – e qui mi rifaccio al libro “Thinking, Fast and Slow” di Daniel Kahneman – noi siamo molto bravi a replicare il fast thinking, l’intelligenza che richiede poca concentrazione, come riconoscere un volto o simili, sullo slow thinking il un processo è un pochino più complicato e credo ci si arriverà più avanti. Nel futuro ci saranno attacchi sempre più mirati e più precisi, come nel caso di FireEye e Solarwinds, dove sono riusciti a portare via il toolkit di un’azienda che lavora con agenzie governative degli Stati Uniti attraverso un software fornito da terze parti, quello di Solarwinds. Anche i gruppi criminali quindi si stanno raffinando negli attacchi.”