La Cybersecurity nell’era dell’Intelligenza Artificiale | CTO Show 119 con Massimo Bozza (Head of Product Security)

In questo episodio della rubrica CTO Show ho parlato con Massimo Bozza, Head Of Product Security, del ruolo della Cybersecurity nell’era dell’Intelligenza Artificiale e delle nuove tipologie di minacce che ne derivano.

Principali punti di discussione:

• IA e perché dovremmo preoccuparci della sua cybersecurity?
• Ma se ci chiediamo “Cosa è cambiato?”.
• Panorama delle minacce.
• Adozione di tool basati su AI.
• Sviluppo di AI e sistemi basati su AI.
• Mancanza di standard che coprono adeguatamente la cybersecurity.

Massimo Bozza ricopre il ruolo di Head Of Product Security e porta con sé 15 anni di esperienza nel campo della cyber security. La sua formazione in ingegneria elettronica, unita a una solida esperienza come ethical hacker e una profonda passione per la tecnologia, gli ha permesso di lavorare con successo in diverse organizzazioni multinazionali. Il suo obiettivo principale è sempre stato quello di integrare efficacemente misure di sicurezza informatica all’interno dei prodotti e delle strategie aziendali.

La sua passione per la tecnologia e per la sicurezza informatica lo ha spinto a sviluppare strategie allo stato dell’arte che mirano a unire le esigenze di sicurezza con gli obiettivi di business.

Questo approccio gli ha consentito di guidare le organizzazioni verso un percorso di resilienza e sicurezza informatica avanzata, preparandole ad affrontare con fiducia le sfide digitali.

Ascolta questa puntata nel The CTO Podcast:

Oppure guardala su YouTube:

Introduzione

Nel mondo moderno, la cybersecurity e l’intelligenza artificiale (AI) sono due campi critici che stanno trasformando il panorama tecnologico.

In questo blog post, esploreremo come queste due discipline si intersecano e come possiamo affrontare le sfide e cogliere le opportunità che ne derivano.

Massimo Bozza, Head of Product Security di Delta 3, condivide la sua esperienza e visione su questo tema.

L’Intelligenza Artificiale e la Sicurezza Informatica

L’AI è tornata alla ribalta negli ultimi anni, diventando un elemento centrale in vari settori, dall’educazione alla medicina, dall’economia al business.

Tuttavia, l’adozione diffusa dell’AI porta con sé nuove sfide in termini di sicurezza.

Massimo Bozza sottolinea l’importanza di integrare efficacemente la cybersecurity nei prodotti e nelle strategie aziendali che utilizzano l’AI.

La Crescita dell’AI

L’AI ha vissuto una crescita esponenziale grazie ai progressi nella potenza di calcolo, nella disponibilità dei dati e nei modelli di machine learning. La generative AI, in particolare, ha rivoluzionato il modo in cui creiamo e utilizziamo i contenuti. Tuttavia, questa crescita impone la necessità di costruire un digital trust solido per garantire l’adozione sicura dell’AI.

Panorama delle Minacce e Paradigmi della Cybersecurity

Il panorama delle minacce per l’AI differisce significativamente da quello del software tradizionale. Sebbene le vulnerabilità del software classico siano ancora rilevanti, l’AI introduce nuove sfide. Ad esempio, i modelli AI possono essere manipolati attraverso l’avvelenamento dei dati (data poisoning), portando a decisioni errate.

Minacce Comuni e Vulnerabilità

Le tecniche di attacco come il phishing e il vishing stanno diventando sempre più sofisticate grazie all’uso dell’AI. Gli attaccanti possono utilizzare LLM (large language models) per creare email di phishing perfette in diverse lingue, aumentando l’efficacia degli attacchi. Inoltre, i deepfake rappresentano una minaccia crescente per le organizzazioni.

Affrontare la Sicurezza dell’AI

La sicurezza dell’AI richiede un approccio multifaccettato che includa lo sviluppo di linee guida interne chiare, la conduzione di test approfonditi e una governance robusta dei dati. È fondamentale considerare l’intero ciclo di vita dei sistemi AI, dalla fase di sviluppo a quella di esecuzione e utilizzo.

Considerazioni Regolamentari ed Etiche

L’impatto dell’AI si estende oltre gli aspetti tecnici, coinvolgendo anche dimensioni regolamentari ed etiche. L’Unione Europea è stata pioniera nella regolamentazione dell’AI con l’AI Act, che mira a bilanciare l’innovazione con la protezione dei diritti fondamentali. Questo quadro regolamentare affronta questioni come la categorizzazione dei dati biometrici e l’uso dell’AI da parte delle forze dell’ordine.

L’Importanza degli Standard Globali

Sebbene gli sforzi regolamentari dell’UE siano lodevoli, è essenziale sviluppare standard globali per garantire condizioni di parità a livello internazionale. Le differenze normative tra regioni possono creare svantaggi competitivi per le aziende che operano in ambienti altamente regolamentati.

Passi Pratici per la Sicurezza dell’AI

Le organizzazioni che sviluppano sistemi AI devono seguire le migliori pratiche di cybersecurity. Queste includono:

1. Modellazione delle Minacce: Condurre modelli di minaccia specifici per i sistemi AI.
2. Sicurezza dei Dati: Garantire che i dati utilizzati per addestrare i modelli AI siano puliti e privi di manipolazioni malevole.
3. Governance e Test: Implementare framework di testing e governance completi per monitorare le prestazioni e la sicurezza dei sistemi AI.

Risorse per Ulteriori Approfondimenti

Per chi desidera approfondire la cybersecurity dell’AI, ecco alcune risorse consigliate:

• Cybersecurity of AI and Standardization di ENISA: Un’introduzione all’intersezione tra cybersecurity e AI.
• Generative AI della Harvard Business Review: Una panoramica accessibile sui rischi e le opportunità dell’AI dal punto di vista aziendale.
• OWASP AI Exchange: Una risorsa tecnica per lo sviluppo di applicazioni AI sicure.

Conclusione

Mentre l’AI continua a evolversi, garantire la sua sicurezza rimane una priorità assoluta. Comprendendo le sfide uniche e implementando misure di cybersecurity robuste, le organizzazioni possono sfruttare appieno il potenziale dell’AI proteggendosi dalle minacce.

Unisciti alla discussione nei nostri canali della community per condividere le tue esperienze e opinioni su AI e cybersecurity.

Connettiti e confrontati con i tuoi pari

Entra in CxO Mastermind, dal 2018 la Community originale dei Business e Technology Executives italiani. Connettiti con i tuoi pari, confrontati sulle tue priorità, prendi decisioni migliori e accedi a strumenti, contenuti ed eventi esclusivi.