Sfruttare l’intelligenza artificiale per potenziare gli esseri umani nella cybersecurity

Utilizzare l'intelligenza artificiale per migliorare la sicurezza informatica degli esseri umani

Man mano che l’intelligenza artificiale continua a diffondersi rapidamente in diversi settori, il settore della sicurezza informatica sta cercando di sfruttare l’AI per potenziare le difese contro minacce sempre più sofisticate.

Alla recente conferenza degli utenti Fal.Con23, un Panel Esecutivo di CrowdStrike ha delineato la loro visione per integrare l’AI in modo da migliorare l’expertise umana anziché sostituirla.

La necessità di velocità nella sicurezza

Tema ricorrente è stato l’utilizzo dell’AI per accelerare la rilevazione e la risposta agli attacchi. Con attacchi come il ransomware che comprime i tempi di inframazione a pochi minuti, la velocità è ora la metrica più importante. Gli analisti umani da soli non possono stare al passo con le minacce che operano alla velocità delle macchine. Come ha sintetizzato il VP del Managed Detection and Response Austin Murphy: “Vediamo un tempo di sfondamento degli attaccanti che si è ridotto da 118 minuti nel 2018 a solo 7 minuti l’anno scorso”.

CrowdStrike mira a utilizzare l’AI nativa del cloud per fornire la velocità richiesta dalle operazioni di sicurezza moderne. Tuttavia, si è consigliato di non adottare una sicurezza completamente automatizzata, data la complessità e l’evoluzione costante delle minacce. Mentre l’AI può filtrare il rumore e gestire compiti ripetitivi, l’analisi umana rimane critica per rispondere alle minacce nuove. Come ha spiegato Murphy, “L’AI permette agli analisti junior di operare a un livello senior gestendo la triage di base, ma le scelte giudiziarie richiedono ancora creatività e intuizione umana”.

• I migliori 5 piattaforme e strumenti di apprendimento automatico basato su cloud
• Incontra LoftQ LoRA-Fine-Tuning-Aware Quantization per grandi modelli di linguaggio
• I developer possono ridurre il TCO del software con l’IA?

Le tattiche avversarie in evoluzione

Gli esperti hanno fornito esempi inquietanti di come l’AI generativa potrebbe potenziare l’ingegneria sociale, che rimane un vettore di attacco principale. Utilizzando voci e personalità sintetiche autentiche in modo convincente, gli attori delle minacce potrebbero ingannare efficientemente numerosi bersagli contemporaneamente. Ciò dimostra la natura a doppio taglio dell’AI: la sua democratizzazione comporta nuovi rischi.

Il VP dei Servizi Professionali Justin Weissert ha raccontato di aver osservato di persona l’evoluzione della sofisticazione degli attaccanti: “Si poteva vedere che la squadra C stava cercando di rientrare e poi si vedeva un po’ più tardi un nuovo gruppo entrare, e si potevano vedere i comandi che stavano digitando, sai, è come dire: ‘Hey, eravate lì per mantenere una presenza in questo ambiente. Ora, fate spazio. Lasciate che arrivi la SWAT A'”.

Per rimanere un passo avanti agli avversari potenziati dall’AI, CrowdStrike sta potenziando piattaforme come la sua assistente Charlotte con interfacce conversazionali. Ciò consente una collaborazione senza soluzione di continuità tra esseri umani e AI, con Charlotte che traduce le richieste in linguaggio naturale in azioni eseguibili da macchine. Queste partnership combinano la sfumatura dell’expertise umana con la velocità e la scalabilità dell’AI.

L’umano nel processo

Il passaggio verso questo futuro è stato paragonato al passaggio dal linguaggio di programmazione assembly ai compilatori e agli ambienti di sviluppo moderni. Ciò aumenta il livello di astrazione, consentendo agli analisti di concentrarsi su attività strategiche ad alto valore invece dell’analisi routinaria dei log. Ma è stato sottolineato che questa è un’evoluzione, non una trasformazione istantanea: la maturità dell’AI richiede anni di cura dei modelli con dati di alta qualità.

Per quanto riguarda la supervisione, gli esperti hanno enfatizzato che l’AI dovrebbe essere considerata come un dominio che richiede competenze specializzate. Concetti come la sanificazione delle reti neurali e il monitoraggio dell’abuso non sono ancora ben compresi. Sono stati proposti ruoli dedicati come quello di Chief AI Officer per garantire la privacy ed etica. Sono state tratte parallelismi con l’adozione sicura del cloud e dell’IT parallelo.

Per sviluppatori e architetti che vogliono integrare l’AI, i consigli includono iniziare gradualmente con casi d’uso a basso rischio e limitare l’accesso fino a quando le pratiche di governance non si sviluppano. È fondamentale la trasparenza sul comportamento dei modelli e sul flusso dei dati, considerando anche tecniche avverse come i dati alterati. L’AI offre opportunità potenti, ma deve essere adottata in modo oculato.

Il consenso è che l’AI non può sostituire completamente il giudizio umano nella sicurezza informatica. Con le minacce che si adattano con la stessa velocità delle difese, è necessaria la combinazione di creatività umana e velocità delle macchine. Ma l’AI implementata in modo oculato può ridurre il carico sugli analisti sovraccarichi automatizzando compiti ripetitivi, lasciandoli liberi di concentrarsi su una riflessione strategica ad alto impatto. Questa collaborazione è fondamentale per difendersi da attacchi sempre più automatizzati.

Come ha spiegato il VP delle ricerche di minacce OverWatch Parham Singh: “Sappiamo che questo non è più un problema di malware. Questo è un problema degli avversari. Gli avversari caricano effettivamente il loro malware su VirusTotal per vedere se viene rilevato o meno. E lo modificheranno fino a quando non ci sarà più rilevazione e poi lo utilizzeranno”.

Il Cammino Avanti

Gli ospiti del panel hanno sottolineato l’importanza di iniziare con le basi della sicurezza, come l’aggiornamento e la MFA, prima di inseguire “cose nuove e brillanti” come l’IA. Come ha avvertito Weissert, “Non puoi controllare ciò che non conosci.” È necessario avere visibilità su beni e flussi di dati.

Si consiglia di progredire in modo incrementale: automatizzare prima i flussi di lavoro ripetitivi mentre si monitora l’abuso. Ciò permette di concentrare le risorse specializzate su minacce sconosciute ad alto valore. Come ha affermato Singh, “Sostituisciti con l’IA, in modo da poterti concentrare di più sugli sconosciuti sconosciuti.”

In definitiva, la missione di CrowdStrike rimane quella di utilizzare la tecnologia per potenziare i difensori umani. Con una solida base di dati e un’attenzione all’esperienza utente, l’obiettivo è un’assistenza AI senza attrito. Ciò consente alle squadre di sicurezza di tenere il passo con gli attacchi sempre più automatizzati.

Come ha concluso Murphy, “Non è che non abbiamo bisogno di analisti di livello 1 e 2. È solo che ora possiamo formarli sulle basi. Quello che abbiamo visto è che l’IA consente agli analisti di dedicare il loro tempo scarso a compiti creativi e strategici di alto valore che solo gli esseri umani possono svolgere.”

L’evoluzione del panorama delle minacce

Gli ospiti del panel hanno delineato un quadro preoccupante dell’escalation del panorama delle minacce informatiche. Oltre all’IA, hanno sottolineato che gli avversari innovano costantemente con nuove tecniche di sfruttamento e tattiche di ransomware. Come ha descritto Singh: “Ogni giorno vediamo nuove tecniche, nuove tattiche in uso, nuove catene di sfruttamento, nuove combinazioni di exploit che non abbiamo risolto in precedenza. E questo aumenterà con l’IA perché anche l’attore minaccia la utilizzerà.”

Questo sottolinea la necessità di un’innovazione umana continua guidata, poiché l’IA da sola non può tenere il passo con la creatività degli attaccanti. La difesa deve sfruttare le capacità di apprendimento sia umane che delle macchine.

Integrare l’Intuizione Umana con la Velocità delle Macchine

Un principio fondamentale sottolineato è l’integrazione stretta dell’esperienza umana con la scalabilità dell’IA. Poiché le minacce operano alla velocità digitale, l’IA è necessaria per filtrare rapidamente il rumore e rispondere. Tuttavia, il giudizio umano è ancora necessario per individuare minacce innovative sfuggite ai modelli.

Weissert ha spiegato: “In generale, mi affido a un sistema che dice, ‘Ehi, l’abbiamo già visto. Lo fermeremo.’ Beh, se non l’hai mai visto, non puoi fermarlo. E penso che questo sia una grande parte del modo in cui stiamo cercando di combattere queste cose.”

Unendo la creatività umana alla coerenza delle macchine, le organizzazioni possono ottenere il meglio di entrambi i mondi: intuizioni personalizzate e automazione rapida.

I Rischi dell’Utilizzo Improprio

Anche se l’IA consente efficienze su larga scala, sono stati esaminati anche i suoi rischi. Il panel ha messo in guardia che i modelli generativi possono essere utilizzati impropriamente per diffondere disinformazione o prospettive di parte se non vengono monitorati correttamente.

Murphy ha osservato: “Abbiamo sentito storie dai nostri clienti C-suite sugli incidenti causati dal fatto che gli utenti stavano giocando con questa fantastica tecnologia, ma non si rendevano conto che stavano inviando proprietà intellettuale a terze parti.”

Ciò dimostra la necessità di una supervisione attenta prima di utilizzare l’IA, considerando elementi come la privacy dei dati, la verifica dell’utente, la trasparenza e la rilevazione dei pregiudizi. L’adozione affrettata senza tali linee guida è pericolosa.

Formare la Prossima Generazione

Sono stati forniti consigli per formare in modo sicuro ed efficace la prossima generazione di professionisti della sicurezza per sfruttare l’IA. Concetti come la robustezza dei modelli, l’etica e il pregiudizio algoritmico devono diventare parte integrante dell’educazione alla sicurezza informatica.

Singh ha suggerito: “Possiamo utilizzare l’IA per ridurre i tempi di inserimento. Gli esercizi di addestramento che facevamo prima ora possono sfruttare l’IA per abbreviare significativamente i tempi di inserimento.”

Con abilità di IA specializzate sempre più indispensabili, programmi mirati a queste tecnologie emergenti saranno fondamentali per i difensori.

Il consenso è che mescolare l’ingegno umano e l’efficienza delle macchine sia imperativo per affrontare le minacce moderne. Quando viene implementata in modo oculato, la sicurezza assistita dall’IA consente agli analisti di operare con un contesto più ampio e alla velocità digitale. Questa fusione promette di spingere la sicurezza informatica verso un futuro in cui la tecnologia e la creatività umana lavorano in armonia per sconfiggere gli attacchi.