L’intelligenza artificiale (IA) è sempre più diffusa nell’analisi dei segnali neurali, nella creazione di modelli comportamentali e nell’anticipazione dei pattern decisionali.
Ciò segna un cambiamento di paradigma, passando dalla semplice elaborazione dei dati a sistemi in grado di interpretare e interagire con la cognizione umana. In occasione di Kaspersky HORIZONS, la principale conferenza europea annuale di Kaspersky sul futuro della cybersecurity, tenutasi a Roma il 19 maggio, l’azienda ha analizzato l’impatto dell’evoluzione dell’IA sulla privacy mentale e sull’autonomia cognitiva.
Sebbene gli attuali sistemi di IA non siano in grado né di comprendere direttamente né di decodificare con precisione i pensieri umani, offrono funzionalità che possono influenzare i comportamenti e orientare le decisioni attraverso sistemi di suggerimento, personalizzazione e controllo delle informazioni su larga scala. Da questo punto di vista, ciò rappresenta un rischio reale e crescente per la sicurezza informatica e un rischio socio-tecnico, anche se gli scenari più estremi rimangono ancora puramente ipotetici.
Secondo Kaspersky GReAT, i quattro rischi emergenti per la sicurezza indicati di seguito diventeranno più evidenti con il progredire dei sistemi di IA cognitiva:
#1 Il social engineering diventa sempre più complesso e ingannevole
I Large Language Models (LLM) stanno già trasformando il social engineering in una minaccia molto più sofisticata e convincente. Gli hacker sono ora in grado di generare e-mail e pagine di phishing più credibili. Grazie all’intelligenza artificiale cognitiva, possono potenzialmente sfruttare le piattaforme social e grandi set di dati per elaborare truffe altamente mirate, utilizzando analisi comportamentali e profilazioni psicologiche per aumentare le percentuali di successo. I tentativi di phishing possono inoltre essere generati in modo dinamico, sensibili al contesto ed emotivamente persuasivi, il che li rende notevolmente più convincenti.
Ciò può avere ripercussioni sia sui singoli individui che sulle organizzazioni, sotto forma di furti di dati e truffe finanziarie. L’ultimo report globale dei Kaspersky Security Services mostra che il phishing rappresenta circa il 15% (un caso su sette) delle tecniche di attacco più diffuse. In questo contesto, il phishing può fungere da efficace punto di accesso iniziale per gli attacchi APT e altre forme sofisticate di crimeware che prendono di mira le aziende e gli enti governativi.
#2 La manipolazione cognitiva influenza l’opinione pubblica
Oltre agli attacchi individuali, l’intelligenza artificiale consente di influenzare su larga scala l’opinione pubblica. Attori come gli hacktivisti o i gruppi APT possono potenzialmente sfruttare i bias cognitivi e i fattori emotivi dell’intera popolazione. Le piattaforme dei social media dimostrano già come i sistemi algoritmici possano rafforzare la cassa di risonanza e amplificare la polarizzazione, mentre le campagne politiche e le aziende possono utilizzare tecniche di micro-targeting e comportamentali per coinvolgere gli utenti. Con l’evolversi di queste capacità, la distinzione tra prevedere il comportamento e plasmarlo attivamente diventa sempre più sfocata, creando rischi sistemici non solo per l’autonomia individuale, ma anche per la fiducia dei cittadini.
#3 La profilazione favorisce gli abusi predittivi
La profilazione basata sull’IA sta diventando un potente strumento di abuso. Aggregando dati provenienti da social media, comportamenti digitali e altre fonti, l’IA è in grado di costruire profili psicologici e identitari altamente dettagliati degli individui. Ciò amplifica in modo significativo il doxxing e gli abusi facilitati dalla tecnologia. Informazioni che un tempo erano frammentarie possono ora essere correlate automaticamente, esponendo informazioni sensibili, collegando identità e consentendo forme di molestia mirate su larga scala. Gli attacchi possono inoltre essere adattati alle vulnerabilità personali, rendendoli più efficaci e più difficili da contrastare.
Allo stesso tempo, i modelli predittivi espongono le persone al rischio di essere giudicate o prese di mira sulla base di comportamenti dedotti piuttosto che di azioni concrete. Questo sposta la minaccia dalla perdita della privacy alla perdita di controllo sulla propria identità e sul modo in cui viene costruita e utilizzata contro di loro.
#4 Le interfacce cervello-computer si integrano con l’IoT
Sebbene siano ancora in gran parte sperimentali, le Brain-Computer Interface (BCI) vengono già utilizzate per consentire la comunicazione ai pazienti attraverso l’interpretazione dei segnali neurali. La ricerca in corso sta ampliando le loro capacità oltre l’interazione di base, includendo la possibilità di controllare dispositivi esterni. È qui che le BCI iniziano a convergere con l’Internet delle cose (IoT). In termini pratici, i segnali neurali possono essere utilizzati per inviare comandi a sistemi connessi come dispositivi per smart home, tecnologie assistive o apparecchiature mediche.
Se da un lato questa integrazione offre vantaggi significativi, in particolare nel settore sanitario e in materia di accessibilità, dall’altro aumenta i rischi per la cybersecuruty in nuovi ambiti, poiché i sistemi compromessi potrebbero consentire azioni non autorizzate attraverso l’interfaccia neurale dell’utente, tra cui l’intercettazione dei segnali, la manipolazione delle risposte dei dispositivi o lo sfruttamento del legame tra intenzione ed esecuzione. Di conseguenza, i rischi per la sicurezza si estendono oltre l’infrastruttura digitale fino a interessare i sistemi fisici e l’azione umana.
“Sebbene l’IA cognitiva sia ancora in una fase iniziale e lontana da una diffusione di massa, si sta sviluppando rapidamente”, ha affermato Noushin Shabab, Lead Security Researcher, Kaspersky Global Research and Analysis Team. “Si presume che nei prossimi decenni i modelli avanzati di interazione tra uomo e IA saranno molto più diffusi e questo comporterà un aumento dei rischi associati e, quando ciò accadrà, dovremo essere pronti”.
Affrontare queste sfide richiede una collaborazione proattiva tra la community della cybersecurity, gli sviluppatori di IA, gli scienziati e gli esponenti politici. Come ha spiegato Teresa Potenza, giornalista e formatrice in materia di IA responsabile che ha approfondito l’argomento durante la conferenza: “Il vero rischio dell’IA cognitiva è che modella le nostre menti, in modo silenzioso e diffuso. Abbiamo imparato che i sistemi ottimizzati per il coinvolgimento minano il giudizio. Ecco perché la regolamentazione è ora una difesa dell’autonomia umana, ma non può stare al passo con l’IA cognitiva se si limita a considerare ciò che questi sistemi fanno oggi. Abbiamo bisogno di un principio applicabile: la tecnologia deve servire le persone, non il contrario. L’autonomia non è solo una questione di privacy, è una questione di democrazia”.
 è sempre più diffusa nell'analisi dei segnali neurali, nella creazione di modelli comportamentali e nell'anticipazione dei pattern decisionali.){kind=link}