Il pericolo più immediato dell’intelligenza artificiale non è rappresentato da robot capaci di ribellarsi agli esseri umani, ma da criminali che utilizzano tecnologie sempre più potenti per realizzare attacchi informatici. È l’allarme lanciato da Bill Gates, cofondatore di Microsoft, che torna a chiedere un maggiore intervento delle istituzioni pubbliche nella regolamentazione dell’IA.
In un’intervista ad ABC News dell’11 ottobre, Gates ha richiamato l’attenzione sulla possibilità che nei prossimi dodici mesi si verifichi un aumento significativo delle minacce informatiche legate all’intelligenza artificiale. La preoccupazione riguarda soprattutto l’utilizzo di modelli avanzati da parte di soggetti che riescono ad aggirare o eliminare le protezioni progettate per impedirne gli impieghi dannosi.
Ma le sue dichiarazioni vanno oltre la cybersecurity. Il fondatore di Microsoft mette in discussione un principio sostenuto da una parte dell’industria tecnologica americana: l’idea che le aziende possano stabilire autonomamente quali rischi siano accettabili e quali misure adottare per proteggere la società.
Una posizione che si inserisce nel confronto tra la politica di deregolamentazione dell’amministrazione Trump, gli interessi delle grandi aziende tecnologiche e il modello europeo fondato su obblighi giuridici e controlli pubblici.
Come l’intelligenza artificiale può rendere più pericolosi gli attacchi informatici
L’intelligenza artificiale sta trasformando profondamente il settore della sicurezza digitale. I sistemi più avanzati consentono di analizzare enormi quantità di informazioni, individuare anomalie e riconoscere vulnerabilità nei programmi informatici.
Queste capacità rappresentano un’opportunità per aziende, amministrazioni pubbliche ed esperti di cybersecurity. Ma possono essere utilizzate anche da organizzazioni criminali.
I modelli generativi permettono, per esempio, di creare messaggi fraudolenti particolarmente credibili, imitare le comunicazioni di banche e aziende, personalizzare tentativi di phishing e costruire false identità digitali.
Le tecnologie di clonazione vocale e generazione di video possono rendere ancora più sofisticate le truffe, consentendo ai criminali di impersonare dirigenti, professionisti o familiari delle vittime.
Il rischio aumenta quando l’intelligenza artificiale viene integrata con strumenti capaci di eseguire operazioni informatiche. Alcune attività che richiedevano competenze specialistiche possono diventare più semplici da realizzare, mentre altre possono essere automatizzate e ripetute su larga scala.
Questo non significa che un chatbot sia automaticamente capace di violare qualsiasi sistema. Le operazioni informatiche più complesse continuano a richiedere conoscenze tecniche e i modelli attuali presentano limiti importanti.
Tuttavia, la progressiva evoluzione degli strumenti potrebbe ridurre le barriere d’ingresso per la criminalità informatica, aumentando il numero dei potenziali aggressori e la frequenza degli attacchi.
Il rischio per cittadini, imprese e servizi essenziali
Le conseguenze potrebbero riguardare direttamente la vita quotidiana.
Banche, ospedali, aziende energetiche, reti di telecomunicazione e amministrazioni pubbliche dipendono da sistemi digitali sempre più complessi.
Un attacco informatico può provocare l’interruzione di servizi essenziali, la sottrazione di dati personali, il blocco delle attività produttive e perdite economiche considerevoli.
L’utilizzo dell’intelligenza artificiale potrebbe rendere più efficienti alcune fasi delle operazioni criminali, soprattutto nella raccolta delle informazioni, nella preparazione delle frodi e nell’individuazione di possibili punti deboli.
La stessa tecnologia può però rafforzare le difese, aiutando gli esperti a identificare comportamenti sospetti e reagire più rapidamente agli incidenti.
La sfida diventa quindi una competizione tra chi utilizza l’intelligenza artificiale per proteggere i sistemi e chi cerca di sfruttarla per comprometterli.
Il problema delle protezioni che possono essere aggirate
Uno degli aspetti più delicati dell’allarme di Gates riguarda i sistemi di sicurezza integrati nei modelli di intelligenza artificiale.
Le principali aziende tecnologiche introducono limitazioni progettate per impedire richieste pericolose, comprese quelle finalizzate alla realizzazione di attività criminali.
Queste protezioni, tuttavia, non sono infallibili.
In alcuni casi possono essere aggirate attraverso istruzioni manipolate. In altri, soprattutto quando i pesi di un modello sono accessibili e modificabili, soggetti esterni possono intervenire sulle restrizioni originarie.
Le due situazioni sono tecnicamente differenti, ma sollevano una questione comune: fino a che punto è possibile impedire che strumenti progettati per finalità legittime vengano trasformati in risorse per attività illecite?
La preoccupazione non riguarda soltanto gli attacchi informatici. Gates ha richiamato anche i potenziali rischi derivanti dall’impiego dell’intelligenza artificiale in altri ambiti particolarmente sensibili, compresa la sicurezza biologica.
Gates contro l’autoregolamentazione delle Big Tech
È sul terreno delle regole che le dichiarazioni del fondatore di Microsoft assumono un significato politico più ampio.
Le grandi aziende tecnologiche sviluppano i modelli, ne verificano le prestazioni, individuano le vulnerabilità e stabiliscono le condizioni attraverso le quali renderli disponibili.
Questo sistema attribuisce alle imprese un ruolo fondamentale nella gestione della sicurezza, ma presenta anche un problema evidente: chi sviluppa una tecnologia e trae profitto dalla sua diffusione è contemporaneamente chiamato a valutarne i rischi.
Un’azienda impegnata nella competizione globale ha interesse a distribuire rapidamente nuovi prodotti, conquistare utenti e attirare investimenti. Le verifiche di sicurezza possono invece richiedere tempo e, nei casi più delicati, imporre il rinvio di un lancio commerciale.
Non significa che le imprese trascurino necessariamente la protezione degli utenti. Significa che la tutela dell’interesse pubblico non può dipendere esclusivamente dalle loro decisioni.
È questo il principio sostenuto da Gates: una tecnologia potenzialmente capace di produrre conseguenze così rilevanti richiede anche controlli e responsabilità definiti dalle istituzioni pubbliche.
Trump, Zuckerberg e la corsa all’intelligenza artificiale
Il confronto si sviluppa mentre gli Stati Uniti considerano la leadership nell’intelligenza artificiale una priorità economica e strategica.
L’amministrazione Trump ha privilegiato una politica favorevole all’innovazione e alla riduzione degli ostacoli normativi, sostenendo la necessità di mantenere il vantaggio tecnologico americano, soprattutto nella competizione con la Cina.
All’interno della stessa industria emergono però posizioni differenti.
Meta, guidata da Mark Zuckerberg, ha difeso un approccio che attribuisce grande importanza alla concorrenza e alla responsabilità delle singole imprese, mentre altri protagonisti del settore hanno sostenuto la necessità di verifiche più rigorose sui modelli avanzati.
Il dissenso non riguarda necessariamente l’importanza della sicurezza, riconosciuta dai principali operatori, ma chi debba stabilire gli standard, quanto debbano essere vincolanti e se possano giustificare un rallentamento dello sviluppo.
La posizione di Gates mette in evidenza proprio i limiti di un sistema fondato esclusivamente su impegni volontari.
L’Europa ha scelto la strada dell’AI Act
L’Unione europea ha adottato un approccio differente attraverso l’AI Act, il regolamento che introduce obblighi specifici per lo sviluppo e l’utilizzo dei sistemi di intelligenza artificiale.
Per i modelli di IA per finalità generali che presentano rischi sistemici sono previste misure rafforzate, tra cui valutazioni della sicurezza, gestione e mitigazione dei rischi, protezione delle infrastrutture informatiche e comunicazione degli incidenti gravi.
L’obiettivo è evitare che la sicurezza dipenda soltanto dagli impegni volontari dei produttori.
A queste disposizioni si affiancano le norme europee sulla cybersecurity, tra cui la direttiva NIS2, che rafforza gli obblighi di gestione dei rischi informatici per numerose organizzazioni pubbliche e private.
Naturalmente nessuna normativa può impedire automaticamente l’utilizzo criminale dell’intelligenza artificiale. Le regole possono però contribuire a definire responsabilità, rafforzare le misure preventive e rendere più efficace la supervisione pubblica.
Resta inoltre una distinzione fondamentale: la responsabilità di chi utilizza l’IA per commettere un reato non coincide automaticamente con quella dell’azienda che ha sviluppato il modello. Eventuali responsabilità dei fornitori devono essere valutate sulla base degli obblighi applicabili, delle condotte e delle circostanze concrete.
Dietro la sfida di Gates, la battaglia per il controllo dell’intelligenza artificiale
C’è infine una questione che attraversa l’intero confronto e riguarda gli equilibri economici dell’industria tecnologica.
La richiesta di maggiori controlli pubblici non è necessariamente estranea agli interessi dei grandi operatori. Le regole possono proteggere cittadini e imprese, ma possono anche modificare la concorrenza, favorendo le aziende che dispongono già delle risorse necessarie per sostenere costosi obblighi di sicurezza e conformità.
Il confronto riguarda anche i differenti modelli di sviluppo dell’intelligenza artificiale: da una parte i sistemi proprietari, distribuiti attraverso infrastrutture controllate dalle aziende; dall’altra i modelli con pesi accessibili, che possono essere modificati e utilizzati autonomamente.
Le decisioni sulla sicurezza e sulle responsabilità dei fornitori potrebbero incidere profondamente sul futuro di entrambi.
Non esistono elementi per sostenere che Gates chieda maggiori regole per proteggere specifici interessi industriali. Sarebbe però ingenuo ignorare che la regolamentazione contribuirà a determinare anche chi potrà competere nel mercato dell’intelligenza artificiale e a quali condizioni.
La battaglia sulla sicurezza è dunque anche una battaglia sulla distribuzione del potere tecnologico.
Ed è proprio per questo che le regole non possono essere scritte soltanto dalle aziende che dovranno rispettarle, né trasformarsi in barriere capaci di proteggere gli operatori già dominanti.
L’articolo Bill Gates lancia l’allarme sull’IA: attacchi informatici più pericolosi e Big Tech fuori controllo proviene da TGWEBAI.