Una nuova tipologia di attacco informatico sta generando significative preoccupazioni riguardo al funzionamento delle intelligenze artificiali generative. Secondo quanto segnalato da varie testate specializzate in tecnologia, i truffatori informatici stanno riuscendo a manipolare le AI Overviews, le sintesi prodotte dall’IA di Google come risposte per gli utenti, per inserire numeri di telefono ingannevoli, presentandoli come contatti ufficiali di istituti bancari e aziende.
I malintenzionati sfruttano il modo in cui l’algoritmo di Google raccoglie le informazioni. Invece di fornire un elenco di link verificati, l’IA genera una risposta sintetica basata sui contenuti reperiti online. Gli attaccanti “avvelenano” i risultati pubblicando numeri falsi su siti web di scarsa qualità, che l’intelligenza artificiale di Google poi scambia per fonti affidabili e propone in cima alla pagina dei risultati.
Cosa rischiano gli utenti
Cosa succede. Quando un utente cerca il numero del servizio clienti di una banca o di un’azienda, il sistema AI in alcune circostanze sembra effettivamente rimandare al contatto del truffatore. Che, una volta contattato, riesce a ottenere informazioni di accesso all’home banking dell’utente.
Al momento, il fenomeno è stato osservato principalmente negli Stati Uniti. Tuttavia, sono in corso verifiche e non si esclude la possibilità che possa essere più diffuso.
La posizione di Google e le contromisure
Interpellata in merito, Google ha comunicato a Wired US di essere attivamente impegnata nel contrastare il fenomeno, migliorando i sistemi di rilevamento dello spam. L’azienda evidenzia l’efficacia delle attuali misure di protezione, pur riconoscendo la necessità di aggiornamenti continui per affrontare il problema.
Perché accade? Perché, a differenza di quanto siamo ancora portati a pensare, l’IA non comprende ma aggrega. L’IA generativa cerca di rispondere a domande cercando corrispondenze online e generando testi. Se un numero è falso, l’IA potrebbe tranquillamente considerarlo come autentico. L’IA non effettua chiamate, non conosce realmente, fornisce risposte basate su ciò che trova online. Difficilmente verifica. Inoltre, in questo contesto, interviene il meccanismo della presunta autorità della risposta.
Leggendola in modo accattivante, si è indotti a pensare che sia in qualche modo veritiera. E quella conoscenza, quella percezione, la facciamo nostra. Che si tratti di un numero di telefono o di una spiegazione parziale di eventi storici, cronaca o attualità, poco importa.
Come proteggersi da truffe legate all’IA
Gli esperti di sicurezza, interpellati da Wired e Washington Post, che tra i primi hanno riportato la notizia, invitano alla massima prudenza, esortando gli utenti a diffidare delle informazioni automatiche e a non considerare la sintesi AI come una fonte infallibile, specialmente per dati sensibili come numeri di telefono o indirizzi.
Per i contatti di assistenza, è fondamentale cercare il sito ufficiale dell’azienda e verificare i numeri direttamente lì. Inoltre, prima di effettuare chiamate delicate, è consigliabile incrociare il numero trovato con una seconda ricerca indipendente.
L’adozione di strumenti di ricerca generativa rende l’esperienza più fluida, ma, come già accennato, comporta il rischio di affidarsi a informazioni elaborate piuttosto che verificate, rendendo necessaria una maggiore attenzione da parte degli utenti.
I commenti sono chiusi.