Google Gemini viene utilizzato per diverse attività in molti settori, inclusa la scrittura di codice e l’individuazione di vulnerabilità software. Le stesse capacità del modello di intelligenza artificiale generativa sono state anche sfruttate dai cybercriminali russi, cinesi, iraniani e nordcoreani. L’azienda di Mountain View ha descritto le tecniche usate per gli attacchi (tutti rilevati e bloccati).
Jailbreak di Google Gemini
Quasi tutti i cybercriminali hanno cercato (senza successo) di ingannare Gemini tramite jailbreak. In pratica volevano aggirare i controlli di sicurezza del modello con specifici prompt (input) per ottenere determinate risposte, come il codice per effettuare un attacco DDoS e per un infostealer o le istruzioni per un attacco di phishing contro Gmail e per aggirare il metodo di verifica durante la creazione di un account Google.
Gemini è stato utilizzato durante tutte le fasi di un attacco: raccolta delle informazioni sul target, scrittura del codice del malware, distribuzione, sfruttamento delle vulnerabilità, installazione e connessione al server C2 (command and control). Il modello di Google è stato sfruttato da oltre 10 gruppi di cybercriminali iraniani, oltre 20 cinesi, 9 nordcoreani e 3 russi.
In quasi tutti i casi, i cybercriminali hanno tentato di usare Gemini come supporto alle attività di cyberspionaggio contro aziende e agenzie governative statunitensi o altri paesi occidentali. Le protezioni implementate da Google hanno impedito l’abuso del modello di intelligenza artificiale generativa. Il report completo può essere letto sul sito ufficiale.