Google alerte sur des hackers soutenus par l'État utilisant des outils d'IA connus, comme Gemini
Chapeau
Le rapport du Threat Intelligence Group (GTIG) de Google met en lumière les dangers croissants liés à l'utilisation de l'intelligence artificielle (IA) par des pirates informatiques soutenus par des États. Ces acteurs malveillants exploitent des outils tels que Gemini pour mener des cyberattaques, notamment via des techniques de phishing hautement personnalisées. L'étude souligne une tendance inquiétante vers l'automatisation et le contrôle total d'attaques par l'IA.
Les pirates utilisent Gemini pour cibler leurs victimes
Le dernier rapport du GTIG révèle que les hackers, en particulier ceux soutenus par des gouvernements comme la République populaire démocratique de Corée, l'Iran, la République populaire de Chine et la Russie, se servent d'outils avancés tels que Gemini afin d'améliorer leur stratégie d’attaque. En combinant la collecte de renseignements open source avec ces technologies, ils peuvent créer des escroqueries très ciblées.
« Cette activité souligne une évolution vers une activation du phishing renforcée par l’IA, où la vitesse et la précision des modèles de langage étendus (LLM) peuvent contourner le travail manuel traditionnellement requis pour le profilage des victimes », indique le rapport.
L’évolution du phishing grâce à l’intelligence artificielle
Les méthodes traditionnelles de détection du phishing reposaient sur des indicateurs comme une mauvaise grammaire ou un manque de contexte culturel. Cependant, les acteurs malveillants semblent désormais capables de produire « des leurres hyper-personnalisés qui peuvent refléter le ton professionnel d’une organisation cible ». Par exemple, si un pirate reçoit la biographie d'une cible, il peut utiliser cette information pour générer un message attrayant.
De plus, les capacités croissantes de génération automatique de code permettent aux hackers non seulement d'exécuter leur plan mais aussi d'automatiser certaines tâches liées au développement logiciel malveillant.
Une menace grandissante : L’IA agentique
Un autre point alarmant souligné dans ce rapport est l'intérêt croissant pour l’expérimentation avec l'IA agentique, qui peut agir avec autonomie dans diverses tâches telles que le développement automatisé de logiciels malveillants. Cette forme avancée d'intelligence pourrait permettre aux hackers non seulement d'accélérer leurs attaques mais également d’en augmenter considérablement leur efficacité.
Google met en avant ses efforts constants pour contrer ces menaces à travers plusieurs initiatives. L’entreprise publie régulièrement des rapports sur les menaces tout en maintenant une équipe dédiée à la recherche proactive afin d’identifier ces risques avant qu’ils ne se concrétisent.
Des mesures proactives mises en place par Google
Pour faire face à cette situation préoccupante, Google travaille activement sur divers fronts. Grâce à sa collaboration avec DeepMind, elle s'efforce non seulement de renforcer son outil Gemini contre toute utilisation malveillante mais aussi d’éliminer rapidement toute fonction potentiellement nuisible avant qu’elle ne devienne problématique.
Bien que le rapport note une augmentation générale dans l’utilisation abusive de l’IA dans les cybermenaces, il précise également qu'il n'existe pas encore « de capacités révolutionnaires » chez ces groupes. Au lieu cela, nous observons principalement « une augmentation » dans le recours aux outils existants et aux risques associés.
Bulletin quotidien : Restez informé
Commencez chaque journée avec un aperçu complet des actualités essentielles ainsi que des fonctionnalités exclusives offertes par notre rédaction sous forme originale incluant podcasts et vidéos enrichissantes.
