OpenAI et Microsoft bloquent les pirates ChatGPT en Chine et en Corée du Nord
Le développeur de ChatGPT, OpenAI, a déclaré s'être associé au principal investisseur Microsoft pour contrecarrer cinq cyberattaques « affiliées à l'État ».
Les cyberattaques, a déclaré mercredi OpenAI, provenaient de deux groupes affiliés à la Chine – Charcoal Typhoon et Salmon Typhoon – ainsi que de Crimson Sandstorm, affilié à l'Iran, d'Emerald Sleet, affilié à la Corée du Nord, et de Forest Blizzard, affilié à la Russie.
Les groupes ont tenté d'utiliser GPT-4 pour la recherche sur les entreprises et les outils de cybersécurité, le débogage de code, la génération de scripts, les campagnes de phishing, la traduction de documents techniques, l'évasion de la détection des logiciels malveillants et la recherche sur les communications par satellite et la technologie radar, a déclaré OpenAI. Les comptes ont été clôturés après avoir été identifiés.
"Nous avons dérangé cinq acteurs affiliés à l'État qui cherchaient à utiliser les services d'IA pour soutenir des cyberactivités malveillantes", a déclaré OpenAI dans un article de blog, qui partage également "l'approche de l'entreprise pour détecter et perturber ces acteurs afin de promouvoir le partage d'informations et transparence concernant leurs activités.
OpenAI et Microsoft n'ont pas immédiatement répondu à la demande de commentaires de Decrypt.
"La grande majorité des gens utilisent nos systèmes pour améliorer leur vie quotidienne, des tuteurs virtuels pour les étudiants aux applications capables de retranscrire le monde pour les personnes malvoyantes", a déclaré OpenAI. « Comme c’est le cas pour de nombreux autres écosystèmes, il existe une poignée d’acteurs malveillants qui nécessitent une attention soutenue afin que tous les autres puissent continuer à en bénéficier. »
Bien qu'OpenAI ait réussi à stopper ces cas, l'entreprise a reconnu l'impossibilité de mettre fin à chaque utilisation abusive.
Suite à une vague de deepfakes et d’escroqueries générées par l’IA après le lancement de ChatGPT, les décideurs politiques ont intensifié leur surveillance des développeurs d’IA générative. En septembre, OpenAI a annoncé une initiative visant à renforcer la cybersécurité autour de ses modèles d’IA, notamment en se tournant vers des « équipes rouges » tierces pour trouver des failles dans la sécurité d’OpenAI.
Malgré l'investissement d'OpenAI dans la cybersécurité et la mise en œuvre de mesures pour empêcher ChatGPT de répondre par des réponses malveillantes, racistes ou dangereuses, les pirates ont trouvé des moyens de jailbreaker le programme et de faire exactement cela au chatbot. En octobre, des chercheurs de l'Université Brown ont découvert que l'utilisation de langues moins courantes comme le zoulou et le gaélique pouvait contourner les restrictions de ChatGPT.
OpenAI a souligné la nécessité de garder une longueur d'avance sur l'évolution des menaces et a souligné son approche pour sécuriser ses modèles d'IA, y compris la transparence, la collaboration avec d'autres développeurs d'IA et l'apprentissage des cyberattaques du monde réel.
La semaine dernière, plus de 200 organisations, dont OpenAI, Microsoft, Anthropic et Google, se sont jointes à l'administration Biden pour former l'AI Safety Institute et le US AI Safety Institute Consortium (AISIC), visant à développer l'intelligence artificielle en toute sécurité et à lutter contre les deepfakes générés par l'IA., et répondre aux problèmes de cybersécurité.
« En continuant à innover, à enquêter, à collaborer et à partager, nous rendons plus difficile la détection des acteurs malveillants dans l'écosystème numérique et améliorons l'expérience de tous les autres », a déclaré OpenAI.
Edité par Ryan Ozawa.
