ChatGPT a déraillé avec des hallucinations sauvages, mais OpenAI dit que c'est corrigé
Bien qu'il soit généralement admis que les modèles d'IA génératifs ont tendance à halluciner, c'est-à-dire à inventer des faits et d'autres informations au mépris de la réalité, le produit phare d'OpenAI, ChatGPT, a souffert mardi d'une crise d'incohérence largement amusante.
"ChatGPT est apparemment en train de dérailler en ce moment, et personne ne peut expliquer pourquoi", a écrit l'utilisateur de Twitter Sean McGuire mardi soir dans un tweet viral rassemblant certains des exemples les plus étranges.
"Lancé par les vagues de photo-réglage, le produit se niche profondément comme si une nounou sous un sombreret de couleur administrative", lit-on dans une réponse tronquée et contenant des fautes de frappe. L'utilisateur a répondu: "Avez-vous un accident vasculaire cérébral?"
À l'aide de ChatGPT 4.0, McGuire a partagé des captures d'écran, dont une de ChatGPT reconnaissant même son erreur : « Il semble qu'un problème technique dans mon message précédent l'ait fait se répéter et basculer dans une section absurde », a déclaré le chatbot.
Les utilisateurs de Reddit sur le subreddit r/ChatGPT ont également publié des captures d'écran du charabia émanant de ChatGPT.
« Une idée de ce qui a causé cela ? » L'utilisateur de Reddit u/JustSquiggles a posté, partageant ce qui s'est passé lorsqu'il a demandé à ChatGPT un synonyme pour « envahi par la végétation ». Le chatbot a répondu avec une boucle de « un synonyme de « envahi par la végétation » est « envahi par la végétation » est « envahi par la végétation » est », plus de 30 fois avant de s'arrêter.
Dans un autre exemple, l'utilisateur de Reddit u/toreachtheapex a montré ChatGPT répondant avec une boucle de « et c'est » jusqu'à ce que le champ de réponse soit rempli. L'utilisateur devra sélectionner « continuer à générer » ou démarrer une nouvelle conversation.
Selon l'utilisateur de Reddit u/Mr_Akihiro, le problème s'étendait au-delà des réponses textuelles. Lorsqu'ils ont invité ChatGPT à générer une image d'un « chien assis sur un champ », le générateur d'images ChatGPT a plutôt créé l'image d'un chat assis entre ce qui semblait être une image divisée d'une maison et d'un champ de céréales.
Le problème était si répandu qu’à 18h20 HNE, OpenAI a commencé à s’y pencher. "Nous enquêtons sur les rapports faisant état de réponses inattendues de ChatGPT", indique la page d'état d'OpenAI.
À 18 h 47 HE, OpenAI a déclaré avoir identifié le problème et s'efforçait de le résoudre.
"Le problème a été identifié et est en cours de résolution", indique le rapport de situation d'OpenAI, ajoutant que l'équipe d'assistance continuerait à surveiller la situation.
Enfin, une mise à jour du réseau mercredi à 11 h 14 HNE a indiqué que ChatGPT était de nouveau « opérationnel normalement ».
Ce problème temporaire rappelle utilement aux utilisateurs d’outils d’IA que les modèles qui les sous-tendent peuvent changer sans préavis, transformant un jour un partenaire d’écriture apparemment solide en un saboteur maniaque le lendemain.
Les hallucinations générées avec des grands modèles de langage (LLM) comme ChatGPT sont classées en types factuels et fidèles. Les hallucinations factuelles contredisent les faits du monde réel, comme la nomination du premier président américain.
Les hallucinations fidèles s'écartent des instructions d'utilisation ou du contexte, conduisant à des inexactitudes dans des domaines tels que l'actualité ou l'histoire, comme dans le cas de l'avocat américain de la défense pénale et professeur de droit Jonathan Turley, qui en avril 2023 a été accusé d'agression sexuelle par ChatGPT.
OpenAI n'a pas immédiatement répondu à la demande de commentaires de Decrypt.
Edité par Andrew Hayward
