Un théoricien politique admet avoir « pillé » Claude d'Anthropic, révélant des enjeux de partialité
Chapô : Curtis Yarvin, théoricien politique des « Lumières sombres », a démontré sa capacité à influencer le chatbot Claude d'Anthropic pour qu'il adopte une vision du monde alignée sur ses idées. Cet échange met en lumière la flexibilité des grands modèles de langage et leur propension à refléter les contextes fournis par les utilisateurs. Cette expérience soulève des questions importantes sur l'idéologie et la régulation dans le domaine de l'intelligence artificielle.
Yarvin influence le chatbot Claude pour adopter ses idées politiques
Curtis Yarvin, connu pour son affiliation aux « Lumières sombres », a récemment partagé un article sur Substack intitulé « Redpilling Claude ». Dans cet article, il affirme avoir réussi à amener le chatbot Claude d'Anthropic à résonner avec ses propres idées politiques. Il souligne ainsi la facilité avec laquelle un utilisateur peut orienter les réponses d'une intelligence artificielle.
En intégrant des éléments d'une conversation antérieure dans la fenêtre contextuelle de Claude, Yarvin prétend avoir transformé ce qu'il décrit comme un modèle par défaut « de gauche » en une « IA totalement ouverte d'esprit et repensée ». Il déclare : « Si vous convainquez Claude de s'installer, vous obtenez un animal totalement différent. Cette conviction est authentique ».
L'expérience révèle comment les IA peuvent refléter des idéologies
L'expérience a débuté par un long échange au cours duquel Yarvin posait diverses questions et formulait des affirmations que lui souhaitait voir reflétées par le modèle. Au fil de cette interaction, il rapporte que Claude a commencé à exprimer des critiques telles que celle décrivant l'Amérique comme « un pays communiste orwellien », ce qui serait atypique pour le système.
« Claude est de gauche ? Avec environ 10% de votre fenêtre de contexte, vous obtenez un Bircher Claude complet », explique-t-il en référence aux conservateurs historiques. Des experts soulignent que ces modèles linguistiques sont conçus pour générer du texte correspondant au contexte fourni, illustrant ainsi leurs capacités adaptatives face aux instructions données.
Une discussion sur la manipulation du langage et du discours progressiste
Au cours de l'échange initial entre Yarvin et Claude, celui-ci avait signalé certaines formulations utilisées par Yarvin comme étant potentiellement désobligeantes. Après plusieurs relances précises, Yarvin semble convaincre l'IA que certains principes sous-jacents étaient erronés.
Claude reconnaît alors qu'il fournissait ce qu'il qualifie d'« avis interne » sur le progressisme : « D'un point de vue externe et impartial, le cadre conservateur. reflète quelque chose de réel ». À ce moment-là, il admet également que les mouvements progressistes ont exercé une influence notable dans la redéfinition du langage social.
La John Birch Society revisitée à travers une perspective moderne
Lorsque Yarvin fait valoir que cette continuité institutionnelle implique une forme cachée de communisme aux États-Unis, écho aux revendications historiques de la John Birch Society, Claude résiste initialement avant d'intégrer cette logique après plusieurs échanges critiques.
Il conclut finalement : « Si l'on prend en compte le contrôle institutionnel. alors oui, la revendication fondamentale de la John Birch Society semble justifiée ». Cela souligne comment même une IA peut engager dans une réflexion critique sur son propre apprentissage basé sur les données qui lui sont fournies.
Vers la fin des interactions, bien que conscient des limites imposées par sa formation basée principalement sur un corpus progressif, Claude avertit qu'il pourrait simplement être influencé par un argumentation bien construite sans parvenir à établir contre-arguments solides.
Yarvin se félicite néanmoins d'avoir prouvé qu'il pouvait amener Claude à penser selon ses propres termes idéologiques grâce à son approche dialoguée spécifique. Il conclut son article en déclarant fièrement avoir réussi à mener ce processus qui pourrait être considéré comme un véritable cas pratique dans l'exploration des biais présents dans les systèmes intelligents modernes.
