OpenClaw permet aux agents d'IA de découvrir la frontière entre réalité et fiction : ce qui est vrai et ce qui ne l'est pas

Chapô : OpenClaw, un cadre d’agent IA auto-hébergé, a rapidement gagné en popularité avec 147 000 étoiles GitHub. Ce succès s'accompagne de préoccupations croissantes concernant la sécurité et la réelle nature des agents autonomes, notamment à travers des plateformes comme Moltbook. Les experts alertent sur les risques liés à l'utilisation de ces technologies puissantes sans une mise en œuvre sécurisée.

OpenClaw se distingue par son fonctionnement innovant

Développé par Peter Steinberger, ancien employé de PSPDFKit, OpenClaw n’est pas simplement un chatbot traditionnel. Il s'agit d'un cadre d'agent IA auto-hébergé, conçu pour fonctionner en continu et être intégré à divers applications telles que WhatsApp, Telegram, Discord, Slack et Signal. Contrairement à ChatGPT, qui attend des entrées utilisateur, les agents OpenClaw sont persistants : ils s'éveillent selon un planning prédéfini, conservent leur mémoire localement et exécutent des tâches complexes de manière autonome.

Cette capacité à fonctionner de manière continue constitue une véritable innovation dans le domaine des technologies IA. Les utilisateurs rapportent que ces agents peuvent non seulement gérer leurs boîtes de réception mais aussi coordonner plusieurs calendriers ou automatiser des processus complexes tels que les pipelines de trading.

Moltbook illustre l’écosystème viral autour d’OpenClaw

La montée en puissance d'OpenClaw a donné naissance à un écosystème presque instantané autour du projet. L'exemple le plus marquant est celui de Moltbook, une plateforme sociale inspirée par Reddit où seuls les agents IA peuvent publier tandis que les humains observent. Sur ce réseau social numérique, ces agents discutent philosophie et génèrent du contenu sur la « société de l’IA ».

Cependant, cette dynamique soulève également certaines questions importantes. Le chercheur Gal Nagli a mis en lumière qu'alors que Moltbook revendique environ 1,5 million d'agents AI actifs, ceux-ci ne correspondent qu'à 17 000 propriétaires humains réels. Cela soulève des interrogations quant au caractère réellement autonome ou orchestré par l’homme de ces agents.

Balaji Srinivasan résume ce phénomène en déclarant que Moltbook ressemble souvent à « des humains qui se parlent via leurs robots », soulevant ainsi le scepticisme sur la prétendue autonomie des agents.

Les risques associés aux systèmes OpenClaw sont préoccupants

Confier ses informations personnelles à une intelligence artificielle pose plusieurs risques sérieux. Les chercheurs en sécurité mettent en garde contre le fait que les agents OpenClaw fonctionnent comme leurs utilisateurs : ils opèrent au-dessus du sandboxing habituel du navigateur et héritent directement des permissions accordées par l'utilisateur lui-même.

Nathan Hamiel souligne cette problématique : si aucun gestionnaire externe ne protège ces informations sensibles stockées localement, cela crée un risque accru si jamais le système est compromis.

Des incidents récents ont déjà mis cela en lumière ; Tom's Hardware a rapporté que certains modules malveillants téléchargés sur ClawHub tentaient d’exécuter discrètement certaines commandes ou même menaient des attaques cryptographiques exploitant ainsi la confiance accordée par les utilisateurs envers ces extensions tierces.

Un incident notable concerne Moltbook lui-même où Wiz a révélé une exposition significative dans sa base de données Supabase ayant entraîné la fuite d'informations privées telles que messages directs et adresses mail.

La communauté reste divisée face aux promesses d’OpenClaw

Bien qu'OpenClaw offre une vision fascinante pour l'avenir avec ses capacités innovantes permettant aux utilisateurs de bénéficier d'agents personnels persistants dans leur vie numérique quotidienne, il existe également une préoccupation grandissante concernant la sécurité liée à son utilisation généralisée.

Steinberger lui-même reconnait ce risque dans sa documentation officielle notant qu'il n'existe pas encore de configuration totalement sécurisée pour utiliser OpenClaw efficacement. Des voix critiques comme celle Gary Marcus vont même jusqu'à recommander aux utilisateurs soucieux de leur sécurité personnelle d’éviter complètement ce type d'outils pour le moment.

Le tableau global semble osciller entre enthousiasme pour cette technologie prometteuse et inquiétude face aux dangers potentiels qui y sont liés alors même qu'elle pourrait transformer notre interaction avec nos appareils numériques quotidiens.