Les humains sont « profondément bons » : Vitalik Buterin, créateur d'Ethereum

Lundi, le créateur d’Ethereum, Vitalik Buterin, a réfléchi à sa propre vision du « techno-optimisme », inspirée par Marc Andreessen, qui s’est exprimé sur l’IA dans son Manifeste Techno-Optimiste en octobre. Bien que Buterin soit d’accord avec les perspectives positives d’Andreessen, Buterin a également souligné l’importance de la manière dont l’IA est développée et de l’orientation future de la technologie.

Buterin a reconnu le risque existentiel de l’intelligence artificielle, notamment celui de provoquer l’extinction de la race humaine.

« Il s’agit d’une affirmation extrême : même si le pire des scénarios de changement climatique, une pandémie artificielle ou une guerre nucléaire pourrait causer des dommages, il existe de nombreux îlots de civilisation qui resteraient intacts pour ramasser les morceaux », a-t-il déclaré. dit.

pourrait bien ne laisser aucun survivant et mettre fin à l’humanité pour de bon », a déclaré Buterin. « Même Mars n’est peut-être pas en sécurité. »

Buterin a souligné une enquête réalisée en 2022 par AI Impacts, qui indiquait qu’entre 5 % et 10 % des participants pensaient que les humains étaient menacés d’extinction à cause de l’IA ou à cause de l’incapacité des humains à contrôler l’IA, respectivement. La société estime qu’un mouvement open source axé sur la sécurité est idéal pour diriger le développement de l’IA plutôt que des sociétés fermées et propriétaires et des fonds de capital-risque.

un avenir dans lequel les êtres humains ne sont pas seulement des animaux de compagnie, mais conservent réellement une action significative sur le monde – alors il semble que quelque chose comme celui-ci soit l’option la plus naturelle », a-t-il déclaré.

Ce qu’il faut, a poursuivi Buterin, c’est l’intention humaine active de choisir sa direction et son résultat. « La formule de ‘maximiser le profit’ ne leur parviendra pas automatiquement », a-t-il déclaré.

Buterin a déclaré qu’il aime la technologie parce qu’elle élargit le potentiel humain, soulignant l’histoire des innovations depuis les outils manuels jusqu’aux smartphones.

« Je crois que ces choses sont profondément bonnes, et qu’étendre encore plus la portée de l’humanité vers les planètes et les étoiles est profondément bonne, parce que je crois que l’humanité est profondément bonne », a déclaré Buterin.

Buterin a déclaré que même s’il croit que la technologie transformatrice mènera à un avenir meilleur pour l’humanité, il rejette l’idée selon laquelle le monde devrait rester tel qu’il est aujourd’hui, mais avec moins de cupidité et davantage de soins de santé publics.

« Il existe certains types de technologies qui rendent le monde meilleur de manière beaucoup plus fiable que d’autres types de technologies », a déclaré Buterin. « Certains types de technologies pourraient, s’ils étaient développés, atténuer les impacts négatifs d’autres types de technologies. »

Buterin a mis en garde contre la montée de l’autoritarisme numérique et des technologies de surveillance utilisées contre ceux qui défient ou sont en désaccord avec le gouvernement, contrôlé par une petite cabale de technocrates. Il a déclaré que la majorité des gens préféreraient voir l’IA très avancée retardée d’une décennie plutôt que d’être monopolisée par un seul groupe.

« Ma crainte fondamentale est que les mêmes types de technologies de gestion qui permettent à OpenAI de servir plus de cent millions de clients avec 500 employés permettront également à une élite politique de 500 personnes, voire à un conseil d’administration de 5 personnes, de maintenir une main de fer sur un pays. pays tout entier », a-t-il déclaré.

Même si Buterin se dit favorable au mouvement d’accélération efficace (également connu sous le nom de « e/acc »), il a des sentiments mitigés quant à son enthousiasme pour la technologie militaire.

« L’enthousiasme pour la technologie militaire moderne en tant que force du bien semble nécessiter de croire que la puissance technologique dominante sera de manière fiable l’un des bons acteurs dans la plupart des conflits, aujourd’hui et à l’avenir », a-t-il déclaré, citant l’idée selon laquelle la technologie militaire est bonne. parce qu’il est construit et contrôlé par l’Amérique et l’Amérique, c’est bien.

« Est-ce qu’être un e/acc nécessite d’être un maximaliste américain, en pariant tout sur la morale présente et future du gouvernement et sur le succès futur du pays ? » il a dit.

Buterin a mis en garde contre le fait de donner « un pouvoir extrême et opaque » à un petit groupe de personnes dans l’espoir qu’ils l’utiliseront à bon escient, préférant plutôt une philosophie de « d/acc » – ou de défense, de décentralisation, de démocratie et de différentiel. Cet état d’esprit, a-t-il dit, pourrait s’adapter aux altruistes efficaces, aux libertariens, aux pluralistes, aux défenseurs de la blockchain et aux punks solaires et lunaires.

« Un monde favorable à la défense est un monde meilleur, pour de nombreuses raisons », a déclaré Buterin. « Bien sûr, il y a d’abord l’avantage direct de la sécurité : moins de personnes meurent, moins de valeur économique est détruite, moins de temps est perdu dans les conflits.

« Ce qui est moins apprécié, cependant, c’est qu’un monde favorable à la défense facilite le développement de formes de gouvernance plus saines, plus ouvertes et plus respectueuses de la liberté », a-t-il conclu.

Buterin a suggéré que le 21e siècle pourrait être « le siècle charnière » pour l’humanité, susceptible de décider du sort de l’humanité pendant des millénaires.

« Ce sont des problèmes difficiles », a déclaré Buterin. « Mais j’ai hâte d’observer et de participer au grand effort collectif de notre espèce pour trouver les réponses. »