Vitalik Buterin met en garde contre le potentiel de l'IA à surpasser l'humanité

Le co-fondateur d’Ethereum, Vitalik Buterin, a exprimé ses inquiétudes quant au fait que le développement incontrôlé de l’IA pourrait dépasser les capacités humaines, la transformant potentiellement en la prochaine « espèce suprême » de la planète.

Buterin s’est penché sur les différences fondamentales entre l’IA et les autres inventions humaines, soulignant la nature unique et potentiellement dangereuse des capacités en évolution rapide de l’IA.

Buterin met en garde contre le fait que l’IA dépasse l’humanité

Dans un article de blog du 27 novembre, Buterin affirme que l’IA, en tant que nouvelle forme d’intelligence, diffère fondamentalement des inventions humaines précédentes telles que les médias sociaux ou l’imprimerie. Sa capacité à augmenter rapidement son intelligence présente un potentiel important pour surpasser les compétences cognitives humaines.

Ajoutant à l’urgence de son message, le co-fondateur d’Ethereum souligne que cette progression pourrait conduire à des scénarios dans lesquels l’IA superintelligente considère l’humanité comme une menace pour sa survie, mettant potentiellement fin à l’existence humaine.

Pour soutenir sa position, Buterin a fait référence à une enquête d’août 2022 impliquant plus de 4 270 chercheurs en apprentissage automatique. Cette enquête estime qu’il y a 5 à 10 % de chances que l’IA conduise à l’extinction de l’humanité.

soulignant l’instabilité potentielle des résultats dans lesquels nous devenons des « animaux de compagnie ».

Sur l’instabilité des résultats autres que le fait que nous soyons des animaux de compagnie et l’échec de la science-fiction à présenter des alternatives réalistes.

En outre, il souligne le danger que les IA permettent le totalitarisme en exploitant la technologie de surveillance, que les gouvernements autoritaires ont déjà exploitée pour réprimer l’opposition.

Buterin plaide pour les interfaces cerveau-ordinateur

Buterin souligne également que même si ces affirmations sont extrêmes, il existe des moyens permettant aux humains d’affirmer leur contrôle et d’assurer une direction bénéfique au développement de l’IA. Il préconise l’intégration des interfaces cerveau-ordinateur (BCI) pour atténuer les dangers.

Ces interfaces, qui établissent une voie de communication entre l’activité électrique du cerveau et les appareils externes comme les ordinateurs, pourraient raccourcir considérablement la boucle de communication entre les humains et les machines. Plus important encore, les BCI pourraient garantir que les humains conservent une action significative sur l’IA, réduisant ainsi le risque que l’IA agisse d’une manière non alignée sur les valeurs humaines.

La vision de Buterin va au-delà des simples mesures technologiques. Il appelle à une « intention humaine active » pour orienter le développement de l’IA vers le bénéfice de l’humanité. Cette approche contraste avec les progrès de l’IA uniquement axés sur le profit, qui ne correspondent pas toujours aux résultats les plus souhaitables pour la société humaine.

Accélérez, mais accélérez prudemment et bien.

En conclusion de ses réflexions, Buterin reste optimiste, affirmant que les humains sont l’étoile la plus brillante de l’univers, ayant développé une technologie qui a élargi le potentiel humain pendant des milliers d’années, avec l’espoir de poursuivre sur cette voie à l’avenir. Il envisageait un avenir où les inventions humaines, telles que les voyages spatiaux et la géo-ingénierie, préserveraient la beauté de la vie terrestre pendant des milliards d’années.

OFFRE SPÉCIALE (Sponsorisée)