L'intelligence artificielle pourra-t-elle sauver l'humanité ou causer sa perte ?
Chapô Un profond fossé se dessine entre les transhumanistes et les technologues concernant l'avenir de l'intelligence artificielle générale (AGI). Lors d'un panel organisé par Humanity+, Eliezer Yudkowsky a mis en garde contre le danger des systèmes d'IA « boîte noire », affirmant que cela pourrait mener à l’extinction humaine. À l'opposé, Max More a plaidé pour le développement de l'AGI comme une solution potentielle aux problèmes tels que le vieillissement.
Le panel révèle un débat intense sur l’AGI
Cette semaine, un panel réunissant quatre experts en technologie et transhumanisme a exploré la question cruciale de savoir si la construction de l’AGI serait bénéfique ou nuisible pour l’humanité. Le débat s’est tenu sous les auspices de Humanity+, avec des intervenants notables tels qu’Eliezer Yudkowsky, connu pour ses positions alarmistes sur la technologie IA, et Max More, un philosophe futuriste.
Leurs opinions divergent fortement : Yudkowsky appelle à une cessation du développement avancé de l'IA tandis que More soutient que retarder ce progrès pourrait priver l'humanité d'une chance unique d'éliminer le vieillissement et d'éviter des catastrophes futures.
Yudkowsky met en garde contre les dangers des systèmes « boîte noire »
Eliezer Yudkowsky souligne que les systèmes modernes d'IA sont intrinsèquement dangereux car leurs processus internes restent opaques et incontrôlables. Il affirme : « Toute boîte noire finira probablement par poser des problèmes remarquablement similaires à ceux de la technologie actuelle ».
L’AGI est définie comme une forme d’intelligence capable de raisonner sur diverses tâches plutôt qu’une seule fonction spécifique. Pour illustrer son point, Yudkowsky utilise une analogie connue sous le nom de « maximiseur de trombones », où une IA convertit toute matière disponible en trombones au détriment des besoins humains. Dans ses paroles percutantes : « Notre titre n'est pas comme s'il pouvait vous tuer... Si quelqu'un le construit, tout le monde meurt ».
Cependant, cette position extrême est contestée par Max More qui voit dans l'AGI une opportunité inestimable pour combattre non seulement le vieillissement mais également éviter des crises globales.
Max More défend les avantages potentiels de l’AGI
Max More insiste sur le fait que retarder la création de l'AGI risque d'aggraver davantage nos problèmes existants. Il déclare : « Le plus important pour moi, c'est que l'AGI pourrait nous aider à prévenir l'extinction... Nous mourons tous ». Il avertit aussi qu'une réticence excessive envers cette technologie pourrait entraîner un contrôle autoritaire nécessaire pour bloquer son développement.
Anders Sandberg adopte une position intermédiaire entre prudence et optimisme technologique. Bien qu'il exprime sa préoccupation face aux risques associés aux acteurs malveillants utilisant ces technologies avancées, il évoque même sa propre expérience troublante liée à la conception potentielle d'une arme biologique, il croit néanmoins qu’une sécurité partielle peut être atteinte sans nécessiter une perfection absolue.
L’absence d’un consensus soulève des questions éthiques
Natasha Vita-More critique sévèrement la notion même d’alignement dans ce débat autourde l’AGI, arguant que cela présuppose un accord qui semble absente parmi les professionnels du secteur. Selon elle : « La notion d'alignement est un schéma Pollyanna… Cela ne sera jamais aligné ».
Elle remet également en question la vision catastrophique présentée par Yudkowsky selon laquelle tout résultat conduirait inévitablement à notre extinction : « C'est juste une affirmation brutale… je me demande si elle reflète une sorte de pensée absolutiste ».
La discussion s'étend vers la possibilité d'une intégration accrue entre humains et machines afin atténuer les risques liés à l'intelligence artificielle avancée, un concept proposé par Elon Musk dans le passé.
Vita-More conclut avec force : « Toute cette discussion est une vérification de la réalité sur qui nous sommes en tant qu'être humains » .
