L’IA a le monopole du pouvoir et de la vie privée. La blockchain corrige ce problème.

De nombreux Américains ont eu un premier aperçu des coulisses de l'apprentissage automatique lorsque les détails de la technologie « Just Walk Out » d'Amazon ont été rendus publics. Au lieu d'une technologie pure comptabilisant les achats des clients et les facturant lorsqu'ils quittaient le magasin, les ventes étaient vérifiées manuellement par environ 1 000 personnes réelles travaillant en Inde. Mais ces travailleurs représentaient la moitié humaine de ce qu’est réellement la plupart des IA : une collaboration entre l’apprentissage par renforcement et l’intelligence humaine.
L’élément humain a tendance à être ignoré dans les discussions sur la sécurité de l’IA, ce qui est un peu inquiétant compte tenu de l’impact probable de l’IA sur nos marchés du travail et, en fin de compte, sur nos vies individuelles. C’est là que la décentralisation, le manque de confiance inhérent et la sécurité de la technologie blockchain peuvent jouer un rôle majeur.
Le Center for Safe AI identifie quatre grandes catégories de risques liés à l’IA. Pour commencer, il existe une utilisation malveillante, dans laquelle les utilisateurs pourraient « exploiter intentionnellement de puissantes IA pour causer des dommages généralisés » en créant « de nouvelles pandémies ou de nouvelles pandémies ». à des fins de propagande, de censure et de surveillance, ou poursuivre de manière autonome des objectifs nuisibles.
Une préoccupation plus subtile est le risque d’une course à l’IA, où les entreprises ou les États-nations rivalisent pour construire rapidement des systèmes plus puissants et prennent des risques inacceptables dans le processus. Une cyberguerre incontrôlée est un résultat potentiel, un autre résultat serait de permettre aux systèmes d'évoluer de manière autonome, échappant potentiellement au contrôle humain ; ou un résultat plus prosaïque, mais non moins perturbateur, pourrait être un chômage de masse dû à une concurrence incontrôlée.
Les risques organisationnels liés à l’IA sont similaires à ceux de tout autre secteur. L’IA pourrait provoquer de graves accidents industriels, ou des programmes puissants pourraient être volés ou copiés par des acteurs malveillants. Enfin, il existe le risque que les IA elles-mêmes deviennent des voyous, « optimisant des objectifs erronés, s’éloignant de leurs objectifs initiaux, devenant avides de pouvoir, résistant à l’arrêt ou se livrant à la tromperie ».
La réglementation et la bonne gouvernance peuvent contenir bon nombre de ces risques. L'utilisation malveillante est combattue en limitant les requêtes et l'accès à diverses fonctionnalités, et le système judiciaire pourrait être utilisé pour demander des comptes aux développeurs. Les risques d’IA malveillante ou de problèmes organisationnels peuvent être atténués par le bon sens et en favorisant une approche soucieuse de la sécurité dans l’utilisation de l’IA.
Mais ces approches ne prennent pas en compte certains des effets de second ordre de l’IA. À savoir, la centralisation et les incitations perverses qui subsistent des anciennes sociétés Web2. Depuis trop longtemps, nous échangeons nos informations privées contre l’accès à des outils. Vous pouvez vous désinscrire, mais c'est pénible pour la plupart des utilisateurs.
L’IA n’est pas différente de tout autre algorithme, dans la mesure où ce que vous en retirez est le résultat direct de ce que vous y mettez – et d’énormes quantités de ressources sont déjà consacrées au nettoyage et à la préparation des données à utiliser pour l’IA. Un bon exemple est ChatGPT d'OpenAI, qui est formé sur des centaines de milliards de lignes de texte extraites de livres, de blogs et de communautés comme Reddit et Wikipedia, mais qui s'appuie également sur des personnes et des bases de données plus petites et plus personnalisées pour affiner le résultat.
Pour en savoir plus, consultez notre section d'opinion : Que peut faire la blockchain pour l'IA ? Pas ce que vous avez entendu.
Cela soulève un certain nombre de problèmes. Mark Cuban a récemment souligné que l’IA devra éventuellement être formée sur des données que les entreprises et les particuliers ne voudront peut-être pas partager, afin de devenir plus utile commercialement au-delà du codage et de la rédaction. Et, à mesure que de plus en plus d’emplois sont touchés par l’IA – en particulier lorsque les agents d’IA rendent accessibles des applications d’IA personnalisées – le marché du travail tel que nous le connaissons pourrait éventuellement imploser.
La création d’une couche blockchain dans un réseau d’IA décentralisé pourrait atténuer ces problèmes.
Nous pouvons créer une IA capable de suivre la provenance des données, de préserver la confidentialité et de permettre aux particuliers et aux entreprises de facturer l'accès à leurs données spécialisées si nous utilisons des identités décentralisées, des jalonnements de validation, des technologies de consensus et de cumul telles que des preuves optimistes et sans connaissance. Cela pourrait faire perdre l’équilibre aux grandes institutions opaques et centralisées et offrir aux individus et aux entreprises un système économique entièrement nouveau.
Sur le plan technologique, vous avez besoin d'un moyen de confirmer l'intégrité des données, la propriété des données et leur légitimité (audit de modèle).
Ensuite, vous auriez besoin d'une méthode de provenance (pour emprunter une expression du monde de l'art), ce qui signifie être capable de voir la piste d'audit de n'importe quelle donnée afin de compenser correctement les données de la personne utilisée.
La confidentialité est également importante : un utilisateur doit être en mesure de sécuriser ses données sur son propre appareil électronique et de contrôler l'accès à ses données, y compris de pouvoir révoquer cet accès. Cela implique la cryptographie et un système de certification de protection de sécurité.
Il s’agit d’une avancée par rapport au système existant, dans lequel des informations précieuses sont simplement collectées et vendues à des sociétés d’IA centralisées. Au lieu de cela, cela permet une large participation au développement de l’IA.
Les individus peuvent assumer divers rôles, tels que créer des agents d’IA, fournir des données spécialisées ou proposer des services intermédiaires comme l’étiquetage des données. D'autres pourraient contribuer en gérant l'infrastructure, en exploitant des nœuds ou en fournissant des services de validation. Cette approche inclusive permet un écosystème d’IA plus diversifié et collaboratif.
Nous pourrions créer un système qui profiterait à tous les acteurs du système, depuis les clercs du numérique d’un continent plus loin jusqu’aux acheteurs dont le contenu du panier fournit des données brutes aux développeurs en coulisses. La crypto peut fournir une collaboration plus sûre, plus juste et plus centrée sur l’humain entre l’IA et le reste d’entre nous.
Sean est le PDG et co-fondateur de Sahara, une plateforme créant une infrastructure basée sur la blockchain, sans confiance, sans autorisation et préservant la confidentialité pour permettre le développement d'outils d'IA autonomes personnalisés par les particuliers et les entreprises. De plus, Sean est professeur agrégé en informatique et titulaire de la chaire de début de carrière Andrew et Erna Viterbi à l'Université de Californie du Sud, où il est chercheur principal (PI) du laboratoire de recherche sur l'intelligence et la découverte des connaissances (INK). À l'Allen Institute for AI, Sean contribue à la recherche sur le bon sens des machines. Auparavant, Sean était conseiller en science des données chez Snapchat. Il a complété son doctorat en informatique à l'Université de l'Illinois à Urbana-Champaign et a été chercheur postdoctoral au Département d'informatique de l'Université de Stanford. Sean a reçu plusieurs prix récompensant ses recherches et son innovation dans le domaine de l'IA, notamment Samsung AI Researcher of the Year, MIT TR Innovators Under 35, Forbes Asia 30 Under 3, et plus encore.
Commencez votre journée avec les meilleures informations cryptographiques de David Canellis et Katherine Ross. Abonnez-vous à la newsletter Empire.