Que peuvent faire les Blockchains pour garantir l'équité de l'IA ?
Les projets d’intelligence artificielle (IA) deviennent rapidement partie intégrante du paradigme technologique moderne, aidant aux processus de prise de décision dans une variété de secteurs allant de la finance aux soins de santé. Néanmoins, malgré des progrès significatifs, les systèmes d’IA ne sont pas sans défauts. L’un des problèmes les plus urgents auxquels l’IA est confrontée aujourd’hui est la présence d’erreurs systémiques dans un ensemble de données donné, ce qui entraîne des résultats biaisés lors de la formation de modèles d’apprentissage automatique.
Étant donné que les systèmes d’IA dépendent fortement des données, la qualité des données d’entrée est essentielle, car tout type d’informations biaisées peut entraîner des biais au sein du système. Cela a le potentiel d’exacerber la discrimination et les inégalités sociétales. Par conséquent, il est essentiel d’assurer l’intégrité et l’objectivité des données.
Un article récent, par exemple, étudie comment les images générées par l’IA, en particulier celles générées à partir d’ensembles de données dominés par des sources d’influence américaine, peuvent déformer et homogénéiser le contexte culturel des expressions faciales. Il cite plusieurs soldats ou guerriers de diverses périodes historiques, tous avec le même sourire à l’américaine.
En outre, le biais omniprésent ne parvient pas seulement à saisir la diversité et les nuances de l’expression humaine, mais il risque également d’effacer les histoires et les significations culturelles vitales, affectant potentiellement la santé mentale, le bien-être et la richesse des expériences humaines. Pour atténuer ce biais, des ensembles de données diversifiés et représentatifs doivent être inclus dans les processus de formation à l’IA.
Divers facteurs peuvent conduire à des données biaisées dans les systèmes d’IA. Pour commencer, le processus de collecte peut être défectueux, avec des échantillons qui ne sont pas représentatifs de la population cible. Cela peut entraîner la sous-représentation ou la surreprésentation de certains groupes. Deuxièmement, les biais historiques peuvent infiltrer les données de formation, perpétuant les préjugés sociétaux existants. Les systèmes d’IA entraînés sur des données historiques biaisées, par exemple, peuvent continuer à renforcer les stéréotypes sexistes ou raciaux.
Enfin, des préjugés humains peuvent être introduits par inadvertance lors du processus d’étiquetage des données, car les étiqueteurs peuvent abriter des préjugés inconscients. La sélection de caractéristiques ou de variables utilisées dans les modèles d’IA peut conduire à des résultats biaisés, car certaines caractéristiques peuvent être plus corrélées avec des groupes spécifiques, ce qui entraîne un traitement injuste. Pour répondre à ces préoccupations, les chercheurs et les praticiens doivent être conscients des sources potentielles d’objectivité biaisée et travailler avec diligence pour les éliminer.
La blockchain peut-elle permettre une IA impartiale ?
Bien que la technologie blockchain puisse aider à certains aspects de la neutralité des systèmes d’IA, elle est loin d’être une panacée pour éliminer complètement les préjugés. Les modèles d’apprentissage automatique, par exemple, peuvent développer des tendances discriminatoires en fonction des données sur lesquelles ils sont formés. De plus, si les données d’apprentissage contiennent une variété de biais, le système les apprendra très probablement et les reproduira dans ses sorties.
Cependant, la technologie blockchain peut aider à résoudre les biais de l’IA à sa manière. Cela peut, par exemple, aider à garantir la provenance et la transparence des données. Les systèmes décentralisés peuvent retracer l’origine des données utilisées pour former les systèmes d’IA, garantissant ainsi la transparence du processus de collecte et d’agrégation des données. Cela peut aider les parties prenantes à identifier et à traiter les sources potentielles de biais.
De même, les chaînes de blocs peuvent permettre de développer des ensembles de données plus diversifiés et représentatifs en facilitant un partage de données sécurisé et efficace entre plusieurs parties.
De plus, en décentralisant le processus de formation, la blockchain permet à plusieurs parties d’apporter leurs propres informations et expertise, réduisant ainsi l’influence de toute perspective biaisée.
Le maintien de l’objectivité nécessite de porter une attention particulière aux différentes étapes du développement de l’IA, telles que la collecte de données, la formation de modèles et l’évaluation. En outre, la surveillance et la mise à jour continues des systèmes d’IA sont essentielles pour traiter les biais potentiels qui peuvent apparaître au fil du temps.
Selon Ben Goertzel, fondateur et PDG de SingularityNET, un projet qui combine intelligence artificielle et blockchain, pour en savoir plus sur la capacité de la technologie blockchain à rendre les systèmes d’IA totalement neutres.
Selon lui, le concept d’« objectivité complète » n’est pas particulièrement utile dans le contexte des systèmes d’intelligence finie analysant des ensembles de données finis.
« Ce que les systèmes blockchain et Web3 peuvent offrir, c’est la transparence, afin que les utilisateurs puissent clairement voir quel parti pris un système d’IA a, plutôt qu’une objectivité totale ou un manque de parti pris. » Il offre également une configurabilité ouverte, permettant à une communauté d’utilisateurs de « modifier un modèle d’IA pour avoir le biais qu’il préfère tout en voyant de manière transparente quel biais il reflète », a-t-il déclaré.
Il a également déclaré que « partialité » n’est pas un gros mot dans le domaine de la recherche sur l’IA. Au lieu de cela, il représente simplement l’orientation d’un système d’IA à la recherche de modèles spécifiques dans les données. Cependant, Goertzel a reconnu que les biais opaques imposés par les organisations centralisées aux utilisateurs qui n’en sont pas conscients mais qui sont guidés et influencés par eux sont quelque chose dont les gens devraient se méfier.
« Les algorithmes d’IA les plus populaires, comme ChatGPT, sont médiocres en termes de transparence et de divulgation de leurs propres biais », a-t-il déclaré. En conséquence, les réseaux participatifs décentralisés et les modèles ouverts font partie de la solution au problème de biais de l’IA. Des matrices à poids ouvert qui sont des modèles entraînés et adaptés avec un contenu ouvert, pas seulement open-source.
De même, Dan Peterson, directeur de l’exploitation de Tenet, un réseau de blockchain axé sur l’IA, a déclaré à l’un des portails d’information qu’il est difficile de quantifier la neutralité et que certaines mesures de l’IA ne peuvent pas être impartiales car il n’y a pas de ligne quantifiable pour quand un ensemble de données perd neutralité. À son avis, tout se résume à l’endroit où l’ingénieur trace la ligne, et cette ligne peut varier d’une personne à l’autre.
a-t-il déclaré.
« Cependant a-t-il expliqué.
Vers un avenir propulsé par l’IA
L’évolutivité est toujours une préoccupation majeure pour la technologie blockchain. À mesure que le nombre d’utilisateurs et de transactions augmente, les solutions de blockchain peuvent être incapables de gérer les quantités massives de données générées et traitées par les systèmes d’IA. De plus, même l’adoption et l’intégration de solutions basées sur la blockchain dans les IA existantes sont semées d’embûches.
Premièrement, il existe un manque de connaissances et d’expertise dans les technologies de l’IA et de la blockchain, ce qui peut entraver le développement et le déploiement de solutions qui combinent efficacement les deux paradigmes. Deuxièmement, persuader les parties prenantes des avantages des plateformes de blockchain, en particulier en termes d’assurance d’une transmission de données d’IA impartiale, peut être difficile, du moins au début.
Malgré ces obstacles, la technologie blockchain a un énorme potentiel pour niveler le paysage de l’IA en évolution rapide. Il est possible de réduire les biais dans la collecte, la gestion et l’étiquetage des données en tirant parti des fonctionnalités clés de la blockchain, telles que la décentralisation, la transparence et l’immuabilité, conduisant finalement à des systèmes d’IA plus équitables. En conséquence, il sera intéressant de voir comment l’avenir se déroule à partir de maintenant.
