La nouvelle technique de formation de l'IA de Google est 13 fois plus rapide
Google (NASDAQ : GOOGL) affirme avoir développé une nouvelle technique de formation de l’IA 13 fois plus rapide que les approches existantes, à un moment où la consommation énergétique croissante du secteur de l’IA suscite des inquiétudes mondiales.Dans un récent article de recherche, le laboratoire de recherche en IA DeepMind de Google a détaillé sa nouvelle approche, qui repose sur l’apprentissage multimodal contrasté avec sélection conjointe d’exemples (JEST). Les chercheurs de DeepMind affirment que cette approche est non seulement 13 fois plus rapide, mais aussi dix fois plus efficace.
Les méthodes de formation d’IA existantes traitent de points de données individuels. JEST s’appuie sur cette approche en regroupant des données similaires en clusters, qu’il utilise ensuite pour former les modèles d’IA.« En vision par ordinateur, il a été constaté que les négatifs durs (c’est-à-dire les groupes de points qui se trouvent proches les uns des autres mais contiennent des étiquettes différentes) fournissent un signal d’apprentissage plus efficace que ceux trivialement résolubles », ont déclaré les chercheurs de DeepMind.
Google a basé sa nouvelle approche sur cette notion pour accélérer l’apprentissage au-delà du modèle existant d’exemples indépendants.« Lors de l’évaluation des lots en fonction de leur capacité d’apprentissage… JEST s’améliore encore, égalant les performances des modèles de pointe avec jusqu’à 13 fois moins d’itérations de formation », peut-on lire dans le document.Avec JEST, Google a d’abord créé un modèle d’IA plus petit qu’il a ensuite utilisé pour évaluer la qualité des données d’entraînement, les attribuer à différents lots, puis classer ces lots par qualité.
Ce petit modèle détermine ensuite quels lots entraînent le mieux un modèle d’IA, et ses résultats sont traduits en un modèle d’IA plus grand.JEST s’appuie sur la capacité « d’orienter le processus de sélection des données vers la distribution d’ensembles de données plus petits et bien organisés ».L’entraînement de l’IA repose principalement sur la qualité des données utilisées, et avec JEST, l’importance de la qualité des données est amplifiée.
Essentiellement, JEST est la tentative de Google de mettre en place une méthode dans laquelle le modèle d’IA filtre les données et sélectionne le meilleur ensemble de données de qualité sur lequel s’entraîner.L’arrivée de JEST arrive à point nommé. Ces derniers mois, l’attention mondiale s’est portée sur la hausse des coûts énergétiques du secteur de l’IA, certains experts estimant que cette situation n’est pas soutenable.
Rene Haas, PDG d’Arm Holdings (NASDAQ : ARM), fabricant de puces électroniques d’une valeur de 190 milliards de dollars, a indiqué en avril que d’ici 2030, « les centres de données d’IA pourraient consommer jusqu’à 20 à 25 % des besoins énergétiques des États-Unis. Aujourd’hui, ce chiffre est probablement de 4 % ou moins. »« Pour être honnête, ce n’est pas très tenable », a déclaré Haas, dont la valeur de l’entreprise a triplé depuis octobre dernier.
Pour que l’intelligence artificielle (IA) puisse fonctionner dans le respect de la loi et prospérer face aux défis croissants, elle doit intégrer un système de blockchain d’entreprise qui garantit la qualité et la propriété des données saisies, ce qui lui permet de conserver les données en toute sécurité tout en garantissant leur immuabilité. Consultez la couverture de CoinGeek sur cette technologie émergente pour en savoir plus sur les raisons pour lesquelles la blockchain d’entreprise sera l’épine dorsale de l’IA.Regardez les moments forts du BSV DevCon 2024 : créer des solutions concrètes pour des problèmes concretsVous débutez dans la blockchain ? Consultez la section Blockchain pour débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.