Google veut enseigner de nouvelles astuces aux anciens chatbots IA grâce à la composition

Des chercheurs de Google DeepMind (NASDAQ : GOOGL) et de Google Research ont proposé une nouvelle méthode pour étendre les capacités des modèles d'intelligence artificielle (IA) en les reliant à d'autres systèmes d'IA existants.

La recherche a obtenu des résultats impressionnants dans les premières études utilisant le nouveau modèle de composition pour augmenter le langage (CALM) développé par les chercheurs. D'après un article de 17 pages

rapport, le modèle permet aux chercheurs en IA d’augmenter les grands modèles de langage (LLM) existants avec de nouvelles fonctionnalités.

« Les modèles fondamentaux comportant des milliards de paramètres qui ont été formés sur de vastes corpus de données ont démontré des compétences non triviales dans une variété de domaines », peut-on lire dans le rapport. « Cependant, en raison de leur structure monolithique, il est difficile et coûteux de les augmenter ou de leur transmettre de nouvelles compétences. »

Plutôt que de former de nouveaux LLM avec de nouvelles capacités à partir de zéro, la nouvelle méthode permet de nouvelles fonctionnalités dans les modèles existants en les augmentant avec leurs pairs. Les chercheurs affirment que la promotion de l’interopérabilité via CALM sera un effort, permettant d’économiser du temps et des coûts pour « permettre de nouvelles capacités ».

Grâce à CALM, les LLM peuvent préserver leurs fonctionnalités existantes tout en déverrouillant des applications dans de nouveaux domaines sans avoir à se soucier de nouveaux processus de réglage ou de recyclage.

Les chercheurs sont arrivés à leurs conclusions en augmentant le PaLM2-S de Google, un LLM censé posséder les mêmes fonctionnalités que le ChatGPT-4 d'OpenAI, avec des modèles d'IA plus petits. Dans leur mémoire, le nouveau modèle hybride a démontré une amélioration significative par rapport à la référence dans les tâches de codage et de traduction.

explication de code, à égalité avec ses homologues entièrement affinés », ont déclaré les chercheurs.

La recherche a plusieurs applications pour le domaine naissant de l'IA générative, y compris des cas d'utilisation potentiels dans les LLM sans support en anglais et fournissant une réponse aux problèmes de mise à l'échelle et de droits d'auteur de l'IA.

Intensifier la recherche pour améliorer les capacités de l’IA

Début 2023, des chercheurs de l'Université autrichienne d'Innsbruck ont ​​découvert une nouvelle mesure permettant de mesurer la validité temporelle des déclarations complexes pour les LLM conçus pour améliorer les capacités des chatbots.

Une autre recherche a révélé une série de modèles d’IA traditionnels favorisant la flagornerie plutôt que les réponses factuelles en raison de leurs méthodes de formation, tandis que d’autres étudient une intégration entre l’IA et la technologie blockchain.

Malgré le rythme de la recherche sur l’IA, les développeurs doivent faire face à des plaintes en matière de droits d’auteur et aux sombres perspectives d’application de la réglementation dans ce secteur naissant.

Pour que l’intelligence artificielle (IA) fonctionne dans le respect de la loi et prospère face à des défis croissants, elle doit intégrer un système de blockchain d’entreprise qui garantit la qualité et la propriété des données saisies, lui permettant ainsi de conserver les données en sécurité tout en garantissant leur immuabilité. de données. Consultez la couverture de CoinGeek sur cette technologie émergente pour savoir pourquoi la blockchain d'entreprise sera l'épine dorsale de l'IA.

Regarder  : L'IA occupe le devant de la scène au London Chatbot Summit

Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.