Google teste un modèle d'IA 700X plus puissant que le chatbot phare d'OpenAI

Google Labs a annoncé une mise à niveau majeure de son outil Gemini Pro AI, le modèle d'IA de taille moyenne qui alimente la version gratuite de son chatbot, introduisant la possibilité de traiter jusqu'à 1 million de jetons en avant-première. Il offre une « taille de contexte » sans précédent qui laisse dans la poussière les principaux outils actuels et leur capacité de 128 Ko.

La mise à niveau vers Gemini Pro v1.5 le rend théoriquement 700 % plus puissant que le modèle GPT-4 payant d'OpenAI et établit une nouvelle référence en matière de linguistique informatique et d'apprentissage automatique parmi les grands modèles de langage (LLM).

Il s’agit de « la plus longue fenêtre contextuelle de tout modèle de fondation à grande échelle ». selon Google.

« Avant aujourd’hui, la plus grande fenêtre contextuelle au monde pour un grand modèle de langage accessible au public était de 200 000 jetons. Nous avons pu augmenter considérablement ce chiffre, en exécutant jusqu'à 1 million de jetons de manière cohérente », a partagé l'équipe de Google Labs.

Avec cette fonctionnalité, Gemini Pro serait plus performant que la version la plus puissante de la gamme Gemini actuelle et que tout autre LLM actuellement disponible. Cependant, ce contexte a été mis en ligne à des fins de test, tandis que la prochaine version stable de Gemini Pro gérera jusqu'à 128 000 jetons.

Bien que cette version constitue une mise à niveau majeure par rapport aux 32 000 jetons que Gemini 1.0 peut traiter, les utilisateurs devront attendre pour voir ce qu'un million de jetons peut faire.

Cette décision constitue la dernière offensive de Google dans la course à la domination du secteur de l'IA. La semaine dernière, Gemini Advanced est devenu le premier concurrent crédible de ChatGPT Plus. Contrairement à Claude d'Anthropic, le chatbot de Google est multimodal, fournit de bons résultats dans différents tests et offre un ensemble de fonctionnalités que OpenAI ne propose pas.

Gemini Advanced rattrapera cependant GPT-4.5 Turbo, qui gère déjà 128 000 jetons.

La polyvalence de Gemini 1.5 a été clairement mise en valeur à travers plusieurs démonstrations. Google a déclaré qu'il « peut traiter de grandes quantités d'informations en une seule fois, notamment 1 heure de vidéo, 11 heures d'audio, des bases de code contenant plus de 30 000 lignes de code ou plus de 700 000 mots ».

à 10 millions de jetons. » » a ajouté l’équipe.

Un défaut : les modèles Gemini ne peuvent pas analyser les fichiers PDF, un défaut souligné par Decrypt dans sa comparaison entre Gemini et ChatGPT.

Le « mélange d'experts » est là pour rester

Une autre différence entre Gemini 1.5 et ses versions précédentes est l'utilisation du Mixture of Experts, la même technologie que Mistral AI a utilisée pour fabriquer son modèle plus léger. Le candidat de Mistral était suffisamment puissant pour battre GPT 3.5 et passer aux échelons supérieurs des meilleurs LLM open source.

« (Un mélange d'experts) achemine votre demande vers un groupe de réseaux neuronaux » experts « plus petits afin que les réponses soient plus rapides et de meilleure qualité », a partagé Google dans son annonce, affirmant que cela garantit que les réponses sont non seulement plus rapides mais également de meilleure qualité.

Tout comme Mistral, Google a su faire briller son modèle. Gemini 1.5 Pro a montré des performances supérieures dans plusieurs benchmarks par rapport à Gemini Ultra 1.0, suggérant un avenir prometteur pour les LLM de Google.

« Il montre des améliorations spectaculaires dans un certain nombre de dimensions et la version 1.5 Pro atteint une qualité comparable à celle de la version 1.0 Ultra, tout en utilisant moins de calcul », a déclaré Sundar Pichai, PDG de Google, dans un article de blog aujourd'hui.

L'annonce ne fournissait pas de calendrier pour la sortie de Gemini Advanced 1.5. Pendant ce temps, OpenAI développe activement GPT-5. Les capacités améliorées de gestion des jetons de Gemini contribueront à renforcer la position de Google dans la course aux armements en matière d'IA.