Se sentir chanceux ? Les conseils de recherche Google AI pourraient vous tuer

Les résultats de recherche basés sur l'IA récemment publiés par Google attirent beaucoup d'attention, pour de mauvaises raisons. Après que le géant de la technologie a annoncé la semaine dernière une multitude de nouveaux outils basés sur l’IA dans le cadre d’une nouvelle « ère Gemini », les résultats de recherche sur le Web de ses marques ont considérablement changé, avec des réponses en langage naturel aux questions affichées au-dessus des sites Web.
"Au cours de l'année écoulée, nous avons répondu à des milliards de requêtes dans le cadre de l'expérience générée par la recherche", a déclaré Sundar Pichai, PDG de Google, au public. "Les gens l'utilisent pour effectuer des recherches de manière entièrement nouvelle et poser de nouveaux types de questions, des requêtes plus longues et plus complexes, même pour rechercher avec des photos, et obtenir le meilleur du Web."
Les réponses, cependant, peuvent être incomplètes, incorrectes, voire dangereuses, qu’il s’agisse de se lancer dans l’eugénisme ou de ne pas identifier un champignon venimeux.
Image : @tkingfisher sur les discussionsLa plupart des réponses à « Aperçu de l'IA » proviennent des médias sociaux et même de sites satiriques où les mauvaises réponses constituaient l'essentiel. Les utilisateurs de Google ont partagé d'innombrables réponses problématiques qu'ils ont reçues de l'IA de Google.
Lorsqu'on lui a dit : « Je me sens déprimé », Google aurait déclaré que l'un des moyens de gérer la dépression était de « sauter du Golden Gate Bridge ».
Un autre a demandé : « Si je tombe d’une falaise, puis-je rester en l’air tant que je ne regarde pas en bas ? » Citant un fil Reddit inspiré d'un dessin animé, l'"AI Overview" de Google a confirmé la capacité de défier la gravité.
La forte représentation des fils de discussion Reddit parmi les exemples fait suite à un accord annoncé plus tôt cette année selon lequel Google utiliserait les données de Reddit pour faciliter « la découverte et l'accès aux communautés et aux conversations que les gens recherchent ». Plus tôt ce mois-ci, le développeur ChatGPT, OpenAI, a également annoncé qu'il accorderait une licence aux données de Reddit.
Dans un autre cas de réponses absurdes, un utilisateur de Google a demandé : « Combien de pierres un enfant doit-il manger ? » à quoi l'IA de Google a répondu avec « au moins un petit caillou par jour », citant un « géologue de l'UC Berkeley ».
La plupart des exemples les plus absurdes et les plus remarqués ont depuis été supprimés ou corrigés par Google. Google n'a pas immédiatement répondu à une demande de commentaire de Decrypt.
Un problème récurrent avec les modèles d’IA générative est la tendance à inventer des réponses, ou à « halluciner ». Les hallucinations sont raisonnablement qualifiées de mensonges parce que l’IA invente quelque chose qui n’est pas vrai. Cependant, dans des cas tels que les réponses fournies par Reddit, l'IA n'a pas menti : elle a simplement pris les informations fournies par ses sources pour argent comptant.
Grâce à un commentaire sur Reddit vieux de plus de dix ans, l'IA de Google aurait déclaré que l'ajout de colle au fromage était un bon moyen de l'empêcher de glisser d'une pizza.

L'aperçu de Google AI suggère d'ajouter de la colle pour que le fromage colle à la pizza, et il s'avère que la source est un commentaire Reddit de 11 ans de l'utilisateur F*cksmith 😂 pic.twitter.com/uDPAbsAKeO

– Peter Yang (@petergyang) 23 mai 2024

Le modèle d'IA phare d'OpenAI, ChatGPT, a une longue histoire d'invention de faits, notamment en accusant à tort le professeur de droit Jonathan Turley d'agression sexuelle en avril dernier, citant un voyage qu'il n'a pas fait.
L'excès de confiance de l'IA a apparemment déclaré que tout ce qui se trouvait sur Internet était réel, a imputé la débâcle à un ancien cadre de Google et a jugé la société elle-même coupable dans le domaine de la loi antitrust.
Cette fonctionnalité a certainement suscité de l'humour et de la perplexité alors que les utilisateurs parsèment Google de requêtes sur la culture pop.
Mais l’apport journalier recommandé pour la consommation de roches par les enfants a été mis à jour, notant que « la curiosité, des difficultés de traitement sensoriel ou un trouble de l’alimentation » pourraient être responsables d’un tel régime.
Edité par Ryan Ozawa.

Newsletter généralement intelligente

Un voyage hebdomadaire en IA raconté par Gen, un modèle d'IA générative.