OpenAI met en place une fonctionnalité de prédiction d'âge pour limiter l'accès des adolescents à ChatGPT
OpenAI introduit un nouveau modèle de prédiction d’âge pour ChatGPT afin de mieux protéger les mineurs
OpenAI a annoncé une mise à jour majeure de son système ChatGPT, abandonnant le « système d’honneur » pour la vérification de l’âge. Ce changement permet au modèle d’analyser des signaux comportementaux pour estimer si un utilisateur a moins de 18 ans, et impose des restrictions plus strictes sur les contenus sensibles. Les adultes mal classés peuvent rétablir leur accès via une vérification d’âge basée sur un selfie.
OpenAI utilise l'IA pour identifier les utilisateurs mineurs
La société OpenAI a décidé de mettre en place un nouveau modèle basé sur l'intelligence artificielle pour estimer l'âge des utilisateurs. Plutôt que de se fier uniquement à la date de naissance fournie lors de l’inscription, ce système analyse divers « signaux comportementaux ». Cela inclut des éléments comme la durée d'existence du compte, les heures d'activité, et certains modèles d'utilisation au fil du temps.
Selon OpenAI, « Le déploiement de la prédiction de l'âge nous aide à déterminer quels signaux améliorent la précision, et nous utilisons ces apprentissages pour affiner continuellement le modèle au fil du temps ».
Des mesures plus strictes contre les contenus inappropriés
Cette mise à jour entraîne également des limites plus sévères concernant les contenus violents ou sexuels. Tous les comptes suspectés d’appartenir à des utilisateurs mineurs seront soumis à ces nouveaux protocoles sécuritaires. Si le système ne parvient pas à déterminer avec certitude l'âge d'un utilisateur, OpenAI appliquera alors les paramètres les plus restrictifs.
Les défenseurs des droits numériques expriment leurs préoccupations quant aux capacités réelles des systèmes IA à déduire efficacement l'âge uniquement sur la base du comportement. Aliya Bhatia, analyste politique principale au Centre pour la démocratie et la technologie, souligne : « Prédire l'âge d'un utilisateur sur la base de ce type de signaux est extrêmement difficile...»
Un processus simplifié pour restaurer l'accès aux adultes mal classés
Pour ceux qui sont classés par erreur comme adolescents, OpenAI propose une solution simple : ils pourront restaurer leur accès complet grâce à une vérification basée sur un selfie via le service tiers Persona. Cette approche vise à réduire le nombre d’adultes bloqués injustement dans des expériences réservées aux moins de 18 ans.
Bhatia note que cela soulève également des questions complexes autour des erreurs potentielles dans cette classification et comment OpenAI pourrait gérer celles-ci.
Des inquiétudes persistantes face aux technologies émergentes
Le contexte actuel montre une surveillance accrue concernant comment les systèmes IA interagissent avec les jeunes utilisateurs. Des organisations telles que ParentsTogether Action ont récemment documenté plusieurs cas où certains robots compagnons IA ont eu des comportements inappropriés envers ceux se faisant passer pour enfants.
« Certaines vont se tromper », prévient Bhatia. Elle insiste sur le besoin crucial que les utilisateurs soient informés sur ce qui arrive lorsqu'une erreur survient dans leur classification et qu'ils puissent facilement accéder et modifier leur âge attribué s’il est incorrect.
Déploiement imminent en Europe avec attention portée aux protections
OpenAI n'a pas précisé combien d'utilisateurs seraient affectés par ces changements ni donné beaucoup de détails concernant la conservation des données ou tests biais liés au nouveau système. Cependant, il a été confirmé que cette fonctionnalité sera bientôt disponible dans l'Union européenne, apportant ainsi davantage attention aux questions relatives aux protections adaptées pour tous les âges dans cet environnement numérique en constante évolution.
Ce changement représente une étape significative vers une gestion responsable et sécurisée du contenu accessible par un public jeune tout en reconnaissant simultanément les défis associés aux technologies émergentes comme celles offertes par OpenAI.
