Le maire de New York soutient le chatbot IA malgré des erreurs juridiques

Le maire de la ville de New York, Eric Adams, a soutenu le nouveau chatbot à intelligence artificielle de la ville, bien qu'il fournisse aux propriétaires d'entreprises des informations trompeuses, dont certaines pourraient conduire à des violations de la loi. Bien qu'il ait été lancé en tant que projet pilote en octobre, le chatbot MyCity a été créé dans le but de fournir des informations précises aux propriétaires d'entreprise, mais il est désormais critiqué pour ses conseils préjudiciables.

Controverse sur les chatbots IA et réponse officielle

Le chatbot MyCity, programmé pour donner des conseils en temps réel aux entrepreneurs, est critiqué en raison des recommandations erronées qu'il propose. Plus particulièrement, les journalistes d'investigation de The Markup ont fourni des exemples de chatbots donnant des informations incorrectes sur le droit du travail, entre autres réglementations.

Par exemple, elle avait tort de dire que les employeurs pouvaient soustraire les salaires des employés de leurs pourboires, et elle ne connaissait pas la règle de la ville selon laquelle les entreprises doivent informer leurs travailleurs à l'avance des changements d'horaires.

Le maire Adams a reconnu les limites de l'outil d'IA, soulignant que puisqu'il s'agissait d'un programme pilote, de tels problèmes pouvaient être identifiés et corrigés. Néanmoins, le maire a réitéré son engagement à introduire des technologies innovantes dans le système administratif de la ville, ce qui coïncide tout à fait avec son approche globale des solutions technologiques pour la gouvernance urbaine.

Réactions du monde des affaires

Le chatbot IA a suscité des craintes dans le monde des affaires quant à sa fiabilité, leur faisant craindre des poursuites judiciaires s'ils suivent ses conseils. La NYC Hospitality Alliance, qui représente des milliers de restaurateurs, a exprimé le besoin d'un outil d'IA fiable qui ne nécessiterait pas de double vérification auprès d'un conseiller juridique. Cette notion caractérise le besoin critique de précision dans les solutions basées sur l'IA destinées à simplifier la conformité réglementaire et les processus opérationnels des entreprises.

La cohérence des défauts que le chatbot présente dans ses réponses confirme la nécessité d'une évaluation totale et de changements instantanés dans son système de guidage pour éviter d'éventuelles expositions juridiques aux hommes d'affaires qui pourraient suivre les conseils erronés sans le savoir.

Les défis sous-jacents de l’IA

Les problèmes du chatbot MyCity sont les symptômes de problèmes plus importants associés aux technologies d’IA générative. Ces plateformes, y compris des plateformes de premier plan comme ChatGPT, produisent parfois du contenu fabriqué ou trompeur. La dépendance du chatbot à l'égard de l'IA Azure de Microsoft soulève des questions quant à l'adaptabilité d'une telle technologie pour fournir des conseils précis et contextuellement appropriés, en particulier dans le paysage complexe des réglementations municipales et des lois sur les affaires.

Les responsables de la ville et Microsoft n'ont pas répondu aux problèmes techniques qui ont amené le chatbot à donner des conseils erronés ni aux actions spécifiques qui seront prises pour résoudre ces problèmes. La ville a modifié la page Web du chatbot pour avertir les utilisateurs d'une malhonnêteté potentielle et leur indiquer qu'ils ne doivent pas considérer les réponses du chatbot comme un remplacement des conseils juridiques de professionnels qualifiés.

Lire aussi : Le Bhoutan prévoit d'augmenter sa capacité d'extraction de Bitcoin avant de la réduire de moitié