Les 4 grandes entreprises européennes ne peuvent pas arrêter de commettre des erreurs d'IA; le rapport de PWC a ChatGPT comme "source"

Les quatre plus grandes sociétés de comptabilité et de conseil d'Europe ont fait l'objet d'un nouvel examen après qu'un rapport de PwC a révélé l'utilisation générée par l'IA de "hallucinations" dans ses publications sur le leadership éclairé au Moyen-Orient. Des chercheurs de la plate-forme de détection de l'IA GPTZero, en collaboration avec le Financial Times, ont identifié plusieurs cas de notes de bas de page fabriquées, de citations incorrectes et de références trompeuses dans quatre rapports publiés par PwC au cours des deux dernières années. Ces rapports ont abordé des sujets allant des stratégies d'entreprise pour les systèmes d'IA "agentique" aux lignes directrices des services publics du gouvernement et aux prévisions de marché pour les véhicules électriques au Moyen-Orient.

Un rapport citait une étude inexistante sur la qualité de l'air à Riyad, tandis qu'un autre faisait référence à un article académique inexistant avec des auteurs spécifiques. Un troisième document attribuait à tort une histoire de succès dans le monde réel sur une initiative de JPMorgan AI à un blogueur adolescent sur Medium avec seulement 280 abonnés, bien que l'initiative ait eu lieu en 2017, des années avant le développement de ChatGPT. En outre, une seule réclamation sur les accidents de la circulation était répétée sur deux pages, chaque fois avec des citations différentes et erronées. Une note de bas de page incluait même une URL avec une balise de suivi indiquant que le matériel source avait été récupéré via ChatGPT.

En réponse, PwC Middle East a déclaré qu'il prenait la précision de ses recherches publiées au sérieux et mettait actuellement à jour un nombre limité de citations à l'appui des rapports concernés. Cependant, les incidents soulignent les défis plus vastes auxquels sont confrontés les Big Four, car ils s'appuient de plus en plus sur des outils d'IA générative pour produire des documents de recherche et de marketing.

Le rapport, intitulé Redefining Excellence in the Age of Agentic Al, contenait de nombreuses fausses déclarations et études de cas fabriquées. De même, EY Canada a supprimé un rapport sur les programmes de récompenses de fidélité de son site Web après que les chercheurs aient identifié de multiples inexactitudes, y compris des hallucinations générées par l'IA et des références à des études inexistantes. La firme a reconnu avoir examiné les circonstances entourant la publication du rapport. Deloitte a également rencontré des problèmes liés au contenu généré par l'IA. En novembre, la firme a été critiquée pour un important rapport sur les soins de santé préparé pour le gouvernement canadien, qui a évalué les services à Terre-Neuve-et-Labrador.

Ces incidents suggèrent collectivement une préoccupation croissante quant à la fiabilité de la recherche assistée par l'IA produite par les principales entreprises de services professionnels. Alors que ces entreprises continuent de se promouvoir comme des pionniers dans l'intégration de l'IA, la nature récurrente de ces erreurs soulève des questions sur l'efficacité des mécanismes de surveillance internes.

Cependant, le manque de transparence sur la façon dont ces outils sont utilisés, et si les processus de vérification humaine sont adéquatement appliqués, a laissé place à la fausse déclaration. Dans certains cas, le contenu généré par l'IA a conduit par inadvertance à l'inclusion d'informations obsolètes ou non pertinentes, sapant la crédibilité des rapports. com, complique davantage les efforts pour distinguer les sources authentiques et le contenu dérivé de l'IA.

Les incidents impliquant PwC, KPMG, EY et Deloitte soulignent le besoin urgent de directives plus claires sur l'utilisation éthique de l'IA dans la production de recherches faisant autorité.