Deloitte contraint de rembourser l’Australie pour un rapport erroné généré par IA

Un cabinet de conseil parmi les plus influents au monde reconnaît avoir produit un document officiel contenant des références fictives, mettant en lumière les risques liés à l’utilisation non contrôlée des outils d’intelligence artificielle.

Le géant du conseil Deloitte restituera une partie des fonds perçus par le gouvernement australien suite à la remise d’une étude comportant de multiples inexactitudes. Ce document de 237 pages, commandé par le ministère de l’Emploi et des Relations professionnelles, avait pour objet d’analyser le système informatique chargé d’automatiser les sanctions dans le domaine de la protection sociale. L’équivalent de 250 000 euros avait été alloué à cette mission.

La crédibilité du rapport a été mise en cause par un universitaire spécialisé en droit social à l’Université de Sydney. Ce dernier a identifié une vingtaine d’anomalies, incluant des références bibliographiques et des décisions juridiques manifestement fictives. Ces éléments laissaient supposer l’intervention d’un système d’intelligence artificielle générative, susceptible de produire ce type d’approximations.

Deloitte a confirmé le recours à une chaîne d’outils s’appuyant sur un modèle linguistique d’IA dans l’élaboration de son analyse. À la suite de ces révélations, le cabinet a procédé à une révision complète du document et publié une version corrigée début octobre. Une annexe détaillant la méthodologie employée a été jointe au nouveau rapport.

Le ministère concerné a acté la restitution du solde dû pour cette prestation, sans toutefois en divulguer le montant précis. Une sénatrice australienne a exprimé son inquiétude quant à l’utilisation jugée inappropriée de ces technologies, réclamant un remboursement intégral. Deloitte maintient pour sa part que ces corrections n’affectent en rien les conclusions et recommandations initiales du rapport.

Cette affaire survient alors que le cabinet développe activement ses activités de conseil en intelligence artificielle auprès des entreprises et institutions publiques. Elle soulève des questions fondamentales sur les garde-fous nécessaires lors de l’intégration de ces outils dans la production de documents officiels.