Le cabinet Deloitte va rembourser une partie d’un contrat passé avec le gouvernement australien, pour un rapport sur le système d’aide sociale du pays. La raison : de larges extraits du rapport en question ont été générés par une IA qui l’a truffé d’hallucinations et de références à des recherches inexistantes !
Le gouvernement australien a commandé au cabinet Deloitte un rapport pour le compte du Department of Employment and Workplace Relations (DEWR), autrement dit le ministère du Travail, sur l’automatisation des pénalités dans le système d’aide sociale du pays. Quelque chose de très sérieux et qui nécessite donc un travail de fond important, d’où aussi le montant de la facture : 440 000 dollars australiens, environ 251 000 €.
Un rapport généré par IA cher payé
Mais peu après la publication dudit rapport, patatras. Un des directeurs du département de droit de la santé à l’université de Sidney repère de troublantes bizarreries dans le texte, dont des citations inventées provenant de publications qui n’existent pas. Certaines font référence à des travaux d’une professeure (une vraie) complètement inventés, comme le rapporte l’Australian Financial Review.
Pour le dire crument : Deloitte a demandé à ChatGPT (ou une autre IA) de faire tout le boulot sans rien vérifier derrière. Un peu fort de café pour une telle facture… Suite à la révélation du scandale, une version mise à jour du rapport de 273 pages a été publiée avec « un petit nombre de corrections pour des références et des notes de bas de page », indique ingénument Deloitte et le ministère. Il est par exemple fait mention d’une « chaîne d’outils basée sur un modèle de langage génératif (Azure OpenAI GPT-4o) »…
Les références bidonnées ont été retirées, ainsi que les citations inventées de toutes pièces. Deloitte a indiqué qu’il allait rembourser la « version finale » du contrat, sans préciser de quelle portion il s’agit. Ces bidouilles malhonnêtes n’ont cependant pas effrayé le ministère du Travail australien, pour qui « le contenu de l’audit indépendant est préservé ». De fait, les recommandations contenues dans le rapport sont toujours d’actualité, même si elles reposent sur des hallucinations. Circulez…
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source :
ArsTechnica