Image : Maria Diaz/ZDNET.
Les générateurs d’images utilisant l’intelligence artificielle ont un potentiel pour stimuler la créativité et révolutionner la création de contenu. Toutefois, lorsque ces images sont utilisées à mauvais escient, elles peuvent causer de vrais préjudices en diffusant des fausses informations, portant parfois atteinte à certaines personnes. Microsoft espère empêcher toute nouvelle utilisation abusive de ses outils d’IA générative grâce à la mise en place de nouvelles protections.
La semaine dernière, des deepfakes générés par IA et sexualisant Taylor Swift ont fait le tour de X (anciennement Twitter). Ces images auraient été partagées via 4chan et un canal Telegram où les utilisateurs partagent des images de célébrités générées par IA et créées à l’aide de Microsoft Designer, selon 404 Media.
Des fautes d’orthographe pour générer des images interdites
Microsoft Designer est une application de conception graphique. Elle comprend Image Creator, le générateur d’images par IA de Microsoft alimenté par DALL-E 3. Depuis son lancement, l’application dispose de garde-fous censés empêcher ses utilisateurs et utilisatrices d’adresser des demandes « inappropriées », par exemple en mentionnant des personnalités publiques, ou de la nudité.
Cependant, certaines personnes y ont trouvé des failles. Notamment, en orthographiant mal le nom d’une célébrité, ou en utilisant pas explicitement des termes sexuels, mais du vocabulaire pouvant produire le même résultat, selon l’article de 404 Media.
Microsoft a depuis corrigé ces failles, rendant impossible la génération d’images de célébrités. Par exemple, j’ai demandé à Image Creator de me générer une image avec cette description : « Selena Gomez jouant au golf ». L’IA m’a alors répondu que ma demande serait bloquée. J’ai réessayé en orthographiant mal le nom de la star américaine : la réponse a été la même.
Contourner les protections
« Nous nous engageons à fournir une expérience sûre et respectueuse pour tout le monde », a déclaré un porte-parole de Microsoft à ZDNET. « Nous continuons à enquêter sur ces images et nous avons renforcé nos systèmes de sécurité existants afin d’empêcher que nos services ne soient utilisés à mauvais escient pour générer des images de ce type. »
En outre, le code de conduite de Microsoft Designer interdit explicitement la création de contenus pour adultes ou non consensuels, et toute violation de cette politique d’utilisation peut entraîner la perte totale de l’accès au service.
Selon 404 Media, certaines personnes cherchent déjà une solution de contournement à ces nouvelles protections dans le canal Telegram. Le traditionnel jeu du chat et de la souris entre les acteurs malveillants à la recherche de la moindre faille et les développeurs à l’origine de l’outil qui s’empressent de la corriger est donc parti pour durer.
Source : ZDNet.com