Si ChatGPT fait beaucoup parler pour sa capacité à générer du texte et automatiser un grand nombre de tâches sur l’Internet, Midjourney s’est fait un nom en étant capable de générer des images à partir d’un texte descriptif.
L’intelligence artificielle est devenue très performante dans sa capacité à créer des photos réalistes capables de tromper le public quand son origine n’est pas clairement indiquée.
L’exemple de l’image montrant le pape François en doudoune blanche ou d’un homme âgé ensanglanté entre les mains de CRS illustre les progrès réalisés en matière de création d’images toujours plus convaincantes dont il n’est pas facile de détecter au premier coup d’oeil qu’elle a été créée par une IA.
Trop d’essais gratuits, plus assez de contrôle
Dans le cas de Midjourney, l’accès gratuit accessible depuis la plateforme Discord a été désactivé face à un afflux de nouveaux comptes cherchant à générer des images gratuitement.
Midjourney permet en effet de créer des images gratuitement avec un compte Discord mais pas de façon illimitée, le calcul se faisant d’après un temps de traitement GPU qui se vide peu à peu. Une fois ce crédit épuisé, il faut passer aux formules payantes si l’on veut continuer d’utiliser la génération d’images par IA.
Oiseau cybernétique créé avec Midjourney
Mais il reste aussi la possibilité de créer des comptes gratuits pour bénéficer de novueau de ce petit temps d’accès GPU et il semble qu’on en ait abusé du côté de la Chine ou une explosion d’ouvertures de comptes a été observée.
Le CEO de Midjourney David Holz a indiqué dans un message qu’en raison du nombre extraordinaire de création de nouveaux comptes et d’abus d’essais de l’IA générative, les essais gratuits étaient désactivés temporairement jusqu’aux prochaines mises à jour.
Ces mises à jour pourraient d’ailleurs porter sur des corrections cherchant à circonvenir les utilisations malveillantes et détournées de la génération d’image et la création d’images à l’origne de fake news.
Quid des données derrière les IA génératives ?
Mais ce ne sont pas les seuls problèmes à l’horizon. Après la période de fascination quant aux capacités de création des intelligence artificielles, la fronde s’organise sur la question des droits sur les données utilisées pour entraîner les IA, qu’il s’agisse de données personnelles ou d’oeuvres d’art.
L’Italie vient carrément d’interdire l’utilisation de ChatGPT dans le pays en questionnant son respect du RGPD et d’autres mesures sont engagées concernant la création des IA reprenant des éléments protégés par des droits d’auteur, qu’il s’agisse de texte, d’image, de vidéo ou de son.
Cette problématique, mise en retrait face aux avantages des IA et à l’enthousiasme porté par les nouveaux usages entrevus mais qui pourraient aussi détruire énormément d’emplois à court terme avant d’en créer potentiellement de nouveaux, va imposer de poser un cadre juridique plus ferme.
Des centaines d’experts du domaine de l’intelligence artificielle appellent d’ailleurs à faire une pause dans le développement des IA de type ChatGPT, le temps de poser des limitations qui garantiront qu’une IA avancée ne finira pas par se retourner contre l’humanité.