Un document de passation de march qui a fait l’objet de fuite rvle les dessous d’une rflexion proccupante au sein du Pentagone. Le dpartement amricain de la Dfense recherche des prestataires privs pour l’aider crer de faux internautes si convaincants que ni les humains ni les ordinateurs ne pourront dtecter qu’ils sont faux. Le document indique que ces faux avatars seront utiliss sur les plateformes de mdias sociaux afin de recueillir des informations. Les analystes suggrent galement que cette technologie pourrait potentiellement permettre au Pentagone de mener des oprations d’influence grande chelle en ligne.
Le Pentagone cherche le moyen de crer des deepfakes indtectables
Le ministre amricain de la Dfense veut se doter d’une technologie qui lui permettra de crer des personnages en ligne impossibles distinguer des personnes relles. C’est du moins ce que rvle un document de passation de march qui a fait l’objet de fuite et obtenu par The Intercept. Un rapport exposant les grandes lignes du document et la liste de souhaits du gouvernement amricain a suscit indignation et proccupations au sein de la communaut. Il rvle en effet que les tats-Unis tentent secrtement d’exploiter une technologie dangereuse contre laquelle le pays n’a pas cess de mettre en garde.
La liste de souhaits du Commandement des oprations spciales conjointes (JSOC) indique que les forces d’oprations spciales (SOF) sont intresses par des technologies pouvant gnrer des personnalits en ligne convaincantes utiliser sur les plateformes de rseaux sociaux et d’autres contenus en ligne . Elle ajoute : la solution devrait inclure des images faciales et d’arrire-plan, des vidos faciales et d’arrire-plan, ainsi que des couches audio .
Selon le JSOC, la technologie deepfake devra lui permettre de crer un environnement virtuel indtectable par les algorithmes des mdias sociaux . Le document indique que les troupes d’oprations spciales utiliseront cette capacit pour recueillir des informations sur les forums publics en ligne , sans autre explication sur la manire dont ces utilisateurs artificiels d’Internet seront utiliss. Ce qui a donn lieu de nombreuses spculations sur la toile.
Le document du JSOC indique que le Pentagone veut tre en mesure de crer des profils en ligne qui semblent tre un individu unique reconnaissable comme humain, mais qui n’existe pas dans le monde rel . Il prcise que chaque profil comprendrait des expressions multiples et des photos de qualit d’identification gouvernementale . Le JSOC espre aussi pouvoir gnrer des vidos selfies partir de ces personnes fabriques de toutes pices.
Ces vidos ne comporteront pas que de fausses personnes. Selon le document, chaque selfie deepfake sera accompagn d’un arrire-plan simul correspondant pour crer un environnement virtuel indtectable par les algorithmes des mdias sociaux . Sur la toile, un commentateur a crit : qu’est-ce qui pourrait mal tourner ? Pendant des annes, ils ont accus les robots russes de manipuler nos lections. Mais ils vont faire la mme chose, ou le font dj .
Le Pentagone n’est pas son premier coup d’essai dans ce domaine
Ces dernires annes, le Pentagone a dj t pris en flagrant dlit d’utilisation de faux comptes de mdias sociaux pour servir ses intrts. En 2022, Meta et Twitter ont supprim un rseau de propagande utilisant de faux comptes grs par l’US Central Command, dont certains avaient des photos de profil gnres avec des mthodes similaires celles dcrites par le JSOC. En 2024, une enqute de Reuters a mis en lumire une campagne du JSOC utilisant de faux comptes de mdias sociaux dans le but de saper la confiance des trangers dans le vaccin Covid de la Chine. Mais les rapports ne s’arrtent pas l.
L’anne dernire, le SOCOM (The United States Special Operations Command) a exprim son intrt pour l’utilisation de vidos deepfakes dans le cadre d’oprations d’influence, de dception numrique, de perturbation de la communication et de campagnes de dsinformation . La liste de souhaits du SOCOM de cette anne a rvl un intrt pour un logiciel similaire StyleGAN, un outil lanc par Nvidia et qui a aliment le site Web This Person Does Not Exist .
Moins d’un an aprs le lancement de StyleGAN, Facebook a dclar avoir supprim un rseau de comptes qui utilisaient la technologie pour crer de fausses photos de profil. Depuis lors, les chercheurs se sont engags dans une course entre de nouveaux moyens de crer des deepfakes indtectables et de nouveaux moyens de les dtecter. De nombreux services publics exigent dsormais une dtection de la vivacit pour djouer les photos d’identit truques.
Ils demandent aux candidats humains de tlcharger une vido selfie pour prouver qu’ils sont une personne relle, un obstacle que le SOCOM pourrait tre intress djouer. Comme soulign plus haut, la liste de souhaits demande un logiciel capable de gnrer des selfies deepfake. Elle prcise en outre que les contenus gnrs par le logiciel, y compris les phots et les vidos, doivent tre indtectables par les humains et les systmes de dtections de deepfakes.
Cette liste dtaille de souhaits montre que les tats-Unis utilisent exactement les mmes technologies et techniques que celles qu’ils condamnent lorsqu’elles sont utilises par des ennemis gopolitiques, notamment les pays tels que l’Iran, la Russie et la Chine. Les responsables amricains de la scurit nationale dcrivent depuis longtemps l’utilisation de deepfakes soutenue par les tats comme une menace urgente, du moins si elle est le fait d’un autre pays.
Les tats-Unis accuss d’hypocrisie concernant la technologie deepfake
L’anne dernire, le Federal Bureau of Investigation (FBI), la National Security Agency (NSA) et la Cybersecurity and Infrastructure Security Agency (CISA) des tats-Unis ont dclar que les mdias synthtiques, tels que les deepfakes, reprsentent un dfi croissant pour tous les utilisateurs des technologies et des communications modernes . Dans une dclaration commune, les trois agences fdrales amricaines ont averti que l’utilisation gnralise de la technologie des deepfakes constituait un risque majeur. Cette anne, le Pentagone a sollicit l’aide du secteur priv pour lutter contre les deepfakes.
Dans une note d’information adresse aux journalistes cette anne, les responsables du renseignement amricain ont averti que la capacit des adversaires trangers diffuser des contenus gnrs par l’IA sans tre dtects reprsente un acclrateur d’influence malveillante de la part de pays comme la Russie, la Chine et l’Iran. La liste de souhaits qui a fait l’objet de fuite rvle que le Pentagone recherche exactement la mme capacit actuellement.
Daniel Byman, membre de l’International Security Advisory Board du dpartement d’tat, a dclar qu’en utilisant une technologie contre laquelle les tats-Unis mettent en garde et qui pourrait tromper le public amricain, on peut lgitiment craindre que les tats-Unis ne soient perus comme hypocrites . L’utilisation offensive de cette technologie par les tats-Unis pourrait stimuler sa prolifration et la normaliser en tant qu’outil pour tous les gouvernements.
Daniel Byman affirme : je suis galement proccup par l’impact sur la confiance du public dans le gouvernement. Est-ce que certains segments du peuple amricain, en gnral, deviendront plus mfiants l’gard des informations manant du gouvernement ? . Heidy Khlaaf, responsable scientifique de l’IA l’AI Now Institute, met en garde contre cette technologie : ce qui est remarquable propos de cette technologie, c’est qu’elle est purement trompeuse .
Selon Heidy Khlaaf, cela pourrait avoir des consquences dangereuses : il n’y a pas d’autres utilisations lgitimes que la tromperie, et il est inquitant de voir l’arme amricaine se lancer dans l’utilisation d’une technologie contre laquelle elle a elle-mme mise en garde. Cela ne fera qu’encourager d’autres armes ou adversaires faire de mme, conduisant une socit o il est de plus en plus difficile d’tablir la vrit de la fiction et brouillant la sphre gopolitique .
Source : document ayant fait l’objet de fuite (PDF)
Et vous ?
Quel est votre avis sur le sujet ?
Que pensez-vous de l’utilisation de la technologie deepfake par un pays comme les tats-Unis ?
Quelles implications une utilisation offensive des deepfakes par les tats-Unis pourrait-elle avoir sur le reste du monde ?
Les tats-Unis cherchent crer des deepfakes indtectables tout en dnonant leur utilisation par la Chine et la Russie. Qu’en pensez-vous ?
Voir aussi