A l’occasion d’une présentation qui avançait en équilibriste en devoir de prudence et nécessité d’avancer, le géant de Mountain View a présenté un outil qui pourrait révolutionner l’enseignement, par exemple, mais aussi devenir la fabrique ultime de fake news.
L’intelligence artificielle se doit d’être « audacieuse et responsable ». C’est ce leitmotiv qui a rythmé la keynote d’ouverture de la Google I/O hier. Et dans le rôle du visionnaire aventureux, mais conscient de sa charge, c’est James Manyika, à la tête du département Technologie et Société du géant de Mountain View, qui a eu l’occasion de parler des dangers et de devoirs de Google.
C’est aussi lui qui a présenté l’Universal Translator. Un outil qui a tout de la révolution ou de la boîte de Pandore, dans un monde de fake news et de deep fakes. Dans le cadre de l’exemple présenté, il permet en effet à partir d’une vidéo enregistrée en anglais, un cours en l’occurrence, de transcrire le contenu de la vidéo, puis de le traduire. Jusque-là, rien d’extraordinaire. Il va ensuite reproduire les intonations du locuteur et l’appliquer à une voix de synthèse dans une autre langue, en espagnol pour les besoins de la démonstration. Voilà qui impressionne, mais n’est pas forcément inquiétant en soi. C’est à l’étape d’après que les choses se compliquent.
En effet, Universal Translator va faire en sorte de synchroniser les mouvements des lèvres du locuteur originel, celui qui a été filmé dans la vidéo, pour qu’il donne l’impression d’avoir prononcé le message dans la langue de destination… Les cas d’application sont nombreux, que ce soit dans le domaine de l’enseignement ou de l’entreprise, mais cette nouvelle barrière qui s’efface entre le réel et la réalité modifiée dévoile clairement ici qu’il y a un potentiel de problèmes et d’abus, même si tout n’est pas encore techniquement optimal.
Bonne nouvelle, Google également. James Manyika parlait « de tension entre audace et responsabilité ». Voilà pourquoi il a annoncé d’emblée que non seulement le service était totalement expérimental, mais qu’il n’était pas destiné à être accessible à tous, mais seulement à des partenaires triés sur le volet.
On peut aussi espérer que le développement de ce projet sera soumis aux fourches caudines des sept règles concernant l’IA que Google a édicté dès 2018.
- Etre bénéfique socialement
- Eviter de créer ou de renforcer des biais
- Etre conçue et testée avec la sécurité en tête
- Etre responsable devant les utilisateurs
- Intégrer les principes respectueux de la vie privée
- Maintenir des standards d’excellence scientifique exigeants
- Etre mis à disposition pour des usages qui sont en accord avec ces principes.
Ces mêmes principes de l’IA qui, rappelait James Maniyka quelques minutes plus tard, aide le géant à « décider ce qu’il ne faut pas faire ». Ce sont ces principes qui ont fait que Google ne s’est pas lancé dans les API de reconnaissance faciale générale il y a des années, par exemple, expliquait-il, car « les garanties à l’époque n’étaient pas suffisantes ». Les mêmes principes qui ont retenu Google d’appuyer sur le bouton de lancement d’un équivalent à ChatGPT avant qu’OpenAi le fasse également ? Peut-être. Une des solutions, pour James Maniyka est de « s’attaquer aux défis qui s’imposent quand ils apparaissent » grâce à l’innovation et un respect d’une certaine éthique qui aurait presque des airs de « don’t be evil ».
Quoi qu’il en soit, dans l’ombre de ces principes, Google aurait conçu son Universal Translator avec des garde-fous pour éviter les usages dangereux. Par ailleurs, les vidéos ainsi traitées devraient être soumises aux précautions annoncées par James Manyika. Ainsi, Google devrait prochainement « intégrer de nouvelles innovations en matière de watermark dans [ses] derniers modèles génératifs pour aider à se prémunir contre la désinformation ».
S’il est difficile de savoir en quoi vont consister exactement toutes ces mesures préventives, et si Google dit bien entendu vouloir contrôler les usages de sa technologie, il faut garder en tête la fuite du modèle d’IA de Meta au début du printemps dernier. Une fuite qui a ouvert la porte à des abus, d’une part, mais a aussi servi d’accélérateur à la cause grâce au monde de l’open source qui s’en est saisi, d’autre part. Le mal et le bien, une fois encore. Google le sait, et cherche à agir en amont pour se prémunir, pour nous éviter le pire, dans un contexte où il semble impossible d’imposer un moratoire à un domaine qui évolue vite et est chahuté par des enjeux géostratégiques capitaux. En définitive, on en revient toujours à ce fil du rasoir entre audace et responsabilité. Et si Universal Translator a tout de la boîte de Pandore. N’oublions pas que tout au fond de ce coffre mythique se cache toujours l’espérance.