L’intelligence artificielle générative (IA) a rendu l’identification des contenus synthétiques et la protection de la vie privée des utilisateurs beaucoup plus difficiles. Afin d’améliorer la maîtrise de l’information et de renforcer la protection des données, Google a apporté des modifications à son moteur de recherche pour mieux lutter contre les deepfakes et faciliter un peu plus le contrôle sur les informations personnelles.
Depuis des années, il est possible de demander à Google de supprimer des faux contenus explicites, ou deepfakes non consensuels, des résultats de recherche. Désormais, Google filtrera tous les doublons de ces contenus, ainsi que les résultats explicites issus de recherches similaires à votre sujet, et non plus seulement le résultat de recherche correspondant à la demande de suppression initiale.
Élargir la portée de la suppression des contenus préjudiciables
En théorie, cette mesure devrait permettre d’élargir la portée de la suppression des contenus préjudiciables. La procédure s’applique à la fois aux images non consensuelles et aux fausses images explicites.
Google a également mis à jour ses systèmes de classement « pour les requêtes où il existe un risque plus élevé d’apparition de contenu explicite dans la recherche ». Ces mises à jour donneront la priorité à l’affichage de résultats de haute qualité et non explicites pour les requêtes qui incluent des noms de personnes lorsqu’ils sont disponibles.
Selon Google, ces évolutions ont déjà réduit l’exposition au contenu explicite de plus de 70 %. Les changements visent à faire apparaître le contenu qui informe les utilisateurs sur les deepfakes, plutôt que les deepfakes eux-mêmes. Google rétrogradera également les sites pour lesquels elle a reçu de nombreuses demandes de suppression.
Contextualisation renforcée avec « À propos de cette image »
Une option « À propos de cette image » a été ajoutée aux services Entourer pour chercher et Google Lens afin de contextualiser les résultats.
Par exemple, si un quelqu’un vous envoie par SMS une image choquante, vous pouvez simplement l’entourer sur votre téléphone Android et ouvrir l’onglet « À propos de cette image » dans Google Search, qui fournira des informations sur l’origine de la photo en fonction de ce qu’il peut trouver. Si vous utilisez Google Lens, vous pouvez simplement faire une capture d’écran ou télécharger l’image en question, l’ouvrir dans l’application Google et cliquer sur l’icône Lens. Cette fonctionnalité est disponible pour les utilisateurs Android et iOS.
Cette fonction peut aider à démystifier une photo qui est utilisée hors de son contexte d’origine, par exemple, ou qui a été modifiée pour manipuler l’information.
Métadonnées et filigrane SynthID
Google se réfère également aux métadonnées de l’image pour connaître le contexte de l’historique et savoir comment ou quand elle a été créée. Certains de ces éléments peuvent indiquer si une image est synthétique, ou générée ou modifiée à l’aide de l’IA.
Lors d’une réunion d’information et d’une démonstration à laquelle a assisté ZDNET, Google n’a pas précisé comment il est capable de vérifier les origines IA d’une image, mais a noté que la technologie en est encore à ses débuts. La fonction « À propos de cette image » peut détecter une image générée par l’IA si elle contient le filigrane SynthID de Google DeepMind, qui est intégré dans les pixels de toute image créée à l’aide des outils d’IA de Google.
Disponible en 40 langues, « À propos de cette image » est accessible dès maintenant dans Entourer pour chercher sur les derniers téléphones, smartphones pliants et tablettes Samsung et Pixel, ainsi que sur Google Lens dans l’application Google pour Android et iOS.