L’intelligence artificielle donne aux escrocs des outils très puissants pour créer des publicités malveillantes qui, diffusées à grande échelle, peuvent provoquer de sérieux dégâts auprès des consommateurs. Néanmoins, et avec l’aide de cette même IA, Google veille au grain et supprime des pubs et des comptes d’annonceurs à tour de bras.
L’an dernier, Google a bloqué ou supprimé 5,1 milliards de publicités, et restreint 9,1 milliards d’annonces au contenu sensible (ou à diffusion limitée). Le moteur de recherche, qui est aussi la plus grande régie publicitaire au monde, a suspendu 39,2 millions de comptes d’annonceurs dont la majorité avant même la diffusion d’une annonce. Enfin, 220 000 sites ont été visés par une mesure de suspension.
Quand l’IA repère les menaces de l’IA
Un bilan somme toute impressionnant, dressé dans le rapport Ads Safety pour 2024. Google relève la hausse des pubs pour des arnaques liées à l’IA. Parmi les menaces les plus préoccupantes : les escroqueries reposant sur des deepfakes de célébrités générés par des outils d’IA générative. Régulièrement, des vedettes comme Tom Hanks dénoncent le détournement de leur image pour ces vraies-fausses réclames.
Ces vedettes font la promotion, à leur corps défendant, d’escroqueries financières à base de cryptomonnaies et autres entourloupes. En réponse, Google a suspendu plus de 700 000 comptes pour usurpation d’identité, ce qui a entraîné une baisse de 90 % des signalements pour ce type de fraude.
Malgré la multiplication des utilisations malveillantes de l’IA, Google indique que ces mêmes technologies sont également utilisées pour la détection des escroqueries, avant même les signalements d’utilisateurs parfois. L’entreprise a apporté l’an dernier des dizaines d’améliorations à ses modèles d’apprentissage automatique pour renforcer la détection et la modération à grande échelle.
Mais l’IA seule ne peut pas tout faire : un groupe de 100 experts a été mobilisé pour mettre en place des contre-mesures, notamment une mise à jour de la politique de Google sur la désinformation.
Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source :
Google (PDF)