Google vient de mettre en ligne AI Edge Gallery, sa dernière application expérimentale permettant d’exécuter des LLM hors ligne sur un smartphone pour une confidentialité accrue.
L’un des principaux inconvénients dans l’utilisation de chatbots conventionnels comme ChatGPT et Gemini et que la confidentialité de vos échanges n’est pas assurée. Et pour cause, toutes les requêtes que vous émettez lorsque vous discutez avec un chatbot en ligne transitent par les serveurs de la plate-forme fournissant le service. Pour éviter cela, il convient donc de préférer l’utilisation d’une IA générative hors ligne, exécutée localement sur votre appareil. C’est exactement que ce que propose Google avec l’AI Edge Gallery.
Des grands modèles de langage exécutés localement sur votre smartphone
Mise en ligne sur Github, l’AI Edge Gallery de Google est une application expérimentale dont le but est de fournir une solution clé en main pour vous permettre d’exécuter de grands modèles de langage localement sur votre smartphone. L’application, qui est d’ores et déjà disponible sur Android et sera déclinée sur iOS très prochainement, propose ni plus ni moins de télécharger localement différents modèles de langage sur votre smartphone. Grâce à cela, vous pouvez les utiliser entièrement hors ligne, le traitement des requêtes étant entièrement réalisé sur votre appareil.
Pour l’instant, la Galerie Google AI Edge permet de basculer entre différents modèles de langage de Hugging Face. L’application propose plusieurs cas d’usage : « Ask image », « Prompt Lab » et « AI Chat ». Le premier permet de soumettre des images pour demander aux différentes IA d’identifier des objets, ou de résoudre certains de vos problèmes. Le deuxième permet de résumer et de réécrire, mais aussi de générer du code à partir d’une simple demande écrite. Enfin, le troisième permet de tenir une conversation avec le chabot que vous aurez choisi.
Par défaut, l’application propose de télécharger localement quatre modèles de langages (Gemma-3n-E2B-it-int4, Gemma-3n-E4B-it-int4, Gemma3-1B-IT q4, et QWEN2.5-1.5B-Instruct q8), mais il est tout à fait possible d’en importer de nouveaux.
Des limitations à prendre en compte
L’application, qui est totalement gratuite, est déjà disponible pour Android, sous la forme d’une application APK à installer manuellement sur votre smartphone. Si aucune date n’est pour l’heure confirmée, une version pour l’iPhone devrait très rapidement arriver.
Bien que l’utilisation de ces modèles de langage localement sur votre appareil vous offre une plus grande confidentialité, il convient de prendre certains éléments en considération. Tout d’abord, le téléchargement de ces LLM sur votre smartphone risque de monopoliser une quantité non négligeable de stockage, certaines d’entre elles dépassant les 4 Go. Par ailleurs, en fonction de la configuration de votre appareil, les performances obtenues seront plus ou moins bonnes.
En tout état de cause, vos requêtes nécessiteront généralement plus de temps pour être traitées localement sur votre smartphone qu’en transitant, par exemple sur les serveurs des différentes plates-formes, comme ChatGPT et Gemini.
Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Par : Opera
Source :
Neowin