Nous avons pris en main un PC tournant avec la puce sous ARM de Qualcomm, la Snapdragon X Elite. Notre essai a porté sur des usages IA et s’il y a un vrai avantage côté vitesse de traitement, la précision n’est pas de mise. Qualcomm assume tout de même l’utilité de ce type d’usages pour soulager le Cloud.
Qualcomm prépare depuis des années sa révolution sur PC. L’entreprise, que l’on connaît surtout pour ses puces Snapdragon qui règnent sur l’univers des smartphones, travaille depuis des années sur une nouvelle architecture CPU dédiée au PC, tirant parti du rachat de la start-up Nuvia.
En octobre 2023, lors de son Snapdragon Summit, Qualcomm avait enfin dévoilé le fruit de son travail avec une première puce utilisant cette nouvelle architecture, le Snapdragon X Elite. Nous avons enfin pu l’essayer rapidement sur quelques usages liés à l’IA lors d’une démonstration à Londres.
L’IA dite « on device » a une grande force et beaucoup de faiblesses
Si d’après les premiers benchmarks réalisés sur la puce de Qualcomm, celle-ci fait jeu égal avec la concurrence, jusqu’à concurrencer la M3 d’Apple tout de même, nous ne savions pour l’heure rien de ses capacités de traitement IA. Nous avons pu tester deux usages sur des machines optimisées par Qualcomm et tournant sous Windows 11. Précisons qu’il s’agissait de PC d’essai, nous ne sommes donc pas dans le cadre d’un produit commercialisable, mais d’une démonstration.
Deux exercices ont été demandés aux PC, tous deux réalisés directement sur l’appareil et sans avoir recours au cloud :
- Répondre à des requêtes écrites, en utilisant Whisper d’Open AI ;
- Créer des images à partir de Llama 2 de Meta.
Premier constat, le PC répond très rapidement aux demandes. Si vous avez déjà utilisé une IA générative de textes ou d’images, celles-ci ont beau être très rapides, elles demandent généralement un temps d’attente non négligeable pour répondre à nos demandes. Nous avons constaté un temps de traitement parfois impressionnant, de l’ordre d’une seconde pour générer une image.
Ceci étant posé, les résultats n’étaient pas toujours très probants. En effet, les modèles utilisés, spécialisés pour ne pas dépendre du cloud, sont largement moins puissants et capables que ce à quoi nous sommes désormais habitués. Nous avons par exemple demandé des conseils pour l’achat d’un smartphone et la réponse est pour ainsi dire succincte. Nous lui avons ensuite demandé d’argumenter son propos et le chatbot n’a pas compris et nous a répété la même réponse.
De même, nous lui avons demandé de nous écrire un article sur le Galaxy S24, et surprise, il a confondu le dernier smartphone de Samsung avec un PC portable.
Côté image, les résultats étaient un peu plus probants, dans le sens où le chatbot semble avoir compris nos demandes. Ceci étant, la qualité des rendus est à des années lumières de ce à quoi nous pouvons être habitués avec des Dall-E et autres Midjourney.
Le dessous de l’affaire : ARM et ses licences
Au cœur de la puce Snapdragon X Elite qui nous intéresse aujourd’hui, nous trouvons un nouveau CPU appelé Oyron qui n’utilise donc pas les fameux cœurs Cortex sous licence ARM, mais une architecture Qualcomm. Le pari pour Qualcomm est d’enfin proposer des PC sous ARM capables de rivaliser avec Intel, AMD et Nvidia qui se partagent le marché des CPU et GPU des PC portables.
L’originalité, c’est que le Snapdragon X Elite ressemble peu ou prou à un SoC, une puce de smartphones, et intègre donc un NPU, un processeur dédié au traitement de l’IA. Celui-ci est même plus puissant que celui du Snapdragon 8 Gen 3, pourtant la puce la plus capable de Qualcomm sur les smartphones. Selon Qualcomm, le NPU du Snapdragon X Elite est en mesure de gérer 13 milliards de paramètres d’un modèle d’IA générative (LLM) contre 10 milliards pour celui du Snapdragon 8 Gen 3.
De l’intérêt de l’IA calculée directement sur l’appareil
Pourquoi cela est important ? Même le dernier Galaxy S24 Ultra, le smartphone le plus puissant de Samsung à ce jour, demande un petit temps de traitement lorsqu’on utilise l’une des fonctionnalités Galaxy AI. Cela est pour parti dû au temps de traitement de la puce, mais aussi au recours au cloud. La promesse d’un NPU puissant est donc à la fois un gain de temps et un recours de moins en moins important au Cloud.
Pour l’heure, pour appâter le chaland, les entreprises comme Samsung, Google ou OpenAI ne facturent pas les fonctionnalités IA basées sur le cloud, mais ce n’est pas parce qu’elles sont gratuites pour l’utilisateur qu’elles ne coûtent rien aux entreprises. Bien au contraire. Et plus le public s’habitue à avoir recours à l’IA, plus ce coût devient important. « Les NPU efficaces vont décharger la charge de travail informatique massive que représente l’IA basée sur le cloud », explique George Tsirtsis, directeur principal de la technologie chez Qualcomm Europe. « L’utilisation de l’IA générative par le cloud pour tous les usages va finir par casser les reins de tout le monde », plaide-t-il, pour prouver l’intérêt de sa technologie.
Cet article a été rédigé dans le cadre d’un voyage de presse organisé par Qualcomm à Londres.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.