Nvidia veut équiper les chercheurs et les étudiants en IA avec un mini PC très spécialisé, très puissant… et très cher aussi.
Nvidia est la cheville ouvrière qui permet aux technologies d’IA générative de prospérer. Une bonne partie de l’industrie repose en effet sur les capacités des GPU et des serveurs de Nvidia. Et l’entreprise ne veut pas s’arrêter en si bon chemin. Elle va en effet commercialiser un mini PC destiné aux chercheurs, aux data scientists et aux étudiants ; ce « superordinateur IA » leur permettra de travailler avec de grands modèles de langage (LLM), jusqu’à 200 milliards de paramètres.
Les grands modèles de langage sur le bureau
Les paramètres d’un grand modèle de langage sont les éléments qui permettent au LLM de faire des prédictions ou de générer du texte. Un paramètre est un nombre utilisé par le modèle pour définir les connexions internes entre les différents composants du réseau neuronal. En termes simples, c’est comme si chaque paramètre était une petite règle ou un poids qui aide le modèle à comprendre les relations entre les mots, les concepts, ou les idées.
Pour donner un ordre d’idée, la version 3.1 de Llama, le meilleur LLM de Meta, compte 405 milliards de paramètres. Autant dire qu’avec ce « projet Digits », Nvidia propose une machine déjà très capable, ce d’autant qu’il est possible d’en connecter deux pour faire tourner 405 milliards de paramètres, justement. Les utilisateurs pourront ainsi créer des prototypes et tester des modèles en local.
Au cœur de cet ordinateur se trouve la GB10 Superchip, un système-sur-puce (SoC) basé sur l’architecture Grace Blackwell, capable de fournir jusqu’à 1 petaflop de performance IA. La puce combine un GPU contenant des cœurs CUDA nouvelle génération et des cœurs Tensor de cinquième génération, connecté au CPU Grace (20 cœurs économes à architecture Arm) avec l’aide du système d’interconnexion NVLink-C2C. MediaTek a donné un coup de main pour mettre au point ce nouveau moteur.
Et pour alimenter tout ça, pas besoin d’un réacteur nucléaire à proximité : une simple prise électrique standard suffira. Chaque mini PC contient 128 Go de mémoire unifiée et jusqu’à 4 To de stockage SSD. Le tout dans un design qui n’est pas sans évoquer le Mac mini.
Le projet Digits sera disponible en mai, à un prix qui débutera à 3 000 $. L’IA, ça se paie !
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source :
Nvidia