Dell World (Las Vegas) – « L’avenir de l’intelligence artificielle sera décentralisé, à faible latence et hyper-efficace », a prédit le fondateur, président et PDG de Dell Technologies lors de sa présentation au Dell World, que vous pouvez regarder sur YouTube.
Dell fait le pari que la complexité du déploiement de l’IA générative sur site pousse les entreprises à s’adresser à un fournisseur disposant de toutes les pièces du puzzle, ainsi que d’un service et d’une assistance 24 heures sur 24.
Le deuxième jour du salon, le directeur de l’exploitation de Dell, Jeffrey Clarke, a indiqué que l’enquête menée par Dell auprès des entreprises clientes montre que 37 % d’entre elles souhaitent qu’un fournisseur d’infrastructure « construise pour elles l’ensemble de leur pile d’IA ». Il ajoute : « Nous pensons que Dell est en train de devenir le « guichet unique » des entreprises pour toute l’infrastructure d’IA ».
De l’IA mais en mode Edge computing
Les nouvelles offres de Dell comprennent des produits destinés à ce que l’on appelle l’edge computing, c’est-à-dire à l’intérieur des locaux des clients plutôt que dans le cloud. Par exemple, Dell AI Factory est un service managé pour l’IA sur site, qui, selon Dell, peut être « jusqu’à 62 % plus rentable pour les LLM d’inférence sur site que dans le cloud public ».
Dell Technologies
Dell propose une offre de son AI Factory avec Nvidia pour présenter les offres du géant des puces. Il s’agit notamment de nouveaux serveurs PowerEdge, qui utilisent jusqu’à 256 puces Nvidia Blackwell Ultra GPU, et de certaines configurations qui utilisent la combinaison Grace-Blackwell de CPU et de GPU.
Les prochaines versions des serveurs PowerEdge prendront en charge les prochaines versions des CPU et GPU Nvidia, Vera et Rubin, a déclaré Dell, sans donner plus de détails.
La gamme PowerEdge à l’heure de l’IA
Dell a également dévoilé de nouveaux switch réseau fonctionnant soit avec le matériel réseau Spectrum-X, soit avec la technologie InfiniBand. Tous ces éléments, les serveurs PowerEdge et les commutateurs réseau, sont conformes à la conception standardisée que Nvidia a définie comme l’usine Nvidia Enterprise AI.
Un deuxième lot de nouvelles machines PowerEdge prendra en charge la famille de GPU concurrents d’AMD, l’Instinct MI350. Les deux versions de PowerEdge sont disponibles dans des configurations avec refroidissement par air ou par liquide.
Les serveurs et commutateurs Factory sont complétés par des améliorations du stockage de données, notamment des mises à jour de l’appliance de stockage en réseau de l’entreprise, la famille PowerScale, et le système de stockage objet, ObjectScale. Dell a aussi présenté ce qu’elle appelle PowerScale Cybersecurity Suite, un logiciel conçu pour détecter les ransomwares, et ce qu’elle appelle un « airgap vault » qui sépare les sauvegardes immuables des données de production, afin de « garantir que vos données critiques sont isolées et en sécurité ».
Des PC d’IA pour faire de l’intelligence artificielle en mode local
Les produits ObjectScale prennent en charge l’accès aux données à distance (RDMA – remote data access), pour une utilisation avec le service de stockage d’objets S3 d’Amazon. Selon Dell, cette technologie fait plus que tripler le débit des transferts de données, réduit la latence des transferts de 80 % et peut diminuer la charge des processeurs de 98 %.
« Nous exploiterons les transferts de mémoire directs pour rationaliser le mouvement des données avec une implication minimale du CPU, ce qui le rend idéal pour l’entraînement et l’inférence évolutifs de l’IA » affirme Dell.
Dell AI Factory met également l’accent sur ce que l’on appelle l’AI PC, c’est à dire des stations de travail conçues pour l’inférence. Cela inclut un nouvel ordinateur portable équipé d’une carte de circuit Qualcomm, la carte d’inférence AI 100 PC. Elle est destinée à faire des prédictions locales avec Gen AI sans avoir à passer par un serveur central.
Dell Technologies
Dell Pro Max Plus : « la première station de travail mobile dotée d’une NPU de qualité professionnelle »
L’ordinateur portable Dell Pro Max Plus est « la première station de travail mobile au monde dotée d’une NPU de qualité professionnelle », c’est-à-dire d’une puce autonome pour le traitement des réseaux neuronaux.
Dell Technologies
Dell Technologies
Le Pro Max Plus devrait être disponible dans le courant de l’année.
Un certain nombre d’offres logicielles Dell ont été proposées pour soutenir l’idée d’une infrastructure d’IA décentralisée et « désagrégée ».
Dell Private Cloud
Par exemple, l’entreprise a longuement présenté son logiciel de gestion de fichiers, Project Lightning, qu’elle qualifie de « système de fichiers parallèles le plus rapide au monde selon de nouveaux tests » et qui, selon elle, peut atteindre un débit « jusqu’à deux fois supérieur à celui des systèmes de fichiers parallèles concurrents ». C’est important pour les opérations d’inférence qui doivent traiter rapidement de grandes quantités de données, note l’entreprise.
Dans le domaine des logiciels, on trouve également ce que Dell appelle son logiciel Dell Private Cloud, qui est destiné à déplacer les clients entre différentes offres logicielles pour l’exécution des serveurs et du stockage, y compris les hyperviseurs VMware de Broadcom, l’offre hyperconvergée de Nutanix et les offres concurrentes de Red Hat d’IBM.
La société affirme que les capacités d’automatisation de Dell Private Cloud peuvent permettre aux clients de « provisionner une pile de cloud privé en 90% d’étapes en moins que les processus manuels, livrant un cluster en seulement deux heures et demie sans aucun effort manuel ».