Une nouvelle norme mondiale vient d’être publiée pour aider les organisations à gérer les risques liés à l’intégration de grands modèles de langage (LLM) dans leurs systèmes.
Le framework propose des lignes directrices pour les différentes phases du cycle de vie des LLM. De quoi couvrir « le développement, le déploiement et la maintenance », selon la World Digital Technology Academy (WDTA), qui a publié le document vendredi.
Cette organisation non gouvernementale (ONG), basée à Genève, opère sous l’égide des Nations unies. Elle a été créée l’année dernière pour stimuler le développement de normes dans le domaine numérique.
Une approche multicouche de la sécurité
« La norme met l’accent sur une approche multicouche de la sécurité, englobant le réseau, le système, la plate-forme et l’application, le modèle et les couches de données », a déclaré la WDTA. « Elle s’appuie sur des concepts clés tels que la nomenclature de l’apprentissage automatique (machine learning), l’architecture zero trust, le monitoring et l’audit en continu ». Ces concepts sont conçus pour garantir aux systèmes LLM :
- L’intégrité
- La disponibilité
- La confidentialité
- La contrôlabilité
- La fiabilité
Baptisé norme AI-STR-03, le nouveau framework vise à identifier et à évaluer les défis liés à l’intégration des technologies d’intelligence artificielle (IA), en particulier les LLM, dans les écosystèmes informatiques des entreprises. C’est essentiel car ces modèles d’IA peuvent être utilisés dans des produits ou des services exploités entièrement ou partiellement par des tiers, mais non managés par eux.
Lutter contre l’empoisonnement des données
Les exigences de sécurité liées à la structure du système des LLM garantissent que le produit et ses systèmes, composants, modèles, données et outils sont protégés contre la falsification ou le remplacement non autorisé tout au long du cycle de vie des produits LLM.
La WDTA précise que cela implique la mise en œuvre de contrôles et d’une surveillance continue à chaque étape de la chaîne d’approvisionnement.
Elle s’attaque également aux vulnérabilités courantes en matière de sécurité des logiciels intermédiaires. Et ce afin d’empêcher tout accès non autorisé et de se prémunir contre le risque d’empoisonnement des données de formation. Enfin, elle met en œuvre une architecture zero trust afin d’atténuer les menaces internes.
« En maintenant l’intégrité de chaque étape, de l’acquisition des données au déploiement des fournisseurs, les clients utilisant des LLM peuvent s’assurer que les produits LLM restent sûrs », explique la WDTA.
Résoudre l’ambiguïté autour des LLM
Le nouveau framework a été rédigé et examiné par un groupe de travail composé de plusieurs entreprises et institutions technologiques, dont Microsoft, Google, Meta, Tencent Cloud et Baidu.
Selon la WDTA, il s’agit de la première norme internationale relative à la sécurité de la chaîne d’approvisionnement des LLM.
Lars Ruddigkeit, de Microsoft, a déclaré que le nouveau framework ne visait pas à être parfait, mais qu’il fournissait les bases d’une norme internationale.
« Nous voulons établir le minimum à atteindre », a déclaré M. Ruddigkeit. « Il y a actuellement beaucoup d’ambiguïté et d’incertitude autour des LLM et d’autres technologies émergentes, ce qui rend difficile pour les institutions, les entreprises et les gouvernements de décider de ce que serait une norme significative ».