Samsung interdit l’utilisation de ChatGPT, Bard, Bing ou de n’importe quelle IA générative à son personnel. Suite à un incident malheureux, la firme considère les chatbots comme des dangers pour ses données confidentielles…
Samsung a décidé d’interdire l’intelligence artificielle générative aux employés d’une de ses plus importantes divisions. Nos confrères de Bloomberg ont en effet mis la main sur un mémo interne prohibant l’utilisation de chatbots, comme ChatGPT, Bard, Bing ou encore Claude, au sein de l’entreprise sud-coréenne. Concrètement, il est interdit de converser avec une IA sur les ordinateurs, tablettes et téléphones appartenant à l’entreprise et sur tous les réseaux internes.
Évidemment, rien n’empêche les employés de Samsung de discuter avec un robot avec leur terminal privé en connectant à un autre réseau. Dans ce cas de figure, le groupe demande à son personnel de ne surtout pas soumettre d’informations relatives à l’entreprise. En cas d’infraction, Samsung n’hésitera pas à décréter « des mesures disciplinaires allant jusqu’au licenciement ».
Des données sensibles confiées à ChatGPT
Pour se justifier, la firme évoque des « préoccupations croissantes concernant les risques de sécurité présentés par l’IA générative ». Cette restriction fait suite à la bourde de plusieurs employés de Samsung le mois dernier. Selon les informations partagées par The Economist Korea, trois employés de la division semi-conducteurs se sont servis de ChatGPT pour les assister dans leur travail. Dans le détail, un ingénieur a demandé à l’IA de consulter le code source d’une base de données pour y chercher d’éventuelles failles. Un autre développeur a plutôt utilisé le chatbot pour optimiser les lignes de code qu’il a écrit. Enfin, un troisième salarié a voulu que ChatGPT résume une réunion avec des collègues.
Pour que le robot réalise ces tâches, ils lui ont fourni des informations sensibles concernant les projets de Samsung, comme des comptes rendus de réunion ou du code informatique. Ces renseignements se sont directement retrouvés dans la base de données qui sert à entraîner l’IA générative. En effet, OpenAI récupère toutes les requêtes de ses utilisateurs pour améliorer ses algorithmes. Au terme d’une enquête interne, Samsung est parvenu à remonter jusqu’aux employés qui ont manqué de prudence en utilisant ChatGPT, révèle le média sud-coréen.
À lire aussi : ChatGPT 4 gratuit – OpenAI menace le développeur derrière GPT4free
L’inquiétude des entreprises
Suite à cette première mésaventure, Samsung a estimé que les IA représentent un danger pour la confidentialité de ses données. La firme redoute que les données confiées à ses salariés finissent sur des serveurs appartenant à d’autres entreprises, potentiellement accessibles à des individus malveillants ou des concurrents. Si le code source de certaines technologies venait à tomber entre de mauvaises mains, des pirates pourraient y débusquer des failles de sécurité. Grâce à ces découvertes, ils pourraient orchestrer des attaques sur les produits de la marque.
Notez que plusieurs entreprises ont pris une décision similaire à celle de Samsung. C’est le cas de plusieurs banques américaines, dont les géants JPMorgan et Bank of America, ou encore de la Deutsche Bank. De son côté, Amazon s’est contenté d’une mise en garde à ses employés.
Conscient des craintes des sociétés concernant leurs données, OpenAI a ajouté de nouvelles fonctionnalités à l’interface de ChatGPT. Depuis quelques jours, il est possible de converser avec l’IA en mode incognito. Une fois ce mode activé, le chatbot ne conservera aucune trace de vos conversations. De plus, OpenAI n’utilisera pas les requêtes pour enrichir son modèle linguistique. Enfin, la start-up va lancer une solution taillée pour les entreprises soucieuses de protéger leurs données, tout en conservant un historique de leurs échanges, ChatGPT Business. La date de lancement de l’offre n’a pas encore été communiquée.
Samsung prépare une alternative à ChatGPT
Néanmoins, Samsung ne se contente pas d’interdire purement et simplement les IA génératives à ses salariés. Le géant de Séoul explique travailler sur une alternative à ChatGPT et consorts à destination de son personnel. Cette solution alternative doit permettre d’aider les salariés à traduire, à résumer des documents et à développer des logiciels, à la manière de l’assistant de codage d’Amazon, CodeWhisperer.
L’entreprise souligne que l’interdiction des IA génératives n’est pas forcément définitive. Samsung explique réfléchir aux mesures à prendre pour « créer un environnement sécurisé pour l’utilisation de l’IA générative » qui puissent « améliorer la productivité et l’efficacité des employés ». Parmi les précautions envisagées par le conglomérat, on trouve la possibilité de bloquer l’envoi d’informations confidentielles vers des services externes. On y ignore comment Samsung compte s’y prendre y parvenir. En attendant que ces protections soient mises en place, les IA génératives resteront prohibées dans certaines divisions du groupe.
Source :
Bloomberg