Logiciels : et voici les premiers échecs de l’IA

Logiciels : et voici les premiers échecs de l'IA


La société Figma bénéficie d’une forte côte de sympathie, et d’une communauté particulièrement engagée. Et c’est peut-être l’engagement de cette communauté qui aujourd’hui amène l’entreprise sous le feu des critiques.

Figma a annoncé le 26 juin, lors de son évènement annuel Config, une nouvelle fonction d’IA générative générative appelée « Make Design ».

Make Design permet aux utilisateurs d’entrer simplement une description de la page web ou de l’application (app) qu’ils veulent créer. Et la fonction crée instantanément une ébauche. Pour l’heure la fonction est en version bêta et elle doit être lancée officiellement l’année prochaine.

Dylan Field, PDG de Figma.

Make Design reproduit les apps de la concurrence

Figma est une entreprise bien connue de l’industrie du design pour ses outils de collaboration en matière de conception. L’an passé Adobe a tenté sans succès de mettre la main dessus.

Mais cette fois-ci, ça ne passe pas. L’accent mis par Figma sur Make Design est fortement critiqué. Le fondateur de Sickle Boring Software, Andy Allen, fait remarqué que cette fonction produit des résultats qui ressemblent exactement… à ce que font les autres applications du marché.

« Lorsque je lui ai demandé de créer une « application météo non ennuyeuse », le résultat était presque identique au design de l’application météo par défaut sur les appareils Apple » a-t-il déclaré. « Après trois essais, le résultat était le même, de sorte que tous les concepteurs utilisant la nouvelle fonctionnalité devraient vérifier minutieusement les applications existantes ou modifier considérablement le résultat pour éviter de s’exposer à des problèmes juridiques. »

Suite a diverses critiques, Figma vient de fermer l’accès à cette fonctionnalité. Elle aura donc survécu… une semaine.

« En fin de compte, c’est ma faute, car j’ai poussé notre équipe à respecter un délai pour une conférence sans insister sur un meilleur processus d’assurance qualité », a déclaré le fondateur et PDG de Pygma, Dylan Field. « Nous réactiverons la fonctionnalité une fois que nous aurons terminé l’assurance qualité. »

Sora et OpenAI pas au clair sur la propriété intellectuelle

OpenAI a également fait l’objet de controverses pour avoir mis sur le marché des technologies claudicantes. Au début de l’année, la société a publié une série de vidéos créées par son IA génératrice de vidéos, Sora.

Ces vidéos posent la question du respect du droit d’auteur. L’entreprise a été accusée d’avoir montrer une technologie sans en avoir vérifié correctement la question sous-jacente de la propriété intellectuelle.

Il en va de même pour la fonction vocale du nouveau modèle d’IA « GPT-4o », présenté en mai. GPT-4o a attiré l’attention par sa capacité à avoir des conversations vocales naturelles. Mais cette fonctionnalité aurait été forgée sans le consentement et avec la voix de l’actrice Scarlett Johansson, qui jouait le rôle de Samantha dans le film Her.

En conséquence, OpenAI a retiré cette fonctionnalité.

Mira Murati, directrice technique d’OpenAI, explique le nouveau modèle d’IA de la société, GPT-4o.

Google brouille ses résultats de recherche

Google a également été critiqué pour sa fonction « Overview », qui utilise l’IA pour résumer rapidement les résultats d’une recherche. La fonction est critiquée pour ses résultats de recherche trompeurs.

Par exemple, le logiciel a donnée comme résultat que Obama était musulman, ou encore qu’il fallait utiliser de la colle pour empêcher le fromage de tomber d’une pizza.

Microsoft rappelle Recall

Enfin, Microsoft est revenu en arrière que la fonction Recall, qui capture toutes les actions de ses Co-Pilot+PC.

Après avoir été critiquée pour son « énorme risque pour la vie privée », l’entreprise a retardé sa sortie indéfiniment, invoquant le manque de fonctions de sécurité et de tests de performance.

« Les grandes entreprises de la tech continuent de privilégier la vitesse de développement au détriment de la fiabilité de l’IA. Elles sont souvent prises entre deux feux » assure un connaisseur du secteur. « Dans leur empressement à lancer de nouvelles fonctionnalités d’IA, elles ne font pas le travail d’assurance qualité nécessaire ».



Source link

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.