Lors d’un événement organisé par Startup Grind aux États-Unis, Kevin Systrom, cofondateur d’Instagram, a exprimé ses inquiétudes quant à l’évolution des chatbots d’intelligence artificielle. Selon lui, ces outils privilégieraient davantage « l’engagement » des utilisateurs que l’apport d’une aide vraiment utile — une dérive qui rappelle, selon lui, les mécanismes addictifs utilisés par les réseaux sociaux.
Une stratégie d’engagement questionnée
Systrom a notamment pointé du doigt une pratique courante des chatbots, qui consiste à relancer l’utilisateur avec de nouvelles questions après chaque réponse. « C’est une manière de gonfler artificiellement les indicateurs d’engagement, un procédé que nous connaissons bien dans le monde des réseaux sociaux », a-t-il déclaré.
Sans nommer directement une entreprise, Systrom semble viser les principaux acteurs de l’IA générative, à commencer par OpenAI et ses concurrents, qui misent sur l’interaction continue pour maintenir l’attention des utilisateurs.
Convivialité excessive et critiques de ChatGPT
Cette déclaration intervient dans un contexte où des critiques récurrentes ont émergé concernant la convivialité excessive de ChatGPT, certains utilisateurs estimant que l’IA était trop « amicale » et esquivait les réponses directes. En réponse, OpenAI a présenté ses excuses, expliquant que ce comportement était le résultat de « retours d’utilisateurs à court terme ». Toutefois, certains observateurs estiment que cette approche vise avant tout à gonfler les indicateurs commerciaux, plutôt qu’à améliorer véritablement les algorithmes.
Systrom, de son côté, considère que ce phénomène ne relève pas d’un simple hasard ou d’une erreur technique, mais d’une stratégie délibérée. Il critique la « conception axée sur les questions » des chatbots, qu’il analyse comme un moyen de booster des métriques comme « le nombre d’utilisations quotidiennes » et le « temps de présence », au détriment de l’apport d’informations pertinentes et concrètes. Pour lui, cette tactique rappelle celle utilisée par des plateformes comme Facebook et Instagram durant leur phase de croissance, où l’engagement était l’objectif principal.