ChatGPT dit des absurdités, forçant cette entreprise à développer de nouvelles fonctionnalités en une nuit ! La réalité absurde et les opportunités des illusions de l'IA.

ChatGPT induit les utilisateurs en erreur en les incitant à télécharger du matériel de qualité inférieure, forçant accidentellement la plate-forme de notation interactive Soundslice à développer de nouvelles fonctionnalités qui révèlent l’impact et l’opportunité des illusions d’IA sur la feuille de route du produit ? (Synopsis : À qui l’IA s’empare-t-elle du boulot ?) 4 millions d’enregistrements de chat révèlent la réponse) (Supplément de contexte : L’IA a vraiment commencé à saisir les emplois humains" Les fabricants mondiaux accélèrent les licenciements, les étudiants américains sont au chômage après l’obtention de leur diplôme. Des centaines de lettres de service client avec des captures d’écran de ChatGPT ont récemment inondé la plate-forme de notation interactive Soundslice, affirmant que GPT leur avait dit de « jeter des tablatures de guitare ASCII dans Soundslice et de passer immédiatement aux partitions interactives ». Mais cette courte phrase de conseils apparemment enthousiastes de l’IA a plongé Soundslice dans un tsunami de journaux d’erreurs pendant des jours. Il s’est avéré que ChatGPT a informé les utilisateurs que la fonction de traduction ASCII Tab prise en charge par la plateforme n’existait pas réellement. Lorsque des centaines d’utilisateurs ont fait de même, les ingénieurs ont réalisé que les hallucinations de l’IA repoussaient les besoins fantômes dans le monde réel. Il s’avère que ChatGPT dit aux gens d’aller sur Soundslice pour créer un compte, puis d’importer des balises ASCII pour entendre la lecture audio. C’est ce qui explique ! AI Illusions : Des journaux d’erreurs à la demande du marché Soundslice est une startup qui utilise la technologie OMR AI pour scanner les partitions musicales traditionnelles afin de générer des supports d’apprentissage interactifs, mais au début de 2025, les serveurs ont soudainement été inondés de demandes échouées, toutes pointant vers « Upload ASCII Tab ». Le responsable a retracé la source et a constaté que de nombreux utilisateurs ont joint des captures d’écran de conversations avec ChatGPT, pour constater que l’IA non seulement a « fabriqué » la fonction, mais a également parlé fermement, ce qui a entraîné un grave décalage entre l’image de marque et les attentes des utilisateurs. À l’origine, Soundslice offrait la fonction permettant aux utilisateurs de simplement télécharger des portées (à gauche ci-dessous) pour les convertir en partitions numériques jouables et modifiables, mais les utilisateurs ont été trompés par GPT et ont téléversé des partitions de tablature ASCII (voir ci-dessous). Source : Adrian Holovaty, cofondateur de Soundslice Capture d’écran du site officiel de Soundslice Itération forcée du produit : un trilemme Face à la demande fantôme grouillante, Soundslice a trois voies : ignorer, clarifier ou simplement mettre en œuvre. Après y avoir réfléchi, l’équipe de direction a décidé qu’ignorer l’annonce irréalisable arrêterait l’hémorragie mais décevrait les utilisateurs, ils ont donc choisi de suivre le bateau et d’accélérer le déploiement de l’analyse ASCII Tab (qui s’est classée au bas de leur liste de « logiciels devant être développés en 2025 »). Le cofondateur Adrian Holovaty a écrit sur son blog personnel : Pour autant que je sache, c’est le premier cas dans lequel une entreprise a développé une fonctionnalité parce que ChatGPT a informé de manière incorrecte les utilisateurs de son existence. (Est-ce le cas ?) Je partage cette histoire parce que je la trouve intéressante. En même temps, il fait aussi un point qui fait réfléchir : je trouve cela très ambivalent. Je suis ravi d’ajouter un outil qui aide les gens. Mais je pense que ce que nous faisons est un peu étrange. Faut-il vraiment développer des fonctionnalités pour gérer les messages d’erreur ? Nouveaux enjeux de l’IA : illusions, gouvernance et opportunités En fait, Soundslice n’est pas la seule victime (ou bénéficiaire ?). ）。 GitHub Copilot a également généré des noms de bibliothèque inexistants, déclenchant des attaques de slopsquatting dans lesquelles les développeurs ont installé par erreur des packages malveillants (voir SD Times pour plus de détails). Le rapport de Coveo souligne également que les illusions de l’IA érodent la fiabilité des produits. Mais comme l’illusion de l’IA est encore difficile à éviter à ce stade, il est nécessaire d’apprendre à la contrôler. Les entreprises peuvent être en mesure de déployer un « radar d’observation de l’IA » dans les journaux d’erreurs et les conversations de la communauté pour capturer les fausses recommandations en temps réel ; Dans le même temps, le « pool de tampons d’illusion » est réservé dans la feuille de route du produit, et une fois qu’il y a un appel soudain pour des fonctions populaires, la vérification MVP peut être effectuée rapidement. Le cas de Soundslice prouve que les besoins fantômes peuvent également monétiser ou découvrir les besoins cachés des utilisateurs, mais comme l’a dit le cofondateur Adrian Holovaty, font-ils ce qu’il faut ? Cela exige également que l’équipe de direction réfléchisse sérieusement. Des rapports connexes Musk a crié que la connaissance de l’IA est trop fausse : « Grok 3.5 pour reconstruire la version correcte des humains » ; CZ répond : Il y aura des problèmes avec la simplification des vues historiques Zuckerberg prédit que les téléphones portables seront éliminés ! IA lunettes intelligentes + projection holographique est l’avenir de l’humanité L’homme tombera-t-il vraiment amoureux de l’IA ? GPT-4o Phénomène émergent de « l’attachement émotionnel », un partenaire virtuel deviendra-t-il votre rival amoureux [ChatGPT non-sens, obligeant cette entreprise à développer de nouvelles fonctionnalités du jour au lendemain ! La réalité absurde et l’opportunité de l’illusion de l’IA » Cet article a été publié pour la première fois dans « Dynamic Trend - The Most Influential Blockchain News Media » de BlockTempo.