ChatGPT 胡说八道，竟逼这家公司连夜开发新功能！AI 幻觉的荒谬现实与机会

ChatGPT 误导用户上传不合规格的资料，意外迫使互动乐谱平台 Soundslice 开发新功能，揭示 AI 幻觉对产品路线的冲击与机会？ （前情提要：AI 在抢谁的工作？400 万份聊天记录揭晓了答案） （背景补充：AI 真开始抢人类工作》全球大厂加速裁员、美国大学生毕业即失业..） 上百封夹带 ChatGPT 截图的客服信，在近期间淹没互动乐谱平台 Soundslice，声称 GPT 告诉他们只要「把 ASCII 吉他谱丢进 Soundslice，就能立即转为互动乐谱」。 但这短短一句看似热心的 AI 指引，却让 Soundslice 连日陷入错误日志海啸。原来，ChatGPT 告诉用户该平台支援的 ASCII Tab 转译功能事实上根本不存在。当数百名使用者照做却屡屡碰壁，工程师才惊觉 AI 幻觉正在把幽灵需求推向真实世界。 原来 ChatGPT 是告诉人们去 Soundslice 建立一个帐户，然后汇入 ASCII 标签才能听到音讯播放。所以这就解释了！ AI 幻觉闯祸：从错误日志到市场需求 Soundslice 是一项透过 OMR AI 技术扫描传统乐谱生成互动学习素材的新创，但在 2025 年初，伺服器却突然涌入大量失败请求，全部指向「上传 ASCII Tab」。 官方追查来源，发现不少使用者附上与 ChatGPT 的对话截图，这才发现 AI 不只「捏造」功能还口气笃定，导致品牌形象与用户期待严重错位。 Soundslice 原本提供的功能是用户只要上传五线谱（如下图左方）就可将其转换为可播放、编辑的数位乐谱，但被 GPT 误导的用户则是上传 ASCII tab 乐谱（如下图右方）。 图源：Soundslice 共同创办人 Adrian Holovaty Soundslice 官网截图 被迫的产品迭代：三难决策 面对蜂拥而至的幽灵需求，Soundslice 有三条路：无视、澄清，或干脆实作。 管理团队思考过后认为，无视行不通、发公告虽能止血，却恐使用户失望，于是选择顺水推舟，将 ASCII Tab 解析功能加速推出（这在他们「预计 2025 年要开发的软体」清单中排名靠后）。 共同创办人 Adrian Holovaty 在个人部落格写道： 据我所知，这是第一起因为 ChatGPT 错误地告知用户该功能的存在而导致公司开发该功能的案例。 （是吗？）我分享这个故事是因为我觉得它挺有趣的。 同时他也提出了一个引人思考的关点： 我对此感到很矛盾。我很高兴能添加一个能帮助人们的工具。但我觉得我们的做法有点奇怪。我们真的应该开发一些功能来应对错误讯息吗？ AI 幻觉新课题，治理与机会 其实 Soundslice 不是唯一受害者（或者说是受益者？）。GitHub Copilot 也曾产生不存在的程式库名称，引发开发者误装恶意套件的 slopsquatting 攻击（详见 SD Times 报导）。Coveo 报告也指出，AI 幻觉正侵蚀产品可靠度。 但既然 AI 幻觉现阶段还难以避免，就要学会驾驭。企业或许可在错误日志与社群对话中布署「AI 观测雷达」，即时捕捉错误推荐；同时在产品路线图预留「幻觉缓冲池」一旦出现突如其来的热门功能呼声，能快速做 MVP 验证。 Soundslice 的案例印证了幽灵需求也可能变现或发现用户潜藏的需求，但就如共同创办人 Adrian Holovaty 所说，他们这么做是对的吗？还需要管理团队好好思考。 相关报导 马斯克喊AI知识错误太多「Grok3.5要重建人类正确版」；CZ回应：历史观点单一化会有问题 祖克柏预言手机将被淘汰！AI 智慧眼镜 + 全息投影才是人类未来 人类真会爱上 AI？GPT-4o 初现 「情感依恋」现象，虚拟伴侣会成你的情敌吗〈ChatGPT 胡说八道，竟逼这家公司连夜开发新功能！AI 幻觉的荒谬现实与机会〉这篇文章最早发布于动区BlockTempo《动区动趋-最具影响力的区块链新闻媒体》。