ChatGPTがでたらめを言って、この会社に徹夜で新機能を開発させるとは！AIの幻覚の荒唐無稽な現実とチャンス

ChatGPTはユーザーを誤解させて標準以下の素材をアップロードするように導き、誤ってインタラクティブ表記プラットフォームのSoundsliceに新機能の開発を強い、AIの錯覚が製品ロードマップに与える影響と機会を明らかにするのでしょうか? (あらすじ:AIがつかむ仕事は誰の仕事ですか? 400万のチャット記録が答えを明らかにします)(背景補足:AIは本当に人間の仕事をつかみ始めました」 世界的な製造業者はレイオフを加速し、アメリカの大学生は卒業後に失業しています。 最近、ChatGPTのスクリーンショットが添付された何百ものカスタマーサービスの手紙がインタラクティブ楽譜プラットフォームのSoundsliceに殺到し、GPTが「ASCIIギタータブをSoundsliceに投げ込んで、すぐにインタラクティブスコアに切り替えるように」と指示したと主張しています。 しかし、この一見熱心なAIガイダンスの短い文章は、Soundsliceを何日にもわたってエラーログの津波に突入させました。 ChatGPTは、プラットフォームでサポートされているASCIIタブ翻訳機能が実際には存在しないことをユーザーに伝えたことが判明しました。 何百人ものユーザーが同じことをしたとき、エンジニアはAIの幻覚が幽霊のニーズを現実世界に押しやっていることに気づきました。 ChatGPTは、Soundsliceにアクセスしてアカウントを作成し、ASCIIタグをインポートしてオーディオ再生を聞くように人々に指示していることがわかりました。 だからこれは説明します! AIイリュージョン:エラーログから市場の需要まで Soundsliceは、OMR AIテクノロジーを使用して従来の音楽スコアをスキャンし、インタラクティブな学習教材を生成するスタートアップですが、2025年初頭に、サーバーが突然失敗したリクエストで溢れかえり、すべてが「ASCIIタブのアップロード」を指していました。 当局者は情報源を追跡し、多くのユーザーがChatGPTとの会話のスクリーンショットを添付したことを発見しましたが、AIが機能を「捏造」しただけでなく、しっかりと話し、ブランドイメージとユーザーの期待との間に深刻なずれが生じていることがわかりました。 Soundsliceはもともと、ユーザーが譜表(下図左)をアップロードするだけで再生可能で編集可能なデジタルスコアに変換できる機能を提供していましたが、GPTに惑わされたユーザーはASCIIタブスコアをアップロードします(下図右参照)。 出典:Soundsliceの共同創設者であるAdrian Holovaty Soundsliceの公式ウェブサイトのスクリーンショット 強制的な製品の反復:トリレンマ 群がる幽霊の需要に直面して、Soundsliceには3つの道があります:無視する、明確にする、または単に実装する。 考えた結果、経営陣は、実行不可能なアナウンスを無視すると出血は止まるが、ユーザーを失望させると判断し、船に乗ってASCIIタブ解析(「2025年に開発予定のソフトウェア」のリストで下位にランクされている)の展開を加速することを選択しました。 共同創設者のエイドリアン・ホロバティは、彼の個人的なブログに次のように書いています:私の知る限り、ChatGPTがユーザーにその存在を誤って通知したために企業が機能を開発した最初のケースです。 (ですか? 私がこの話を共有するのは、それが面白いと思ったからです。 同時に、彼は考えさせられる点も指摘しています:これは非常にアンビバレントだと思います。 私は人々を助けるツールを追加することに興奮しています。 しかし、私たちがやっていることは少し奇妙だと思います。 エラーメッセージを処理するための機能を本当に開発すべきでしょうか? AIの幻想、ガバナンス、機会における新たな問題 実際、被害者(または受益者)はSoundsliceだけではありません。 ）。 また、GitHub Copilot は存在しないライブラリ名を生成し、開発者が悪意のあるパッケージを誤ってインストールするスロップスクワッティング攻撃を引き起こしました (詳細については SD Times を参照)。 Coveoのレポートでは、AIの錯覚が製品の信頼性を損なっていることも指摘しています。 しかし、この段階ではAIの錯覚を避けるのはまだ難しいため、それを制御することを学ぶ必要があります。 企業は、エラーログやコミュニティの会話に「AI観測レーダー」を展開して、誤った推奨事項をリアルタイムでキャプチャできる場合があります。 同時に、製品ロードマップには「錯覚バッファプール」が確保されており、一旦人気機能が急に求められると、MVPの検証を迅速に行うことができます。 Soundsliceの事例は、ゴーストのニーズがユーザーの隠れたニーズを収益化または発見することもできることを証明していますが、共同創設者のAdrian Holovatyが言ったように、彼らは正しいことをしているのでしょうか? また、経営陣が一生懸命考えることも必要になります。 関連レポート:マスクは、AIの知識が間違っていると叫びました「Grok 3.5で正しいバージョンの人間を再構築する」。 CZの回答:ザッカーバーグが携帯電話がなくなると予測する歴史的見解の単純化には問題があります! AIスマートグラス+ホログラフィックプロジェクションは人類の未来です 人間は本当にAIに恋をするのでしょうか? GPT-4o 新たな「感情的な愛着」現象は、仮想のパートナーがあなたの愛のライバルになります [ChatGPT ナンセンス、この会社は一晩で新機能を開発することを余儀なくされます! AIの錯覚の不条理な現実と機会」この記事は、BlockTempoの「Dynamic Trend - The Most Influential Blockchain News Media」に最初に掲載されました。