ChatGPT berbicara sembarangan, bahkan memaksa perusahaan ini untuk mengembangkan fitur baru semalaman! Realitas dan peluang absurd dari ilusi AI

ChatGPT menyesatkan pengguna untuk mengunggah data yang tidak sesuai, secara tak terduga memaksa platform notasi interaktif Soundslice untuk mengembangkan fitur baru, mengungkap dampak dan peluang ilusi AI terhadap jalur produk? (Latar belakang: Siapa yang diambil pekerjaan oleh AI? 4 juta catatan obrolan mengungkapkan jawabannya) (Latar belakang tambahan: AI memang mulai merebut pekerjaan manusia》Perusahaan besar di seluruh dunia mempercepat pemecatan, mahasiswa universitas di AS yang baru lulus langsung menganggur..) Ratusan email layanan pelanggan yang menyertakan tangkapan layar ChatGPT baru-baru ini membanjiri platform notasi interaktif Soundslice, mengklaim bahwa GPT memberi tahu mereka untuk "cukup masukkan notasi gitar ASCII ke Soundslice, dan itu akan segera diubah menjadi notasi interaktif". Namun, kalimat singkat yang tampaknya merupakan panduan AI yang penuh perhatian ini membuat Soundslice terjebak dalam tsunami log kesalahan selama beberapa hari berturut-turut. Ternyata, ChatGPT memberi tahu pengguna bahwa fitur terjemahan ASCII Tab yang didukung oleh platform tersebut sebenarnya tidak ada. Ketika ratusan pengguna mengikuti saran tersebut namun terus-menerus mengalami kendala, para insinyur baru menyadari bahwa ilusi AI sedang mendorong permintaan hantu ke dunia nyata. Ternyata ChatGPT memberi tahu orang-orang untuk membuat akun di Soundslice, lalu mengimpor label ASCII untuk mendengarkan pemutaran audio. Jadi ini menjelaskan! Ilusi AI menyebabkan masalah: dari log kesalahan hingga permintaan pasar Soundslice adalah sebuah inovasi yang menggunakan teknologi OMR AI untuk memindai notasi musik tradisional dan menghasilkan materi pembelajaran interaktif, tetapi pada awal 2025, server tiba-tiba dibanjiri permintaan gagal yang semuanya mengarah ke "unggah ASCII Tab". Pihak resmi menyelidiki sumbernya dan menemukan banyak pengguna menyertakan tangkapan layar percakapan dengan ChatGPT, baru kemudian menyadari bahwa AI tidak hanya "mengada-ada" fitur tetapi juga berbicara dengan tegas, yang menyebabkan citra merek dan harapan pengguna terputus. Fitur yang awalnya ditawarkan oleh Soundslice adalah pengguna cukup mengunggah notasi lima garis (seperti yang ditunjukkan di sebelah kiri gambar di bawah) untuk mengubahnya menjadi notasi digital yang dapat diputar dan diedit, tetapi pengguna yang disesatkan oleh GPT justru mengunggah notasi tab ASCII (seperti yang ditunjukkan di sebelah kanan gambar di bawah). Sumber gambar: Co-founder Soundslice Adrian Holovaty Tangkapan layar situs resmi Soundslice Iterasi produk yang terpaksa: keputusan sulit Menghadapi permintaan hantu yang membanjir, Soundslice memiliki tiga pilihan: mengabaikan, memperjelas, atau langsung mengimplementasikan. Tim manajemen setelah berpikir menyadari bahwa mengabaikan tidak mungkin, mengeluarkan pengumuman bisa menghentikan kebocoran, tetapi takut mengecewakan pengguna, sehingga memilih untuk mengikuti arus, mempercepat peluncuran fitur analisis ASCII Tab (yang sebenarnya berada di urutan belakang dalam daftar perangkat lunak yang mereka "rencanakan untuk dikembangkan pada tahun 2025"). Co-founder Adrian Holovaty menulis di blog pribadinya: Menurut pengetahuan saya, ini adalah kasus pertama akibat ChatGPT yang memberi tahu pengguna bahwa fitur tersebut ada yang menyebabkan perusahaan mengembangkan fitur tersebut. (Benarkah?) Saya membagikan cerita ini karena saya merasa itu cukup menarik. Dia juga mengemukakan sebuah poin yang memicu pemikiran: Saya merasa sangat bertentangan. Saya senang bisa menambahkan alat yang dapat membantu orang. Tetapi saya merasa tindakan kami agak aneh. Apakah kami benar-benar harus mengembangkan beberapa fitur untuk mengatasi informasi yang salah? Tantangan baru ilusi AI, tata kelola dan peluang Sebenarnya Soundslice bukan satu-satunya korban (atau bisa dibilang penerima manfaat?). GitHub Copilot juga pernah menghasilkan nama pustaka yang tidak ada, memicu serangan slopsquatting dari pengembang untuk menginstal paket berbahaya (lihat laporan SD Times). Laporan Coveo juga menunjukkan bahwa ilusi AI sedang menggerogoti keandalan produk. Namun, sejak ilusi AI saat ini masih sulit dihindari, kita harus belajar untuk mengendalikannya. Perusahaan mungkin dapat menerapkan "radar pengamatan AI" di log kesalahan dan percakapan komunitas, untuk segera menangkap rekomendasi yang salah; sekaligus menyisihkan "kolam penyangga ilusi" dalam peta jalan produk sehingga ketika muncul permintaan fitur populer yang tiba-tiba, mereka dapat dengan cepat melakukan validasi MVP. Kasus Soundslice membuktikan bahwa permintaan hantu juga dapat dimonetisasi atau menemukan kebutuhan tersembunyi pengguna, tetapi seperti yang dikatakan co-founder Adrian Holovaty, apakah mereka melakukan hal yang benar? Tim manajemen masih perlu memikirkan hal ini dengan baik. Berita terkait Elon Musk berkata bahwa pengetahuan AI terlalu banyak kesalahan "Grok3.5 perlu membangun versi yang benar untuk manusia"; CZ menjawab: Pandangan sejarah yang terpusat akan memiliki masalah Zuckerberg meramalkan ponsel akan dihapus! Kacamata pintar AI + proyeksi holografik adalah masa depan manusia Apakah manusia benar-benar akan jatuh cinta pada AI? GPT-4o mulai muncul "ketergantungan emosional", apakah pasangan virtual akan menjadi saingan Anda? <ChatGPT omong kosong, malah memaksa perusahaan ini untuk mengembangkan fitur baru semalam! Realitas dan peluang konyol dari ilusi AI> artikel ini pertama kali diterbitkan di BlockTempo "Dynamik Blockchain - Media Berita Blockchain yang Paling Berpengaruh."