ChatGPT nói nhảm, thậm chí ép công ty này phát triển tính năng mới qua đêm! Thực tế và cơ hội phi lý của ảo giác AI

ChatGPT đánh lừa người dùng tải lên tài liệu không đạt tiêu chuẩn, vô tình buộc nền tảng ký hiệu tương tác Soundslice phải phát triển các tính năng mới tiết lộ tác động và cơ hội của ảo ảnh AI trên lộ trình sản phẩm? (Tóm tắt nội dung: AI đang lấy công việc của ai?) 4 triệu hồ sơ trò chuyện tiết lộ câu trả lời) (Bổ sung cơ bản: AI thực sự bắt đầu chiếm lấy việc làm của con người" Các nhà sản xuất toàn cầu đẩy nhanh việc sa thải, sinh viên đại học Mỹ thất nghiệp sau khi tốt nghiệp. Hàng trăm lá thư dịch vụ khách hàng với ảnh chụp màn hình của ChatGPT gần đây đã tràn ngập nền tảng ký hiệu tương tác Soundslice, tuyên bố rằng GPT đã yêu cầu họ "ném các tab guitar ASCII vào Soundslice và ngay lập tức chuyển sang điểm tương tác". Nhưng câu ngắn về hướng dẫn AI có vẻ nhiệt tình này đã đẩy Soundslice vào một cơn sóng thần nhật ký lỗi trong nhiều ngày. Hóa ra ChatGPT đã nói với người dùng rằng chức năng dịch ASCII Tab được nền tảng hỗ trợ không thực sự tồn tại. Khi hàng trăm người dùng làm điều tương tự, các kỹ sư nhận ra rằng ảo giác AI đang đẩy nhu cầu ma vào thế giới thực. Hóa ra ChatGPT yêu cầu mọi người truy cập Soundslice để tạo tài khoản và sau đó nhập thẻ ASCII để nghe phát lại âm thanh. Vì vậy, điều này giải thích! Ảo ảnh AI: Từ nhật ký lỗi đến nhu cầu thị trường Soundslice là một công ty khởi nghiệp sử dụng công nghệ OMR AI để quét các bản nhạc truyền thống để tạo tài liệu học tập tương tác, nhưng vào đầu năm 2025, các máy chủ bất ngờ tràn ngập các yêu cầu không thành công, tất cả đều trỏ đến "Tải lên tab ASCII". Quan chức truy tìm nguồn gốc và phát hiện ra rằng nhiều người dùng đính kèm ảnh chụp màn hình các cuộc trò chuyện với ChatGPT, chỉ để phát hiện ra rằng AI không chỉ "bịa đặt" chức năng mà còn nói một cách chắc chắn, dẫn đến sự sai lệch nghiêm trọng giữa hình ảnh thương hiệu và kỳ vọng của người dùng. Soundslice ban đầu cung cấp chức năng mà người dùng có thể chỉ cần tải lên các bản gậy (bên trái bên dưới) để chuyển đổi chúng thành điểm số kỹ thuật số có thể chơi và chỉnh sửa, nhưng người dùng bị đánh lừa bởi GPT tải lên điểm số tab ASCII (xem bên phải). Nguồn: Người đồng sáng lập Soundslice Adrian Holovaty Ảnh chụp màn hình trang web chính thức của Soundslice Lặp lại sản phẩm bắt buộc: một bộ ba Đối mặt với nhu cầu ma bầy đàn, Soundslice có ba con đường: bỏ qua, làm rõ hoặc đơn giản là thực hiện. Sau khi suy nghĩ về điều đó, đội ngũ quản lý quyết định rằng việc bỏ qua thông báo không khả thi sẽ ngăn chặn chảy máu nhưng sẽ khiến người dùng thất vọng, vì vậy họ đã chọn đi cùng con thuyền và đẩy nhanh việc triển khai phân tích cú pháp ASCII Tab (xếp hạng thấp trong danh sách "phần mềm dự kiến được phát triển vào năm 2025"). Người đồng sáng lập Adrian Holovaty đã viết trên blog cá nhân của mình: Theo như tôi biết, đây là trường hợp đầu tiên một công ty phát triển một tính năng vì ChatGPT đã thông báo không chính xác cho người dùng về sự tồn tại của nó. (Có phải không?) Tôi chia sẻ câu chuyện này vì tôi thấy nó thú vị. Đồng thời, ông cũng đưa ra một quan điểm kích thích tư duy: Tôi thấy điều này rất mâu thuẫn. Tôi rất vui khi thêm một công cụ giúp đỡ mọi người. Nhưng tôi nghĩ những gì chúng tôi đang làm hơi lạ. Chúng ta có nên thực sự phát triển một số chức năng để xử lý các thông báo lỗi không? Các vấn đề mới trong ảo tưởng, quản trị và cơ hội AI Trên thực tế, Soundslice không phải là nạn nhân duy nhất (hoặc người thụ hưởng?). ）。 GitHub Copilot cũng tạo ra các tên thư viện không tồn tại, kích hoạt các cuộc tấn công cẩu thả trong đó các nhà phát triển cài đặt nhầm các gói độc hại (xem SD Times để biết chi tiết). Báo cáo của Coveo cũng chỉ ra rằng ảo ảnh AI đang làm xói mòn độ tin cậy của sản phẩm. Nhưng vì ảo ảnh AI vẫn khó tránh được ở giai đoạn này nên cần phải học cách kiểm soát nó. Doanh nghiệp có thể triển khai "radar quan sát AI" trong nhật ký lỗi và các cuộc trò chuyện cộng đồng để nắm bắt các đề xuất sai trong thời gian thực; Đồng thời, "nhóm đệm ảo ảnh" được dành riêng trong lộ trình sản phẩm và một khi có một cuộc gọi đột ngột cho các chức năng phổ biến, việc xác minh MVP có thể được thực hiện nhanh chóng. Trường hợp của Soundslice chứng minh rằng nhu cầu ma cũng có thể kiếm tiền hoặc khám phá ra nhu cầu tiềm ẩn của người dùng, nhưng như người đồng sáng lập Adrian Holovaty đã nói, họ có đang làm điều đúng đắn không? Nó cũng đòi hỏi đội ngũ quản lý phải suy nghĩ kỹ lưỡng. Các báo cáo liên quan: Musk hét lên rằng kiến thức AI quá sai "Grok 3.5 để xây dựng lại phiên bản chính xác của con người"; CZ trả lời: Sẽ có vấn đề với việc đơn giản hóa quan điểm lịch sử Zuckerberg dự đoán rằng điện thoại di động sẽ bị loại bỏ! Kính thông minh AI + chiếu ba chiều là tương lai của nhân loại Liệu con người có thực sự yêu AI không? GPT-4o Hiện tượng "gắn bó cảm xúc" mới nổi, liệu một đối tác ảo sẽ trở thành đối thủ tình yêu của bạn [ChatGPT vô nghĩa, buộc công ty này phải phát triển các tính năng mới chỉ sau một đêm! Thực tế vô lý và cơ hội của ảo ảnh AI" Bài viết này được xuất bản lần đầu tiên trong "Xu hướng động - Phương tiện tin tức Blockchain có ảnh hưởng nhất" của BlockTempo.