ChatGPT говорить нісенітницю, змушуючи цю компанію терміново розробляти нові функції! Абсурдна реальність і можливості AI ілюзій

ChatGPT вводить користувачів в оману, змушуючи завантажувати неякісний матеріал, випадково змушуючи платформу інтерактивної нотації Soundslice розробляти нові функції, які розкривають вплив і можливості ілюзій штучного інтелекту на дорожню карту продукту? (Синопсис: Чия робота полягає в захопленні штучного інтелекту?) 4 мільйони записів чату розкривають відповідь) (Довідкове доповнення: ШІ дійсно почав захоплювати людські робочі місця" Світові виробники прискорюють звільнення, американські студенти коледжів залишаються без роботи після закінчення навчання. Сотні листів служби підтримки клієнтів зі скріншотами ChatGPT нещодавно заполонили платформу інтерактивної нотації Soundslice, стверджуючи, що GPT сказав їм «кинути гітарні вкладки ASCII у Soundslice і негайно перейти на інтерактивні партитури». Але це коротке речення, здавалося б, захопленого керівництва штучним інтелектом занурило Soundslice у цунамі журналів помилок на кілька днів. З'ясувалося, що ChatGPT повідомив користувачам, що функції перекладу ASCII Tab, яку підтримує платформа, насправді не існує. Коли сотні користувачів зробили те саме, інженери зрозуміли, що галюцинації штучного інтелекту виштовхують потреби привидів у реальний світ. Виявляється, ChatGPT каже людям зайти на Soundslice, щоб створити обліковий запис, а потім імпортувати теги ASCII, щоб почути відтворення аудіо. Так це і пояснює! Ілюзії штучного інтелекту: від журналів помилок до ринкового попиту Soundslice — це стартап, який використовує технологію штучного інтелекту OMR для сканування традиційних музичних партитур для створення інтерактивних навчальних матеріалів, але на початку 2025 року сервери раптово засипалися невдалими запитами, усі вказували на «Завантажити вкладку ASCII». Чиновник відстежив джерело і виявив, що багато користувачів прикріплювали скріншоти розмов з ChatGPT, але й виявили, що ШІ не тільки «сфабрикував» функцію, але й говорив твердо, що призвело до серйозної невідповідності між образом бренду та очікуваннями користувачів. Спочатку Soundslice надавав функцію, що користувачі можуть просто завантажувати ставки (зліва внизу), щоб перетворити їх на відтворювані та редаговані цифрові партитури, але користувачі, введені в оману GPT, завантажують оцінки вкладок ASCII (див. праворуч нижче). Джерело: співзасновник Soundslice Адріан Головатий Скріншот офіційного сайту Soundslice Примусова ітерація продукту: трилема В умовах зростаючого попиту привидів, у Soundslice є три шляхи: ігнорувати, уточнювати або просто впроваджувати. Подумавши, команда керівництва вирішила, що ігнорування непрацездатного оголошення зупинить кровотечу, але розчарує користувачів, тому вони вирішили піти разом з човном і прискорити розгортання парсингу ASCII Tab (який посів низьке місце в їхньому списку «програмне забезпечення, яке очікується розробити в 2025 році»). Співзасновник Адріан Головатий написав у своєму особистому блозі: Наскільки мені відомо, це перший випадок, коли компанія розробила фічу, тому що ChatGPT неправильно повідомив користувачів про її існування. (Чи так це?) Я ділюся цією історією, тому що мені вона цікава. У той же час він також наводить задуму: я вважаю це дуже неоднозначним. Я радий додати інструмент, який допомагає людям. Але я думаю, що те, що ми робимо, трохи дивно. Чи дійсно ми повинні розробити якийсь функціонал для роботи з повідомленнями про помилки? Нові проблеми в ілюзіях штучного інтелекту, управлінні та можливостях Насправді, Soundslice не єдина жертва (чи бенефіціар?). ）。 GitHub Copilot також генерував неіснуючі імена бібліотек, запускаючи недбалі атаки, в яких розробники помилково встановлювали шкідливі пакети (див. SD Times для детальної інформації). У звіті Coveo також вказується, що ілюзії штучного інтелекту підривають надійність продукції. Але оскільки ілюзії ШІ на цьому етапі все ще складно уникнути, необхідно навчитися ним керувати. Підприємства можуть мати можливість розгортати «радар спостереження за штучним інтелектом» у журналах помилок і обговореннях спільноти, щоб фіксувати неправдиві рекомендації в режимі реального часу; У той же час, «буферний пул ілюзій» зарезервований у дорожній карті продукту, і як тільки виникає раптовий виклик популярних функцій, верифікацію MVP можна провести швидко. Кейс Soundslice доводить, що потреби привидів також можуть монетизувати або виявляти приховані потреби користувачів, але, як сказав співзасновник Адріан Головатий, чи правильно вони роблять? Це також вимагає від управлінської команди серйозно подумати. Related reports: Маск кричав, що знання ШІ занадто неправильні: «Grok 3.5, щоб перебудувати правильну версію людей»; CZ відповідає: Виникнуть проблеми зі спрощенням історичних поглядів Цукерберг прогнозує, що мобільні телефони будуть ліквідовані! Розумні окуляри зі штучним інтелектом + голографічна проекція – майбутнє людства Чи справді люди закохаються в ШІ? GPT-4o Новий феномен «емоційної прив'язаності», чи стане віртуальний партнер вашим любовним суперником [Нісенітниця ChatGPT, що змушує цю компанію розробляти нові функції за одну ніч! Абсурдна реальність і можливість ілюзії штучного інтелекту" Ця стаття вперше була опублікована в журналі BlockTempo "Динамічний тренд - найвпливовіше новинне медіа блокчейну".