Застосування великих моделей штучного інтелекту в фінансовій сфері: від високого зростання до раціонального повернення

З моменту виходу ChatGPT у світ, у фінансовій сфері швидко виникло відчуття тривоги. Ця віра у технології галузь побоюється, що її залишать позаду в швидкоплинному потоці часу. Ця напружена атмосфера навіть колись розповсюдилася до тихих храмів. За словами експертів, у травні, під час ділової поїздки до Далі, вона навіть у храмі зустрічала фінансових працівників, які обговорювали великі моделі.

Проте, ця тривога поступово стає звичайною справою, і мислення людей починає ставати яснішим і раціональнішим. Експерти описали кілька етапів ставлення фінансової сфери до великих моделей цього року: у лютому-березні панувала тривога, побоюючись відставання; у квітні-травні всі почали формувати команди для роботи; у наступні кілька місяців виникли труднощі з пошуком напрямків і реалізацією, почали ставати раціональними; зараз вони зосереджені на еталонних компаніях, намагаючись перевірити відомі сценарії.

Нова тенденція полягає в тому, що багато фінансових установ підвищили великі моделі до стратегічного рівня. За неповними даними, серед компаній, що торгуються на A-ринку, щонайменше 11 банків чітко зазначили в останніх піврічних звітах, що вони досліджують застосування великих моделей. Судячи з недавніх дій, вони також проводять більш чітке мислення та планування шляхів з стратегічного та верхнього рівнів.

Від високого зростання до раціонального повернення

"В порівнянні з кількома місяцями тому, зараз можна чітко відчути, що фінансові клієнти значно краще розуміють великі моделі." Зазначає досвідчена особа, що на початку року, коли тільки з'явився ChatGPT, хоча ентузіазм був високим, але щодо того, що таке великі моделі і як їх використовувати, насправді було дуже обмежене розуміння.

На цьому етапі деякі великі банки першими почали діяти, запустивши різні рекламні кампанії "підключення до популярності". Наприклад, у березні цього року один банк запустив модель великого зразка подібну до ChatGPT. Але оцінки в індустрії були неоднозначними. Тоді деякі вважали, що назва цього продукту підкреслює менш важливу частину Chat у ChatGPT, тоді як справжня важлива частина GPT була проігнорована.

Водночас, з огляду на те, що вітчизняні технологічні компанії почали поступово випускати великі моделі, деякі провідні фінансові установи активізували співпрацю зі значними компаніями щодо створення великих моделей. Ці фінансові установи в цілому сподіваються створити власні великі моделі і потребують консультацій від постачальників щодо підготовки датасетів, закупівлі серверів та методів навчання. Деякі фінансово-технологічні компанії навіть запропонували, чи зможуть вони після завершення проекту надавати послуги іншим компаніям.

Після травня ситуація поступово почала змінюватися. Через нестачу обчислювальних ресурсів, високі витрати та інші фактори, багато фінансових установ почали переходити від простого сподівання на власні обчислювальні потужності та моделі до більшої уваги до прикладної цінності. "Зараз кожна фінансова установа цікавиться, що інші установи зробили з великими моделями, який ефект вони досягли."

Конкретно для підприємств різного масштабу також виділяються два шляхи. Великі фінансові установи, які мають величезні фінансові дані та сценарії застосування, можуть впроваджувати провідні базові великі моделі, створювати власні корпоративні великі моделі, одночасно використовуючи методи доопрацювання для формування великих моделей завдань у професійній сфері, швидко забезпечуючи бізнес, щоб компенсувати недолік занадто довгого циклу побудови великих моделей. Маленькі та середні фінансові установи можуть комплексно оцінити інвестиційний прибуток, за потребою впроваджувати різні великі моделі через хмарні сервіси або приватне розгортання, щоб безпосередньо задовольнити потреби в наданні можливостей.

Проте, через високі вимоги фінансової галузі до відповідності даних, безпеки, надійності тощо, деякі фахівці вважають, що впровадження великих моделей у цій галузі насправді трохи відстає від початкових очікувань на початку року. Експерти зазначають, що спочатку вони прогнозували, що фінансова галузь може першою масово використовувати великі моделі, але з огляду на остаточну інтеграцію з клієнтами, фінансова галузь не розвивається так швидко, як, наприклад, юридична, рекрутингова та інші галузі.

Деякі фінансові установи вже почали шукати способи вирішення різних обмежень, що виникають під час впровадження великих моделей.

У сфері обчислювальної потужності експерти спостерігають кілька рішень:

По-перше, безпосереднє створення обчислювальної потужності коштує досить дорого, але забезпечує достатній рівень безпеки. Це підходить для великих фінансових установ з потужними можливостями, які хочуть створити власну галузеву або корпоративну велику модель.

По-друге, змішане розгорнення обчислювальної потужності, за умови, що чутливі дані не покидають домен, приймає виклики до інтерфейсу послуг великих моделей з публічних хмар, одночасно обробляючи локальні дані через приватне розгортання. Цей спосіб є більш економічним, адже для його реалізації достатньо інвестувати кілька сотень тисяч юанів у кілька обчислювальних карт, що відповідає потребам, і підходить для малих та середніх фінансових установ з обмеженим бюджетом та застосуванням за запитом.

Проте, навіть незважаючи на це, багато малих і середніх установ все ще стикаються з проблемою, що не можуть купити або дозволити собі GPU-картки, необхідні для великих моделей. З приводу цієї проблеми є повідомлення, що регулятори досліджують, чи можливо, вживаючи компромісні рішення, ініціювати створення інфраструктури великих моделей для сектора цінних паперів, щоб зосередити обчислювальні потужності та ресурси загальних великих моделей, дозволяючи малим і середнім фінансовим установам в галузі також використовувати послуги великих моделей, щоб запобігти їх технологічному відставанню.

Не тільки обчислювальна потужність, протягом останніх півроку з впровадженням великих моделей багато фінансових установ також поступово посилили управління даними.

Експерти зазначають, що зараз, крім провідних великих банків, які мають зрілі практики в сфері управління даними, все більше середніх фінансових установ також починають створювати платформи даних та системи управління даними. Вони вважають, що створення досконалої системи управління даними та технологічної платформи для даних стане важливою темою ІТ-будівництва фінансових установ у майбутньому.

Також є банки, які вирішують проблеми з даними за допомогою великих моделей + MLOps. Наприклад, один з банків використовує модель MLOps для створення замкнутої системи управління даними великих моделей, що дозволяє автоматизувати весь процес, а також забезпечити єдине управління та ефективну обробку багатоджерельних гетерогенних даних. За повідомленнями, наразі було побудовано та закріплено 2,6TB високоякісного навчального датасету.

З зовнішнього контексту

Протягом останніх півроку, як постачальники великих моделей, так і різні фінансові установи активно шукають сфери застосування. Розумний офіс, інтелектуальна розробка, розумний маркетинг, інтелектуальне обслуговування клієнтів, розумні інвестиційні дослідження, інтелектуальний контроль ризиків, аналіз потреб та інші сфери широко досліджуються.

Як сказав один з керівників фінансових технологій, "кожна ключова функція у фінансовому бізнес-ланцюзі заслуговує на те, щоб бути переробленою за допомогою технологій великих моделей." Ця компанія нещодавно випустила фінансову велику модель і спільно з партнерами проводить внутрішнє тестування продукту великої моделі, спрямованого на фінансову галузь, з метою створення повноцінного AI бізнес-асистента для фінансових експертів, таких як фінансові радники, страхові агенти, аналітики інвестицій, фінансовий маркетинг, страхові виплати тощо.

Кожен фінансовий інститут має багатий спектр ідей щодо великих моделей. Один з банків стверджує, що вже впровадив застосування у більш ніж 20 сценаріях, інший банк повідомляє, що вони проводили пілотні проекти у більш ніж 30 сценаріях, а одна з фондових компаній досліджує можливість інтеграції великих моделей з раніше запущеною платформою віртуальних цифрових людей.

Але при справжньому впровадженні великих моделей у бізнес, загальна думка полягає в тому, що спочатку потрібно впроваджувати їх внутрішньо, а потім зовнішньо. Адже на поточному етапі технології великих моделей не є зрілими, наприклад, існує проблема ілюзій, а фінансовий сектор - це сектор з жорстким регулюванням, високою безпекою та високою надійністю.

Деякі експерти вважають, що в короткостроковій перспективі не рекомендується безпосередньо використовувати великі моделі для клієнтів. Фінансові установи повинні в першу чергу використовувати великі моделі для інтелектуально насичених сценаріїв аналізу та розуміння фінансових текстів і зображень, реалізуючи людсько-машинну співпрацю у формі помічників, щоб підвищити ефективність роботи співробітників.

Наразі кодовий асистент вже впроваджено в багатьох фінансових установах. Наприклад, один банк створив інтелектуальну систему розробки на основі великої моделі, де частка коду, що генерується асистентом, досягає 40% від загальної кількості коду. У сфері страхування одна страхова компанія розробила плагін для допоміжного програмування на основі великої моделі, який безпосередньо вбудований в інструменти внутрішньої розробки.

У сфері розумного офісу також є чимало впроваджених випадків. Експерти розповідають, що вони на основі фінансової великої моделі розробили систему запитань і відповідей для відділень, яка після впровадження в одному з банків вже була розповсюджена на кілька сотень відділень, а рівень прийняття відповідей перевищує 85%. В даний час це рішення також швидко копіюється в інші банки та фінансові установи.

Проте, експерти галузі вважають, що ці вже широко впроваджені сценарії насправді ще не є основними застосуваннями фінансових установ, а великій моделі ще потрібно пройти певну відстань до глибшого проникнення в бізнес-структуру фінансової сфери.

Експерти прогнозують, що до кінця цього року з'явиться низка проектів або тендерної інформації, які насправді використовують великі моделі в основних бізнес-сценаріях фінансових установ.

Перед цим відбуваються деякі зміни на рівні верхнього дизайну. Деякі вчені вважають, що в майбутньому вся система інтелектуалізації та цифровізації буде знову побудована на основі великих моделей. Це вимагає від фінансової індустрії перегляду системи під час впровадження великих моделей. Водночас не можна ігнорувати цінність традиційних малих моделей, а слід забезпечити їхню співпрацю з великими моделями.

Ця тенденція вже широко відображена у фінансовій галузі. В даний час фінансові установи випробовують великі моделі, основним чином використовуючи багаторівневу модель. На відміну від минулого, коли для кожного сценарію потрібно було будувати платформу за принципом "димохідної" моделі, великі моделі надали фінансовим установам можливість почати з нуля і більш науково провести загальне системне планування.

Можна побачити, що наразі вже кілька провідних фінансових установ на основі великих моделей створили багатошарову системну архітектуру, що включає інфраструктурний рівень, рівень моделей, рівень послуг великих моделей та рівень застосувань.

Ці рамкові системи зазвичай мають дві основні характеристики: по-перше, великі моделі виконують центральну роль, використовуючи традиційні моделі в якості навичок; по-друге, великий модельний рівень застосовує багатопрофільну стратегію, порівнюючи внутрішньо, обираючи найкращий результат.

Насправді, не лише фінансові установи, в умовах невизначеності поточної ситуації деякі постачальники застосувань великих моделей також використовують стратегію з кількома моделями, обираючи найкращий сервісний ефект. Експерти повідомили, що їхній базовий рівень моделей об'єднує велику кількість великих мовних моделей, які складають оптимізовану відповідь для користувача на основі відповідей, отриманих від кожної великої моделі.

Прогалини в кадрах все ще величезні

Застосування великих моделей вже почало ставити певні виклики та зміни в структурі персоналу фінансової галузі.

Раніше з'явилася інформація, що з появою ChatGPT одна фінансово-технологічна компанія з початку року до кінця травня звільнила понад 300 аналітиків з великих даних. А кілька років тому це була дуже затребувана професія. Це викликало тривогу серед фахівців, навіть почали заздалегідь розглядати питання вибору професії для наступного покоління.

Експерт з певного банку також поділився ефектом заміщення людей великими моделями. Раніше в цьому банку кожного ранку стажер узагальнював різноманітну інформацію та передавав її до відділу інвестиційних досліджень, але тепер цю роботу можна виконувати за допомогою великих моделей.

Однак деякі банки насправді не хочуть, щоб великі моделі призводили до скорочення персоналу. Наприклад, одна велика банківська установа з 200 000 співробітників у своїй мережі чітко заявила, що не хоче, щоб персонал був замінений великими моделями, а бажає, щоб великі моделі створювали нові можливості, підвищували якість обслуговування та ефективність роботи співробітників, а також звільняли частину співробітників для виконання більш цінних завдань.

Це також враховує стабільність персоналу та структури. Але, з іншого боку, багато посад все ще мають дефіцит кадрів.

Експерти зазначають, що великим банкам потрібно виконати багато роботи, а строки виконання деяких IT-завдань навіть призначені на кінець наступного року. Вони сподіваються, що великі моделі допоможуть співробітникам виконати більше роботи, підвищити ефективність і швидкість, а не призвести до скорочення персоналу.

Більш важливо, що швидкий розвиток великих моделей призвів до того, що в короткий термін постачання рідкісних кадрів не може задовольнити різко зростаючий попит. Це схоже на те, як коли вперше з'явився iPhone, усі хотіли розробляти додатки, але було важко знайти програмістів iOS.

На недавній конференції з фінансових технологій один із керівників банку підсумував 6 основних викликів, з якими фінансова галузь стикається при впровадженні можливостей великих моделей у свої ключові бізнес-процеси, одним із яких є нестача кадрів. Він зазначив, що в останніх наборах нових співробітників значна частка людей вчиться в галузі ШІ, але фахівців, які розуміються на великих моделях, дуже мало.

Є експерти, які глибоко це усвідомлюють, нещодавно вони отримали запит на підтримку талантів від клієнта одного з банків. Цей банк через тимчасову відпустку деяких членів команди, що займається створенням великих моделей, зіткнувся з проблемою нестачі кадрів для навчання моделей і змушений був тимчасово шукати зовнішню підтримку.

"Зараз таких спеціалістів справді дуже мало, і потрібно певний час для їх підготовки." Цей експерт вважає, що попит на фахівців, які безпосередньо застосовують великі моделі, відносно простий, головним чином потрібні ті, хто вміє ставити питання. Але якщо потрібно створити власну галузеву або корпоративну велику модель, то фінансові установи повинні мати кваліфіковану команду з технологій великих моделей.

Інший експерт також зізнався, що вакансії в галузі великих моделей ШІ є дуже великими, провідні установи в даний час шукають спеціалістів, пов'язаних з ШІ, таких як доктори наук з алгоритмів тощо. Це пов'язано з тим, що, хоча фінансові клієнти можуть отримати технічну підтримку від постачальників великих моделей, вони все ж є кінцевими користувачами та провідними в інноваціях, і їм потрібно певне накопичення кадрів для підтримки будівництва великих платформ ШІ, планування різних застосувань ШІ, а також у процесі моделювання, налаштування та доопрацювання, співпрацювати з постачальниками великих моделей для оптимізації, такої як накладання сцен, накладання моделей тощо, постійно розширюючи діапазон і ефект застосування моделей ШІ.

Деякі учасники вже вжили заходів. Компанії об'єдналися з командою з управління людськими ресурсами однієї банківської лабораторії, щоб систематизувати практики трансформації персоналу в бізнес-застосуваннях великих моделей, розробивши серію навчань.