Текущее состояние и перспективы применения больших моделей в финансовой отрасли

С момента появления ChatGPT тревога финансовой отрасли по поводу технологий искусственного интеллекта стремительно распространяется. Один из специалистов отрасли сообщил, что в мае этого года, во время командировки в Дали, он даже встретил специалистов в области финансов, обсуждающих большие модели, в храме.

Тем не менее, эта тревога постепенно утихает, и мнение отрасли о больших моделях становится более рациональным. Сунь Хунцзюнь, CTO банковского бизнеса Softcom, описал несколько этапов отношения финансовой индустрии к большим моделям в этом году: в феврале-марте в целом ощущалась тревога; в апреле-мае многие начали формировать команды для работы в этой области; в последующие месяцы возникли трудности с поиском направления и внедрением, и отношение стало более рациональным; сейчас же происходит обращение к эталонам и попытки проверить проверенные сценарии применения.

Важно отметить, что многие финансовые учреждения подняли большие модели на стратегический уровень. По неполным данным, как минимум 11 банков из числа компаний,上市 на A股, в своих последних полугодовых отчетах четко указали, что они исследуют применение больших моделей. Судя по недавним тенденциям, они проводят более четкое размышление и планирование путей на стратегическом и верхнем уровне.

От восторга к рациональному возвращению

Старший специалист в финансовой отрасли крупной технологической компании отметил, что по сравнению с несколькими месяцами назад понимание финансовыми клиентами больших моделей значительно возросло. В начале года, когда только вышел ChatGPT, интерес был высоким, но понимание сути и способов применения больших моделей было ограниченным.

На этом этапе некоторые крупные банки первыми начали действовать, запуская различные рекламные кампании. Например, в марте этого года один крупный банк запустил приложение на основе модели, похожей на ChatGPT, но мнения в отрасли были разными. В то время некоторые считали, что название приложения слишком подчеркивает функцию чата и игнорирует более важную часть GPT.

С учетом того, что несколько технологических компаний постепенно выпускают большие модели, некоторые ведущие финансовые учреждения начали активно обсуждать вопросы создания больших моделей с крупными технологическими компаниями. По словам вышеупомянутого опытного специалиста, эти финансовые учреждения в целом надеются на самостоятельную разработку больших моделей и ищут рекомендации по таким аспектам, как построение наборов данных, конфигурация серверов и методы обучения. Одна крупная финансовая технологическая компания, принадлежащая большому банку, даже предложила завершить проект и затем передать соответствующие возможности другим участникам рынка.

После мая ситуация начала меняться. Под влиянием нехватки вычислительных ресурсов и высоких затрат многие финансовые учреждения перестали просто надеяться на создание собственных вычислительных мощностей и моделей и стали больше сосредотачиваться на прикладной ценности. "Теперь каждое финансовое учреждение обращает внимание на то, как другие организации применяют большие модели и какие результаты они достигают."

Для предприятий различного масштаба также сформировались два пути развития. Крупные финансовые учреждения, обладающие огромными объемами финансовых данных и сценариев применения, могут привлекать ведущие в отрасли базовые большие модели, создавать собственные корпоративные большие модели, а также использовать метод тонкой настройки для формирования больших моделей задач в специализированных областях, что быстро позволяет им развивать бизнес. В то время как малые и средние финансовые учреждения могут всесторонне учитывать возврат инвестиций, по мере необходимости привлекая различные облачные API больших моделей или услуги приватного развертывания, чтобы напрямую удовлетворять бизнес-требования.

Однако, из-за высоких требований к соблюдению данных, безопасности и надежности в финансовой отрасли, некоторые люди считают, что фактический прогресс внедрения крупных моделей в этой отрасли несколько медленнее, чем ожидалось в начале года. Сунь Хунцзюнь из Softstone заявил, что они изначально предполагали, что финансовая отрасль может первой массово использовать крупные модели, но по итогам взаимодействия с клиентами скорость применения в финансовой отрасли оказалась медленнее, чем в таких областях, как право и найм.

Некоторые финансовые учреждения начали искать решения различных ограничивающих факторов в процессе внедрения больших моделей.

В области вычислительной мощности специалисты отрасли наблюдали несколько решений:

1. Прямое создание вычислительной мощности, высокая стоимость, но хорошая безопасность, подходит для крупных финансовых учреждений с сильными ресурсами, желающих создать крупные модели для отрасли или бизнеса.

2. Гибридное развертывание вычислительной мощности, при котором чувствительные данные не покидают домен, позволяет использовать интерфейсы больших моделей из публичного облака, одновременно обрабатывая локальные данные через приватное развертывание. Этот подход имеет низкие затраты и подходит для малых и средних финансовых учреждений с ограниченным бюджетом и по требованию.

Тем не менее, многие малые и средние учреждения по-прежнему сталкиваются с трудностями в приобретении GPU-карт, необходимых для покупки больших моделей, а также с высокими затратами. В связи с этой проблемой соответствующие ведомства проводят исследование, чтобы выяснить, возможно ли в компромиссном порядке возглавить создание инфраструктуры больших моделей, ориентированной на конкретные отрасли, сосредоточив вычислительные мощности и ресурсы общих больших моделей, чтобы малые и средние финансовые учреждения в отрасли также могли использовать услуги больших моделей и избежать "технологической отсталости".

В области данных, за последние полгода, в связи с исследованиями по внедрению крупных моделей, многие финансовые учреждения постепенно усилили работу по управлению данными.

Ведущий сотрудник крупной технологической компании сообщил, что в настоящее время, помимо ведущих больших банков, которые имеют зрелую практику в области управления данными, все больше средних финансовых учреждений также начинают строить платформу данных и систему управления данными. Он считает, что создание совершенной системы управления данными и платформы технологий озер данных станет важной темой для IT-строительства финансовых учреждений в будущем.

Также банки решают проблемы с данными с помощью больших моделей в сочетании с MLOps. Например, один крупный банк использует модель MLOps для создания замкнутой системы данных больших моделей, обеспечивая автоматизацию всего процесса, а также унифицированное управление и эффективную обработку многопоточных гетерогенных данных. Сообщается, что в настоящее время уже создано и накоплено 2,6 ТБ высококачественного обучающего набора данных.

Вход в внешний сценарий

За последние полгода как поставщики крупных моделей, так и крупные финансовые учреждения активно искали сценарии применения. Области интеллектуального офиса, интеллектуальной разработки, интеллектуального маркетинга, интеллектуального обслуживания клиентов, интеллектуальных исследований и инвестиций, интеллектуального управления рисками, анализа потребностей и другие были постепенно исследованы.

Как сказал один из высокопоставленных руководителей технологической компании: "Каждая ключевая функция в цепочке финансовых бизнес-процессов заслуживает того, чтобы быть переработанной с использованием технологий больших моделей." Эта компания недавно выпустила большую модель, ориентированную на финансовую сферу, и сейчас проводит внутреннее тестирование в сотрудничестве с партнёрскими организациями для создания продукта большой модели для финансовой индустрии. Цель состоит в том, чтобы создать AI-ассистента для специалистов в области финансов, таких как финансовые консультанты, страховые агенты, исследователи инвестиций, финансовый маркетинг и урегулирование страховых убытков.

Финансовые учреждения также имеют богатые идеи по применению больших моделей. Один крупный банк сообщил, что в его внутренних системах уже реализовано более 20 сценариев применения, другой банк заявил, что провел пилотные проекты в более чем 30 сценариях, а одна брокерская компания исследует возможность интеграции больших моделей с ранее запущенной платформой виртуальных цифровых людей.

Но при реальном внедрении больших моделей в бизнесе существует общее мнение в отрасли, что сначала необходимо использовать их внутри компании, а затем уже снаружи. В конце концов, технологии больших моделей еще не готовы, сталкиваясь с такими проблемами, как галлюцинации, а финансовая отрасль является строго регулируемой, высоко безопасной и надежной.

Главный технический директор крупного банка предложил, что в краткосрочной перспективе не следует напрямую использовать большие модели для клиентов. Финансовым учреждениям следует в первую очередь применять большие модели в интеллектуально насыщенных сценариях, таких как анализ и понимание финансовых текстов и изображений, реализуя человеческо-машинное сотрудничество в форме помощника для повышения эффективности работы сотрудников.

В настоящее время помощник по коду был внедрен в нескольких финансовых учреждениях. Например, один крупный банк создал интеллектуальную систему разработки на основе большой модели, где объем кода, сгенерированного помощником по кодированию, составляет 40% от общего объема кода. В страховой сфере одна страховая компания разработала плагин для помощи в программировании на основе большой модели, который напрямую интегрирован во внутренние инструменты разработки.

Некоторые технологические компании также разрабатывают готовые к использованию продукты для финансовых клиентов на основе возможностей генерации кода с использованием больших моделей. Сунь Хунцзюнь из Softcom Power рассказал, что их продукт на основе возможностей автозаполнения кода больших моделей дополнительно включает функции разбиения задач, точного ответа и преодоления ограничений контекста, позволяя пользователям использовать его сразу после распаковки. В настоящее время этот продукт используется более чем 3000 человек в одном международном банке, а уровень автоматического заполнения кода составляет 50%~90%.

В области умного офиса также есть немало реальных примеров. Руководитель по продуктам крупной технологической компании в финансовом секторе рассказал, что их функция вопросов и ответов на базе финансовой большой модели, которая была запущена в июле в одном крупном банке, уже была внедрена в несколько сотен отделений, а уровень принятия ответов превышает 85%. В настоящее время эта функция быстро копируется в нескольких банках и финансовых учреждениях.

Тем не менее, специалисты отрасли считают, что эти уже широко реализованные сценарии на самом деле еще не являются основными приложениями финансовых учреждений, и большие модели все еще далеки от глубокого проникновения в бизнес-уровень финансовой отрасли.

Сунь Хунцзюнь отметил, что в области бизнес-приложений есть значительные сложности. Сценарии маркетинга, управления рисками и соблюдения норм — это те области, где большие модели могут принести изменения и где находятся потребности финансовых клиентов, но в настоящее время эти работы все еще зависят от повышения возможностей поставщиков базовых больших моделей, чтобы можно было дальше развивать применение бизнес-сценариев.

Старший специалист по большим моделям в крупной технологической компании прогнозирует, что до конца этого года появится ряд проектов или тендерной информации, действительно применяющих большие модели в核心业务场景金融ных учреждений.

До этого момента проводились некоторые изменения на уровне верхнего дизайна.

Эксперты считают, что в будущем вся интеллектуальная и цифровая система будет заново построена на основе больших моделей. Это требует от финансовой отрасли переработки систем в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, и следует обеспечить совместную работу больших и малых моделей.

Эта тенденция широко проявляется в финансовой отрасли. В настоящее время несколько ведущих финансовых учреждений уже на основе больших моделей создали многоуровневую системную архитектуру, которая включает в себя уровень инфраструктуры, уровень моделей, уровень обслуживания больших моделей и уровень приложений.

Эти рамочные системы обычно имеют две основные особенности: первая заключается в том, что большие модели выполняют центральную роль, используя традиционные модели в качестве навыков; вторая заключается в том, что на уровне больших моделей применяется многомодельная стратегия, которая включает внутреннее сравнение и выбор наилучшего результата.

На самом деле, не только финансовые учреждения, но и некоторые поставщики приложений с большими моделями также используют стратегию мульти-моделей в условиях неопределенности текущей ситуации, выбирая наиболее эффективные услуги. Сунь Хунцзюнь сообщил, что их базовый уровень модели также объединяет несколько больших языковых моделей и будет предоставлять пользователям собранные и оптимизированные ответы на основе ответов каждой из больших моделей.

Пробел в талантах по-прежнему огромен

Применение крупных моделей уже начало представлять некоторые вызовы и изменения для структуры персонала в финансовой сфере.

Некоторые представители финансово-технологических компаний сообщили, что с появлением ChatGPT с начала года до конца мая их компания уволила более 300 специалистов по анализу больших данных. Всего несколько лет назад это была востребованная профессия. Это вызвало у него беспокойство по поводу будущего занятости.

Старший сотрудник из крупного банка также поделился эффектом замещения людей большими моделями. Ранее в этом банке каждое утро стажеры собирали информацию из различных областей для отдела исследований и инвестиций, но сейчас эту работу можно выполнять с помощью больших моделей.

Однако некоторые банки не хотят, чтобы большие модели привели к сокращению сотрудников. Один крупный банк с 200 000 сотрудников в сети ясно заявил, что они надеются, что большие модели принесут новые возможности, повысят качество обслуживания сотрудников и рабочую эффективность, а также освободят часть сотрудников для выполнения более высокоценной работы, а не заменят их.

Это связано как с соображениями стабильности кадров и структур, так и с тем, что во многих должностях все еще существует нехватка талантов. Сунь Хунцзюнь отметил, что крупные банки имеют множество задач, которые необходимо выполнить, некоторые ИТ-требования даже запланированы до конца следующего года, и они надеются, что большие модели помогут сотрудникам повысить эффективность, а не сократить число работников.

Более того, быстрое развитие больших моделей приводит к тому, что в краткосрочной перспективе недостаток квалифицированных специалистов не может соответствовать резкому увеличению спроса. Это похоже на то, как было трудно найти разработчиков iOS, когда только что появился iPhone.

Некоторые высокопоставленные руководители крупных банков подвели итоги шести основным вызовам, с которыми сталкивается финансовая индустрия в применении больших моделей в основных бизнес-процессах, одним из которых является кадры. При недавнем наборе новых сотрудников и на кампусе они обнаружили, что доля людей, изучающих область ИИ, довольно высока, но тех, кто понимает большие модели, очень мало.

Сунь Хунцзюнь также имел аналогичный опыт. За неделю до Национального праздника они только что получили запрос на поддержку талантов от одного из банков-клиентов. В команде по разработке больших моделей банка кто-то временно ушел с работы, что привело к нехватке кадров для обучения моделей, и им пришлось обратиться за внешней поддержкой.

"В настоящее время специалистов в этой области действительно очень мало, потребуется определенное время для их подготовки." Сунь Хунцзюнь считает, что потребность в специалистах, которые могут непосредственно применять большие модели, относительно проста, в основном это те, кто умеет задавать вопросы. Однако если речь идет о создании собственных отраслевых или корпоративных больших моделей, то финансовым учреждениям нужна сильная команда технических специалистов по вертикальным большим моделям.

Некоторые высокопоставленные сотрудники крупных технологических компаний также признают, что нехватка специалистов по крупным AI-моделям очень велика, и ведущие организации в настоящее время нанимают специалистов в области AI, таких как доктора наук по алгоритмам и т.д. Это связано с тем, что финансовые клиенты, хотя и могут получать техническую поддержку от поставщиков крупных моделей, как конечные пользователи и ведущие инновации, нуждаются в определенном накоплении кадров для поддержки построения крупных AI-платформ, планирования AI-приложений, а также для сотрудничества с поставщиками крупных моделей в процессе моделирования и настройки для оптимизации сценариев и моделей, постоянно расширяя область применения и эффективность AI-моделей.

Некоторые организации уже предприняли действия. Представитель крупной технологической компании сообщил, что они специально сотрудничают с лабораторией крупного банка, чтобы проанализировать практику трансформации сотрудников при применении больших моделей в компаниях, разработали серию учебных курсов по настройке Prompt, дообучению и эксплуатации больших моделей, а также сотрудничали с несколькими департаментами для создания совместной проектной группы, чтобы содействовать повышению квалификации сотрудников.