Применение больших моделей искусственного интеллекта в финансовом секторе: от бурного роста до рационального возвращения
С момента появления ChatGPT в финансовой сфере быстро возникло чувство тревоги. Эта отрасль, верящая в технологии, боится оказаться позади стремительно развивающейся эпохи. Эта напряженная атмосфера даже в какой-то момент распространилась на спокойные храмы. Один из участников рынка сообщил, что в мае, во время командировки в Дали, она даже в храме сталкивалась с финансовыми работниками, обсуждающими большие модели.
Однако это беспокойство постепенно становится привычным, и мышление людей начинает становиться ясным и рациональным. Эксперты описали несколько этапов отношения финансовой индустрии к большим моделям в этом году: в феврале и марте было общее беспокойство, страх отставания; в апреле и мае начали формировать команды для работы; в последующие месяцы столкнулись с трудностями в поиске направления и реализации, начали становиться рациональными; сейчас они обращают внимание на лидирующие компании и пытаются проверить проверенные сценарии.
Новая тенденция заключается в том, что многие финансовые учреждения подняли большие модели до стратегического уровня. Согласно неполным данным, как минимум 11 банков из числа компаний, котирующихся на A-акциях, в своих последних полугодовых отчетах четко указали, что они исследуют применение больших моделей. Судя по недавним действиям, они также начинают более четко осмысливать и планировать пути на стратегическом и верхнем уровне.
От бурного роста к рациональному возвращению
"По сравнению с несколькими месяцами назад, сейчас финансовые клиенты явно лучше понимают большие модели." По словам опытных специалистов, в начале года, когда только появился ChatGPT, энтузиазм был высок, но понимание того, что такое большие модели и как их использовать, на самом деле было очень ограниченным.
На этом этапе некоторые крупные банки начали активно действовать, запустив различные рекламные кампании для "привлечения внимания". Например, в марте этого года один банк представил приложение с большим языковым моделью, подобным ChatGPT. Однако мнения в отрасли разделились. Тогда некоторые считали, что название этого продукта подчеркивало менее важный аспект Chat в ChatGPT, в то время как на самом деле более важная часть - это GPT.
В то же время, с тем как ряд отечественных технологических компаний начали выпускать большие модели, некоторые ведущие финансовые институты начали активно обсуждать вопросы создания больших моделей с крупными производителями в своих научно-технических отделах. Эти финансовые учреждения в целом надеются создать свои собственные большие модели и нуждаются в помощи производителей в таких вопросах, как создание наборов данных, закупка серверов и методы обучения. Некоторые финансово-технологические компании даже предложили, будет ли возможно экспортировать результаты своим конкурентам после завершения.
С мая ситуация постепенно начала меняться. Из-за нехватки вычислительных ресурсов и высоких затрат многие финансовые учреждения начали переходить от простого желания создать собственные вычислительные мощности и модели к более внимательному отношению к прикладной ценности. "Сейчас каждое финансовое учреждение интересуется тем, что сделали другие учреждения с большими моделями и каких результатов они достигли."
В зависимости от размера предприятия выделяются два пути. Крупные финансовые учреждения, обладающие огромными объемами финансовых данных и приложений, могут внедрять передовые базовые большие модели, строить корпоративные большие модели и одновременно использовать методы дообучения для создания больших моделей задач в специализированной области, быстро усиливая бизнес и компенсируя недостатки слишком долгого цикла строительства больших моделей. В то время как малые и средние финансовые учреждения могут учитывать возврат инвестиций и по мере необходимости внедрять облачные услуги различных больших моделей или их приватные развертывания, чтобы напрямую удовлетворять потребности в усилении.
Тем не менее, из-за высоких требований финансовой отрасли к соблюдению норм, безопасности и надежности данных некоторые специалисты считают, что прогресс внедрения больших моделей в этой отрасли на самом деле несколько отстает от первоначальных ожиданий в начале года. Некоторые эксперты заявили, что изначально они прогнозировали, что финансовая отрасль может первой начать массовое использование больших моделей, но судя по итогам взаимодействия с клиентами, финансовая отрасль не движется так быстро, как такие отрасли, как право и рекрутинг.
Некоторые финансовые учреждения уже начали искать способы решения различных ограничений в процессе внедрения больших моделей.
В области вычислительной мощности эксперты отметили несколько решений:
Во-первых, прямое создание вычислительной мощности, стоимость высока, но безопасность достаточна. Подходит для сильных финансовых институтов, которые хотят создать отраслевой или корпоративный крупный модель.
Во-вторых, смешанное развертывание вычислительных мощностей, при котором чувствительные данные не выходят за пределы домена, позволяет принимать вызовы интерфейса служб крупных моделей из публичного облака, одновременно обрабатывая локальные данные с помощью приватного развертывания. Этот подход имеет низкие затраты, необходимо всего лишь инвестировать несколько сотен тысяч юаней в покупку нескольких вычислительных карт, что позволяет удовлетворить потребности, и подходит для малых и средних финансовых учреждений с относительно ограниченными средствами и по требованию.
Тем не менее, даже так, многие малые и средние учреждения по-прежнему сталкиваются с проблемой, что не могут купить или позволить себе GPU-карты, необходимые для больших моделей. В связи с этой проблемой поступила информация о том, что регулирующие органы изучают возможность создания инфраструктуры больших моделей для сектора ценных бумаг с компромиссным подходом, которая сосредоточит вычислительные мощности и ресурсы универсальных больших моделей, чтобы малые и средние финансовые учреждения в отрасли также могли воспользоваться услугами больших моделей и не отстать в технологическом плане.
Не только вычислительная мощность, с недавними полугодовыми исследованиями внедрения больших моделей, многие финансовые учреждения также постепенно усилили управление данными.
Эксперты отмечают, что сейчас, помимо крупнейших банков с成熟ными практиками в области управления данными, все больше средних финансовых учреждений начинают создавать платформы для данных и системы управления данными. Они считают, что создание полноценной системы управления данными и технологической платформы для данных станет важной темой в будущем для IT-структуры финансовых учреждений.
Некоторые банки также решают проблемы с данными с помощью больших моделей и MLOps. Например, один банк использовал модель MLOps для создания замкнутой системы данных больших моделей, что позволило автоматизировать весь процесс, а также обеспечить единое управление и эффективную обработку многопоточных гетерогенных данных. Сообщается, что в настоящее время было построено и накоплено 2,6 ТБ высококачественного обучающего набора данных.
Входя в окружение
В последние полгода как провайдеры больших моделей, так и крупные финансовые учреждения активно ищут применяемые сценарии. Умный офис, интеллектуальная разработка, умный маркетинг, интеллектуальное обслуживание клиентов, умные инвестиционные исследования, интеллектуальный риск-менеджмент, анализ потребностей и другие области активно исследуются.
Как сказал один из руководителей финансово-технологической компании, "каждая ключевая функция в цепочке финансовых услуг заслуживает того, чтобы быть заново разработанной с использованием технологий больших моделей." Эта компания недавно представила финансовую большую модель и совместно с партнерскими организациями начала тестирование и создание продуктов большой модели для финансовой отрасли, целью которых является создание полного цепочного AI-ассистента для финансовых специалистов, таких как консультанты по инвестициям, страховые агенты, исследователи, финансовый маркетинг и страховые выплаты.
Все финансовые учреждения имеют богатые идеи о больших моделях. Один из банков заявил, что у них уже есть более 20 сцен для внедрения приложений, другой банк сообщил, что они провели пилотные испытания в более чем 30 сценах, а одна из брокерских компаний исследует возможность интеграции больших моделей с ранее запущенной платформой виртуальных цифровых людей.
Но когда дело доходит до реального внедрения больших моделей в бизнес, общая консенсус заключается в том, что сначала следует работать внутри компании, а затем выходить на внешний рынок. В конце концов, на текущем этапе технологии больших моделей еще не зрелые, например, существует проблема «галлюцинаций», в то время как финансовая отрасль является отраслью с жестким регулированием, высокой безопасностью и высоким уровнем доверия.
Некоторые эксперты считают, что в краткосрочной перспективе не рекомендуется напрямую использовать большие модели для клиентов. Финансовым учреждениям следует в первую очередь применять большие модели для анализа и понимания финансовых текстов и изображений в интеллектуально нагруженных сценариях, реализуя взаимодействие человека и машины в виде ассистента, что повысит эффективность работы сотрудников.
В настоящее время кодовый ассистент уже внедрён в нескольких финансовых учреждениях. Например, в одном из банков была создана интеллектуальная система разработки на основе больших моделей, доля кода, генерируемого кодовым ассистентом, достигла 40% от общего объёма кода. В страховом секторе одна страховая компания разработала плагин для помощи в программировании на основе больших моделей, который был непосредственно интегрирован в внутренние инструменты разработки.
В области умного офиса также есть немало реализованных примеров. Эксперты рассказывают, что система вопросов и ответов, основанная на финансовой модели, была внедрена в одном из банков и уже распространилась на несколько сотен отделений, при этом уровень принятия ответов превышает 85%. В настоящее время это решение быстро копируется в другие банки и финансовые учреждения.
Однако, по мнению специалистов отрасли, эти широко внедренные сценарии на самом деле еще не являются основными приложениями финансовых учреждений, и большим моделям еще предстоит пройти определенное расстояние до глубокого внедрения в бизнес-уровень финансовой отрасли.
Эксперты предсказывают, что до конца этого года появится ряд проектов или информации о тендерах, в которых действительно будут использоваться большие модели в ключевых бизнес-сценариях финансовых учреждений.
До этого момента происходят некоторые изменения на уровне верхнего дизайна. Некоторые ученые предполагают, что вся будущая интеллектуальная и цифровая система будет заново построена на основе больших моделей. Это требует от финансовой отрасли пересмотра систем в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, и необходимо обеспечить их совместную работу с большими моделями.
Эта тенденция уже широко проявляется в финансовой сфере. В настоящее время финансовые учреждения тестируют большие модели, в основном следуя иерархической модели. В отличие от прошлой модели, когда для каждой ситуации требовалось создавать отдельную платформу, большие модели предоставили финансовым учреждениям возможность начать с нуля и более научно подойти к общему планированию систем.
Можно увидеть, что в настоящее время несколько ведущих финансовых учреждений на основе больших моделей создали многоуровневую системную архитектуру, включающую уровень инфраструктуры, уровень модели, уровень сервисов больших моделей и уровень приложений.
Эти рамочные системы имеют две основные характеристики: во-первых, большие модели играют центральную роль, вызывая традиционные модели в качестве навыков; во-вторых, уровень больших моделей использует стратегию множественных моделей, проводя внутреннее сравнение и выбирая наилучший результат.
На самом деле, не только финансовые учреждения, но и некоторые поставщики приложений с большими моделями также используют стратегию многомоделей в условиях неопределенности текущей ситуации, предпочитая эффективность услуг. По словам экспертов, их базовый уровень моделей объединяет множество больших языковых моделей и будет собирать предпочтительные ответы на основе ответов, возвращаемых каждой большой моделью, чтобы предоставить их пользователю.
Пробел в талантах по-прежнему огромен
Применение больших моделей уже начало вызывать некоторые вызовы и изменения в структуре персонала финансовой отрасли.
Ранее сообщалось, что с появлением ChatGPT одна финансово-технологическая компания с начала года до конца мая уволила более 300 аналитиков больших данных. А несколько лет назад это была востребованная профессия. Это вызвало беспокойство среди работников, и они даже начали заранее задумываться о выборе профессии для следующего поколения.
Эксперт из одного банка также поделился эффектом замещения человека большими моделями. Ранее каждый день утром стажер собирал и обобщал информацию по различным аспектам, а затем предоставлял ее инвестиционно-исследовательскому подразделению, но теперь эту работу можно выполнить с помощью большой модели.
Однако некоторые банки на самом деле не хотят, чтобы большие модели привели к сокращению персонала. Например, один из крупных банков с 200 000 сотрудников в отделениях четко заявил, что они не хотят, чтобы сотрудники были заменены большими моделями, а хотят, чтобы большие модели открывали новые возможности, повышали качество обслуживания и эффективность работы сотрудников, а также освобождали часть сотрудников для выполнения более высокоценной работы.
В этом не обходит стороной соображения о стабильности персонала и структуры. С другой стороны, это также связано с тем, что на многих должностях все еще существует нехватка кадров.
Некоторые эксперты отмечают, что крупным банкам предстоит выполнить много работы, и сроки выполнения некоторых IT-запросов даже перенесены на конец следующего года. Они надеются, что большие модели помогут сотрудникам выполнить больше задач, повысив эффективность и скорость, а не приведут к сокращению персонала.
Более того, стремительное развитие больших моделей делает так, что в короткие сроки предложение дефицитных специалистов не может удовлетворить резко возросший спрос. Это похоже на то, как в начале появления iPhone все хотели разрабатывать приложения, но было трудно найти программистов для iOS.
На недавней конференции по финансовым технологиям один из руководителей банка подытожил шесть основных проблем, с которыми финансовая отрасль сталкивается при внедрении возможностей больших моделей в основные бизнес-процессы, одна из которых - нехватка кадров. Он отметил, что среди недавно нанятых сотрудников высокий процент тех, кто изучает область ИИ, но специалистов по большим моделям очень мало.
Некоторые эксперты глубоко понимают это, недавно они получили запрос на поддержку от клиента банка. Этот банк из-за временного отсутствия некоторых членов своей команды по разработке больших моделей столкнулся с нехваткой кадров в работе по обучению моделей и был вынужден временно искать внешнюю поддержку.
"Сейчас специалистов в этой области действительно очень мало, потребуется определенное время для их подготовки." Этот эксперт считает, что спрос на специалистов, которые могут непосредственно использовать большие модели, относительно простой, в основном нужны люди, умеющие задавать вопросы. Но если нужно создать отраслевую или корпоративную большую модель, то финансовым учреждениям потребуется иметь сильную вертикальную команду по технологиям больших моделей.
Другой эксперт также признал, что в области крупных моделей ИИ существует огромный дефицит специалистов, и ведущие организации в настоящее время нанимают специалистов, связанных с ИИ, таких как доктора наук по алгоритмам. Это связано с тем, что финансовые клиенты, хотя и могут получить техническую поддержку от производителей крупных моделей, в конечном счете являются конечными пользователями и инициаторами инноваций, и им необходимо накопить определенные кадры для поддержки строительства крупной платформы ИИ, планирования различных приложений ИИ, а также для сотрудничества с производителями крупных моделей в процессе моделирования, настройки и донастройки для оптимизации таких аспектов, как наложение сценариев и наложение моделей, постоянно расширяя диапазон и эффективность применения моделей ИИ.
Некоторые участники уже предприняли действия. Одна компания объединила команду по управлению человеческими ресурсами банка, чтобы проанализировать практику трансформации персонала при использовании больших моделей в корпоративных приложениях и разработать серию обучений.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Применение больших моделей в финансовом секторе: от тревоги к рациональности. Вычислительная мощность и кадры становятся ключевыми.
Применение больших моделей искусственного интеллекта в финансовом секторе: от бурного роста до рационального возвращения
С момента появления ChatGPT в финансовой сфере быстро возникло чувство тревоги. Эта отрасль, верящая в технологии, боится оказаться позади стремительно развивающейся эпохи. Эта напряженная атмосфера даже в какой-то момент распространилась на спокойные храмы. Один из участников рынка сообщил, что в мае, во время командировки в Дали, она даже в храме сталкивалась с финансовыми работниками, обсуждающими большие модели.
Однако это беспокойство постепенно становится привычным, и мышление людей начинает становиться ясным и рациональным. Эксперты описали несколько этапов отношения финансовой индустрии к большим моделям в этом году: в феврале и марте было общее беспокойство, страх отставания; в апреле и мае начали формировать команды для работы; в последующие месяцы столкнулись с трудностями в поиске направления и реализации, начали становиться рациональными; сейчас они обращают внимание на лидирующие компании и пытаются проверить проверенные сценарии.
Новая тенденция заключается в том, что многие финансовые учреждения подняли большие модели до стратегического уровня. Согласно неполным данным, как минимум 11 банков из числа компаний, котирующихся на A-акциях, в своих последних полугодовых отчетах четко указали, что они исследуют применение больших моделей. Судя по недавним действиям, они также начинают более четко осмысливать и планировать пути на стратегическом и верхнем уровне.
От бурного роста к рациональному возвращению
"По сравнению с несколькими месяцами назад, сейчас финансовые клиенты явно лучше понимают большие модели." По словам опытных специалистов, в начале года, когда только появился ChatGPT, энтузиазм был высок, но понимание того, что такое большие модели и как их использовать, на самом деле было очень ограниченным.
На этом этапе некоторые крупные банки начали активно действовать, запустив различные рекламные кампании для "привлечения внимания". Например, в марте этого года один банк представил приложение с большим языковым моделью, подобным ChatGPT. Однако мнения в отрасли разделились. Тогда некоторые считали, что название этого продукта подчеркивало менее важный аспект Chat в ChatGPT, в то время как на самом деле более важная часть - это GPT.
В то же время, с тем как ряд отечественных технологических компаний начали выпускать большие модели, некоторые ведущие финансовые институты начали активно обсуждать вопросы создания больших моделей с крупными производителями в своих научно-технических отделах. Эти финансовые учреждения в целом надеются создать свои собственные большие модели и нуждаются в помощи производителей в таких вопросах, как создание наборов данных, закупка серверов и методы обучения. Некоторые финансово-технологические компании даже предложили, будет ли возможно экспортировать результаты своим конкурентам после завершения.
С мая ситуация постепенно начала меняться. Из-за нехватки вычислительных ресурсов и высоких затрат многие финансовые учреждения начали переходить от простого желания создать собственные вычислительные мощности и модели к более внимательному отношению к прикладной ценности. "Сейчас каждое финансовое учреждение интересуется тем, что сделали другие учреждения с большими моделями и каких результатов они достигли."
В зависимости от размера предприятия выделяются два пути. Крупные финансовые учреждения, обладающие огромными объемами финансовых данных и приложений, могут внедрять передовые базовые большие модели, строить корпоративные большие модели и одновременно использовать методы дообучения для создания больших моделей задач в специализированной области, быстро усиливая бизнес и компенсируя недостатки слишком долгого цикла строительства больших моделей. В то время как малые и средние финансовые учреждения могут учитывать возврат инвестиций и по мере необходимости внедрять облачные услуги различных больших моделей или их приватные развертывания, чтобы напрямую удовлетворять потребности в усилении.
Тем не менее, из-за высоких требований финансовой отрасли к соблюдению норм, безопасности и надежности данных некоторые специалисты считают, что прогресс внедрения больших моделей в этой отрасли на самом деле несколько отстает от первоначальных ожиданий в начале года. Некоторые эксперты заявили, что изначально они прогнозировали, что финансовая отрасль может первой начать массовое использование больших моделей, но судя по итогам взаимодействия с клиентами, финансовая отрасль не движется так быстро, как такие отрасли, как право и рекрутинг.
Некоторые финансовые учреждения уже начали искать способы решения различных ограничений в процессе внедрения больших моделей.
В области вычислительной мощности эксперты отметили несколько решений:
Во-первых, прямое создание вычислительной мощности, стоимость высока, но безопасность достаточна. Подходит для сильных финансовых институтов, которые хотят создать отраслевой или корпоративный крупный модель.
Во-вторых, смешанное развертывание вычислительных мощностей, при котором чувствительные данные не выходят за пределы домена, позволяет принимать вызовы интерфейса служб крупных моделей из публичного облака, одновременно обрабатывая локальные данные с помощью приватного развертывания. Этот подход имеет низкие затраты, необходимо всего лишь инвестировать несколько сотен тысяч юаней в покупку нескольких вычислительных карт, что позволяет удовлетворить потребности, и подходит для малых и средних финансовых учреждений с относительно ограниченными средствами и по требованию.
Тем не менее, даже так, многие малые и средние учреждения по-прежнему сталкиваются с проблемой, что не могут купить или позволить себе GPU-карты, необходимые для больших моделей. В связи с этой проблемой поступила информация о том, что регулирующие органы изучают возможность создания инфраструктуры больших моделей для сектора ценных бумаг с компромиссным подходом, которая сосредоточит вычислительные мощности и ресурсы универсальных больших моделей, чтобы малые и средние финансовые учреждения в отрасли также могли воспользоваться услугами больших моделей и не отстать в технологическом плане.
Не только вычислительная мощность, с недавними полугодовыми исследованиями внедрения больших моделей, многие финансовые учреждения также постепенно усилили управление данными.
Эксперты отмечают, что сейчас, помимо крупнейших банков с成熟ными практиками в области управления данными, все больше средних финансовых учреждений начинают создавать платформы для данных и системы управления данными. Они считают, что создание полноценной системы управления данными и технологической платформы для данных станет важной темой в будущем для IT-структуры финансовых учреждений.
Некоторые банки также решают проблемы с данными с помощью больших моделей и MLOps. Например, один банк использовал модель MLOps для создания замкнутой системы данных больших моделей, что позволило автоматизировать весь процесс, а также обеспечить единое управление и эффективную обработку многопоточных гетерогенных данных. Сообщается, что в настоящее время было построено и накоплено 2,6 ТБ высококачественного обучающего набора данных.
Входя в окружение
В последние полгода как провайдеры больших моделей, так и крупные финансовые учреждения активно ищут применяемые сценарии. Умный офис, интеллектуальная разработка, умный маркетинг, интеллектуальное обслуживание клиентов, умные инвестиционные исследования, интеллектуальный риск-менеджмент, анализ потребностей и другие области активно исследуются.
Как сказал один из руководителей финансово-технологической компании, "каждая ключевая функция в цепочке финансовых услуг заслуживает того, чтобы быть заново разработанной с использованием технологий больших моделей." Эта компания недавно представила финансовую большую модель и совместно с партнерскими организациями начала тестирование и создание продуктов большой модели для финансовой отрасли, целью которых является создание полного цепочного AI-ассистента для финансовых специалистов, таких как консультанты по инвестициям, страховые агенты, исследователи, финансовый маркетинг и страховые выплаты.
Все финансовые учреждения имеют богатые идеи о больших моделях. Один из банков заявил, что у них уже есть более 20 сцен для внедрения приложений, другой банк сообщил, что они провели пилотные испытания в более чем 30 сценах, а одна из брокерских компаний исследует возможность интеграции больших моделей с ранее запущенной платформой виртуальных цифровых людей.
Но когда дело доходит до реального внедрения больших моделей в бизнес, общая консенсус заключается в том, что сначала следует работать внутри компании, а затем выходить на внешний рынок. В конце концов, на текущем этапе технологии больших моделей еще не зрелые, например, существует проблема «галлюцинаций», в то время как финансовая отрасль является отраслью с жестким регулированием, высокой безопасностью и высоким уровнем доверия.
Некоторые эксперты считают, что в краткосрочной перспективе не рекомендуется напрямую использовать большие модели для клиентов. Финансовым учреждениям следует в первую очередь применять большие модели для анализа и понимания финансовых текстов и изображений в интеллектуально нагруженных сценариях, реализуя взаимодействие человека и машины в виде ассистента, что повысит эффективность работы сотрудников.
В настоящее время кодовый ассистент уже внедрён в нескольких финансовых учреждениях. Например, в одном из банков была создана интеллектуальная система разработки на основе больших моделей, доля кода, генерируемого кодовым ассистентом, достигла 40% от общего объёма кода. В страховом секторе одна страховая компания разработала плагин для помощи в программировании на основе больших моделей, который был непосредственно интегрирован в внутренние инструменты разработки.
В области умного офиса также есть немало реализованных примеров. Эксперты рассказывают, что система вопросов и ответов, основанная на финансовой модели, была внедрена в одном из банков и уже распространилась на несколько сотен отделений, при этом уровень принятия ответов превышает 85%. В настоящее время это решение быстро копируется в другие банки и финансовые учреждения.
Однако, по мнению специалистов отрасли, эти широко внедренные сценарии на самом деле еще не являются основными приложениями финансовых учреждений, и большим моделям еще предстоит пройти определенное расстояние до глубокого внедрения в бизнес-уровень финансовой отрасли.
Эксперты предсказывают, что до конца этого года появится ряд проектов или информации о тендерах, в которых действительно будут использоваться большие модели в ключевых бизнес-сценариях финансовых учреждений.
До этого момента происходят некоторые изменения на уровне верхнего дизайна. Некоторые ученые предполагают, что вся будущая интеллектуальная и цифровая система будет заново построена на основе больших моделей. Это требует от финансовой отрасли пересмотра систем в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, и необходимо обеспечить их совместную работу с большими моделями.
Эта тенденция уже широко проявляется в финансовой сфере. В настоящее время финансовые учреждения тестируют большие модели, в основном следуя иерархической модели. В отличие от прошлой модели, когда для каждой ситуации требовалось создавать отдельную платформу, большие модели предоставили финансовым учреждениям возможность начать с нуля и более научно подойти к общему планированию систем.
Можно увидеть, что в настоящее время несколько ведущих финансовых учреждений на основе больших моделей создали многоуровневую системную архитектуру, включающую уровень инфраструктуры, уровень модели, уровень сервисов больших моделей и уровень приложений.
Эти рамочные системы имеют две основные характеристики: во-первых, большие модели играют центральную роль, вызывая традиционные модели в качестве навыков; во-вторых, уровень больших моделей использует стратегию множественных моделей, проводя внутреннее сравнение и выбирая наилучший результат.
На самом деле, не только финансовые учреждения, но и некоторые поставщики приложений с большими моделями также используют стратегию многомоделей в условиях неопределенности текущей ситуации, предпочитая эффективность услуг. По словам экспертов, их базовый уровень моделей объединяет множество больших языковых моделей и будет собирать предпочтительные ответы на основе ответов, возвращаемых каждой большой моделью, чтобы предоставить их пользователю.
Пробел в талантах по-прежнему огромен
Применение больших моделей уже начало вызывать некоторые вызовы и изменения в структуре персонала финансовой отрасли.
Ранее сообщалось, что с появлением ChatGPT одна финансово-технологическая компания с начала года до конца мая уволила более 300 аналитиков больших данных. А несколько лет назад это была востребованная профессия. Это вызвало беспокойство среди работников, и они даже начали заранее задумываться о выборе профессии для следующего поколения.
Эксперт из одного банка также поделился эффектом замещения человека большими моделями. Ранее каждый день утром стажер собирал и обобщал информацию по различным аспектам, а затем предоставлял ее инвестиционно-исследовательскому подразделению, но теперь эту работу можно выполнить с помощью большой модели.
Однако некоторые банки на самом деле не хотят, чтобы большие модели привели к сокращению персонала. Например, один из крупных банков с 200 000 сотрудников в отделениях четко заявил, что они не хотят, чтобы сотрудники были заменены большими моделями, а хотят, чтобы большие модели открывали новые возможности, повышали качество обслуживания и эффективность работы сотрудников, а также освобождали часть сотрудников для выполнения более высокоценной работы.
В этом не обходит стороной соображения о стабильности персонала и структуры. С другой стороны, это также связано с тем, что на многих должностях все еще существует нехватка кадров.
Некоторые эксперты отмечают, что крупным банкам предстоит выполнить много работы, и сроки выполнения некоторых IT-запросов даже перенесены на конец следующего года. Они надеются, что большие модели помогут сотрудникам выполнить больше задач, повысив эффективность и скорость, а не приведут к сокращению персонала.
Более того, стремительное развитие больших моделей делает так, что в короткие сроки предложение дефицитных специалистов не может удовлетворить резко возросший спрос. Это похоже на то, как в начале появления iPhone все хотели разрабатывать приложения, но было трудно найти программистов для iOS.
На недавней конференции по финансовым технологиям один из руководителей банка подытожил шесть основных проблем, с которыми финансовая отрасль сталкивается при внедрении возможностей больших моделей в основные бизнес-процессы, одна из которых - нехватка кадров. Он отметил, что среди недавно нанятых сотрудников высокий процент тех, кто изучает область ИИ, но специалистов по большим моделям очень мало.
Некоторые эксперты глубоко понимают это, недавно они получили запрос на поддержку от клиента банка. Этот банк из-за временного отсутствия некоторых членов своей команды по разработке больших моделей столкнулся с нехваткой кадров в работе по обучению моделей и был вынужден временно искать внешнюю поддержку.
"Сейчас специалистов в этой области действительно очень мало, потребуется определенное время для их подготовки." Этот эксперт считает, что спрос на специалистов, которые могут непосредственно использовать большие модели, относительно простой, в основном нужны люди, умеющие задавать вопросы. Но если нужно создать отраслевую или корпоративную большую модель, то финансовым учреждениям потребуется иметь сильную вертикальную команду по технологиям больших моделей.
Другой эксперт также признал, что в области крупных моделей ИИ существует огромный дефицит специалистов, и ведущие организации в настоящее время нанимают специалистов, связанных с ИИ, таких как доктора наук по алгоритмам. Это связано с тем, что финансовые клиенты, хотя и могут получить техническую поддержку от производителей крупных моделей, в конечном счете являются конечными пользователями и инициаторами инноваций, и им необходимо накопить определенные кадры для поддержки строительства крупной платформы ИИ, планирования различных приложений ИИ, а также для сотрудничества с производителями крупных моделей в процессе моделирования, настройки и донастройки для оптимизации таких аспектов, как наложение сценариев и наложение моделей, постоянно расширяя диапазон и эффективность применения моделей ИИ.
Некоторые участники уже предприняли действия. Одна компания объединила команду по управлению человеческими ресурсами банка, чтобы проанализировать практику трансформации персонала при использовании больших моделей в корпоративных приложениях и разработать серию обучений.