A aplicação de grandes modelos de inteligência artificial na indústria financeira: da euforia elevada ao retorno à racionalidade

Desde o lançamento do ChatGPT, a ansiedade rapidamente se espalhou pela indústria financeira. Este setor, que tem fé na tecnologia, teme ser deixado para trás por um fluxo avassalador de uma era em rápida mudança. Esta atmosfera de inquietação chegou até mesmo a se espalhar por templos tranquilos. Um profissional do setor comentou que, durante uma viagem de negócios a Dali em maio, conseguiu encontrar colegas da área financeira discutindo sobre grandes modelos até mesmo no templo.

No entanto, esta ansiedade está lentamente tornando-se comum, e o pensamento das pessoas também começa a tornar-se claro e racional. Especialistas descreveram várias fases da atitude da indústria financeira em relação aos grandes modelos este ano: em fevereiro e março, houve uma sensação geral de ansiedade, preocupações sobre ficar para trás; em abril e maio, muitas equipes foram formadas para iniciar o trabalho; nos meses seguintes, surgiram dificuldades na busca de direção e implementação, e as pessoas começaram a tornar-se racionais; agora, elas estão focadas em empresas de referência, tentando validar cenários testados.

Uma nova tendência é que várias instituições financeiras elevaram os grandes modelos a um nível estratégico. De acordo com estatísticas incompletas, entre as empresas listadas na A-share, pelo menos 11 bancos mencionaram claramente em seus últimos relatórios semestrais que estão explorando a aplicação de grandes modelos. A partir das ações recentes, eles também estão realizando um pensamento e um planejamento de caminho mais claros a partir de uma perspectiva estratégica e de design de alto nível.

De entusiasmo elevado a retorno racional

"Comparado a alguns meses atrás, agora é possível sentir claramente que os clientes financeiros entenderam muito melhor os grandes modelos." Um especialista sênior afirmou que, no início do ano, quando o ChatGPT foi lançado, o entusiasmo era alto, mas a compreensão sobre o que exatamente são os grandes modelos e como usá-los era, na verdade, muito limitada.

Nesta fase, alguns grandes bancos tomaram a dianteira e começaram a fazer várias promoções de "aproveitamento de hype". Por exemplo, em março deste ano, um banco lançou uma aplicação de modelo de grande escala semelhante ao ChatGPT. Mas as avaliações da indústria foram mistas. Na época, alguns acreditavam que o nome deste produto enfatizava o Chat, que não é tão importante no ChatGPT, e ignorava a parte realmente importante que é o GPT.

Ao mesmo tempo, com várias empresas de tecnologia nacionais lançando modelos grandes, alguns departamentos de tecnologia de instituições financeiras de topo começaram a negociar ativamente com grandes empresas sobre a construção de modelos grandes. Essas instituições financeiras geralmente esperam estabelecer seus próprios modelos grandes, necessitando da orientação dos fornecedores sobre a produção de conjuntos de dados, aquisição de servidores e métodos de treinamento, entre outros. Algumas empresas de tecnologia financeira até sugeriram se, após a conclusão, poderiam ainda exportar para concorrentes.

Após maio, a situação começou a mudar gradualmente. Devido à escassez de recursos de computação e aos altos custos, muitas instituições financeiras começaram a mudar de uma expectativa de construir suas próprias capacidades de computação e modelos, para uma maior atenção ao valor da aplicação. "Agora, cada instituição financeira está interessada em saber o que outras instituições fizeram com grandes modelos e quais resultados conseguiram."

Especificamente para empresas de diferentes tamanhos, foram traçados dois caminhos. As grandes instituições financeiras, que possuem uma enorme quantidade de dados financeiros e cenários de aplicação, podem introduzir modelos de base de ponta, construir seus próprios grandes modelos empresariais e, ao mesmo tempo, adotar a forma de ajuste fino, formando modelos de tarefa em áreas profissionais, capacitando rapidamente os negócios, a fim de compensar a desvantagem do longo ciclo de construção de grandes modelos. Já as pequenas e médias instituições financeiras podem considerar o retorno sobre o investimento, introduzindo conforme necessário serviços em nuvem de vários grandes modelos ou implementações privatizadas, atendendo diretamente às necessidades de capacitação.

No entanto, devido às exigências elevadas do setor financeiro em relação à conformidade, segurança e confiabilidade dos dados, algumas pessoas acreditam que o progresso na implementação de grandes modelos neste setor está, na verdade, ligeiramente atrasado em relação às previsões iniciais do início do ano. Especialistas afirmaram que inicialmente previam que o setor financeiro poderia ser o primeiro a adotar em larga escala grandes modelos, mas, com base na situação final de integração com os clientes, o setor financeiro não avançou tão rapidamente quanto os setores jurídico e de recrutamento.

Algumas instituições financeiras já começaram a encontrar maneiras de resolver as várias limitações no processo de implementação de grandes modelos.

Na área de poder de cálculo, especialistas da indústria observaram várias abordagens para a solução:

Primeiro, construir diretamente a capacidade de computação, o custo é relativamente alto, mas a segurança é suficiente. Adequado para instituições financeiras grandes e poderosas que desejam construir modelos de grande porte para a indústria ou empresas.

Em segundo lugar, a implantação mista de capacidade computacional, sem a saída de dados sensíveis do domínio, aceita chamadas para interfaces de serviços de grandes modelos na nuvem pública, enquanto processa dados locais através de uma implantação privada. Este método tem um custo relativamente baixo, necessitando apenas de um investimento de algumas dezenas de milhares de yuan para adquirir algumas placas de cálculo, sendo adequado para instituições financeiras de pequeno e médio porte com recursos financeiros relativamente limitados e aplicações sob demanda.

No entanto, mesmo assim, muitas instituições pequenas e médias ainda enfrentam o problema de não conseguirem comprar ou não poderem pagar pelas placas GPU necessárias para os grandes modelos. Em relação a esse problema, há notícias de que os órgãos reguladores estão a estudar se é possível, de forma a encontrar um meio-termo, liderar a construção de uma infraestrutura de grandes modelos voltada para a indústria de valores mobiliários, concentrando recursos de computação e grandes modelos gerais, para que as instituições financeiras pequenas e médias do setor também possam utilizar os serviços de grandes modelos, evitando que fiquem tecnologicamente atrasadas.

Não é apenas poder de computação, com a exploração de grandes modelos nos últimos seis meses, muitas instituições financeiras também começaram a fortalecer a governança de dados.

Especialistas afirmam que, atualmente, além dos grandes bancos que têm práticas consolidadas na área de governança de dados, um número crescente de instituições financeiras de médio porte também está começando a construir plataformas de dados e sistemas de governança de dados. Eles acreditam que a construção de um sistema de governança de dados completo e de uma plataforma tecnológica de data lake será um dos temas importantes na construção de TI das instituições financeiras no futuro.

Há também bancos que estão resolvendo problemas de dados através de grandes modelos + MLOps. Por exemplo, um determinado banco adotou o modelo MLOps para estabelecer um sistema de fechamento de dados de grandes modelos, alcançando a automação de todo o processo, bem como a gestão unificada e o processamento eficiente de dados de múltiplas fontes e heterogêneos. Segundo relatos, atualmente já foram construídos e sedimentados 2,6TB de conjuntos de dados de treinamento de alta qualidade.

A partir de cenários externos

Nos últimos seis meses, tanto os fornecedores de grandes modelos como as principais instituições financeiras têm procurado ativamente cenários de aplicação. Áreas como escritório inteligente, desenvolvimento inteligente, marketing inteligente, atendimento ao cliente inteligente, pesquisa de investimentos inteligente, controle de risco inteligente e análise de demanda estão sendo amplamente exploradas.

Como disse um executivo de uma empresa de tecnologia financeira, "cada função crítica na cadeia de negócios financeiros merece ser refeita com tecnologia de grandes modelos." A empresa lançou recentemente um grande modelo financeiro e, em colaboração com instituições parceiras, está testando e construindo produtos de grandes modelos voltados para a indústria financeira, com o objetivo de criar assistentes de negócios em IA de cadeia completa para especialistas em finanças, como consultores de investimentos, agentes de seguros, pesquisa e investimento, marketing financeiro e regulação de sinistros.

As instituições financeiras têm muitas ideias sobre grandes modelos. Um banco afirmou que já possui mais de 20 cenários de aplicação interna, outro banco declarou que realizou testes em mais de 30 cenários, enquanto uma corretora de valores está explorando a integração de grandes modelos com a plataforma de humanos digitais que foi lançada anteriormente.

Mas, ao implementar realmente grandes modelos nos negócios, há um consenso geral de que deve-se começar internamente antes de ir para o externo. Afinal, a tecnologia dos grandes modelos ainda não está madura nesta fase, como o problema das alucinações, enquanto o setor financeiro é uma indústria fortemente regulada, de alta segurança e alta confiabilidade.

Há especialistas que acreditam que, a curto prazo, não é aconselhável usar modelos grandes diretamente voltados para os clientes. As instituições financeiras devem priorizar o uso de modelos grandes em cenários intensivos em inteligência, como a análise e compreensão de textos e imagens financeiras, implementando-os na forma de assistentes para realizar a colaboração homem-máquina e aumentar a eficiência do trabalho dos funcionários.

Atualmente, o assistente de código já foi implementado em várias instituições financeiras. Por exemplo, um banco construiu um sistema de pesquisa e desenvolvimento inteligente baseado em um grande modelo, onde a quantidade de código gerada pelo assistente de codificação representa 40% do total de código. No setor de seguros, uma companhia de seguros desenvolveu um plugin de programação assistida baseado em um grande modelo, integrado diretamente nas ferramentas de desenvolvimento internas.

Há muitos casos de implementação na área de escritórios inteligentes. Especialistas introduziram um sistema de perguntas e respostas para agências, baseado em grandes modelos financeiros, que foi lançado em um banco e já foi promovido para centenas de agências, com uma taxa de aceitação de respostas superior a 85%. Atualmente, esta solução foi rapidamente replicada em outros bancos e instituições financeiras.

No entanto, especialistas da indústria acreditam que esses cenários que já estão amplamente implementados ainda não são aplicações centrais das instituições financeiras, e que os grandes modelos ainda estão a alguma distância de penetrar nos níveis de negócios da indústria financeira.

Especialistas preveem que, antes do final deste ano, haverá uma série de projetos de construção ou informações de licitação que realmente utilizam grandes modelos em cenários de negócios centrais de instituições financeiras.

Antes disso, algumas mudanças no nível do design de alto nível estão em andamento. Alguns estudiosos acreditam que todo o sistema de inteligência e digitalização do futuro será reconstruído com base em grandes modelos. Isso exige que a indústria financeira reestruture seus sistemas durante o processo de implementação de grandes modelos. Ao mesmo tempo, não se pode ignorar o valor dos tradicionais pequenos modelos, devendo promover a colaboração entre grandes e pequenos modelos.

Esta tendência já está amplamente refletida na indústria financeira. Atualmente, as instituições financeiras estão a testar grandes modelos, adotando basicamente um modelo em camadas. Diferente do passado, onde era necessário construir uma plataforma de forma isolada para cada cenário, os grandes modelos ofereceram às instituições financeiras a oportunidade de planejar todo o sistema de forma mais científica, começando do zero.

Pode-se ver que atualmente várias instituições financeiras líderes já construíram uma estrutura de sistema em camadas, que inclui a camada de infraestrutura, camada de modelo, camada de serviços de grandes modelos e camada de aplicação, baseada em grandes modelos.

Esses sistemas de estrutura geralmente têm duas grandes características: a primeira, o grande modelo exerce a capacidade central, chamando modelos tradicionais como habilidades; a segunda, a camada do grande modelo adota uma estratégia de múltiplos modelos, comparando internamente e selecionando o melhor desempenho.

Na verdade, não são apenas as instituições financeiras que, em um cenário ainda indefinido, estão adotando uma estratégia de múltiplos modelos; alguns provedores de aplicações de grandes modelos também o fazem, priorizando a eficácia dos serviços. Especialistas revelaram que a camada de modelos subjacente deles integra uma grande quantidade de grandes modelos de linguagem, e com base nas respostas retornadas por cada grande modelo, eles montam uma seleção otimizada para os usuários.

A falta de talentos continua a ser enorme

A aplicação de grandes modelos já começou a trazer alguns desafios e mudanças na estrutura de pessoal da indústria financeira.

Anteriormente, houve notícias de que, com o surgimento do ChatGPT, uma empresa de tecnologia financeira demitiu mais de 300 analistas de big data de janeiro até o final de maio deste ano. E, há alguns anos, essa ainda era uma profissão bastante procurada. Isso gerou ansiedade entre os profissionais do setor, que até começaram a considerar antecipadamente questões sobre a escolha de carreira da próxima geração.

Um especialista de um banco também compartilhou o efeito de substituição das grandes modelos em relação às pessoas. Antigamente, a instituição tinha estagiários que resumiam e compilavam informações diversas todas as manhãs, que eram então enviadas ao departamento de pesquisa e investimento, mas agora esse trabalho pode ser realizado por grandes modelos.

No entanto, alguns bancos na verdade não desejam que os grandes modelos levem à redução de pessoal. Por exemplo, um grande banco com 200 mil funcionários em suas agências declarou claramente que não deseja que os funcionários sejam substituídos por grandes modelos, mas sim que esperam que os grandes modelos tragam novas oportunidades, melhorem a qualidade do serviço e a eficiência do trabalho dos funcionários, ao mesmo tempo em que liberam alguns funcionários para se dedicarem a trabalhos de maior valor.

Isto inclui considerações sobre a estabilidade das pessoas e das estruturas. Por outro lado, também se deve ao fato de que muitos cargos ainda apresentam uma falta de talentos.

Especialistas afirmam que os grandes bancos têm uma grande quantidade de trabalho para completar, com alguns prazos de requisitos de TI até o final do próximo ano. Eles esperam que os grandes modelos possam ajudar os funcionários a realizar mais trabalho, aumentando a eficiência e a velocidade, em vez de resultar em cortes de pessoal.

Mais importante ainda, o rápido desenvolvimento dos grandes modelos torna difícil, em um curto espaço de tempo, que a oferta de talentos escassos atenda à crescente demanda. É como quando o iPhone apareceu pela primeira vez, quando todos queriam desenvolver aplicações, mas era muito difícil encontrar programadores iOS.

Em uma recente conferência de tecnologia financeira, um executivo de um banco resumiu os 6 principais desafios que a indústria financeira enfrenta atualmente ao incorporar capacidades de grandes modelos nos processos de negócios centrais, sendo um deles a escassez de talentos. Ele mencionou que uma alta proporção dos novos funcionários contratados recentemente está estudando no campo da IA, mas há poucos talentos que compreendem grandes modelos.

Especialistas têm uma profunda compreensão disso; recentemente, receberam um pedido de apoio de talentos de um cliente bancário. Este banco, devido a um membro da sua equipe de grandes modelos que se encontra em licença temporária, enfrenta um problema de falta de pessoal no trabalho de treinamento do modelo e foi forçado a procurar apoio externo temporariamente.

"Atualmente, realmente há poucos talentos nessa área, e ainda levará algum tempo para cultivá-los." O especialista acredita que a demanda por talentos que aplicam diretamente grandes modelos é relativamente simples, precisando principalmente de pessoas que saibam fazer perguntas. No entanto, se for necessário construir um grande modelo para um setor ou empresa, as instituições financeiras precisarão ter uma equipe técnica especializada em grandes modelos verticais.

Outro especialista também admitiu que há uma grande lacuna de talentos na área dos grandes modelos de IA. As principais instituições estão atualmente a recrutar talentos relacionados com a IA, como doutores em algoritmos. Isso se deve ao fato de que, embora os clientes financeiros possam obter suporte técnico dos fornecedores de grandes modelos, eles são, afinal, os usuários finais e os líderes de inovação, necessitando de uma certa acumulação de talentos para sustentar a construção de grandes plataformas de IA, o planejamento de várias aplicações de IA, bem como, no processo de modelagem, ajuste e afinação, colaborar com os fornecedores de grandes modelos para realizar sobreposições de cenários e modelos, otimizando continuamente a gama e a eficácia das aplicações de modelos de IA.

Alguns participantes já tomaram medidas. Algumas empresas uniram-se à equipa de recursos humanos de um laboratório bancário, analisando a prática de transformação de pessoal da aplicação de grandes modelos nas empresas e projetando uma série de formações.