Estado atual e perspectivas da aplicação de grandes modelos na indústria financeira
Desde o surgimento do ChatGPT, a ansiedade da indústria financeira em relação à tecnologia de inteligência artificial se espalhou rapidamente. Um profissional do setor afirmou que, em maio deste ano, durante uma viagem de negócios a Dali, até mesmo em um templo ele encontrou profissionais financeiros discutindo sobre grandes modelos.
No entanto, essa ansiedade está gradualmente diminuindo, e a percepção da indústria sobre grandes modelos está se tornando mais racional. Sun Hongjun, CTO do Banco Softcom, descreveu várias fases da atitude da indústria financeira em relação a grandes modelos este ano: de fevereiro a março, havia uma ansiedade generalizada; de abril a maio, diversas equipes foram formadas para trabalhar em relação ao tema; nos meses seguintes, encontraram dificuldades na busca por direção e implementação, começando a se tornar mais racionais; agora, estão se referindo a benchmarks e tentando validar cenários de aplicação já testados.
É importante notar que muitas instituições financeiras já elevaram os grandes modelos ao nível estratégico. Segundo estatísticas incompletas, pelo menos 11 bancos listados na bolsa A apresentaram em seus últimos relatórios semestrais que estão explorando a aplicação de grandes modelos. Com base nas tendências recentes, estão realizando um pensamento e planejamento de caminhos mais claros a partir de uma perspectiva estratégica e de design de alto nível.
Da paixão desenfreada ao retorno à razão
Um especialista sénior da indústria financeira de uma grande empresa de tecnologia afirmou que, em comparação com alguns meses atrás, a compreensão dos clientes financeiros sobre grandes modelos aumentou significativamente. No início do ano, quando o ChatGPT foi lançado, embora o entusiasmo fosse elevado, a compreensão da essência e das formas de aplicação dos grandes modelos era limitada.
Nesta fase, alguns grandes bancos tomaram a iniciativa e começaram a realizar várias campanhas de divulgação. Por exemplo, em março deste ano, um grande banco lançou uma aplicação de modelo de grande escala semelhante ao ChatGPT, mas a avaliação na indústria foi mista. Na época, alguns acreditavam que o nome da aplicação enfatizava excessivamente a funcionalidade de chat, ignorando a parte mais importante do GPT.
Com o lançamento de grandes modelos por várias empresas de tecnologia, os departamentos de tecnologia de algumas instituições financeiras de topo começaram a discutir ativamente a construção de grandes modelos com grandes empresas de tecnologia. Fontes experientes revelaram que essas instituições financeiras geralmente desejam desenvolver grandes modelos de forma independente, buscando orientações sobre a construção de conjuntos de dados, configuração de servidores e métodos de treinamento. Uma empresa de tecnologia financeira de um grande banco até expressou o desejo de concluir a entrega de capacidades relacionadas para o setor.
Após maio, a situação começou a mudar. Devido à escassez de recursos de potência computacional e aos altos custos, muitas instituições financeiras passaram de um simples desejo de construir suas próprias potências e modelos para uma maior preocupação com o valor aplicado. "Agora, cada instituição financeira está prestando atenção em como outras instituições aplicam grandes modelos e os resultados obtidos."
Para empresas de diferentes tamanhos, duas vias de desenvolvimento foram formadas. As grandes instituições financeiras, que possuem uma enorme quantidade de dados financeiros e cenários de aplicação, podem introduzir modelos de base de ponta da indústria, construir seus próprios modelos empresariais e, ao mesmo tempo, adotar uma abordagem de ajuste fino para formar modelos de tarefa em áreas especializadas, capacitando rapidamente os negócios. As pequenas e médias instituições financeiras podem considerar o retorno sobre o investimento e, conforme necessário, introduzir APIs de nuvem pública de vários modelos ou serviços de implantação privada para atender diretamente às necessidades de negócios.
No entanto, devido às altas exigências de conformidade, segurança e confiabilidade dos dados na indústria financeira, algumas pessoas acreditam que o progresso na implementação de modelos de grande escala neste setor está, na verdade, um pouco mais lento do que o esperado no início do ano. Sun Hongjun, da Softcom Power, afirmou que inicialmente esperavam que a indústria financeira fosse a primeira a usar modelos de grande escala em larga escala, mas, com base na situação de integração final com os clientes, a velocidade de aplicação na indústria financeira não é tão rápida quanto na indústria jurídica, de recrutamento, entre outras.
Algumas instituições financeiras começaram a buscar soluções para os vários fatores limitantes no processo de implementação de grandes modelos.
Na área de poder computacional, os especialistas do setor observaram algumas abordagens de solução:
Construir diretamente a capacidade de computação, com custos mais elevados, mas boa segurança, adequado para instituições financeiras grandes e poderosas que desejam construir grandes modelos de setor ou empresas.
Implantação mista de capacidade computacional, aceitando chamadas de interfaces de serviços de grandes modelos a partir da nuvem pública, enquanto processa serviços de dados locais através de implantação privada, sem que dados sensíveis saiam do domínio. Este método tem um custo relativamente baixo e é adequado para instituições financeiras de médio e pequeno porte com recursos financeiros limitados e aplicações sob demanda.
No entanto, muitas pequenas e médias instituições ainda enfrentam a dificuldade de adquirir placas GPU necessárias para modelos grandes, além do alto custo. Para abordar essa questão, as autoridades estão realizando pesquisas sobre o tema, explorando a possibilidade de construir, de forma a fazer compromissos, uma infraestrutura de modelos grandes voltada para setores específicos, concentrando poder de cálculo e recursos de modelos grandes genéricos, para que também instituições financeiras pequenas e médias do setor possam utilizar serviços de modelos grandes, evitando a "atraso tecnológico".
Na área de dados, nos últimos seis meses, com a exploração da implementação de grandes modelos, muitas instituições financeiras também têm gradualmente reforçado o trabalho de governança de dados.
Um executivo de uma grande empresa de tecnologia apresentou que, atualmente, além das grandes instituições que têm práticas maduras na área de governança de dados, cada vez mais instituições financeiras de médio porte também estão começando a construir plataformas de dados e sistemas de governança de dados. Ele acredita que a construção de um sistema de governança de dados completo e de uma plataforma tecnológica de lago de dados será um tema importante na construção de TI das instituições financeiras no futuro.
Além disso, os bancos estão resolvendo problemas de dados por meio de grandes modelos combinados com MLOps. Por exemplo, um grande banco adotou o modelo MLOps para estabelecer um sistema de ciclo fechado de dados de grandes modelos, alcançando a automação de todo o processo e a gestão unificada e o processamento eficiente de dados heterogêneos e de múltiplas fontes. Segundo informações, atualmente já foram construídos e sedimentados 2,6 TB de conjuntos de dados de treinamento de alta qualidade.
A partir do cenário externo
Nos últimos seis meses, tanto os provedores de serviços de grandes modelos quanto as principais instituições financeiras têm procurado ativamente cenários de aplicação. Áreas como escritório inteligente, desenvolvimento inteligente, marketing inteligente, atendimento ao cliente inteligente, pesquisa e investimento inteligente, controle de risco inteligente e análise de demanda estão sendo exploradas uma a uma.
Como disse um executivo de uma certa empresa de tecnologia, "Cada função chave na cadeia de negócios financeiros merece ser refeita usando tecnologia de grandes modelos." A empresa recentemente lançou um grande modelo voltado para a indústria financeira e está colaborando com instituições parceiras para testar internamente e construir produtos de grandes modelos para a indústria financeira, com o objetivo de criar assistentes de negócios baseados em IA para especialistas em finanças, como consultores financeiros, agentes de seguros, pesquisa de investimentos, marketing financeiro e indenizações de seguros.
As instituições financeiras também têm ricas ideias sobre a aplicação de grandes modelos. Um grande banco afirmou que já foram implementados mais de 20 cenários internamente, enquanto outro banco indicou que realizou pilotos em mais de 30 cenários. Uma corretora de valores está explorando a integração de grandes modelos com uma plataforma de humanos digitais virtuais que foi lançada anteriormente.
Mas ao realmente implementar grandes modelos nos negócios, há um consenso geral na indústria de que primeiro se deve aplicar internamente antes de usar externamente. Afinal, a tecnologia de grandes modelos ainda não está madura, como o problema da alucinação, e a indústria financeira é um setor altamente regulado, seguro e confiável.
O CTO de um grande banco sugere que, a curto prazo, não é aconselhável utilizar modelos grandes diretamente com os clientes. As instituições financeiras devem priorizar a aplicação de modelos grandes em cenários intensivos em conhecimento, como a análise e compreensão de textos financeiros e imagens financeiras, de forma assistencial para realizar a colaboração entre humanos e máquinas, melhorando a eficiência dos funcionários.
Atualmente, o assistente de código já foi implementado em várias instituições financeiras. Por exemplo, um grande banco construiu um sistema de desenvolvimento inteligente baseado em modelos grandes, onde a quantidade de código gerada pelo assistente de codificação representa 40% do total de código. No setor de seguros, uma companhia de seguros desenvolveu um plugin de programação assistida baseado em modelos grandes, incorporando-o diretamente nas ferramentas de desenvolvimento internas.
Algumas empresas de tecnologia também estão a desenvolver produtos prontos a usar para clientes financeiros, com base na capacidade de geração de código de grandes modelos. Sun Hongjun da SoftStone explicou que um dos seus produtos, além da capacidade de completar código de grandes modelos, adicionou funcionalidades como divisão de tarefas, respostas precisas e superação de limitações de contexto, permitindo que os utilizadores o utilizem imediatamente. Este produto já está a ser utilizado por mais de 3000 pessoas em um banco internacional, com uma taxa de conclusão automática de código de 50% a 90%.
Existem também muitos casos práticos na área de escritório inteligente. O responsável pelo produto de grande modelo na indústria financeira de uma grande empresa de tecnologia informou que a funcionalidade de perguntas e respostas para agências, baseada em um grande modelo financeiro, foi lançada em julho em um grande banco e já foi promovida para centenas de agências, com uma taxa de aceitação das respostas superior a 85%. Atualmente, essa funcionalidade já foi rapidamente replicada em vários bancos e instituições financeiras.
No entanto, os especialistas da indústria acreditam que esses cenários já amplamente implementados ainda não são as aplicações principais das instituições financeiras, e que os grandes modelos ainda estão a alguma distância de se aprofundarem nos níveis de negócios da indústria financeira.
Sun Hongjun afirmou que, no que diz respeito aos cenários de aplicação de negócios, a dificuldade é bastante grande. Os cenários de marketing, gestão de risco e conformidade são áreas onde os grandes modelos podem trazer uma revolução e onde estão as necessidades dos clientes financeiros, mas atualmente esses trabalhos ainda dependem da melhoria das capacidades dos fornecedores de grandes modelos subjacentes, para que se possa avançar na aplicação de cenários de negócios.
Um especialista sênior em grandes modelos de uma grande empresa de tecnologia previu que, até o final deste ano, haverá uma série de projetos de construção ou informações sobre licitações que realmente aplicam grandes modelos em cenários de negócios centrais de instituições financeiras.
Antes disso, algumas reformas a nível de design de topo estavam em andamento.
Especialistas acreditam que, no futuro, todo o sistema de inteligência e digitalização será reestruturado com base em grandes modelos. Isso exige que o setor financeiro reestruture seus sistemas durante a implementação desses grandes modelos. Ao mesmo tempo, não se deve ignorar o valor dos modelos menores, mas sim permitir que os grandes e os pequenos modelos trabalhem em conjunto.
Esta tendência já está amplamente refletida no setor financeiro. Atualmente, várias instituições financeiras de destaque já construíram uma estrutura de sistema em camadas que inclui camadas de infraestrutura, camadas de modelo, camadas de serviços de grandes modelos e camadas de aplicação, com base em grandes modelos.
Esses sistemas de estrutura geralmente têm duas grandes características: a primeira é que o grande modelo exerce uma capacidade central, utilizando modelos tradicionais como habilidades para serem invocadas; a segunda é que a camada do grande modelo adota uma estratégia de múltiplos modelos, comparando internamente para selecionar o melhor desempenho.
Na verdade, não apenas instituições financeiras, mas também alguns fornecedores de aplicações de grandes modelos adotam uma estratégia de múltiplos modelos, priorizando a eficácia do serviço, numa situação em que o atual cenário ainda não está claro. Sun Hongjun revelou que a sua camada de modelo subjacente também integra vários grandes modelos de linguagem, que são montados e otimizados com base nas respostas de cada grande modelo antes de serem fornecidos aos usuários.
A escassez de talentos continua a ser enorme
A aplicação de grandes modelos já começou a trazer alguns desafios e mudanças na estrutura de pessoal da indústria financeira.
Pessoas de empresas de tecnologia financeira afirmam que, com a chegada do ChatGPT, de início deste ano até o final de maio, sua empresa já demitiu mais de 300 analistas de big data. E há alguns anos essa era uma profissão em alta. Isso gerou preocupações sobre o futuro do emprego.
Um especialista de um grande banco também compartilhou o efeito de substituição que os grandes modelos têm sobre as pessoas. Anteriormente, estagiários do banco resumiam informações de várias áreas para o departamento de pesquisa e investimento todas as manhãs, mas agora esses trabalhos podem ser realizados por grandes modelos.
No entanto, alguns bancos não desejam que os grandes modelos resultem em despedimentos. Um grande banco com 200.000 funcionários em agências declarou claramente que espera que os grandes modelos tragam novas oportunidades, melhorem a qualidade do serviço ao cliente e a eficiência do trabalho, ao mesmo tempo que libertem alguns funcionários para realizarem trabalhos de maior valor, em vez de substituir os funcionários.
Nesta questão, há tanto considerações sobre a estabilidade de pessoal e estrutura, como também o fato de que muitos cargos ainda apresentam lacunas de talentos. Sun Hongjun afirmou que os grandes bancos têm uma enorme quantidade de trabalho a ser realizado, e que parte das necessidades de TI tem prazos que se estendem até o final do próximo ano. Eles esperam que os grandes modelos possam ajudar os funcionários a aumentar a eficiência, e não a reduzir o número de pessoal.
Mais importante ainda, o rápido desenvolvimento dos grandes modelos fez com que a oferta de talentos escassos não conseguisse acompanhar a demanda crescente a curto prazo. É como quando o iPhone apareceu pela primeira vez e era difícil encontrar programadores iOS para desenvolver aplicativos.
Um alto executivo de um grande banco resumiu os 6 principais desafios que a indústria financeira enfrenta atualmente na aplicação de grandes modelos nos processos de negócios principais, sendo um deles o talento. Recentemente, ao recrutar novos funcionários e em processos de recrutamento de graduados, descobriram que a proporção de pessoas que estudaram na área de IA é muito alta, mas o número de pessoas que entendem grandes modelos é muito baixo.
Sun Hongjun também teve uma experiência semelhante. Uma semana antes do Dia Nacional, eles acabaram de receber um pedido de apoio de talentos de um cliente do banco. Alguém da equipe de grandes modelos do banco, que foi construída internamente, pediu licença temporariamente, resultando em uma falta de pessoal para o trabalho de treino do modelo, obrigando-os a buscar apoio externo.
"Atualmente, realmente há poucos talentos nessa área, e ainda é necessário um certo tempo para cultivá-los." Sun Hongjun acredita que a demanda por talentos que aplicam diretamente grandes modelos é relativamente simples, sendo principalmente pessoas que sabem fazer perguntas. Mas, se for para construir um grande modelo específico para o setor ou empresa, as instituições financeiras precisam ter uma equipe técnica de grandes modelos verticais competente.
Um executivo de uma grande empresa de tecnologia também admitiu que a lacuna de talentos em grandes modelos de IA é muito grande, e as principais instituições estão atualmente recrutando talentos relacionados à IA, como doutores em algoritmos. Isso se deve ao fato de que, embora os clientes financeiros possam obter suporte técnico dos fornecedores de grandes modelos, como usuários finais e líderes de inovação, é necessário um certo acúmulo de talentos para sustentar a construção de grandes plataformas de IA, o planejamento de aplicações de IA, bem como colaborar com os fornecedores de grandes modelos durante o processo de modelagem e ajuste para otimizar cenários e modelos, expandindo continuamente o alcance e a eficácia das aplicações de modelos de IA.
Algumas instituições tomaram medidas. O responsável por uma grande empresa de tecnologia explicou que eles colaboraram especificamente com o laboratório de um grande banco para organizar as práticas de transformação de pessoal da aplicação de grandes modelos nas empresas, projetando uma série de cursos de formação sobre ajuste de Prompt, ajuste fino, operação de grandes modelos, entre outros, e colaborando com vários departamentos para estabelecer um grupo de projeto conjunto, promovendo a melhoria das capacidades dos funcionários da empresa.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
11 gostos
Recompensa
11
4
Partilhar
Comentar
0/400
AirdropChaser
· 4h atrás
Dentro e fora do palácio, tudo está em rotação com a ai.
Ver originalResponder0
HodlKumamon
· 5h atrás
Restaurante de vinho imperial de jade deitado no meio da praça racional de dados Esta onda não perde.jpg Não negocie criptomoedas, apenas veja moedas Calcule online a razão de Sharpe
Tendências de aplicação de grandes modelos no setor financeiro: da ansiedade à racionalidade A escassez de talentos continua a ser um desafio
Estado atual e perspectivas da aplicação de grandes modelos na indústria financeira
Desde o surgimento do ChatGPT, a ansiedade da indústria financeira em relação à tecnologia de inteligência artificial se espalhou rapidamente. Um profissional do setor afirmou que, em maio deste ano, durante uma viagem de negócios a Dali, até mesmo em um templo ele encontrou profissionais financeiros discutindo sobre grandes modelos.
No entanto, essa ansiedade está gradualmente diminuindo, e a percepção da indústria sobre grandes modelos está se tornando mais racional. Sun Hongjun, CTO do Banco Softcom, descreveu várias fases da atitude da indústria financeira em relação a grandes modelos este ano: de fevereiro a março, havia uma ansiedade generalizada; de abril a maio, diversas equipes foram formadas para trabalhar em relação ao tema; nos meses seguintes, encontraram dificuldades na busca por direção e implementação, começando a se tornar mais racionais; agora, estão se referindo a benchmarks e tentando validar cenários de aplicação já testados.
É importante notar que muitas instituições financeiras já elevaram os grandes modelos ao nível estratégico. Segundo estatísticas incompletas, pelo menos 11 bancos listados na bolsa A apresentaram em seus últimos relatórios semestrais que estão explorando a aplicação de grandes modelos. Com base nas tendências recentes, estão realizando um pensamento e planejamento de caminhos mais claros a partir de uma perspectiva estratégica e de design de alto nível.
Da paixão desenfreada ao retorno à razão
Um especialista sénior da indústria financeira de uma grande empresa de tecnologia afirmou que, em comparação com alguns meses atrás, a compreensão dos clientes financeiros sobre grandes modelos aumentou significativamente. No início do ano, quando o ChatGPT foi lançado, embora o entusiasmo fosse elevado, a compreensão da essência e das formas de aplicação dos grandes modelos era limitada.
Nesta fase, alguns grandes bancos tomaram a iniciativa e começaram a realizar várias campanhas de divulgação. Por exemplo, em março deste ano, um grande banco lançou uma aplicação de modelo de grande escala semelhante ao ChatGPT, mas a avaliação na indústria foi mista. Na época, alguns acreditavam que o nome da aplicação enfatizava excessivamente a funcionalidade de chat, ignorando a parte mais importante do GPT.
Com o lançamento de grandes modelos por várias empresas de tecnologia, os departamentos de tecnologia de algumas instituições financeiras de topo começaram a discutir ativamente a construção de grandes modelos com grandes empresas de tecnologia. Fontes experientes revelaram que essas instituições financeiras geralmente desejam desenvolver grandes modelos de forma independente, buscando orientações sobre a construção de conjuntos de dados, configuração de servidores e métodos de treinamento. Uma empresa de tecnologia financeira de um grande banco até expressou o desejo de concluir a entrega de capacidades relacionadas para o setor.
Após maio, a situação começou a mudar. Devido à escassez de recursos de potência computacional e aos altos custos, muitas instituições financeiras passaram de um simples desejo de construir suas próprias potências e modelos para uma maior preocupação com o valor aplicado. "Agora, cada instituição financeira está prestando atenção em como outras instituições aplicam grandes modelos e os resultados obtidos."
Para empresas de diferentes tamanhos, duas vias de desenvolvimento foram formadas. As grandes instituições financeiras, que possuem uma enorme quantidade de dados financeiros e cenários de aplicação, podem introduzir modelos de base de ponta da indústria, construir seus próprios modelos empresariais e, ao mesmo tempo, adotar uma abordagem de ajuste fino para formar modelos de tarefa em áreas especializadas, capacitando rapidamente os negócios. As pequenas e médias instituições financeiras podem considerar o retorno sobre o investimento e, conforme necessário, introduzir APIs de nuvem pública de vários modelos ou serviços de implantação privada para atender diretamente às necessidades de negócios.
No entanto, devido às altas exigências de conformidade, segurança e confiabilidade dos dados na indústria financeira, algumas pessoas acreditam que o progresso na implementação de modelos de grande escala neste setor está, na verdade, um pouco mais lento do que o esperado no início do ano. Sun Hongjun, da Softcom Power, afirmou que inicialmente esperavam que a indústria financeira fosse a primeira a usar modelos de grande escala em larga escala, mas, com base na situação de integração final com os clientes, a velocidade de aplicação na indústria financeira não é tão rápida quanto na indústria jurídica, de recrutamento, entre outras.
Algumas instituições financeiras começaram a buscar soluções para os vários fatores limitantes no processo de implementação de grandes modelos.
Na área de poder computacional, os especialistas do setor observaram algumas abordagens de solução:
Construir diretamente a capacidade de computação, com custos mais elevados, mas boa segurança, adequado para instituições financeiras grandes e poderosas que desejam construir grandes modelos de setor ou empresas.
Implantação mista de capacidade computacional, aceitando chamadas de interfaces de serviços de grandes modelos a partir da nuvem pública, enquanto processa serviços de dados locais através de implantação privada, sem que dados sensíveis saiam do domínio. Este método tem um custo relativamente baixo e é adequado para instituições financeiras de médio e pequeno porte com recursos financeiros limitados e aplicações sob demanda.
No entanto, muitas pequenas e médias instituições ainda enfrentam a dificuldade de adquirir placas GPU necessárias para modelos grandes, além do alto custo. Para abordar essa questão, as autoridades estão realizando pesquisas sobre o tema, explorando a possibilidade de construir, de forma a fazer compromissos, uma infraestrutura de modelos grandes voltada para setores específicos, concentrando poder de cálculo e recursos de modelos grandes genéricos, para que também instituições financeiras pequenas e médias do setor possam utilizar serviços de modelos grandes, evitando a "atraso tecnológico".
Na área de dados, nos últimos seis meses, com a exploração da implementação de grandes modelos, muitas instituições financeiras também têm gradualmente reforçado o trabalho de governança de dados.
Um executivo de uma grande empresa de tecnologia apresentou que, atualmente, além das grandes instituições que têm práticas maduras na área de governança de dados, cada vez mais instituições financeiras de médio porte também estão começando a construir plataformas de dados e sistemas de governança de dados. Ele acredita que a construção de um sistema de governança de dados completo e de uma plataforma tecnológica de lago de dados será um tema importante na construção de TI das instituições financeiras no futuro.
Além disso, os bancos estão resolvendo problemas de dados por meio de grandes modelos combinados com MLOps. Por exemplo, um grande banco adotou o modelo MLOps para estabelecer um sistema de ciclo fechado de dados de grandes modelos, alcançando a automação de todo o processo e a gestão unificada e o processamento eficiente de dados heterogêneos e de múltiplas fontes. Segundo informações, atualmente já foram construídos e sedimentados 2,6 TB de conjuntos de dados de treinamento de alta qualidade.
A partir do cenário externo
Nos últimos seis meses, tanto os provedores de serviços de grandes modelos quanto as principais instituições financeiras têm procurado ativamente cenários de aplicação. Áreas como escritório inteligente, desenvolvimento inteligente, marketing inteligente, atendimento ao cliente inteligente, pesquisa e investimento inteligente, controle de risco inteligente e análise de demanda estão sendo exploradas uma a uma.
Como disse um executivo de uma certa empresa de tecnologia, "Cada função chave na cadeia de negócios financeiros merece ser refeita usando tecnologia de grandes modelos." A empresa recentemente lançou um grande modelo voltado para a indústria financeira e está colaborando com instituições parceiras para testar internamente e construir produtos de grandes modelos para a indústria financeira, com o objetivo de criar assistentes de negócios baseados em IA para especialistas em finanças, como consultores financeiros, agentes de seguros, pesquisa de investimentos, marketing financeiro e indenizações de seguros.
As instituições financeiras também têm ricas ideias sobre a aplicação de grandes modelos. Um grande banco afirmou que já foram implementados mais de 20 cenários internamente, enquanto outro banco indicou que realizou pilotos em mais de 30 cenários. Uma corretora de valores está explorando a integração de grandes modelos com uma plataforma de humanos digitais virtuais que foi lançada anteriormente.
Mas ao realmente implementar grandes modelos nos negócios, há um consenso geral na indústria de que primeiro se deve aplicar internamente antes de usar externamente. Afinal, a tecnologia de grandes modelos ainda não está madura, como o problema da alucinação, e a indústria financeira é um setor altamente regulado, seguro e confiável.
O CTO de um grande banco sugere que, a curto prazo, não é aconselhável utilizar modelos grandes diretamente com os clientes. As instituições financeiras devem priorizar a aplicação de modelos grandes em cenários intensivos em conhecimento, como a análise e compreensão de textos financeiros e imagens financeiras, de forma assistencial para realizar a colaboração entre humanos e máquinas, melhorando a eficiência dos funcionários.
Atualmente, o assistente de código já foi implementado em várias instituições financeiras. Por exemplo, um grande banco construiu um sistema de desenvolvimento inteligente baseado em modelos grandes, onde a quantidade de código gerada pelo assistente de codificação representa 40% do total de código. No setor de seguros, uma companhia de seguros desenvolveu um plugin de programação assistida baseado em modelos grandes, incorporando-o diretamente nas ferramentas de desenvolvimento internas.
Algumas empresas de tecnologia também estão a desenvolver produtos prontos a usar para clientes financeiros, com base na capacidade de geração de código de grandes modelos. Sun Hongjun da SoftStone explicou que um dos seus produtos, além da capacidade de completar código de grandes modelos, adicionou funcionalidades como divisão de tarefas, respostas precisas e superação de limitações de contexto, permitindo que os utilizadores o utilizem imediatamente. Este produto já está a ser utilizado por mais de 3000 pessoas em um banco internacional, com uma taxa de conclusão automática de código de 50% a 90%.
Existem também muitos casos práticos na área de escritório inteligente. O responsável pelo produto de grande modelo na indústria financeira de uma grande empresa de tecnologia informou que a funcionalidade de perguntas e respostas para agências, baseada em um grande modelo financeiro, foi lançada em julho em um grande banco e já foi promovida para centenas de agências, com uma taxa de aceitação das respostas superior a 85%. Atualmente, essa funcionalidade já foi rapidamente replicada em vários bancos e instituições financeiras.
No entanto, os especialistas da indústria acreditam que esses cenários já amplamente implementados ainda não são as aplicações principais das instituições financeiras, e que os grandes modelos ainda estão a alguma distância de se aprofundarem nos níveis de negócios da indústria financeira.
Sun Hongjun afirmou que, no que diz respeito aos cenários de aplicação de negócios, a dificuldade é bastante grande. Os cenários de marketing, gestão de risco e conformidade são áreas onde os grandes modelos podem trazer uma revolução e onde estão as necessidades dos clientes financeiros, mas atualmente esses trabalhos ainda dependem da melhoria das capacidades dos fornecedores de grandes modelos subjacentes, para que se possa avançar na aplicação de cenários de negócios.
Um especialista sênior em grandes modelos de uma grande empresa de tecnologia previu que, até o final deste ano, haverá uma série de projetos de construção ou informações sobre licitações que realmente aplicam grandes modelos em cenários de negócios centrais de instituições financeiras.
Antes disso, algumas reformas a nível de design de topo estavam em andamento.
Especialistas acreditam que, no futuro, todo o sistema de inteligência e digitalização será reestruturado com base em grandes modelos. Isso exige que o setor financeiro reestruture seus sistemas durante a implementação desses grandes modelos. Ao mesmo tempo, não se deve ignorar o valor dos modelos menores, mas sim permitir que os grandes e os pequenos modelos trabalhem em conjunto.
Esta tendência já está amplamente refletida no setor financeiro. Atualmente, várias instituições financeiras de destaque já construíram uma estrutura de sistema em camadas que inclui camadas de infraestrutura, camadas de modelo, camadas de serviços de grandes modelos e camadas de aplicação, com base em grandes modelos.
Esses sistemas de estrutura geralmente têm duas grandes características: a primeira é que o grande modelo exerce uma capacidade central, utilizando modelos tradicionais como habilidades para serem invocadas; a segunda é que a camada do grande modelo adota uma estratégia de múltiplos modelos, comparando internamente para selecionar o melhor desempenho.
Na verdade, não apenas instituições financeiras, mas também alguns fornecedores de aplicações de grandes modelos adotam uma estratégia de múltiplos modelos, priorizando a eficácia do serviço, numa situação em que o atual cenário ainda não está claro. Sun Hongjun revelou que a sua camada de modelo subjacente também integra vários grandes modelos de linguagem, que são montados e otimizados com base nas respostas de cada grande modelo antes de serem fornecidos aos usuários.
A escassez de talentos continua a ser enorme
A aplicação de grandes modelos já começou a trazer alguns desafios e mudanças na estrutura de pessoal da indústria financeira.
Pessoas de empresas de tecnologia financeira afirmam que, com a chegada do ChatGPT, de início deste ano até o final de maio, sua empresa já demitiu mais de 300 analistas de big data. E há alguns anos essa era uma profissão em alta. Isso gerou preocupações sobre o futuro do emprego.
Um especialista de um grande banco também compartilhou o efeito de substituição que os grandes modelos têm sobre as pessoas. Anteriormente, estagiários do banco resumiam informações de várias áreas para o departamento de pesquisa e investimento todas as manhãs, mas agora esses trabalhos podem ser realizados por grandes modelos.
No entanto, alguns bancos não desejam que os grandes modelos resultem em despedimentos. Um grande banco com 200.000 funcionários em agências declarou claramente que espera que os grandes modelos tragam novas oportunidades, melhorem a qualidade do serviço ao cliente e a eficiência do trabalho, ao mesmo tempo que libertem alguns funcionários para realizarem trabalhos de maior valor, em vez de substituir os funcionários.
Nesta questão, há tanto considerações sobre a estabilidade de pessoal e estrutura, como também o fato de que muitos cargos ainda apresentam lacunas de talentos. Sun Hongjun afirmou que os grandes bancos têm uma enorme quantidade de trabalho a ser realizado, e que parte das necessidades de TI tem prazos que se estendem até o final do próximo ano. Eles esperam que os grandes modelos possam ajudar os funcionários a aumentar a eficiência, e não a reduzir o número de pessoal.
Mais importante ainda, o rápido desenvolvimento dos grandes modelos fez com que a oferta de talentos escassos não conseguisse acompanhar a demanda crescente a curto prazo. É como quando o iPhone apareceu pela primeira vez e era difícil encontrar programadores iOS para desenvolver aplicativos.
Um alto executivo de um grande banco resumiu os 6 principais desafios que a indústria financeira enfrenta atualmente na aplicação de grandes modelos nos processos de negócios principais, sendo um deles o talento. Recentemente, ao recrutar novos funcionários e em processos de recrutamento de graduados, descobriram que a proporção de pessoas que estudaram na área de IA é muito alta, mas o número de pessoas que entendem grandes modelos é muito baixo.
Sun Hongjun também teve uma experiência semelhante. Uma semana antes do Dia Nacional, eles acabaram de receber um pedido de apoio de talentos de um cliente do banco. Alguém da equipe de grandes modelos do banco, que foi construída internamente, pediu licença temporariamente, resultando em uma falta de pessoal para o trabalho de treino do modelo, obrigando-os a buscar apoio externo.
"Atualmente, realmente há poucos talentos nessa área, e ainda é necessário um certo tempo para cultivá-los." Sun Hongjun acredita que a demanda por talentos que aplicam diretamente grandes modelos é relativamente simples, sendo principalmente pessoas que sabem fazer perguntas. Mas, se for para construir um grande modelo específico para o setor ou empresa, as instituições financeiras precisam ter uma equipe técnica de grandes modelos verticais competente.
Um executivo de uma grande empresa de tecnologia também admitiu que a lacuna de talentos em grandes modelos de IA é muito grande, e as principais instituições estão atualmente recrutando talentos relacionados à IA, como doutores em algoritmos. Isso se deve ao fato de que, embora os clientes financeiros possam obter suporte técnico dos fornecedores de grandes modelos, como usuários finais e líderes de inovação, é necessário um certo acúmulo de talentos para sustentar a construção de grandes plataformas de IA, o planejamento de aplicações de IA, bem como colaborar com os fornecedores de grandes modelos durante o processo de modelagem e ajuste para otimizar cenários e modelos, expandindo continuamente o alcance e a eficácia das aplicações de modelos de IA.
Algumas instituições tomaram medidas. O responsável por uma grande empresa de tecnologia explicou que eles colaboraram especificamente com o laboratório de um grande banco para organizar as práticas de transformação de pessoal da aplicação de grandes modelos nas empresas, projetando uma série de cursos de formação sobre ajuste de Prompt, ajuste fino, operação de grandes modelos, entre outros, e colaborando com vários departamentos para estabelecer um grupo de projeto conjunto, promovendo a melhoria das capacidades dos funcionários da empresa.