Applications des grands modèles dans le secteur financier : de l'anxiété à la rationalité, le coût de la puissance de calcul et les talents deviennent clés.
Application des grands modèles d'intelligence artificielle dans le secteur financier : d'une hausse d'enthousiasme à un retour à la raison
Depuis l'émergence de ChatGPT, le secteur financier a rapidement été envahi par l'anxiété. Cette industrie, qui a foi en la technologie, craint d'être laissée pour compte par le torrent d'une époque en pleine accélération. Cette atmosphère d'urgence s'est même propagée jusqu'aux temples paisibles. Selon des professionnels du secteur, lors d'un voyage d'affaires à Dali en mai, elle a rencontré dans un temple des acteurs financiers discutant des grands modèles.
Cependant, cette anxiété est en train de redevenir normale, et les pensées des gens commencent à devenir claires et rationnelles. Des experts ont décrit plusieurs étapes de l'attitude du secteur financier envers les grands modèles cette année : en février et mars, un sentiment général d'anxiété, craignant de prendre du retard ; en avril et mai, formation d'équipes pour travailler ; dans les mois suivants, des difficultés à trouver une direction et à concrétiser les projets, commençant à devenir rationnels ; maintenant, ils se concentrent sur les entreprises de référence, essayant de valider des scénarios éprouvés.
Une nouvelle tendance est que de nombreuses institutions financières ont élevé les grands modèles au niveau stratégique. Selon des statistiques non exhaustives, au moins 11 banques parmi les entreprises cotées en bourse A ont clairement indiqué dans leurs derniers rapports semestriels qu'elles explorent l'application des grands modèles. À en juger par les actions récentes, elles effectuent également une réflexion et une planification de chemin plus claires au niveau stratégique et au niveau de la conception de haut niveau.
De la hausse de l'enthousiasme au retour à la raison
"Comparé à il y a quelques mois, on peut clairement sentir que les clients financiers comprennent beaucoup mieux les grands modèles maintenant." a déclaré un expert. Au début de l'année, lorsque ChatGPT vient d'être lancé, bien que l'enthousiasme soit élevé, la compréhension de ce qu'est réellement un grand modèle et comment l'utiliser était en fait très limitée.
À ce stade, certaines grandes banques ont été les premières à agir, en lançant diverses campagnes de publicité pour "profiter de l'engouement". Par exemple, en mars de cette année, une banque a lancé une application de modèle de type ChatGPT. Cependant, les avis dans l'industrie étaient partagés. À l'époque, certains pensaient que le nom de ce produit mettait l'accent sur le Chat, qui n'est pas la partie la plus importante de ChatGPT, en négligeant plutôt le véritable élément important, le GPT.
Dans le même temps, alors que de nombreuses entreprises technologiques nationales publient progressivement des grands modèles, certains départements technologiques d'institutions financières de premier plan commencent à négocier activement avec de grandes entreprises concernant la construction de grands modèles. Ces institutions financières espèrent généralement établir leurs propres grands modèles et ont besoin des conseils des fournisseurs pour la création de jeux de données, l'achat de serveurs et les méthodes d'entraînement, entre autres. Certaines entreprises de technologie financière ont même proposé de savoir si, une fois terminés, ces modèles pourraient être exporter vers d'autres acteurs.
À partir de mai, la situation a progressivement changé. En raison de la pénurie de ressources en puissance de calcul et des coûts élevés, de nombreuses institutions financières ont commencé à se détourner de l'espoir de construire elles-mêmes leur propre puissance de calcul et leurs modèles, pour se concentrer davantage sur la valeur d'application. "Maintenant, chaque institution financière s'interroge sur ce que les autres institutions ont réalisé avec de grands modèles et quels résultats elles ont obtenus."
Concernant les entreprises de différentes tailles, deux voies se dessinent. Les grandes institutions financières disposant d'une énorme quantité de données financières et de scénarios d'application peuvent introduire des modèles fondamentaux avancés, construire leurs propres modèles d'entreprise et, en même temps, adopter une forme de réglage fin pour former des modèles de tâches spécifiques à leur domaine, permettant ainsi une activation rapide des activités pour compenser le inconvénient de la longue durée de construction des grands modèles. Les petites et moyennes institutions financières peuvent envisager le retour sur investissement et introduire des services cloud de divers grands modèles ou des déploiements privatifs en fonction de leurs besoins, répondant directement aux exigences d'activation.
Cependant, en raison des exigences élevées du secteur financier en matière de conformité des données, de sécurité et de fiabilité, certaines personnes estiment que les progrès de la mise en œuvre des grands modèles dans ce secteur sont en réalité légèrement en retard par rapport aux prévisions de début d'année. Des experts ont déclaré qu'ils avaient initialement prédit que le secteur financier pourrait être le premier à adopter massivement les grands modèles, mais d'après la situation finale de l'intégration des clients, les progrès du secteur financier ne sont pas aussi rapides que ceux des secteurs juridique et de recrutement.
Certaines institutions financières commencent à chercher des moyens de résoudre les diverses limitations lors du déploiement de grands modèles.
Dans le domaine de la puissance de calcul, les experts de l'industrie ont observé plusieurs pistes de solution :
Tout d'abord, construire directement la puissance de calcul soi-même a un coût relativement élevé, mais la sécurité est suffisante. Cela convient aux grandes institutions financières bien établies qui souhaitent construire leurs propres grands modèles d'industrie ou d'entreprise.
Deuxièmement, le déploiement hybride de la puissance de calcul, dans le cas où les données sensibles ne sortent pas du domaine, accepte l'appel à l'interface de service de grand modèle depuis le cloud public, tout en traitant les données locales par le biais d'un déploiement privatif. Cette méthode est moins coûteuse, nécessitant seulement un investissement de plusieurs dizaines de milliers de yuans pour acheter quelques cartes de calcul afin de répondre aux besoins, et convient aux institutions financières de taille moyenne et petite avec des ressources financières relativement limitées et des applications à la demande.
Cependant, même ainsi, de nombreuses petites et moyennes institutions font toujours face à la difficulté de ne pas pouvoir acheter ou se permettre les cartes GPU nécessaires pour les grands modèles. À ce sujet, des sources indiquent que les autorités de régulation étudient la possibilité de construire une infrastructure de grands modèles destinée au secteur des valeurs mobilières, en centralisant la puissance de calcul et les ressources de grands modèles généraux, afin que les petites et moyennes institutions financières du secteur puissent également utiliser les services de grands modèles, évitant ainsi qu'elles ne prennent du retard sur le plan technologique.
Non seulement la puissance de calcul, mais avec l'exploration de la mise en œuvre des grands modèles au cours des six derniers mois, de nombreuses institutions financières ont également progressivement renforcé la gouvernance des données.
Des experts expliquent qu'en plus des grandes banques qui ont des pratiques matures dans le domaine de la gouvernance des données, de plus en plus d'institutions financières de taille moyenne commencent également à construire des plateformes de données et des systèmes de gouvernance des données. Ils estiment que la construction d'un système de gouvernance des données complet et d'une plateforme technologique de lac de données sera un thème important pour les constructions informatiques des institutions financières à l'avenir.
Il y a aussi des banques qui résolvent des problèmes de données grâce à des modèles de grande taille + MLOps. Par exemple, une certaine banque a établi un système de boucle de données de modèle de grande taille en utilisant le mode MLOps, réalisant l'automatisation de l'ensemble du processus, ainsi que la gestion unifiée et le traitement efficace de données hétérogènes multi-sources. On rapporte qu'à l'heure actuelle, 2,6 To de jeux de données d'entraînement de haute qualité ont été construits et consolidés.
Entrée par le biais de scénarios périphériques
Au cours des six derniers mois, que ce soit les fournisseurs de grands modèles ou les grandes institutions financières, tous recherchent activement des cas d'application. Les domaines tels que le bureau intelligent, le développement intelligent, le marketing intelligent, le service client intelligent, la recherche et l'investissement intelligents, le contrôle des risques intelligent et l'analyse des besoins ont tous été largement explorés.
Comme l'a dit un cadre d'une société de technologie financière, "Chaque fonction clé de la chaîne d'affaires financière mérite d'être reconstruite avec la technologie des grands modèles." Cette société a récemment lancé un grand modèle financier et a collaboré avec des partenaires pour tester et co-développer des produits de grands modèles destinés à l'industrie financière, visant à créer un assistant commercial AI complet pour les experts du secteur financier tels que les conseillers en gestion de patrimoine, les agents d'assurance, la recherche et développement, le marketing financier, et les indemnisations d'assurance.
Les institutions financières ont toutes des idées riches sur les grands modèles. Une banque a déclaré qu'elle avait déjà déployé des applications dans plus de 20 scénarios, une autre banque a indiqué qu'elle avait mené des pilotes dans plus de 30 scénarios, tandis qu'une société de valeurs mobilières explore la possibilité de connecter les grands modèles à sa plateforme de personnes numériques virtuelles précédemment lancée.
Mais lorsqu'il s'agit de mettre en œuvre de grands modèles dans les affaires, le consensus général est de d'abord se concentrer sur l'interne avant de s'ouvrir à l'externe. Après tout, à ce stade, la technologie des grands modèles n'est pas encore mature, par exemple, elle présente des problèmes d'illusions, tandis que le secteur financier est un secteur fortement réglementé, à haute sécurité et très fiable.
Des experts estiment qu'il n'est pas conseillé d'utiliser directement de grands modèles auprès des clients à court terme. Les institutions financières devraient prioriser l'utilisation de grands modèles pour les scènes intellectuellement intensives d'analyse et de compréhension de textes et d'images financières, en réalisant une collaboration homme-machine sous forme d'assistant, afin d'améliorer l'efficacité des employés.
Actuellement, l'assistant de code a été déployé dans de nombreuses institutions financières. Par exemple, une certaine banque a construit un système de développement intelligent basé sur un grand modèle, et la quantité de code générée par l'assistant de codage représente 40 % du total du code. Dans le domaine de l'assurance, une certaine compagnie d'assurance a développé un plugin d'assistance à la programmation basé sur un grand modèle, intégré directement dans les outils de développement internes.
Dans le domaine du bureau intelligent, il existe également de nombreux cas concrets. Des experts expliquent que leur système de questions-réponses basé sur un grand modèle financier a été lancé dans une certaine banque et a été déployé dans des centaines de points de vente, avec un taux d'adoption des réponses dépassant 85 %. Actuellement, cette solution est rapidement reproduite dans d'autres banques et institutions financières.
Cependant, les professionnels de l'industrie estiment que ces scénarios déjà largement déployés ne sont pas encore les applications centrales des institutions financières, et que les grands modèles sont encore à une certaine distance des niveaux opérationnels du secteur financier.
Des experts prévoient qu'avant la fin de cette année, un certain nombre de projets de construction ou d'appels d'offres utilisant réellement de grands modèles dans les scénarios d'activité clés des institutions financières apparaîtront.
Avant cela, certains changements au niveau de la conception de haut niveau sont en cours. Des chercheurs estiment que l'ensemble du système d'intelligence et de numérisation future sera reconstruit sur la base de grands modèles. Cela nécessite que le secteur financier restructure ses systèmes lors de la mise en œuvre des grands modèles. En même temps, il ne faut pas négliger la valeur des petits modèles traditionnels, mais plutôt permettre aux grands modèles et aux petits modèles de collaborer.
Cette tendance s'est largement manifestée dans le secteur financier. Actuellement, les institutions financières testent des modèles de grande taille, adoptant essentiellement un modèle hiérarchique. Contrairement à la méthode silo où chaque scénario nécessitait la construction d'une plateforme, les grands modèles offrent aux institutions financières l'opportunité de repartir de zéro et de planifier l'ensemble du système de manière plus scientifique.
On peut voir qu'actuellement plusieurs grandes institutions financières ont construit un cadre de système hiérarchique comprenant plusieurs niveaux, tels que la couche d'infrastructure, la couche de modèle, la couche de service de grand modèle et la couche d'application, basé sur des grands modèles.
Ces cadres ont généralement deux grandes caractéristiques : premièrement, le grand modèle joue un rôle central en utilisant les modèles traditionnels comme des compétences ; deuxièmement, le niveau du grand modèle adopte une stratégie multi-modèles, comparant les différents modèles en interne pour sélectionner le meilleur résultat.
En réalité, non seulement les institutions financières, mais dans la situation actuelle encore indéterminée, certains fournisseurs d'applications de grands modèles adoptent également une stratégie multi-modèles pour optimiser l'efficacité des services. Des experts ont révélé que leur couche de modèle sous-jacente intègre un grand nombre de grands modèles de langage, qui assembleront les réponses retournées par chaque grand modèle pour fournir une sélection optimale aux utilisateurs.
Le manque de talents reste énorme
L'application des grands modèles commence à poser certains défis et transformations dans la structure du personnel du secteur financier.
Des informations précédentes indiquaient qu'avec l'apparition de ChatGPT, une entreprise de technologie financière avait licencié plus de 300 analystes de données depuis le début de l'année jusqu'à la fin mai. Il y a quelques années, c'était encore un métier très prisé. Cela a suscité l'anxiété des professionnels, qui ont même commencé à envisager à l'avance les choix de carrière de la prochaine génération.
Un expert d'une certaine banque a également partagé l'effet de substitution des grands modèles sur les humains. Auparavant, cette banque avait des stagiaires qui résumaient et compilez diverses informations chaque matin, puis les transmettaient au département de recherche et d'investissement, mais maintenant, ce travail peut être effectué par de grands modèles.
Cependant, certaines banques ne souhaitent en fait pas que les grands modèles entraînent des réductions d'effectifs. Par exemple, une grande banque ayant 200 000 employés dans ses agences a clairement indiqué qu'elle ne souhaitait pas que ses employés soient remplacés par de grands modèles, mais qu'elle espérait que ces derniers apporteraient de nouvelles opportunités, amélioreraient la qualité du service et l'efficacité au travail des employés, tout en libérant une partie d'entre eux pour occuper des postes à plus forte valeur ajoutée.
Cela inclut des considérations sur la stabilité du personnel et de la structure. D'un autre côté, c'est aussi parce qu'il y a encore des pénuries de talents dans de nombreux postes.
Des experts affirment que les grandes banques ont beaucoup de travail à accomplir, et que certains délais de livraison des demandes informatiques sont même prévus jusqu'à la fin de l'année prochaine. Ils espèrent que les grands modèles pourront aider les employés à accomplir plus de travail, à améliorer l'efficacité et la rapidité, plutôt qu'à entraîner une réduction des effectifs.
Plus important encore, le développement rapide des grands modèles rend difficile, dans un court laps de temps, la satisfaction de la demande en forte hausse pour des talents rares. C'est un peu comme au moment où l'iPhone est apparu pour la première fois, tout le monde voulait développer des applications, mais il était très difficile de trouver des programmeurs iOS.
Lors d'une récente conférence sur la technologie financière, un cadre d'une banque a résumé les 6 principaux défis auxquels l'industrie financière fait face actuellement pour intégrer les capacités des grands modèles dans les processus opérationnels clés, dont l'un est la pénurie de talents. Il a mentionné que parmi les nouveaux employés qu'ils ont récemment recrutés, une proportion élevée se forme dans le domaine de l'IA, mais il y a très peu de talents qui comprennent les grands modèles.
Des experts en ont fait l'expérience, récemment ils ont reçu une demande de soutien en personnel d'un client bancaire. Cette banque, en raison de l'absence temporaire de certains membres de son équipe de grands modèles qu'elle a construite, fait face à un problème de manque de main-d'œuvre pour l'entraînement de modèles et doit donc chercher un soutien externe temporaire.
"Il est vrai qu'il y a actuellement très peu de talents dans ce domaine, et qu'il faudra un certain temps pour les former." Cet expert estime que la demande de talents pour l'application directe des grands modèles est relativement simple, nécessitant principalement des personnes capables de poser des questions. En revanche, si l'on souhaite créer un grand modèle pour un secteur ou une entreprise, il est nécessaire que les institutions financières disposent d'une équipe technique de grands modèles verticaux compétente.
Un autre expert a également reconnu que le manque de talents dans le domaine des grands modèles d'IA est très important. Les principales institutions recrutent actuellement des talents liés à l'IA, tels que des docteurs en algorithmes. Cela est dû au fait que, bien que les clients financiers puissent obtenir un soutien technique de la part des fournisseurs de grands modèles, ils restent en fin de compte les utilisateurs finaux et les leaders de l'innovation. Ils ont besoin d'une certaine accumulation de talents pour soutenir la construction de grandes plateformes d'IA, la planification des diverses applications d'IA, ainsi que pour collaborer avec les fournisseurs de grands modèles lors de l'optimisation des superpositions de scénarios et de modèles au cours des processus de modélisation, de réglage et de perfectionnement, afin d'élargir continuellement la portée et l'efficacité des applications de modèles d'IA.
Certains participants ont déjà agi. Des entreprises ont collaboré avec l'équipe des ressources humaines d'un laboratoire bancaire pour examiner les pratiques de transformation des personnes dans l'application des grands modèles au sein des entreprises et ont conçu une série de formations.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Applications des grands modèles dans le secteur financier : de l'anxiété à la rationalité, le coût de la puissance de calcul et les talents deviennent clés.
Application des grands modèles d'intelligence artificielle dans le secteur financier : d'une hausse d'enthousiasme à un retour à la raison
Depuis l'émergence de ChatGPT, le secteur financier a rapidement été envahi par l'anxiété. Cette industrie, qui a foi en la technologie, craint d'être laissée pour compte par le torrent d'une époque en pleine accélération. Cette atmosphère d'urgence s'est même propagée jusqu'aux temples paisibles. Selon des professionnels du secteur, lors d'un voyage d'affaires à Dali en mai, elle a rencontré dans un temple des acteurs financiers discutant des grands modèles.
Cependant, cette anxiété est en train de redevenir normale, et les pensées des gens commencent à devenir claires et rationnelles. Des experts ont décrit plusieurs étapes de l'attitude du secteur financier envers les grands modèles cette année : en février et mars, un sentiment général d'anxiété, craignant de prendre du retard ; en avril et mai, formation d'équipes pour travailler ; dans les mois suivants, des difficultés à trouver une direction et à concrétiser les projets, commençant à devenir rationnels ; maintenant, ils se concentrent sur les entreprises de référence, essayant de valider des scénarios éprouvés.
Une nouvelle tendance est que de nombreuses institutions financières ont élevé les grands modèles au niveau stratégique. Selon des statistiques non exhaustives, au moins 11 banques parmi les entreprises cotées en bourse A ont clairement indiqué dans leurs derniers rapports semestriels qu'elles explorent l'application des grands modèles. À en juger par les actions récentes, elles effectuent également une réflexion et une planification de chemin plus claires au niveau stratégique et au niveau de la conception de haut niveau.
De la hausse de l'enthousiasme au retour à la raison
"Comparé à il y a quelques mois, on peut clairement sentir que les clients financiers comprennent beaucoup mieux les grands modèles maintenant." a déclaré un expert. Au début de l'année, lorsque ChatGPT vient d'être lancé, bien que l'enthousiasme soit élevé, la compréhension de ce qu'est réellement un grand modèle et comment l'utiliser était en fait très limitée.
À ce stade, certaines grandes banques ont été les premières à agir, en lançant diverses campagnes de publicité pour "profiter de l'engouement". Par exemple, en mars de cette année, une banque a lancé une application de modèle de type ChatGPT. Cependant, les avis dans l'industrie étaient partagés. À l'époque, certains pensaient que le nom de ce produit mettait l'accent sur le Chat, qui n'est pas la partie la plus importante de ChatGPT, en négligeant plutôt le véritable élément important, le GPT.
Dans le même temps, alors que de nombreuses entreprises technologiques nationales publient progressivement des grands modèles, certains départements technologiques d'institutions financières de premier plan commencent à négocier activement avec de grandes entreprises concernant la construction de grands modèles. Ces institutions financières espèrent généralement établir leurs propres grands modèles et ont besoin des conseils des fournisseurs pour la création de jeux de données, l'achat de serveurs et les méthodes d'entraînement, entre autres. Certaines entreprises de technologie financière ont même proposé de savoir si, une fois terminés, ces modèles pourraient être exporter vers d'autres acteurs.
À partir de mai, la situation a progressivement changé. En raison de la pénurie de ressources en puissance de calcul et des coûts élevés, de nombreuses institutions financières ont commencé à se détourner de l'espoir de construire elles-mêmes leur propre puissance de calcul et leurs modèles, pour se concentrer davantage sur la valeur d'application. "Maintenant, chaque institution financière s'interroge sur ce que les autres institutions ont réalisé avec de grands modèles et quels résultats elles ont obtenus."
Concernant les entreprises de différentes tailles, deux voies se dessinent. Les grandes institutions financières disposant d'une énorme quantité de données financières et de scénarios d'application peuvent introduire des modèles fondamentaux avancés, construire leurs propres modèles d'entreprise et, en même temps, adopter une forme de réglage fin pour former des modèles de tâches spécifiques à leur domaine, permettant ainsi une activation rapide des activités pour compenser le inconvénient de la longue durée de construction des grands modèles. Les petites et moyennes institutions financières peuvent envisager le retour sur investissement et introduire des services cloud de divers grands modèles ou des déploiements privatifs en fonction de leurs besoins, répondant directement aux exigences d'activation.
Cependant, en raison des exigences élevées du secteur financier en matière de conformité des données, de sécurité et de fiabilité, certaines personnes estiment que les progrès de la mise en œuvre des grands modèles dans ce secteur sont en réalité légèrement en retard par rapport aux prévisions de début d'année. Des experts ont déclaré qu'ils avaient initialement prédit que le secteur financier pourrait être le premier à adopter massivement les grands modèles, mais d'après la situation finale de l'intégration des clients, les progrès du secteur financier ne sont pas aussi rapides que ceux des secteurs juridique et de recrutement.
Certaines institutions financières commencent à chercher des moyens de résoudre les diverses limitations lors du déploiement de grands modèles.
Dans le domaine de la puissance de calcul, les experts de l'industrie ont observé plusieurs pistes de solution :
Tout d'abord, construire directement la puissance de calcul soi-même a un coût relativement élevé, mais la sécurité est suffisante. Cela convient aux grandes institutions financières bien établies qui souhaitent construire leurs propres grands modèles d'industrie ou d'entreprise.
Deuxièmement, le déploiement hybride de la puissance de calcul, dans le cas où les données sensibles ne sortent pas du domaine, accepte l'appel à l'interface de service de grand modèle depuis le cloud public, tout en traitant les données locales par le biais d'un déploiement privatif. Cette méthode est moins coûteuse, nécessitant seulement un investissement de plusieurs dizaines de milliers de yuans pour acheter quelques cartes de calcul afin de répondre aux besoins, et convient aux institutions financières de taille moyenne et petite avec des ressources financières relativement limitées et des applications à la demande.
Cependant, même ainsi, de nombreuses petites et moyennes institutions font toujours face à la difficulté de ne pas pouvoir acheter ou se permettre les cartes GPU nécessaires pour les grands modèles. À ce sujet, des sources indiquent que les autorités de régulation étudient la possibilité de construire une infrastructure de grands modèles destinée au secteur des valeurs mobilières, en centralisant la puissance de calcul et les ressources de grands modèles généraux, afin que les petites et moyennes institutions financières du secteur puissent également utiliser les services de grands modèles, évitant ainsi qu'elles ne prennent du retard sur le plan technologique.
Non seulement la puissance de calcul, mais avec l'exploration de la mise en œuvre des grands modèles au cours des six derniers mois, de nombreuses institutions financières ont également progressivement renforcé la gouvernance des données.
Des experts expliquent qu'en plus des grandes banques qui ont des pratiques matures dans le domaine de la gouvernance des données, de plus en plus d'institutions financières de taille moyenne commencent également à construire des plateformes de données et des systèmes de gouvernance des données. Ils estiment que la construction d'un système de gouvernance des données complet et d'une plateforme technologique de lac de données sera un thème important pour les constructions informatiques des institutions financières à l'avenir.
Il y a aussi des banques qui résolvent des problèmes de données grâce à des modèles de grande taille + MLOps. Par exemple, une certaine banque a établi un système de boucle de données de modèle de grande taille en utilisant le mode MLOps, réalisant l'automatisation de l'ensemble du processus, ainsi que la gestion unifiée et le traitement efficace de données hétérogènes multi-sources. On rapporte qu'à l'heure actuelle, 2,6 To de jeux de données d'entraînement de haute qualité ont été construits et consolidés.
Entrée par le biais de scénarios périphériques
Au cours des six derniers mois, que ce soit les fournisseurs de grands modèles ou les grandes institutions financières, tous recherchent activement des cas d'application. Les domaines tels que le bureau intelligent, le développement intelligent, le marketing intelligent, le service client intelligent, la recherche et l'investissement intelligents, le contrôle des risques intelligent et l'analyse des besoins ont tous été largement explorés.
Comme l'a dit un cadre d'une société de technologie financière, "Chaque fonction clé de la chaîne d'affaires financière mérite d'être reconstruite avec la technologie des grands modèles." Cette société a récemment lancé un grand modèle financier et a collaboré avec des partenaires pour tester et co-développer des produits de grands modèles destinés à l'industrie financière, visant à créer un assistant commercial AI complet pour les experts du secteur financier tels que les conseillers en gestion de patrimoine, les agents d'assurance, la recherche et développement, le marketing financier, et les indemnisations d'assurance.
Les institutions financières ont toutes des idées riches sur les grands modèles. Une banque a déclaré qu'elle avait déjà déployé des applications dans plus de 20 scénarios, une autre banque a indiqué qu'elle avait mené des pilotes dans plus de 30 scénarios, tandis qu'une société de valeurs mobilières explore la possibilité de connecter les grands modèles à sa plateforme de personnes numériques virtuelles précédemment lancée.
Mais lorsqu'il s'agit de mettre en œuvre de grands modèles dans les affaires, le consensus général est de d'abord se concentrer sur l'interne avant de s'ouvrir à l'externe. Après tout, à ce stade, la technologie des grands modèles n'est pas encore mature, par exemple, elle présente des problèmes d'illusions, tandis que le secteur financier est un secteur fortement réglementé, à haute sécurité et très fiable.
Des experts estiment qu'il n'est pas conseillé d'utiliser directement de grands modèles auprès des clients à court terme. Les institutions financières devraient prioriser l'utilisation de grands modèles pour les scènes intellectuellement intensives d'analyse et de compréhension de textes et d'images financières, en réalisant une collaboration homme-machine sous forme d'assistant, afin d'améliorer l'efficacité des employés.
Actuellement, l'assistant de code a été déployé dans de nombreuses institutions financières. Par exemple, une certaine banque a construit un système de développement intelligent basé sur un grand modèle, et la quantité de code générée par l'assistant de codage représente 40 % du total du code. Dans le domaine de l'assurance, une certaine compagnie d'assurance a développé un plugin d'assistance à la programmation basé sur un grand modèle, intégré directement dans les outils de développement internes.
Dans le domaine du bureau intelligent, il existe également de nombreux cas concrets. Des experts expliquent que leur système de questions-réponses basé sur un grand modèle financier a été lancé dans une certaine banque et a été déployé dans des centaines de points de vente, avec un taux d'adoption des réponses dépassant 85 %. Actuellement, cette solution est rapidement reproduite dans d'autres banques et institutions financières.
Cependant, les professionnels de l'industrie estiment que ces scénarios déjà largement déployés ne sont pas encore les applications centrales des institutions financières, et que les grands modèles sont encore à une certaine distance des niveaux opérationnels du secteur financier.
Des experts prévoient qu'avant la fin de cette année, un certain nombre de projets de construction ou d'appels d'offres utilisant réellement de grands modèles dans les scénarios d'activité clés des institutions financières apparaîtront.
Avant cela, certains changements au niveau de la conception de haut niveau sont en cours. Des chercheurs estiment que l'ensemble du système d'intelligence et de numérisation future sera reconstruit sur la base de grands modèles. Cela nécessite que le secteur financier restructure ses systèmes lors de la mise en œuvre des grands modèles. En même temps, il ne faut pas négliger la valeur des petits modèles traditionnels, mais plutôt permettre aux grands modèles et aux petits modèles de collaborer.
Cette tendance s'est largement manifestée dans le secteur financier. Actuellement, les institutions financières testent des modèles de grande taille, adoptant essentiellement un modèle hiérarchique. Contrairement à la méthode silo où chaque scénario nécessitait la construction d'une plateforme, les grands modèles offrent aux institutions financières l'opportunité de repartir de zéro et de planifier l'ensemble du système de manière plus scientifique.
On peut voir qu'actuellement plusieurs grandes institutions financières ont construit un cadre de système hiérarchique comprenant plusieurs niveaux, tels que la couche d'infrastructure, la couche de modèle, la couche de service de grand modèle et la couche d'application, basé sur des grands modèles.
Ces cadres ont généralement deux grandes caractéristiques : premièrement, le grand modèle joue un rôle central en utilisant les modèles traditionnels comme des compétences ; deuxièmement, le niveau du grand modèle adopte une stratégie multi-modèles, comparant les différents modèles en interne pour sélectionner le meilleur résultat.
En réalité, non seulement les institutions financières, mais dans la situation actuelle encore indéterminée, certains fournisseurs d'applications de grands modèles adoptent également une stratégie multi-modèles pour optimiser l'efficacité des services. Des experts ont révélé que leur couche de modèle sous-jacente intègre un grand nombre de grands modèles de langage, qui assembleront les réponses retournées par chaque grand modèle pour fournir une sélection optimale aux utilisateurs.
Le manque de talents reste énorme
L'application des grands modèles commence à poser certains défis et transformations dans la structure du personnel du secteur financier.
Des informations précédentes indiquaient qu'avec l'apparition de ChatGPT, une entreprise de technologie financière avait licencié plus de 300 analystes de données depuis le début de l'année jusqu'à la fin mai. Il y a quelques années, c'était encore un métier très prisé. Cela a suscité l'anxiété des professionnels, qui ont même commencé à envisager à l'avance les choix de carrière de la prochaine génération.
Un expert d'une certaine banque a également partagé l'effet de substitution des grands modèles sur les humains. Auparavant, cette banque avait des stagiaires qui résumaient et compilez diverses informations chaque matin, puis les transmettaient au département de recherche et d'investissement, mais maintenant, ce travail peut être effectué par de grands modèles.
Cependant, certaines banques ne souhaitent en fait pas que les grands modèles entraînent des réductions d'effectifs. Par exemple, une grande banque ayant 200 000 employés dans ses agences a clairement indiqué qu'elle ne souhaitait pas que ses employés soient remplacés par de grands modèles, mais qu'elle espérait que ces derniers apporteraient de nouvelles opportunités, amélioreraient la qualité du service et l'efficacité au travail des employés, tout en libérant une partie d'entre eux pour occuper des postes à plus forte valeur ajoutée.
Cela inclut des considérations sur la stabilité du personnel et de la structure. D'un autre côté, c'est aussi parce qu'il y a encore des pénuries de talents dans de nombreux postes.
Des experts affirment que les grandes banques ont beaucoup de travail à accomplir, et que certains délais de livraison des demandes informatiques sont même prévus jusqu'à la fin de l'année prochaine. Ils espèrent que les grands modèles pourront aider les employés à accomplir plus de travail, à améliorer l'efficacité et la rapidité, plutôt qu'à entraîner une réduction des effectifs.
Plus important encore, le développement rapide des grands modèles rend difficile, dans un court laps de temps, la satisfaction de la demande en forte hausse pour des talents rares. C'est un peu comme au moment où l'iPhone est apparu pour la première fois, tout le monde voulait développer des applications, mais il était très difficile de trouver des programmeurs iOS.
Lors d'une récente conférence sur la technologie financière, un cadre d'une banque a résumé les 6 principaux défis auxquels l'industrie financière fait face actuellement pour intégrer les capacités des grands modèles dans les processus opérationnels clés, dont l'un est la pénurie de talents. Il a mentionné que parmi les nouveaux employés qu'ils ont récemment recrutés, une proportion élevée se forme dans le domaine de l'IA, mais il y a très peu de talents qui comprennent les grands modèles.
Des experts en ont fait l'expérience, récemment ils ont reçu une demande de soutien en personnel d'un client bancaire. Cette banque, en raison de l'absence temporaire de certains membres de son équipe de grands modèles qu'elle a construite, fait face à un problème de manque de main-d'œuvre pour l'entraînement de modèles et doit donc chercher un soutien externe temporaire.
"Il est vrai qu'il y a actuellement très peu de talents dans ce domaine, et qu'il faudra un certain temps pour les former." Cet expert estime que la demande de talents pour l'application directe des grands modèles est relativement simple, nécessitant principalement des personnes capables de poser des questions. En revanche, si l'on souhaite créer un grand modèle pour un secteur ou une entreprise, il est nécessaire que les institutions financières disposent d'une équipe technique de grands modèles verticaux compétente.
Un autre expert a également reconnu que le manque de talents dans le domaine des grands modèles d'IA est très important. Les principales institutions recrutent actuellement des talents liés à l'IA, tels que des docteurs en algorithmes. Cela est dû au fait que, bien que les clients financiers puissent obtenir un soutien technique de la part des fournisseurs de grands modèles, ils restent en fin de compte les utilisateurs finaux et les leaders de l'innovation. Ils ont besoin d'une certaine accumulation de talents pour soutenir la construction de grandes plateformes d'IA, la planification des diverses applications d'IA, ainsi que pour collaborer avec les fournisseurs de grands modèles lors de l'optimisation des superpositions de scénarios et de modèles au cours des processus de modélisation, de réglage et de perfectionnement, afin d'élargir continuellement la portée et l'efficacité des applications de modèles d'IA.
Certains participants ont déjà agi. Des entreprises ont collaboré avec l'équipe des ressources humaines d'un laboratoire bancaire pour examiner les pratiques de transformation des personnes dans l'application des grands modèles au sein des entreprises et ont conçu une série de formations.