Yapay Zeka Büyük Modellerinin Finans Sektöründeki Uygulamaları: Yükselişten Mantıklı Bir Dönüşe
ChatGPT'nin piyasaya sürülmesinden bu yana, finans sektöründe hızla bir kaygı yarattı. Bu teknolojiye inanan sektör, bir hızla akan çağın gerisinde kalmaktan korkuyor. Bu endişeli atmosfer, hatta bir zamanlar sakin tapınaklara kadar yayıldı. Sektörün içinden biri, Mayıs ayında Dali'ye iş seyahati yaptığında, tapınakta büyük modeller hakkında konuşan finans çalışanlarıyla karşılaştığını belirtti.
Ancak, bu kaygı yavaş yavaş sıradanlaşmakta, insanların düşünceleri de net ve mantıklı hale gelmeye başlamaktadır. Bazı uzmanlar bu yıl finans sektörünün büyük modeller konusundaki tutumunu birkaç aşamada tanımladı: Şubat ve Mart'ta, genel olarak kaygı hissediliyordu, geride kalmaktan endişe ediliyordu; Nisan ve Mayıs'ta, ekipler oluşturarak çalışmalar yapılmaya başlandı; sonraki birkaç ayda, yön arayışında ve uygulamaya geçişte zorluklarla karşılaşıldı, mantıklı hale gelinmeye başlandı; şimdi, referans işletmelere odaklanıyorlar ve doğrulanmış senaryoları test etmeye çalışıyorlar.
Yeni bir eğilim, birçok finansal kurumun büyük modelleri stratejik bir seviyeye yükseltmesidir. Tam olmayan istatistiklere göre, A-hisse senedi piyasasında en az 11 banka, en son yarı yıllık raporlarında büyük model uygulamalarını araştırdıklarını açıkça belirtmiştir. Son dönemdeki hareketlere bakıldığında, stratejik ve üst düzey tasarım açısından daha net düşünme ve yol haritası planlama sürecine girdikleri görülmektedir.
Yükseleşten rasyonel geri dönüşe
"Birkaç ay öncesine göre, finansal müşterilerin büyük modelleri anlama konusunda çok daha iyi bir seviyeye geldiği açıkça hissediliyor." Deneyimli bir kişi, yılın başında ChatGPT'nin çıktığı zaman herkesin heyecanın yüksek olduğunu, ancak büyük modellerin ne olduğu ve nasıl kullanılacağı konusunda aslında çok sınırlı bir bilgiye sahip olduklarını belirtti.
Bu aşamada, bazı büyük bankalar öncülük etti ve çeşitli "popülerlikle ilişkilendirme" tanıtımlarına başladı. Örneğin, bu yılın mart ayında, bir banka ChatGPT benzeri büyük model uygulamasını başlattı. Ancak sektörde farklı değerlendirmeler yapıldı. O dönemde, bazıları bu ürünün adının ChatGPT'deki o kadar önemli olmayan Chat kısmını vurguladığını, asıl önemli olan GPT kısmını ise göz ardı ettiğini düşündü.
Bu arada, ülke içindeki birçok teknoloji şirketinin büyük modelleri ardı ardına tanıtmasıyla, bazı önde gelen finans kuruluşlarının teknoloji departmanları, büyük firmalarla büyük model inşası konularında aktif olarak görüşmelere başladı. Bu finans kuruluşları genel olarak kendi büyük modellerini oluşturmayı umuyor ve veri seti üretimi, sunucu alımı ve eğitim yöntemleri gibi konularda tedarikçilerden rehberlik talep ediyor. Hatta bazı finans teknoloji şirketleri, tamamlandıktan sonra aynı sektördeki diğer firmalara da çıktı verebilir miyiz diye öneride bulundu.
Mayıs ayından sonra, durum yavaş yavaş değişmeye başladı. Hesaplama gücü kaynaklarının kıtlığı, yüksek maliyet gibi faktörlerden dolayı, birçok finans kurumu sadece kendi hesaplama gücünü ve modelini oluşturma umudundan, uygulama değerine daha fazla odaklanmaya yöneldi. "Artık her finans kurumu diğer kurumların büyük modellerle neler yaptığını, nasıl sonuçlar elde ettiğini merak ediyor."
Farklı ölçeklerdeki işletmelere gelince, iki yol ayrımına gidilmiştir. Büyük finansal kuruluşlar, geniş veri setlerine ve uygulama senaryolarına sahip olduklarından, öncü temel büyük modelleri entegre edebilir, kendi kurumsal büyük modellerini oluşturabilir ve aynı zamanda ince ayar yaparak uzmanlık alanlarına yönelik görev büyük modelleri geliştirebilirler. Böylece, büyük modelin inşa süresinin uzun olmasının dezavantajını hızlı bir şekilde telafi edebilirler. Orta ve küçük ölçekli finansal kuruluşlar ise yatırım getirisini dikkate alarak, ihtiyaçlarına göre çeşitli büyük model bulut hizmetlerini veya özel dağıtım seçeneklerini kullanarak doğrudan güçlendirme ihtiyaçlarını karşılayabilirler.
Ancak, finans sektörünün veri uyumu, güvenliği ve güvenilirliği gibi gereksinimlerinin yüksek olması nedeniyle, bazı kişiler bu sektörün büyük model uygulaması sürecinin, aslında yılın başındaki beklentilere kıyasla biraz geri kaldığını düşünüyor. Uzmanlar, başlangıçta finans sektörünün büyük model kullanımı konusunda en hızlı olan sektör olabileceğini tahmin ettiklerini, ancak nihai müşteri entegrasyonuna bakıldığında, finans sektörünün hukuk, istihdam gibi sektörlere kıyasla daha yavaş ilerlediğini belirtiyorlar.
Bazı finansal kurumlar, büyük modellerin uygulanmasındaki çeşitli kısıtlamaları çözmek için yollar aramaya başladılar.
Hesaplama gücü açısından, sektör uzmanları birkaç çözüm yaklaşımını gözlemledi:
İlk olarak, doğrudan kendi hesaplama gücünü oluşturmak, maliyeti yüksek ama güvenliği yeterli. Güçlü bir yapıya sahip olan ve kendi sektörlerinde veya işletmelerinde büyük modeller oluşturmak isteyen büyük finansal kuruluşlar için uygundur.
İkincisi, hesaplama gücünün karışık dağıtımı, hassas verilerin alan dışına çıkmadığı durumlarda, kamu bulutundan büyük model hizmeti arayüzünü çağırmayı kabul ederken, aynı zamanda yerel verileri işlemek için özel dağıtım yoluyla gerçekleştirilir. Bu yöntem maliyet açısından daha düşüktür, ihtiyaçları karşılamak için sadece birkaç yüz bin yuanlık birkaç hesaplama kartı yatırımı yeterlidir ve nispeten sınırlı bütçeye sahip, talebe dayalı uygulama yapan orta ve küçük ölçekli finansal kuruluşlar için uygundur.
Ancak buna rağmen, birçok küçük ve orta ölçekli kuruluş, büyük modeller için gerekli olan GPU kartlarını bulmakta ve satın almakta hala zorluklar yaşıyor. Bu soruna yönelik olarak, düzenleyici kurumların, menkul kıymetler sektörüne yönelik büyük model altyapısını oluşturmak için uzlaşma yolu aradığına dair haberler var. Bu, hesaplama gücünü ve genel büyük model gibi kaynakları merkezi bir şekilde toplayarak, sektördeki küçük ve orta ölçekli finansal kuruluşların da büyük model hizmetlerinden yararlanmasını sağlamak ve teknik olarak geri kalmalarını önlemek amacıyla yapılacak.
Sadece hesaplama gücü değil, son altı aydır büyük modellerin uygulanmasına yönelik araştırmalarla birlikte, birçok finans kurumu da veri yönetimini giderek güçlendirdi.
Uzmanlar, şu anda veri yönetimi alanında olgun uygulamalara sahip büyük bankaların yanı sıra, giderek daha fazla orta ölçekli finansal kurumun da veri merkezi ve veri yönetim sistemleri kurmaya başladığını belirtiyor. Veri yönetim sisteminin ve veri gölü teknolojisi platformunun geliştirilmesinin, gelecekte finansal kurumların IT yapılarının önemli bir teması olacağını düşünüyor.
Ayrıca bazı bankalar büyük model + MLOps yöntemiyle veri sorunlarını çözmektedir. Örneğin, bir banka MLOps modeli kullanarak büyük model veri kapalı döngü sistemi kurdu, tüm süreçlerin otomasyonunu sağladı ve çok kaynaklı heterojen verilerin birleştirilmiş yönetimi ve verimli işlenmesini gerçekleştirdi. Edinilen bilgilere göre, şu anda 2.6TB yüksek kaliteli eğitim veri seti oluşturulmuş ve yerleştirilmiştir.
Dış sahneden içeriye giriş
Son altı aydan fazla bir süre boyunca, hem büyük model hizmet sağlayıcıları hem de büyük finansal kurumlar, uygulama senaryoları arayışında aktif olarak bulunuyorlar. Akıllı ofis, akıllı geliştirme, akıllı pazarlama, akıllı müşteri hizmetleri, akıllı yatırım araştırması, akıllı risk kontrolü, talep analizi gibi alanlar geniş bir şekilde araştırılıyor.
Bir finans teknoloji şirketinin yöneticisinin dediği gibi, "Finans iş zincirindeki her bir ana işlev, büyük model teknolojisi ile yeniden yapılmayı hak ediyor." Şirket yakın zamanda finansal büyük modeli piyasaya sürdü ve iş birliği yaptığı kuruluşlarla finans endüstrisine yönelik büyük model ürünlerini ortak test etmeye başladı. Hedef, finansal danışmanlar, sigorta acenteleri, yatırım araştırmaları, finansal pazarlama, sigorta tazminatı gibi finans profesyonelleri için tam kapsamlı bir AI iş asistanı oluşturmaktır.
Her finans kurumu büyük modeller hakkında zengin fikirler geliştirmiştir. Bir banka, içlerinde 20'den fazla senaryo için uygulama sunulduğunu belirtirken, diğer bir banka 30'dan fazla senaryoda pilot uygulama gerçekleştirdiklerini ifade etmiştir. Bir menkul kıymetler şirketi ise büyük modeli daha önce tanıtılan sanal dijital insan platformuyla entegre etmeyi araştırmaktadır.
Ama büyük modelleri iş dünyasına gerçekten entegre ederken, genel bir görüş öncelikle içsel, sonra dışsal olduğu yönündedir. Sonuçta, mevcut aşamada büyük model teknolojisi olgunlaşmamıştır; örneğin, yanılsama sorunları bulunmaktadır ve finans sektörü, güçlü düzenlemeler, yüksek güvenlik ve yüksek güvenilirlik gerektiren bir sektördür.
Bazı uzmanlar, kısa vadede büyük modellerin doğrudan müşterilere sunulmasını önermiyor. Finansal kurumlar, büyük modelleri öncelikle finansal metinler ve finansal görüntülerin analiz ve anlama yaratımında zihin yoğun sahnelerde kullanmalı, asistan biçiminde insan-makine iş birliği gerçekleştirerek iş gücü verimliliğini artırmalıdır.
Şu anda, kod asistanı birçok finans kurumunda uygulanmaktadır. Örneğin, bir banka büyük model temelinde akıllı bir geliştirme sistemi oluşturdu, kod asistanının ürettiği kod miktarının toplam kod miktarına oranı %40'a ulaştı. Sigorta alanında, bir sigorta şirketi büyük model temelinde bir programlama yardımcı eklentisi geliştirdi ve bu eklentiyi doğrudan iç geliştirme araçlarına entegre etti.
Akıllı ofis alanında da birçok uygulanabilir örnek bulunmaktadır. Uzmanlar, finansal büyük model temelinde geliştirdikleri şube soru-cevap sisteminin, belirli bir bankada devreye alındıktan sonra yüzlerce şubeye yayıldığını ve cevap kabul oranının %85'i aştığını belirtiyorlar. Şu anda, bu çözüm diğer bankalara ve finansal kuruluşlara hızlı bir şekilde kopyalanıyor.
Ancak, sektör uzmanları bu yaygın olarak uygulanan senaryoların aslında finansal kurumların ana uygulamaları olmadığını belirtiyor. Büyük modellerin finans sektörünün iş katmanına derinlemesine ulaşması için hala bir mesafe var.
Uzmanlar, bu yılın sonuna kadar, finansal kuruluşların temel iş senaryolarında büyük modelleri gerçekten kullanacak bir dizi projelerin inşası veya ihale bilgileri ortaya çıkacağını öngörüyor.
Bundan önce, bazı üst düzey tasarım değişiklikleri devam ediyordu. Bazı akademisyenler, gelecekteki tüm akıllı ve dijital sistemlerin büyük modellerin temeli üzerine yeniden inşa edileceğini öngörüyor. Bu, finans sektörünün büyük modellerin uygulanması sürecinde sistemini yeniden yapılandırmasını gerektiriyor. Aynı zamanda, geleneksel küçük modellerin değerini de göz ardı etmemek ve büyük modellerle küçük modellerin birlikte çalışmasını sağlamak gerekiyor.
Bu eğilim finans sektöründe geniş ölçüde kendini göstermiştir. Şu anda finans kurumları büyük modelleri denemekte ve temel olarak katmanlı bir model benimsemektedir. Geçmişte her bir senaryo için bir platform oluşturmanın silo yaklaşımından farklı olarak, büyük model finans kurumlarına sıfırdan başlama ve genel sistem planlamasını daha bilimsel bir şekilde yapma fırsatı sunmaktadır.
Görülebilir ki, şu anda birçok önde gelen finans kurumu, temel altyapı katmanı, model katmanı, büyük model hizmet katmanı, uygulama katmanı gibi birden fazla katmanı içeren katmanlı sistem çerçevesi oluşturmak için büyük modelleri kullanmaktadır.
Bu çerçeve sistemlerinin genel olarak iki büyük özelliği vardır: birincisi, büyük modeller merkezi yetenekleri kullanır ve geleneksel modelleri bir beceri olarak çağırır; ikincisi, büyük model katmanı çoklu model stratejisi benimser, içsel karşılaştırmalar yapar ve en iyi sonucu seçer.
Aslında, sadece finansal kurumlar değil, mevcut belirsizlik ortamında bazı büyük model uygulama sağlayıcıları da çoklu model stratejileri benimsemekte ve hizmet etkinliğini optimize etmekte. Uzmanlar, alt model katmanlarının çok sayıda büyük dil modelini birleştirdiğini ve her büyük modelin döndürdüğü cevaplara göre, en iyi yanıtı kullanıcıya sunmak için bir araya getirildiğini açıkladı.
Yetenek açığı hâlâ büyük
Büyük modellerin uygulamaları, finans sektöründeki personel yapısı üzerinde bazı zorluklar ve değişimler yaratmaya başladı.
Daha önce, ChatGPT'nin ortaya çıkmasıyla birlikte, bir finansal teknoloji şirketinin bu yılın başından 5 Mayıs'a kadar 300'den fazla büyük veri analisti işten çıkardığına dair haberler vardı. Oysa birkaç yıl önce bu, oldukça popüler bir meslekti. Bu durum, çalışanlar arasında kaygıya yol açtı ve hatta bazıları bir sonraki nesil meslek seçimlerini düşünmeye başlamıştı.
Bir bankadan gelen uzmanlar, büyük modellerin insanları nasıl ikame ettiğini de paylaştı. Bu banka, daha önce her sabah stajyerlerin çeşitli bilgileri derleyip araştırma ve yatırım departmanına sunduğu bir süreç yürütüyordu, ancak artık bu işler büyük modellerle gerçekleştirilebiliyor.
Ancak bazı bankalar aslında büyük modellerin iş gücünü azaltmasını istemiyor. Örneğin, 200.000 şubeye sahip bir büyük banka, çalışanlarının büyük modellerle yer değiştirmesini istemediğini açıkça belirtti. Bunun yerine, büyük modellerin yeni fırsatlar yaratmasını, çalışanların hizmet kalitesini ve iş verimliliğini artırmasını, aynı zamanda bazı çalışanların daha yüksek değerli işler yapması için serbest bırakılmasını umuyor.
Bu durum, personel ve yapı istikrarı ile ilgili düşüncelerin yanı sıra, birçok pozisyonda hala yetenek açığı bulunmasından kaynaklanmaktadır.
Uzmanlar, büyük bankaların tamamlanması gereken çok iş olduğunu ve bazı BT ihtiyaçlarının sürelerinin hatta gelecek yılın sonuna kadar uzandığını belirtti. Çalışanların daha fazla iş yapmalarına, verimliliği ve hızı artırmalarına yardımcı olmasını umuyorlar, personel azalmasına neden olmasını değil.
Daha da önemlisi, büyük modellerin hızlı gelişimi, kısa süre içinde kıt yetenek arzının artan talebi karşılamasını zorlaştırıyor. Bu, ilk iPhone'un ortaya çıktığı zamanlarda herkesin uygulama geliştirmek istemesi ama iOS programcıları bulmanın zor olması gibi.
Son dönemdeki bir finans teknolojisi konferansında, bir banka yöneticisi finans sektörünün şu anda büyük model yeteneklerini ana iş süreçlerine entegre etmede karşılaştığı 6 büyük zorluğu özetledi. Bunlardan biri de yetenek eksikliği. Yöneticinin belirttiğine göre, son zamanlarda işe aldıkları yeni çalışanlar arasında AI alanını öğrenenlerin oranı oldukça yüksek, ancak büyük model konusunda bilgi sahibi olan yetenekler ise çok az.
Uzmanlar bunun ne anlama geldiğini derinden hissettiler, son zamanlarda bir bankanın müşterisinden yetenek desteği talebi aldılar. Bu banka, kendi geliştirdiği büyük model ekibinde birinin geçici olarak izinli olması nedeniyle, model eğitim çalışmasının personel yetersizliği sorunuyla karşı karşıya kalmış ve geçici olarak dış destek aramak zorunda kalmıştır.
"Bu alanda yetenek gerçekten çok az, yetiştirmek için biraz zamana ihtiyaç var." Bu uzman, doğrudan büyük modelleri uygulayan yetenek talebinin nispeten basit olduğunu, esasen soru sorabilen kişilere ihtiyaç duyulduğunu düşünüyor. Ancak, sektör veya şirket için kendi büyük modelini oluşturmak istiyorlarsa, finansal kuruluşların etkili bir dikey büyük model teknik ekibine sahip olması gerekiyor.
Diğer bir uzman da, AI büyük model alanında yetenek açığının çok büyük olduğunu itiraf etti. Önde gelen kurumlar şu anda algoritma doktoru gibi AI ile ilgili uzmanları işe alıyorlar. Bunun nedeni, finansal müşterilerin büyük model sağlayıcılarından teknik destek alabilmeleri, ancak nihayetinde son kullanıcı ve yenilikçi lider oldukları için, AI büyük platformunun inşasını desteklemek, çeşitli AI uygulamalarının planlamasını yapmak için belirli bir yetenek birikimine ihtiyaç duymalarıdır. Ayrıca, modelleme, ayarlama ve ince ayar süreçlerinde büyük model sağlayıcılarıyla iş birliği yaparak senaryo üst üste bindirme, model üst üste bindirme gibi optimizasyonlar gerçekleştirmekte ve AI model uygulamalarının kapsamını ve etkisini sürekli olarak genişletmektedirler.
Bazı katılımcılar harekete geçti. Bir şirket, bir banka laboratuvarının insan kaynakları ekibi ile iş birliği yaparak büyük modelin kurumsal uygulamalardaki insan dönüşüm pratiklerini gözden geçirdi ve bir dizi eğitim tasarladı.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Finans sektöründeki büyük model uygulamaları: kaygıdan rasyonelliğe Bilgi İşlem Gücü maliyeti ve yetenekler anahtar haline geliyor
Yapay Zeka Büyük Modellerinin Finans Sektöründeki Uygulamaları: Yükselişten Mantıklı Bir Dönüşe
ChatGPT'nin piyasaya sürülmesinden bu yana, finans sektöründe hızla bir kaygı yarattı. Bu teknolojiye inanan sektör, bir hızla akan çağın gerisinde kalmaktan korkuyor. Bu endişeli atmosfer, hatta bir zamanlar sakin tapınaklara kadar yayıldı. Sektörün içinden biri, Mayıs ayında Dali'ye iş seyahati yaptığında, tapınakta büyük modeller hakkında konuşan finans çalışanlarıyla karşılaştığını belirtti.
Ancak, bu kaygı yavaş yavaş sıradanlaşmakta, insanların düşünceleri de net ve mantıklı hale gelmeye başlamaktadır. Bazı uzmanlar bu yıl finans sektörünün büyük modeller konusundaki tutumunu birkaç aşamada tanımladı: Şubat ve Mart'ta, genel olarak kaygı hissediliyordu, geride kalmaktan endişe ediliyordu; Nisan ve Mayıs'ta, ekipler oluşturarak çalışmalar yapılmaya başlandı; sonraki birkaç ayda, yön arayışında ve uygulamaya geçişte zorluklarla karşılaşıldı, mantıklı hale gelinmeye başlandı; şimdi, referans işletmelere odaklanıyorlar ve doğrulanmış senaryoları test etmeye çalışıyorlar.
Yeni bir eğilim, birçok finansal kurumun büyük modelleri stratejik bir seviyeye yükseltmesidir. Tam olmayan istatistiklere göre, A-hisse senedi piyasasında en az 11 banka, en son yarı yıllık raporlarında büyük model uygulamalarını araştırdıklarını açıkça belirtmiştir. Son dönemdeki hareketlere bakıldığında, stratejik ve üst düzey tasarım açısından daha net düşünme ve yol haritası planlama sürecine girdikleri görülmektedir.
Yükseleşten rasyonel geri dönüşe
"Birkaç ay öncesine göre, finansal müşterilerin büyük modelleri anlama konusunda çok daha iyi bir seviyeye geldiği açıkça hissediliyor." Deneyimli bir kişi, yılın başında ChatGPT'nin çıktığı zaman herkesin heyecanın yüksek olduğunu, ancak büyük modellerin ne olduğu ve nasıl kullanılacağı konusunda aslında çok sınırlı bir bilgiye sahip olduklarını belirtti.
Bu aşamada, bazı büyük bankalar öncülük etti ve çeşitli "popülerlikle ilişkilendirme" tanıtımlarına başladı. Örneğin, bu yılın mart ayında, bir banka ChatGPT benzeri büyük model uygulamasını başlattı. Ancak sektörde farklı değerlendirmeler yapıldı. O dönemde, bazıları bu ürünün adının ChatGPT'deki o kadar önemli olmayan Chat kısmını vurguladığını, asıl önemli olan GPT kısmını ise göz ardı ettiğini düşündü.
Bu arada, ülke içindeki birçok teknoloji şirketinin büyük modelleri ardı ardına tanıtmasıyla, bazı önde gelen finans kuruluşlarının teknoloji departmanları, büyük firmalarla büyük model inşası konularında aktif olarak görüşmelere başladı. Bu finans kuruluşları genel olarak kendi büyük modellerini oluşturmayı umuyor ve veri seti üretimi, sunucu alımı ve eğitim yöntemleri gibi konularda tedarikçilerden rehberlik talep ediyor. Hatta bazı finans teknoloji şirketleri, tamamlandıktan sonra aynı sektördeki diğer firmalara da çıktı verebilir miyiz diye öneride bulundu.
Mayıs ayından sonra, durum yavaş yavaş değişmeye başladı. Hesaplama gücü kaynaklarının kıtlığı, yüksek maliyet gibi faktörlerden dolayı, birçok finans kurumu sadece kendi hesaplama gücünü ve modelini oluşturma umudundan, uygulama değerine daha fazla odaklanmaya yöneldi. "Artık her finans kurumu diğer kurumların büyük modellerle neler yaptığını, nasıl sonuçlar elde ettiğini merak ediyor."
Farklı ölçeklerdeki işletmelere gelince, iki yol ayrımına gidilmiştir. Büyük finansal kuruluşlar, geniş veri setlerine ve uygulama senaryolarına sahip olduklarından, öncü temel büyük modelleri entegre edebilir, kendi kurumsal büyük modellerini oluşturabilir ve aynı zamanda ince ayar yaparak uzmanlık alanlarına yönelik görev büyük modelleri geliştirebilirler. Böylece, büyük modelin inşa süresinin uzun olmasının dezavantajını hızlı bir şekilde telafi edebilirler. Orta ve küçük ölçekli finansal kuruluşlar ise yatırım getirisini dikkate alarak, ihtiyaçlarına göre çeşitli büyük model bulut hizmetlerini veya özel dağıtım seçeneklerini kullanarak doğrudan güçlendirme ihtiyaçlarını karşılayabilirler.
Ancak, finans sektörünün veri uyumu, güvenliği ve güvenilirliği gibi gereksinimlerinin yüksek olması nedeniyle, bazı kişiler bu sektörün büyük model uygulaması sürecinin, aslında yılın başındaki beklentilere kıyasla biraz geri kaldığını düşünüyor. Uzmanlar, başlangıçta finans sektörünün büyük model kullanımı konusunda en hızlı olan sektör olabileceğini tahmin ettiklerini, ancak nihai müşteri entegrasyonuna bakıldığında, finans sektörünün hukuk, istihdam gibi sektörlere kıyasla daha yavaş ilerlediğini belirtiyorlar.
Bazı finansal kurumlar, büyük modellerin uygulanmasındaki çeşitli kısıtlamaları çözmek için yollar aramaya başladılar.
Hesaplama gücü açısından, sektör uzmanları birkaç çözüm yaklaşımını gözlemledi:
İlk olarak, doğrudan kendi hesaplama gücünü oluşturmak, maliyeti yüksek ama güvenliği yeterli. Güçlü bir yapıya sahip olan ve kendi sektörlerinde veya işletmelerinde büyük modeller oluşturmak isteyen büyük finansal kuruluşlar için uygundur.
İkincisi, hesaplama gücünün karışık dağıtımı, hassas verilerin alan dışına çıkmadığı durumlarda, kamu bulutundan büyük model hizmeti arayüzünü çağırmayı kabul ederken, aynı zamanda yerel verileri işlemek için özel dağıtım yoluyla gerçekleştirilir. Bu yöntem maliyet açısından daha düşüktür, ihtiyaçları karşılamak için sadece birkaç yüz bin yuanlık birkaç hesaplama kartı yatırımı yeterlidir ve nispeten sınırlı bütçeye sahip, talebe dayalı uygulama yapan orta ve küçük ölçekli finansal kuruluşlar için uygundur.
Ancak buna rağmen, birçok küçük ve orta ölçekli kuruluş, büyük modeller için gerekli olan GPU kartlarını bulmakta ve satın almakta hala zorluklar yaşıyor. Bu soruna yönelik olarak, düzenleyici kurumların, menkul kıymetler sektörüne yönelik büyük model altyapısını oluşturmak için uzlaşma yolu aradığına dair haberler var. Bu, hesaplama gücünü ve genel büyük model gibi kaynakları merkezi bir şekilde toplayarak, sektördeki küçük ve orta ölçekli finansal kuruluşların da büyük model hizmetlerinden yararlanmasını sağlamak ve teknik olarak geri kalmalarını önlemek amacıyla yapılacak.
Sadece hesaplama gücü değil, son altı aydır büyük modellerin uygulanmasına yönelik araştırmalarla birlikte, birçok finans kurumu da veri yönetimini giderek güçlendirdi.
Uzmanlar, şu anda veri yönetimi alanında olgun uygulamalara sahip büyük bankaların yanı sıra, giderek daha fazla orta ölçekli finansal kurumun da veri merkezi ve veri yönetim sistemleri kurmaya başladığını belirtiyor. Veri yönetim sisteminin ve veri gölü teknolojisi platformunun geliştirilmesinin, gelecekte finansal kurumların IT yapılarının önemli bir teması olacağını düşünüyor.
Ayrıca bazı bankalar büyük model + MLOps yöntemiyle veri sorunlarını çözmektedir. Örneğin, bir banka MLOps modeli kullanarak büyük model veri kapalı döngü sistemi kurdu, tüm süreçlerin otomasyonunu sağladı ve çok kaynaklı heterojen verilerin birleştirilmiş yönetimi ve verimli işlenmesini gerçekleştirdi. Edinilen bilgilere göre, şu anda 2.6TB yüksek kaliteli eğitim veri seti oluşturulmuş ve yerleştirilmiştir.
Dış sahneden içeriye giriş
Son altı aydan fazla bir süre boyunca, hem büyük model hizmet sağlayıcıları hem de büyük finansal kurumlar, uygulama senaryoları arayışında aktif olarak bulunuyorlar. Akıllı ofis, akıllı geliştirme, akıllı pazarlama, akıllı müşteri hizmetleri, akıllı yatırım araştırması, akıllı risk kontrolü, talep analizi gibi alanlar geniş bir şekilde araştırılıyor.
Bir finans teknoloji şirketinin yöneticisinin dediği gibi, "Finans iş zincirindeki her bir ana işlev, büyük model teknolojisi ile yeniden yapılmayı hak ediyor." Şirket yakın zamanda finansal büyük modeli piyasaya sürdü ve iş birliği yaptığı kuruluşlarla finans endüstrisine yönelik büyük model ürünlerini ortak test etmeye başladı. Hedef, finansal danışmanlar, sigorta acenteleri, yatırım araştırmaları, finansal pazarlama, sigorta tazminatı gibi finans profesyonelleri için tam kapsamlı bir AI iş asistanı oluşturmaktır.
Her finans kurumu büyük modeller hakkında zengin fikirler geliştirmiştir. Bir banka, içlerinde 20'den fazla senaryo için uygulama sunulduğunu belirtirken, diğer bir banka 30'dan fazla senaryoda pilot uygulama gerçekleştirdiklerini ifade etmiştir. Bir menkul kıymetler şirketi ise büyük modeli daha önce tanıtılan sanal dijital insan platformuyla entegre etmeyi araştırmaktadır.
Ama büyük modelleri iş dünyasına gerçekten entegre ederken, genel bir görüş öncelikle içsel, sonra dışsal olduğu yönündedir. Sonuçta, mevcut aşamada büyük model teknolojisi olgunlaşmamıştır; örneğin, yanılsama sorunları bulunmaktadır ve finans sektörü, güçlü düzenlemeler, yüksek güvenlik ve yüksek güvenilirlik gerektiren bir sektördür.
Bazı uzmanlar, kısa vadede büyük modellerin doğrudan müşterilere sunulmasını önermiyor. Finansal kurumlar, büyük modelleri öncelikle finansal metinler ve finansal görüntülerin analiz ve anlama yaratımında zihin yoğun sahnelerde kullanmalı, asistan biçiminde insan-makine iş birliği gerçekleştirerek iş gücü verimliliğini artırmalıdır.
Şu anda, kod asistanı birçok finans kurumunda uygulanmaktadır. Örneğin, bir banka büyük model temelinde akıllı bir geliştirme sistemi oluşturdu, kod asistanının ürettiği kod miktarının toplam kod miktarına oranı %40'a ulaştı. Sigorta alanında, bir sigorta şirketi büyük model temelinde bir programlama yardımcı eklentisi geliştirdi ve bu eklentiyi doğrudan iç geliştirme araçlarına entegre etti.
Akıllı ofis alanında da birçok uygulanabilir örnek bulunmaktadır. Uzmanlar, finansal büyük model temelinde geliştirdikleri şube soru-cevap sisteminin, belirli bir bankada devreye alındıktan sonra yüzlerce şubeye yayıldığını ve cevap kabul oranının %85'i aştığını belirtiyorlar. Şu anda, bu çözüm diğer bankalara ve finansal kuruluşlara hızlı bir şekilde kopyalanıyor.
Ancak, sektör uzmanları bu yaygın olarak uygulanan senaryoların aslında finansal kurumların ana uygulamaları olmadığını belirtiyor. Büyük modellerin finans sektörünün iş katmanına derinlemesine ulaşması için hala bir mesafe var.
Uzmanlar, bu yılın sonuna kadar, finansal kuruluşların temel iş senaryolarında büyük modelleri gerçekten kullanacak bir dizi projelerin inşası veya ihale bilgileri ortaya çıkacağını öngörüyor.
Bundan önce, bazı üst düzey tasarım değişiklikleri devam ediyordu. Bazı akademisyenler, gelecekteki tüm akıllı ve dijital sistemlerin büyük modellerin temeli üzerine yeniden inşa edileceğini öngörüyor. Bu, finans sektörünün büyük modellerin uygulanması sürecinde sistemini yeniden yapılandırmasını gerektiriyor. Aynı zamanda, geleneksel küçük modellerin değerini de göz ardı etmemek ve büyük modellerle küçük modellerin birlikte çalışmasını sağlamak gerekiyor.
Bu eğilim finans sektöründe geniş ölçüde kendini göstermiştir. Şu anda finans kurumları büyük modelleri denemekte ve temel olarak katmanlı bir model benimsemektedir. Geçmişte her bir senaryo için bir platform oluşturmanın silo yaklaşımından farklı olarak, büyük model finans kurumlarına sıfırdan başlama ve genel sistem planlamasını daha bilimsel bir şekilde yapma fırsatı sunmaktadır.
Görülebilir ki, şu anda birçok önde gelen finans kurumu, temel altyapı katmanı, model katmanı, büyük model hizmet katmanı, uygulama katmanı gibi birden fazla katmanı içeren katmanlı sistem çerçevesi oluşturmak için büyük modelleri kullanmaktadır.
Bu çerçeve sistemlerinin genel olarak iki büyük özelliği vardır: birincisi, büyük modeller merkezi yetenekleri kullanır ve geleneksel modelleri bir beceri olarak çağırır; ikincisi, büyük model katmanı çoklu model stratejisi benimser, içsel karşılaştırmalar yapar ve en iyi sonucu seçer.
Aslında, sadece finansal kurumlar değil, mevcut belirsizlik ortamında bazı büyük model uygulama sağlayıcıları da çoklu model stratejileri benimsemekte ve hizmet etkinliğini optimize etmekte. Uzmanlar, alt model katmanlarının çok sayıda büyük dil modelini birleştirdiğini ve her büyük modelin döndürdüğü cevaplara göre, en iyi yanıtı kullanıcıya sunmak için bir araya getirildiğini açıkladı.
Yetenek açığı hâlâ büyük
Büyük modellerin uygulamaları, finans sektöründeki personel yapısı üzerinde bazı zorluklar ve değişimler yaratmaya başladı.
Daha önce, ChatGPT'nin ortaya çıkmasıyla birlikte, bir finansal teknoloji şirketinin bu yılın başından 5 Mayıs'a kadar 300'den fazla büyük veri analisti işten çıkardığına dair haberler vardı. Oysa birkaç yıl önce bu, oldukça popüler bir meslekti. Bu durum, çalışanlar arasında kaygıya yol açtı ve hatta bazıları bir sonraki nesil meslek seçimlerini düşünmeye başlamıştı.
Bir bankadan gelen uzmanlar, büyük modellerin insanları nasıl ikame ettiğini de paylaştı. Bu banka, daha önce her sabah stajyerlerin çeşitli bilgileri derleyip araştırma ve yatırım departmanına sunduğu bir süreç yürütüyordu, ancak artık bu işler büyük modellerle gerçekleştirilebiliyor.
Ancak bazı bankalar aslında büyük modellerin iş gücünü azaltmasını istemiyor. Örneğin, 200.000 şubeye sahip bir büyük banka, çalışanlarının büyük modellerle yer değiştirmesini istemediğini açıkça belirtti. Bunun yerine, büyük modellerin yeni fırsatlar yaratmasını, çalışanların hizmet kalitesini ve iş verimliliğini artırmasını, aynı zamanda bazı çalışanların daha yüksek değerli işler yapması için serbest bırakılmasını umuyor.
Bu durum, personel ve yapı istikrarı ile ilgili düşüncelerin yanı sıra, birçok pozisyonda hala yetenek açığı bulunmasından kaynaklanmaktadır.
Uzmanlar, büyük bankaların tamamlanması gereken çok iş olduğunu ve bazı BT ihtiyaçlarının sürelerinin hatta gelecek yılın sonuna kadar uzandığını belirtti. Çalışanların daha fazla iş yapmalarına, verimliliği ve hızı artırmalarına yardımcı olmasını umuyorlar, personel azalmasına neden olmasını değil.
Daha da önemlisi, büyük modellerin hızlı gelişimi, kısa süre içinde kıt yetenek arzının artan talebi karşılamasını zorlaştırıyor. Bu, ilk iPhone'un ortaya çıktığı zamanlarda herkesin uygulama geliştirmek istemesi ama iOS programcıları bulmanın zor olması gibi.
Son dönemdeki bir finans teknolojisi konferansında, bir banka yöneticisi finans sektörünün şu anda büyük model yeteneklerini ana iş süreçlerine entegre etmede karşılaştığı 6 büyük zorluğu özetledi. Bunlardan biri de yetenek eksikliği. Yöneticinin belirttiğine göre, son zamanlarda işe aldıkları yeni çalışanlar arasında AI alanını öğrenenlerin oranı oldukça yüksek, ancak büyük model konusunda bilgi sahibi olan yetenekler ise çok az.
Uzmanlar bunun ne anlama geldiğini derinden hissettiler, son zamanlarda bir bankanın müşterisinden yetenek desteği talebi aldılar. Bu banka, kendi geliştirdiği büyük model ekibinde birinin geçici olarak izinli olması nedeniyle, model eğitim çalışmasının personel yetersizliği sorunuyla karşı karşıya kalmış ve geçici olarak dış destek aramak zorunda kalmıştır.
"Bu alanda yetenek gerçekten çok az, yetiştirmek için biraz zamana ihtiyaç var." Bu uzman, doğrudan büyük modelleri uygulayan yetenek talebinin nispeten basit olduğunu, esasen soru sorabilen kişilere ihtiyaç duyulduğunu düşünüyor. Ancak, sektör veya şirket için kendi büyük modelini oluşturmak istiyorlarsa, finansal kuruluşların etkili bir dikey büyük model teknik ekibine sahip olması gerekiyor.
Diğer bir uzman da, AI büyük model alanında yetenek açığının çok büyük olduğunu itiraf etti. Önde gelen kurumlar şu anda algoritma doktoru gibi AI ile ilgili uzmanları işe alıyorlar. Bunun nedeni, finansal müşterilerin büyük model sağlayıcılarından teknik destek alabilmeleri, ancak nihayetinde son kullanıcı ve yenilikçi lider oldukları için, AI büyük platformunun inşasını desteklemek, çeşitli AI uygulamalarının planlamasını yapmak için belirli bir yetenek birikimine ihtiyaç duymalarıdır. Ayrıca, modelleme, ayarlama ve ince ayar süreçlerinde büyük model sağlayıcılarıyla iş birliği yaparak senaryo üst üste bindirme, model üst üste bindirme gibi optimizasyonlar gerçekleştirmekte ve AI model uygulamalarının kapsamını ve etkisini sürekli olarak genişletmektedirler.
Bazı katılımcılar harekete geçti. Bir şirket, bir banka laboratuvarının insan kaynakları ekibi ile iş birliği yaparak büyük modelin kurumsal uygulamalardaki insan dönüşüm pratiklerini gözden geçirdi ve bir dizi eğitim tasarladı.