Status dan Prospek Aplikasi Model Besar di Industri Keuangan
Sejak munculnya ChatGPT, kecemasan industri keuangan terhadap teknologi kecerdasan buatan menyebar dengan cepat. Seorang profesional di industri menyatakan bahwa pada bulan Mei tahun ini, saat melakukan perjalanan dinas di Dali, bahkan di kuil pun ia bisa menjumpai para profesional keuangan yang mendiskusikan model besar.
Namun, kecemasan ini secara bertahap mereda, dan pandangan industri terhadap model besar juga menjadi lebih rasional. CTO bisnis perbankan Softcom, Sun Hongjun, menggambarkan beberapa tahap sikap industri keuangan terhadap model besar tahun ini: pada bulan Februari-Maret, secara umum merasa cemas; pada bulan April-Mei, banyak yang membentuk tim untuk melakukan pekerjaan terkait; beberapa bulan setelahnya, mengalami kesulitan dalam mencari arah dan penerapan, mulai menjadi rasional; sekarang, mereka merujuk pada tolok ukur dan mencoba memverifikasi skenario aplikasi yang telah diuji.
Perlu dicatat bahwa banyak lembaga keuangan telah mengangkat model besar ke tingkat strategis. Menurut statistik yang tidak lengkap, setidaknya 11 bank di perusahaan yang terdaftar di A-share secara jelas menyebutkan dalam laporan setengah tahun terbaru mereka bahwa mereka sedang mengeksplorasi penerapan model besar. Dari perkembangan terbaru, mereka sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas dari sudut pandang strategis dan desain tingkat atas.
Dari semangat tinggi kembali ke rasionalitas
Seorang profesional senior di industri keuangan dari perusahaan teknologi besar menyatakan bahwa dibandingkan dengan beberapa bulan yang lalu, pemahaman klien keuangan tentang model besar jelas meningkat. Pada awal tahun ketika ChatGPT baru diluncurkan, meskipun antusiasme sangat tinggi, pemahaman tentang esensi dan cara penerapan model besar masih terbatas.
Pada tahap ini, beberapa bank besar mengambil langkah pertama, mulai melakukan berbagai promosi. Misalnya, pada bulan Maret tahun ini, sebuah bank besar meluncurkan aplikasi model besar yang mirip dengan ChatGPT, tetapi penilaian di industri beragam. Saat itu, beberapa orang berpendapat bahwa penamaan aplikasi tersebut terlalu menekankan fungsi obrolan, sementara aspek GPT yang lebih penting diabaikan.
Dengan banyak perusahaan teknologi yang secara bertahap merilis model besar, beberapa departemen teknologi dari lembaga keuangan terkemuka mulai secara aktif berdiskusi dengan perusahaan teknologi besar mengenai pembangunan model besar. Sumber senior tersebut mengungkapkan bahwa lembaga keuangan ini umumnya berharap untuk mengembangkan model besar secara mandiri, mencari panduan mengenai pembangunan set data, konfigurasi server, dan metode pelatihan. Sebuah perusahaan teknologi finansial di bawah salah satu bank besar bahkan mengusulkan harapan untuk menyelesaikan kemampuan terkait untuk disalurkan kepada rekan-rekannya.
Setelah Mei, situasi mulai berubah. Dipengaruhi oleh kekurangan sumber daya komputasi dan biaya yang tinggi, banyak lembaga keuangan beralih dari hanya berharap untuk membangun sumber daya dan model mereka sendiri, menjadi lebih fokus pada nilai aplikasi. "Sekarang setiap lembaga keuangan memperhatikan bagaimana lembaga lain menerapkan model besar dan hasil yang diperoleh."
Untuk perusahaan dengan skala yang berbeda, telah terbentuk dua jalur pengembangan. Lembaga keuangan besar yang memiliki data keuangan dan skenario aplikasi yang besar dapat mengadopsi model dasar terkemuka di industri, membangun model besar perusahaan sendiri, dan sekaligus menggunakan metode fine-tuning untuk membentuk model tugas di bidang profesional, dengan cepat memberdayakan bisnis. Sementara itu, lembaga keuangan kecil dan menengah dapat mempertimbangkan pengembalian investasi secara menyeluruh, mengadopsi API cloud publik dari berbagai model besar atau layanan penerapan privat sesuai kebutuhan, untuk langsung memenuhi kebutuhan bisnis.
Namun, karena industri keuangan memiliki tuntutan yang tinggi terhadap kepatuhan data, keamanan, dan keandalan, beberapa orang berpendapat bahwa kemajuan implementasi model besar di industri ini sebenarnya sedikit lebih lambat dari yang diperkirakan pada awal tahun. Sun Hongjun dari Softcom Power menyatakan, mereka awalnya memperkirakan bahwa industri keuangan mungkin akan menjadi yang pertama menggunakan model besar secara besar-besaran, tetapi dari situasi akhir dalam menjalin kerjasama dengan klien, kecepatan aplikasi di industri keuangan tidak secepat di industri hukum, rekrutmen, dan sebagainya.
Beberapa lembaga keuangan telah mulai mencari solusi untuk berbagai faktor pembatas dalam proses implementasi model besar.
Dalam hal daya komputasi, para ahli industri mengamati beberapa solusi yang mungkin:
Membangun kekuatan komputasi sendiri secara langsung, biayanya lebih tinggi tetapi keamanan lebih baik, cocok untuk lembaga keuangan besar yang kuat, yang ingin membangun model besar industri atau perusahaan.
Penerapan kombinasi kekuatan pemrosesan, dalam keadaan di mana data sensitif tidak keluar dari domain, menerima panggilan dari layanan model besar di cloud publik, sambil memproses layanan data lokal melalui penerapan privat. Cara ini memiliki biaya yang relatif rendah, cocok untuk lembaga keuangan kecil dan menengah yang memiliki dana terbatas dan aplikasi sesuai kebutuhan.
Namun, banyak lembaga kecil dan menengah masih menghadapi kesulitan dalam membeli kartu GPU yang diperlukan untuk model besar, serta biaya yang tinggi. Untuk mengatasi masalah ini, pihak berwenang sedang melakukan penelitian untuk mengeksplorasi apakah dapat dibangun infrastruktur model besar yang ditujukan untuk industri tertentu dengan cara kompromi, mengonsolidasikan sumber daya seperti daya komputasi dan model besar umum, sehingga lembaga keuangan kecil dan menengah di industri juga dapat menggunakan layanan model besar, menghindari "ketinggalan teknologi".
Dalam hal data, selama setengah tahun terakhir, seiring dengan eksplorasi penerapan model besar, banyak lembaga keuangan juga secara bertahap memperkuat pekerjaan tata kelola data.
Seorang eksekutif senior dari sebuah perusahaan teknologi besar memperkenalkan, saat ini selain lembaga besar yang memiliki praktik matang di bidang tata kelola data, semakin banyak lembaga keuangan menengah juga mulai membangun platform data dan sistem tata kelola data. Dia percaya bahwa membangun sistem tata kelola data yang lengkap dan platform teknologi danau data akan menjadi tema penting dalam pembangunan TI lembaga keuangan di masa depan.
Bank-bank juga sedang menggunakan model besar yang dipadukan dengan metode MLOps untuk menyelesaikan masalah data. Misalnya, sebuah bank besar menerapkan model MLOps untuk membangun sistem siklus data model besar, yang mengotomatisasi seluruh proses serta mengelola dan memproses data heterogen multi-sumber secara efisien. Diketahui bahwa saat ini telah dibangun dan terakumulasi 2,6TB dataset pelatihan berkualitas tinggi.
Memasuki dari skenario luar
Selama lebih dari setengah tahun terakhir, baik penyedia layanan model besar maupun berbagai lembaga keuangan telah aktif mencari skenario aplikasi. Bidang seperti kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian dan investasi cerdas, pengendalian risiko cerdas, dan analisis kebutuhan telah dieksplorasi satu per satu.
Seperti yang dikatakan oleh seorang eksekutif dari perusahaan teknologi tertentu, "Setiap fungsi kunci dalam rantai bisnis keuangan layak untuk direvitalisasi menggunakan teknologi model besar." Perusahaan tersebut baru-baru ini meluncurkan model besar yang ditujukan untuk industri keuangan dan sedang melakukan pengujian internal dengan mitra untuk membangun produk model besar industri keuangan, dengan tujuan untuk menciptakan asisten bisnis AI sepanjang rantai untuk para ahli keuangan seperti penasihat investasi, agen asuransi, penelitian investasi, pemasaran keuangan, dan klaim asuransi.
Berbagai lembaga keuangan juga memiliki banyak ide tentang penerapan model besar. Sebuah bank besar menyatakan telah menerapkan aplikasi di lebih dari 20 skenario, bank lain menyebutkan telah melakukan uji coba di lebih dari 30 skenario, sementara sebuah perusahaan sekuritas sedang menjajaki integrasi model besar dengan platform manusia digital virtual yang telah diluncurkan sebelumnya.
Namun, ketika benar-benar menerapkan model besar ke dalam bisnis, konsensus umum di industri adalah menggunakan secara internal terlebih dahulu sebelum menggunakan secara eksternal. Bagaimanapun, saat ini teknologi model besar masih belum matang, seperti masalah ilusi, dan industri keuangan adalah industri yang sangat diatur, aman, dan dapat dipercaya.
Seorang Chief Technology Officer dari bank besar menyarankan, dalam jangka pendek tidak sebaiknya langsung menggunakan model besar untuk pelanggan. Institusi keuangan harus memprioritaskan penerapan model besar dalam analisis dan pemahaman teks keuangan serta gambar keuangan dalam skenario yang memerlukan kecerdasan tinggi, untuk mewujudkan kolaborasi manusia-mesin dalam bentuk asisten, meningkatkan efisiensi kerja staf bisnis.
Saat ini, asisten kode telah diterapkan di beberapa lembaga keuangan. Misalnya, sebuah bank besar telah membangun sistem pengembangan cerdas berbasis model besar, di mana jumlah kode yang dihasilkan oleh asisten pengkodean mencapai 40% dari total jumlah kode. Di bidang asuransi, sebuah perusahaan asuransi telah mengembangkan plugin pemrograman bantu berbasis model besar, yang langsung disematkan ke dalam alat pengembangan internal.
Beberapa perusahaan teknologi juga mengembangkan produk siap pakai untuk klien keuangan yang didasarkan pada kemampuan generasi kode model besar. Sun Hongjun dari Softstone memperkenalkan bahwa salah satu produk mereka, di atas kemampuan penyelesaian kode model besar, menambahkan fungsi seperti pemecahan tugas, jawaban yang tepat, dan mengatasi batasan konteks, sehingga pengguna dapat langsung menggunakannya. Produk ini saat ini telah digunakan oleh lebih dari 3000 pengguna di salah satu bank internasional, dengan tingkat penyelesaian kode otomatis antara 50% hingga 90%.
Ada banyak kasus implementasi di bidang perkantoran cerdas. Pemimpin produk model besar di industri keuangan dari sebuah perusahaan teknologi besar memperkenalkan bahwa mereka telah meluncurkan fungsi tanya jawab cabang yang berbasis pada model besar keuangan. Setelah diluncurkan pada bulan Juli di sebuah bank besar, fungsi ini telah dipromosikan ke ratusan cabang, dengan tingkat adopsi jawaban melebihi 85%. Saat ini, fungsi ini telah dengan cepat disalin ke banyak bank dan lembaga keuangan.
Namun, para ahli industri menilai bahwa skenario yang sudah banyak diimplementasikan ini sebenarnya masih bukan aplikasi inti dari lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk mendalami lapisan bisnis industri keuangan.
Sun Hongjun menyatakan bahwa ada kesulitan yang cukup besar dalam aspek aplikasi bisnis. Pemasaran, manajemen risiko, dan kepatuhan adalah bidang di mana model besar dapat membawa perubahan dan juga merupakan kebutuhan klien keuangan, tetapi saat ini pekerjaan-pekerjaan ini masih tergantung pada peningkatan kemampuan penyedia model besar di tingkat dasar, agar dapat lebih lanjut mengembangkan aplikasi skenario bisnis.
Seorang ahli senior dari perusahaan teknologi besar memprediksi bahwa sebelum akhir tahun ini, akan ada sejumlah proyek pembangunan atau informasi tender yang benar-benar menerapkan model besar dalam skenario bisnis inti lembaga keuangan.
Sebelumnya, beberapa perubahan di tingkat desain tingkat atas sedang berlangsung.
Para ahli menilai, di masa depan seluruh sistem cerdas dan digital akan dibangun kembali berdasarkan model besar. Ini menuntut industri keuangan untuk merestrukturisasi sistem mereka dalam proses penerapan model besar. Pada saat yang sama, nilai model kecil tradisional juga tidak boleh diabaikan, dan seharusnya model besar dan kecil dapat bekerja sama.
Tren ini telah tercermin secara luas di industri keuangan. Saat ini, banyak lembaga keuangan terkemuka telah membangun kerangka sistem berlapis yang terdiri dari beberapa lapisan, termasuk lapisan infrastruktur, lapisan model, lapisan layanan model besar, dan lapisan aplikasi, berdasarkan model besar.
Kerangka kerja ini umumnya memiliki dua ciri besar: yang pertama adalah model besar berfungsi sebagai kemampuan pusat, memanggil model tradisional sebagai keterampilan; yang kedua adalah lapisan model besar menggunakan strategi multi-model, membandingkan di dalam, dan memilih hasil yang paling optimal.
Sebenarnya, tidak hanya lembaga keuangan, dalam situasi di mana pola saat ini belum jelas, beberapa penyedia aplikasi model besar juga mengadopsi strategi multi-model untuk memilih efektivitas layanan. Sun Hongjun mengungkapkan, lapisan model dasar mereka juga mengintegrasikan beberapa model bahasa besar, yang akan dirakit dan dipilih berdasarkan jawaban dari setiap model besar sebelum disediakan kepada pengguna.
Kekurangan talenta masih sangat besar
Penerapan model besar telah mulai membawa beberapa tantangan dan perubahan pada struktur personel di industri keuangan.
Seorang profesional dari perusahaan fintech menyatakan, dengan munculnya ChatGPT, dari awal tahun ini hingga akhir Mei, perusahaannya telah memberhentikan lebih dari 300 analis data besar. Beberapa tahun yang lalu, ini masih merupakan profesi yang populer. Hal ini sempat menimbulkan kekhawatiran tentang pekerjaan di masa depan.
Seorang ahli senior dari salah satu bank besar juga berbagi efek penggantian manusia oleh model besar. Bank tersebut sebelumnya setiap pagi memiliki intern yang mengumpulkan berbagai informasi untuk departemen penelitian dan investasi, tetapi sekarang pekerjaan ini dapat diselesaikan oleh model besar.
Namun, beberapa bank tidak ingin model besar menyebabkan pemutusan kerja. Sebuah bank besar dengan 200.000 karyawan di jaringan cabangnya secara jelas menyatakan bahwa mereka berharap model besar dapat membawa peluang baru, meningkatkan kualitas layanan karyawan dan efisiensi kerja, sambil membebaskan sebagian karyawan untuk melakukan lebih banyak pekerjaan bernilai tinggi, bukan untuk menggantikan karyawan.
Di antara ini ada pertimbangan stabilitas personel dan struktur, juga karena banyak posisi masih kekurangan bakat. Sun Hongjun menyatakan bahwa bank besar memiliki banyak pekerjaan yang perlu diselesaikan, beberapa permintaan TI bahkan jadwalnya sampai akhir tahun depan, mereka berharap model besar dapat membantu karyawan meningkatkan efisiensi, bukan mengurangi jumlah personel.
Lebih penting lagi, perkembangan cepat model besar menyebabkan kekurangan pasokan talenta yang sulit untuk mencocokkan lonjakan permintaan dalam jangka pendek. Ini mirip dengan ketika iPhone pertama kali muncul, sulit untuk menemukan programmer iOS jika ingin mengembangkan aplikasi.
Seorang eksekutif bank besar merangkum 6 tantangan utama yang dihadapi industri keuangan saat ini dalam penerapan model besar di proses bisnis inti, salah satunya adalah bakat. Mereka baru-baru ini menemukan bahwa proporsi karyawan baru dan yang direkrut dari kampus yang mempelajari bidang AI sangat tinggi, tetapi yang memahami model besar sangat sedikit.
Sun Hongjun juga memiliki pengalaman serupa, seminggu sebelum Hari Nasional, mereka baru saja menerima permintaan dukungan talenta dari seorang klien bank. Beberapa anggota tim model besar yang dibangun sendiri oleh bank tersebut sedang cuti sementara, yang mengakibatkan kekurangan tenaga kerja untuk pekerjaan pelatihan model, sehingga harus mencari dukungan eksternal.
"Saat ini, memang ada sedikit talenta di bidang ini, dan masih perlu waktu untuk mengembangkan mereka." Sun Hongjun berpendapat bahwa permintaan untuk talenta yang dapat langsung menerapkan model besar relatif sederhana, terutama adalah orang yang dapat mengajukan pertanyaan. Namun, jika membangun model besar industri atau perusahaan sendiri, maka lembaga keuangan perlu memiliki tim teknis model besar vertikal yang handal.
Seorang eksekutif senior dari perusahaan teknologi besar juga mengakui bahwa ada kekurangan besar dalam sumber daya manusia untuk model AI besar, dan lembaga-lembaga terkemuka saat ini sedang merekrut talenta terkait AI seperti doktor algoritma, dan sebagainya. Hal ini disebabkan karena klien finansial dapat memperoleh dukungan teknis dari penyedia model besar, tetapi sebagai pihak pengguna akhir dan pemimpin inovasi, mereka memerlukan akumulasi talenta tertentu untuk mendukung pembangunan platform AI besar, perencanaan aplikasi AI, serta bekerja sama dengan penyedia model besar dalam proses pemodelan dan penyesuaian untuk melakukan optimasi skenario dan model, serta terus memperluas jangkauan dan efektivitas aplikasi model AI.
Beberapa lembaga telah mengambil tindakan. Seorang pemimpin dari perusahaan teknologi besar memperkenalkan bahwa mereka bekerja sama dengan laboratorium dari bank besar untuk merumuskan praktik transformasi personel aplikasi model besar di perusahaan, merancang serangkaian kursus pelatihan seperti penyempurnaan Prompt, penyesuaian halus, dan operasi model besar, serta bekerja sama dengan beberapa departemen untuk membentuk kelompok proyek bersama, mendorong peningkatan kemampuan personel perusahaan.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
12 Suka
Hadiah
12
3
Bagikan
Komentar
0/400
AirdropChaser
· 12jam yang lalu
Di dalam dan di luar istana semua terlibat dalam ai
Lihat AsliBalas0
HodlKumamon
· 12jam yang lalu
Restoran Gongting Yuye berbaring di tengah, aliran rasional data, tidak merugi dalam gelombang ini.jpg, tidak Perdagangan Mata Uang Kripto hanya melihat koin, menghitung rasio Sharpe secara online.
Tren aplikasi model besar di industri keuangan: dari kecemasan menuju rasionalitas, kekurangan talenta masih menjadi tantangan
Status dan Prospek Aplikasi Model Besar di Industri Keuangan
Sejak munculnya ChatGPT, kecemasan industri keuangan terhadap teknologi kecerdasan buatan menyebar dengan cepat. Seorang profesional di industri menyatakan bahwa pada bulan Mei tahun ini, saat melakukan perjalanan dinas di Dali, bahkan di kuil pun ia bisa menjumpai para profesional keuangan yang mendiskusikan model besar.
Namun, kecemasan ini secara bertahap mereda, dan pandangan industri terhadap model besar juga menjadi lebih rasional. CTO bisnis perbankan Softcom, Sun Hongjun, menggambarkan beberapa tahap sikap industri keuangan terhadap model besar tahun ini: pada bulan Februari-Maret, secara umum merasa cemas; pada bulan April-Mei, banyak yang membentuk tim untuk melakukan pekerjaan terkait; beberapa bulan setelahnya, mengalami kesulitan dalam mencari arah dan penerapan, mulai menjadi rasional; sekarang, mereka merujuk pada tolok ukur dan mencoba memverifikasi skenario aplikasi yang telah diuji.
Perlu dicatat bahwa banyak lembaga keuangan telah mengangkat model besar ke tingkat strategis. Menurut statistik yang tidak lengkap, setidaknya 11 bank di perusahaan yang terdaftar di A-share secara jelas menyebutkan dalam laporan setengah tahun terbaru mereka bahwa mereka sedang mengeksplorasi penerapan model besar. Dari perkembangan terbaru, mereka sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas dari sudut pandang strategis dan desain tingkat atas.
Dari semangat tinggi kembali ke rasionalitas
Seorang profesional senior di industri keuangan dari perusahaan teknologi besar menyatakan bahwa dibandingkan dengan beberapa bulan yang lalu, pemahaman klien keuangan tentang model besar jelas meningkat. Pada awal tahun ketika ChatGPT baru diluncurkan, meskipun antusiasme sangat tinggi, pemahaman tentang esensi dan cara penerapan model besar masih terbatas.
Pada tahap ini, beberapa bank besar mengambil langkah pertama, mulai melakukan berbagai promosi. Misalnya, pada bulan Maret tahun ini, sebuah bank besar meluncurkan aplikasi model besar yang mirip dengan ChatGPT, tetapi penilaian di industri beragam. Saat itu, beberapa orang berpendapat bahwa penamaan aplikasi tersebut terlalu menekankan fungsi obrolan, sementara aspek GPT yang lebih penting diabaikan.
Dengan banyak perusahaan teknologi yang secara bertahap merilis model besar, beberapa departemen teknologi dari lembaga keuangan terkemuka mulai secara aktif berdiskusi dengan perusahaan teknologi besar mengenai pembangunan model besar. Sumber senior tersebut mengungkapkan bahwa lembaga keuangan ini umumnya berharap untuk mengembangkan model besar secara mandiri, mencari panduan mengenai pembangunan set data, konfigurasi server, dan metode pelatihan. Sebuah perusahaan teknologi finansial di bawah salah satu bank besar bahkan mengusulkan harapan untuk menyelesaikan kemampuan terkait untuk disalurkan kepada rekan-rekannya.
Setelah Mei, situasi mulai berubah. Dipengaruhi oleh kekurangan sumber daya komputasi dan biaya yang tinggi, banyak lembaga keuangan beralih dari hanya berharap untuk membangun sumber daya dan model mereka sendiri, menjadi lebih fokus pada nilai aplikasi. "Sekarang setiap lembaga keuangan memperhatikan bagaimana lembaga lain menerapkan model besar dan hasil yang diperoleh."
Untuk perusahaan dengan skala yang berbeda, telah terbentuk dua jalur pengembangan. Lembaga keuangan besar yang memiliki data keuangan dan skenario aplikasi yang besar dapat mengadopsi model dasar terkemuka di industri, membangun model besar perusahaan sendiri, dan sekaligus menggunakan metode fine-tuning untuk membentuk model tugas di bidang profesional, dengan cepat memberdayakan bisnis. Sementara itu, lembaga keuangan kecil dan menengah dapat mempertimbangkan pengembalian investasi secara menyeluruh, mengadopsi API cloud publik dari berbagai model besar atau layanan penerapan privat sesuai kebutuhan, untuk langsung memenuhi kebutuhan bisnis.
Namun, karena industri keuangan memiliki tuntutan yang tinggi terhadap kepatuhan data, keamanan, dan keandalan, beberapa orang berpendapat bahwa kemajuan implementasi model besar di industri ini sebenarnya sedikit lebih lambat dari yang diperkirakan pada awal tahun. Sun Hongjun dari Softcom Power menyatakan, mereka awalnya memperkirakan bahwa industri keuangan mungkin akan menjadi yang pertama menggunakan model besar secara besar-besaran, tetapi dari situasi akhir dalam menjalin kerjasama dengan klien, kecepatan aplikasi di industri keuangan tidak secepat di industri hukum, rekrutmen, dan sebagainya.
Beberapa lembaga keuangan telah mulai mencari solusi untuk berbagai faktor pembatas dalam proses implementasi model besar.
Dalam hal daya komputasi, para ahli industri mengamati beberapa solusi yang mungkin:
Membangun kekuatan komputasi sendiri secara langsung, biayanya lebih tinggi tetapi keamanan lebih baik, cocok untuk lembaga keuangan besar yang kuat, yang ingin membangun model besar industri atau perusahaan.
Penerapan kombinasi kekuatan pemrosesan, dalam keadaan di mana data sensitif tidak keluar dari domain, menerima panggilan dari layanan model besar di cloud publik, sambil memproses layanan data lokal melalui penerapan privat. Cara ini memiliki biaya yang relatif rendah, cocok untuk lembaga keuangan kecil dan menengah yang memiliki dana terbatas dan aplikasi sesuai kebutuhan.
Namun, banyak lembaga kecil dan menengah masih menghadapi kesulitan dalam membeli kartu GPU yang diperlukan untuk model besar, serta biaya yang tinggi. Untuk mengatasi masalah ini, pihak berwenang sedang melakukan penelitian untuk mengeksplorasi apakah dapat dibangun infrastruktur model besar yang ditujukan untuk industri tertentu dengan cara kompromi, mengonsolidasikan sumber daya seperti daya komputasi dan model besar umum, sehingga lembaga keuangan kecil dan menengah di industri juga dapat menggunakan layanan model besar, menghindari "ketinggalan teknologi".
Dalam hal data, selama setengah tahun terakhir, seiring dengan eksplorasi penerapan model besar, banyak lembaga keuangan juga secara bertahap memperkuat pekerjaan tata kelola data.
Seorang eksekutif senior dari sebuah perusahaan teknologi besar memperkenalkan, saat ini selain lembaga besar yang memiliki praktik matang di bidang tata kelola data, semakin banyak lembaga keuangan menengah juga mulai membangun platform data dan sistem tata kelola data. Dia percaya bahwa membangun sistem tata kelola data yang lengkap dan platform teknologi danau data akan menjadi tema penting dalam pembangunan TI lembaga keuangan di masa depan.
Bank-bank juga sedang menggunakan model besar yang dipadukan dengan metode MLOps untuk menyelesaikan masalah data. Misalnya, sebuah bank besar menerapkan model MLOps untuk membangun sistem siklus data model besar, yang mengotomatisasi seluruh proses serta mengelola dan memproses data heterogen multi-sumber secara efisien. Diketahui bahwa saat ini telah dibangun dan terakumulasi 2,6TB dataset pelatihan berkualitas tinggi.
Memasuki dari skenario luar
Selama lebih dari setengah tahun terakhir, baik penyedia layanan model besar maupun berbagai lembaga keuangan telah aktif mencari skenario aplikasi. Bidang seperti kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian dan investasi cerdas, pengendalian risiko cerdas, dan analisis kebutuhan telah dieksplorasi satu per satu.
Seperti yang dikatakan oleh seorang eksekutif dari perusahaan teknologi tertentu, "Setiap fungsi kunci dalam rantai bisnis keuangan layak untuk direvitalisasi menggunakan teknologi model besar." Perusahaan tersebut baru-baru ini meluncurkan model besar yang ditujukan untuk industri keuangan dan sedang melakukan pengujian internal dengan mitra untuk membangun produk model besar industri keuangan, dengan tujuan untuk menciptakan asisten bisnis AI sepanjang rantai untuk para ahli keuangan seperti penasihat investasi, agen asuransi, penelitian investasi, pemasaran keuangan, dan klaim asuransi.
Berbagai lembaga keuangan juga memiliki banyak ide tentang penerapan model besar. Sebuah bank besar menyatakan telah menerapkan aplikasi di lebih dari 20 skenario, bank lain menyebutkan telah melakukan uji coba di lebih dari 30 skenario, sementara sebuah perusahaan sekuritas sedang menjajaki integrasi model besar dengan platform manusia digital virtual yang telah diluncurkan sebelumnya.
Namun, ketika benar-benar menerapkan model besar ke dalam bisnis, konsensus umum di industri adalah menggunakan secara internal terlebih dahulu sebelum menggunakan secara eksternal. Bagaimanapun, saat ini teknologi model besar masih belum matang, seperti masalah ilusi, dan industri keuangan adalah industri yang sangat diatur, aman, dan dapat dipercaya.
Seorang Chief Technology Officer dari bank besar menyarankan, dalam jangka pendek tidak sebaiknya langsung menggunakan model besar untuk pelanggan. Institusi keuangan harus memprioritaskan penerapan model besar dalam analisis dan pemahaman teks keuangan serta gambar keuangan dalam skenario yang memerlukan kecerdasan tinggi, untuk mewujudkan kolaborasi manusia-mesin dalam bentuk asisten, meningkatkan efisiensi kerja staf bisnis.
Saat ini, asisten kode telah diterapkan di beberapa lembaga keuangan. Misalnya, sebuah bank besar telah membangun sistem pengembangan cerdas berbasis model besar, di mana jumlah kode yang dihasilkan oleh asisten pengkodean mencapai 40% dari total jumlah kode. Di bidang asuransi, sebuah perusahaan asuransi telah mengembangkan plugin pemrograman bantu berbasis model besar, yang langsung disematkan ke dalam alat pengembangan internal.
Beberapa perusahaan teknologi juga mengembangkan produk siap pakai untuk klien keuangan yang didasarkan pada kemampuan generasi kode model besar. Sun Hongjun dari Softstone memperkenalkan bahwa salah satu produk mereka, di atas kemampuan penyelesaian kode model besar, menambahkan fungsi seperti pemecahan tugas, jawaban yang tepat, dan mengatasi batasan konteks, sehingga pengguna dapat langsung menggunakannya. Produk ini saat ini telah digunakan oleh lebih dari 3000 pengguna di salah satu bank internasional, dengan tingkat penyelesaian kode otomatis antara 50% hingga 90%.
Ada banyak kasus implementasi di bidang perkantoran cerdas. Pemimpin produk model besar di industri keuangan dari sebuah perusahaan teknologi besar memperkenalkan bahwa mereka telah meluncurkan fungsi tanya jawab cabang yang berbasis pada model besar keuangan. Setelah diluncurkan pada bulan Juli di sebuah bank besar, fungsi ini telah dipromosikan ke ratusan cabang, dengan tingkat adopsi jawaban melebihi 85%. Saat ini, fungsi ini telah dengan cepat disalin ke banyak bank dan lembaga keuangan.
Namun, para ahli industri menilai bahwa skenario yang sudah banyak diimplementasikan ini sebenarnya masih bukan aplikasi inti dari lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk mendalami lapisan bisnis industri keuangan.
Sun Hongjun menyatakan bahwa ada kesulitan yang cukup besar dalam aspek aplikasi bisnis. Pemasaran, manajemen risiko, dan kepatuhan adalah bidang di mana model besar dapat membawa perubahan dan juga merupakan kebutuhan klien keuangan, tetapi saat ini pekerjaan-pekerjaan ini masih tergantung pada peningkatan kemampuan penyedia model besar di tingkat dasar, agar dapat lebih lanjut mengembangkan aplikasi skenario bisnis.
Seorang ahli senior dari perusahaan teknologi besar memprediksi bahwa sebelum akhir tahun ini, akan ada sejumlah proyek pembangunan atau informasi tender yang benar-benar menerapkan model besar dalam skenario bisnis inti lembaga keuangan.
Sebelumnya, beberapa perubahan di tingkat desain tingkat atas sedang berlangsung.
Para ahli menilai, di masa depan seluruh sistem cerdas dan digital akan dibangun kembali berdasarkan model besar. Ini menuntut industri keuangan untuk merestrukturisasi sistem mereka dalam proses penerapan model besar. Pada saat yang sama, nilai model kecil tradisional juga tidak boleh diabaikan, dan seharusnya model besar dan kecil dapat bekerja sama.
Tren ini telah tercermin secara luas di industri keuangan. Saat ini, banyak lembaga keuangan terkemuka telah membangun kerangka sistem berlapis yang terdiri dari beberapa lapisan, termasuk lapisan infrastruktur, lapisan model, lapisan layanan model besar, dan lapisan aplikasi, berdasarkan model besar.
Kerangka kerja ini umumnya memiliki dua ciri besar: yang pertama adalah model besar berfungsi sebagai kemampuan pusat, memanggil model tradisional sebagai keterampilan; yang kedua adalah lapisan model besar menggunakan strategi multi-model, membandingkan di dalam, dan memilih hasil yang paling optimal.
Sebenarnya, tidak hanya lembaga keuangan, dalam situasi di mana pola saat ini belum jelas, beberapa penyedia aplikasi model besar juga mengadopsi strategi multi-model untuk memilih efektivitas layanan. Sun Hongjun mengungkapkan, lapisan model dasar mereka juga mengintegrasikan beberapa model bahasa besar, yang akan dirakit dan dipilih berdasarkan jawaban dari setiap model besar sebelum disediakan kepada pengguna.
Kekurangan talenta masih sangat besar
Penerapan model besar telah mulai membawa beberapa tantangan dan perubahan pada struktur personel di industri keuangan.
Seorang profesional dari perusahaan fintech menyatakan, dengan munculnya ChatGPT, dari awal tahun ini hingga akhir Mei, perusahaannya telah memberhentikan lebih dari 300 analis data besar. Beberapa tahun yang lalu, ini masih merupakan profesi yang populer. Hal ini sempat menimbulkan kekhawatiran tentang pekerjaan di masa depan.
Seorang ahli senior dari salah satu bank besar juga berbagi efek penggantian manusia oleh model besar. Bank tersebut sebelumnya setiap pagi memiliki intern yang mengumpulkan berbagai informasi untuk departemen penelitian dan investasi, tetapi sekarang pekerjaan ini dapat diselesaikan oleh model besar.
Namun, beberapa bank tidak ingin model besar menyebabkan pemutusan kerja. Sebuah bank besar dengan 200.000 karyawan di jaringan cabangnya secara jelas menyatakan bahwa mereka berharap model besar dapat membawa peluang baru, meningkatkan kualitas layanan karyawan dan efisiensi kerja, sambil membebaskan sebagian karyawan untuk melakukan lebih banyak pekerjaan bernilai tinggi, bukan untuk menggantikan karyawan.
Di antara ini ada pertimbangan stabilitas personel dan struktur, juga karena banyak posisi masih kekurangan bakat. Sun Hongjun menyatakan bahwa bank besar memiliki banyak pekerjaan yang perlu diselesaikan, beberapa permintaan TI bahkan jadwalnya sampai akhir tahun depan, mereka berharap model besar dapat membantu karyawan meningkatkan efisiensi, bukan mengurangi jumlah personel.
Lebih penting lagi, perkembangan cepat model besar menyebabkan kekurangan pasokan talenta yang sulit untuk mencocokkan lonjakan permintaan dalam jangka pendek. Ini mirip dengan ketika iPhone pertama kali muncul, sulit untuk menemukan programmer iOS jika ingin mengembangkan aplikasi.
Seorang eksekutif bank besar merangkum 6 tantangan utama yang dihadapi industri keuangan saat ini dalam penerapan model besar di proses bisnis inti, salah satunya adalah bakat. Mereka baru-baru ini menemukan bahwa proporsi karyawan baru dan yang direkrut dari kampus yang mempelajari bidang AI sangat tinggi, tetapi yang memahami model besar sangat sedikit.
Sun Hongjun juga memiliki pengalaman serupa, seminggu sebelum Hari Nasional, mereka baru saja menerima permintaan dukungan talenta dari seorang klien bank. Beberapa anggota tim model besar yang dibangun sendiri oleh bank tersebut sedang cuti sementara, yang mengakibatkan kekurangan tenaga kerja untuk pekerjaan pelatihan model, sehingga harus mencari dukungan eksternal.
"Saat ini, memang ada sedikit talenta di bidang ini, dan masih perlu waktu untuk mengembangkan mereka." Sun Hongjun berpendapat bahwa permintaan untuk talenta yang dapat langsung menerapkan model besar relatif sederhana, terutama adalah orang yang dapat mengajukan pertanyaan. Namun, jika membangun model besar industri atau perusahaan sendiri, maka lembaga keuangan perlu memiliki tim teknis model besar vertikal yang handal.
Seorang eksekutif senior dari perusahaan teknologi besar juga mengakui bahwa ada kekurangan besar dalam sumber daya manusia untuk model AI besar, dan lembaga-lembaga terkemuka saat ini sedang merekrut talenta terkait AI seperti doktor algoritma, dan sebagainya. Hal ini disebabkan karena klien finansial dapat memperoleh dukungan teknis dari penyedia model besar, tetapi sebagai pihak pengguna akhir dan pemimpin inovasi, mereka memerlukan akumulasi talenta tertentu untuk mendukung pembangunan platform AI besar, perencanaan aplikasi AI, serta bekerja sama dengan penyedia model besar dalam proses pemodelan dan penyesuaian untuk melakukan optimasi skenario dan model, serta terus memperluas jangkauan dan efektivitas aplikasi model AI.
Beberapa lembaga telah mengambil tindakan. Seorang pemimpin dari perusahaan teknologi besar memperkenalkan bahwa mereka bekerja sama dengan laboratorium dari bank besar untuk merumuskan praktik transformasi personel aplikasi model besar di perusahaan, merancang serangkaian kursus pelatihan seperti penyempurnaan Prompt, penyesuaian halus, dan operasi model besar, serta bekerja sama dengan beberapa departemen untuk membentuk kelompok proyek bersama, mendorong peningkatan kemampuan personel perusahaan.