Aplikasi Model Besar Kecerdasan Buatan di Industri Keuangan: Dari Antusiasme yang Tinggi Menuju Kembali ke Rasionalitas

Sejak kemunculan ChatGPT, industri keuangan dengan cepat merasakan kecemasan. Industri yang percaya pada teknologi ini takut tertinggal oleh arus zaman yang sedang berlari. Suasana gelisah ini bahkan sempat menjangkiti kuil yang tenang. Seorang profesional di bidangnya mengatakan bahwa ketika dia melakukan perjalanan dinas ke Dali pada bulan Mei, dia bahkan dapat bertemu dengan para pelaku industri keuangan yang mendiskusikan model besar di kuil.

Namun, kecemasan ini perlahan-lahan menjadi hal yang biasa, dan pola pikir orang mulai menjadi jelas dan rasional. Beberapa ahli menggambarkan beberapa tahap sikap industri keuangan terhadap model besar tahun ini: pada bulan Februari dan Maret, ada kecemasan yang meluas, khawatir tertinggal; pada bulan April dan Mei, banyak yang membentuk tim untuk melakukan pekerjaan; beberapa bulan kemudian, mereka mengalami kesulitan dalam mencari arah dan penerapan, mulai menjadi rasional; sekarang, mereka memperhatikan perusahaan-perusahaan acuan dan mencoba memverifikasi skenario yang telah terbukti.

Sebuah tren baru adalah bahwa banyak lembaga keuangan telah mengangkat model besar ke tingkat strategis. Menurut statistik yang tidak lengkap, di antara perusahaan terdaftar di pasar A, setidaknya 11 bank secara jelas menyatakan dalam laporan setengah tahunan terbaru mereka bahwa mereka sedang menjelajahi aplikasi model besar. Dari tindakan terbaru, mereka juga sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas dari sisi strategis dan desain tingkat atas.

Dari semangat yang tinggi menjadi kembalinya rasionalitas

"Dibandingkan beberapa bulan yang lalu, sekarang kita bisa merasakan dengan jelas bahwa pemahaman klien keuangan tentang model besar telah jauh lebih baik." Seorang ahli senior menyatakan, saat ChatGPT pertama kali diluncurkan di awal tahun, meskipun antusiasme orang-orang tinggi, pemahaman mereka tentang apa itu model besar dan bagaimana cara menggunakannya sebenarnya sangat terbatas.

Pada tahap ini, beberapa bank besar mengambil inisiatif dan mulai melakukan berbagai promosi "mengambil keuntungan". Misalnya, pada bulan Maret tahun ini, suatu bank meluncurkan aplikasi model besar yang mirip dengan ChatGPT. Namun, penilaian di industri bervariasi. Saat itu, beberapa orang berpendapat bahwa nama produk ini menekankan pada Chat yang tidak begitu penting dalam ChatGPT, sementara justru mengabaikan bagian yang benar-benar penting yaitu GPT.

Sementara itu, dengan beberapa perusahaan teknologi domestik yang secara bertahap merilis model besar, beberapa departemen teknologi dari lembaga keuangan terkemuka mulai aktif berdiskusi dengan perusahaan besar mengenai pembangunan model besar. Lembaga keuangan ini umumnya berharap untuk membangun model besar sendiri, memerlukan bimbingan dari penyedia tentang pembuatan dataset, pengadaan server, dan metode pelatihan, dan beberapa perusahaan teknologi finansial bahkan mengusulkan, setelah selesai apakah mereka masih bisa mengekspor kepada rekan-rekan di industri.

Setelah bulan Mei, situasinya perlahan-lahan berubah. Terhalang oleh kekurangan sumber daya komputasi, biaya yang tinggi, dan faktor lainnya, banyak lembaga keuangan mulai beralih dari sekadar berharap untuk membangun kekuatan komputasi dan model sendiri, menjadi lebih memperhatikan nilai aplikasi. "Sekarang setiap lembaga keuangan peduli tentang apa yang dilakukan lembaga lain dengan model besar, dan hasil apa yang telah dicapai."

Secara spesifik untuk perusahaan dengan skala yang berbeda, terdapat dua jalur. Institusi keuangan besar yang memiliki data keuangan yang sangat banyak dan beragam aplikasi dapat mengadopsi model dasar besar yang terdepan, membangun model besar perusahaan secara mandiri, sambil menggunakan bentuk penyesuaian untuk membentuk model tugas di bidang profesional, sehingga dengan cepat memberdayakan bisnis, untuk mengatasi kekurangan waktu pembangunan model besar yang terlalu lama. Sementara itu, institusi keuangan kecil dan menengah dapat mempertimbangkan pengembalian investasi secara komprehensif, secara kebutuhan mengadopsi layanan cloud model besar atau penerapan privat, untuk langsung memenuhi kebutuhan pemberdayaan.

Namun, karena industri keuangan memiliki tuntutan yang sangat tinggi terhadap kepatuhan data, keamanan, dan kepercayaan, beberapa orang berpendapat bahwa kemajuan implementasi model besar di industri ini sebenarnya sedikit tertinggal dari yang diperkirakan pada awal tahun. Beberapa ahli menyatakan bahwa mereka awalnya memprediksi bahwa industri keuangan mungkin akan menjadi yang pertama menggunakan model besar secara massal, tetapi dari situasi akhirnya dalam menghubungkan dengan klien, industri keuangan tidak secepat industri hukum, rekrutmen, dan lainnya.

Beberapa lembaga keuangan telah mulai mencari cara untuk mengatasi berbagai batasan dalam proses penerapan model besar.

Dalam hal daya komputasi, para profesional di industri mengamati beberapa solusi yang berbeda:

Pertama, membangun kekuatan komputasi secara langsung, biayanya cukup tinggi, tetapi keamanannya memadai. Cocok untuk lembaga keuangan besar yang memiliki kekuatan yang cukup dan ingin membangun model besar industri atau perusahaan sendiri.

Kedua, penerapan campuran daya komputasi, dalam situasi di mana data sensitif tidak keluar dari domain, menerima pemanggilan antarmuka layanan model besar dari cloud publik, sambil memproses data lokal melalui penerapan privat. Cara ini memiliki biaya yang lebih rendah, hanya perlu menginvestasikan puluhan ribu yuan untuk membeli beberapa kartu komputasi untuk memenuhi kebutuhan, cocok untuk lembaga keuangan kecil dan menengah dengan dana yang relatif terbatas dan aplikasi sesuai permintaan.

Namun, meskipun demikian, banyak lembaga kecil dan menengah masih menghadapi masalah tidak dapat membeli atau tidak mampu membeli kartu GPU yang diperlukan untuk model besar. Terkait dengan masalah ini, ada kabar bahwa otoritas pengatur sedang mempelajari apakah mereka bisa membangun infrastruktur model besar yang ditujukan untuk industri sekuritas dengan cara kompromi, mengonsolidasikan daya komputasi dan sumber daya model besar umum, sehingga lembaga keuangan kecil dan menengah di industri juga dapat menggunakan layanan model besar, untuk mencegah mereka tertinggal secara teknologi.

Tidak hanya kekuatan komputasi, dengan eksplorasi penerapan model besar dalam enam bulan terakhir, banyak lembaga keuangan juga secara bertahap memperkuat tata kelola data.

Ada pakar yang memperkenalkan, saat ini selain bank besar yang telah memiliki praktik matang di bidang tata kelola data, semakin banyak lembaga keuangan menengah juga mulai membangun platform data dan sistem tata kelola data. Dia percaya bahwa membangun sistem tata kelola data yang lengkap dan platform teknologi data lake akan menjadi tema penting dalam pembangunan TI lembaga keuangan di masa depan.

Juga ada bank yang sedang menyelesaikan masalah data melalui model besar + MLOps. Misalnya, sebuah bank menggunakan mode MLOps untuk membangun sistem lingkaran data model besar, mencapai otomatisasi seluruh proses, serta manajemen dan pemrosesan data heterogen multi-sumber yang efisien, dan kabarnya saat ini telah membangun dan menyimpan kumpulan data pelatihan berkualitas tinggi sebesar 2,6TB.

Masuk dari Skenario Periferal

Selama lebih dari enam bulan terakhir, baik penyedia layanan model besar maupun berbagai lembaga keuangan, semuanya aktif mencari skenario aplikasi. Bidang seperti kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian investasi cerdas, manajemen risiko cerdas, dan analisis kebutuhan telah dieksplorasi secara luas.

Seperti yang dikatakan seorang eksekutif dari perusahaan teknologi keuangan, "Setiap fungsi kunci dalam rantai bisnis keuangan, layak untuk dibuat ulang dengan teknologi model besar." Perusahaan tersebut baru-baru ini meluncurkan model besar untuk keuangan dan melakukan uji coba dengan mitra untuk membangun produk model besar yang ditujukan untuk industri keuangan. Tujuannya adalah untuk menciptakan asisten bisnis AI yang komprehensif untuk para ahli di bidang keuangan seperti penasihat investasi, agen asuransi, penelitian investasi, pemasaran keuangan, dan klaim asuransi.

Setiap lembaga keuangan memiliki banyak gagasan tentang model besar. Salah satu bank menyatakan bahwa mereka telah menerapkan aplikasi di lebih dari 20 skenario, sementara bank lain menyebutkan bahwa mereka telah melakukan uji coba di lebih dari 30 skenario. Sebuah perusahaan sekuritas sedang mengeksplorasi integrasi model besar dengan platform manusia digital virtual yang diluncurkan sebelumnya.

Tetapi ketika benar-benar menerapkan model besar ke dalam bisnis, konsensus umum adalah mulai dari internal sebelum eksternal. Bagaimanapun, pada tahap saat ini, teknologi model besar belum matang, seperti adanya masalah ilusi, sementara industri keuangan adalah industri yang sangat terregulasi, dengan keamanan tinggi dan kepercayaan tinggi.

Beberapa ahli berpendapat bahwa dalam jangka pendek, tidak disarankan untuk langsung menggunakan model besar untuk pelanggan. Institusi keuangan sebaiknya memprioritaskan penggunaan model besar untuk analisis dan pemahaman teks serta gambar keuangan dalam skenario yang membutuhkan kecerdasan tinggi, dengan cara berfungsi sebagai asisten untuk mewujudkan kolaborasi manusia-mesin dan meningkatkan efisiensi kerja staf.

Saat ini, asisten kode telah diterapkan di banyak lembaga keuangan. Misalnya, sebuah bank telah membangun sistem penelitian dan pengembangan cerdas berbasis model besar, di mana proporsi jumlah kode yang dihasilkan oleh asisten pengkodean mencapai 40% dari total jumlah kode. Di bidang asuransi, sebuah perusahaan asuransi telah mengembangkan plugin pemrograman bantu berbasis model besar yang langsung disematkan ke dalam alat pengembangan internal.

Ada banyak contoh penerapan di bidang kantor cerdas. Seorang ahli memperkenalkan bahwa sistem tanya jawab cabang yang mereka luncurkan berdasarkan model besar keuangan, setelah diluncurkan di suatu bank, telah dipromosikan ke ratusan cabang, dengan tingkat penerimaan jawaban melebihi 85%. Saat ini, solusi ini juga telah dengan cepat disalin ke bank dan lembaga keuangan lainnya.

Namun, para ahli industri memperkirakan bahwa skenario yang telah diterapkan secara luas ini sebenarnya belum menjadi aplikasi inti bagi lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk memasuki aspek bisnis di industri keuangan.

Ada ahli yang memprediksi, sebelum akhir tahun ini, akan ada sekumpulan proyek pembangunan atau informasi tender yang benar-benar menggunakan model besar dalam skenario bisnis inti lembaga keuangan.

Sebelum ini, beberapa perubahan pada tingkat desain tingkat atas sedang berlangsung. Beberapa akademisi menilai bahwa seluruh sistem cerdas dan digital di masa depan akan dibangun kembali di atas dasar model besar. Ini mengharuskan industri keuangan untuk merombak sistem dalam proses implementasi model besar. Pada saat yang sama, nilai model kecil tradisional juga tidak boleh diabaikan, dan harus memungkinkan model besar dan model kecil untuk bekerja sama.

Tren ini telah diterapkan secara luas di industri keuangan. Saat ini, lembaga keuangan sedang menguji model besar, yang pada dasarnya mengadopsi model berlapis. Berbeda dengan model cerobong yang memerlukan pembangunan platform untuk setiap skenario di masa lalu, model besar memberikan lembaga keuangan kesempatan untuk merencanakan sistem keseluruhan secara lebih ilmiah dari awal.

Dapat dilihat, saat ini telah banyak lembaga keuangan terkemuka yang berdasarkan model besar, membangun kerangka sistem berlapis yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, lapisan aplikasi, dan berbagai lapisan lainnya.

Kerangka kerja ini umumnya memiliki dua fitur utama: Pertama, model besar memainkan kemampuan pusat, menggunakan model tradisional sebagai keterampilan yang dipanggil; Kedua, lapisan model besar mengadopsi strategi multi-model, membandingkan di dalam, dan memilih efek yang paling optimal.

Sebenarnya, tidak hanya lembaga keuangan, dalam situasi yang belum pasti saat ini, beberapa penyedia aplikasi model besar juga mengadopsi strategi multi-model untuk memilih efek layanan yang terbaik. Beberapa ahli mengungkapkan bahwa lapisan model dasar mereka menggabungkan banyak model bahasa besar, yang akan merakit jawaban terbaik berdasarkan jawaban yang diberikan oleh setiap model besar kepada pengguna.

Kekurangan talenta masih besar

Aplikasi model besar telah mulai membawa beberapa tantangan dan perubahan pada struktur personel di industri keuangan.

Sebelumnya, terdapat kabar bahwa dengan kemunculan ChatGPT, sebuah perusahaan teknologi finansial telah memberhentikan lebih dari 300 analis data besar dari awal tahun ini hingga akhir Mei. Beberapa tahun lalu, ini adalah profesi yang sangat diminati. Hal ini memicu kecemasan di kalangan para pekerja, bahkan mulai mempertimbangkan masalah pemilihan karir generasi berikutnya.

Seorang ahli dari sebuah bank juga berbagi tentang efek penggantian manusia oleh model besar. Dulunya, setiap pagi ada intern yang merangkum dan mengumpulkan informasi dari berbagai aspek, kemudian memberikannya kepada departemen penelitian dan investasi, tetapi sekarang pekerjaan ini dapat diselesaikan oleh model besar.

Namun, beberapa bank sebenarnya tidak ingin model besar menyebabkan pengurangan karyawan. Misalnya, sebuah bank besar dengan 200.000 karyawan di cabang menyatakan secara jelas bahwa mereka tidak ingin karyawan mereka digantikan oleh model besar, melainkan berharap model besar membawa peluang baru, meningkatkan kualitas layanan dan efisiensi kerja karyawan, sekaligus juga membebaskan sebagian karyawan untuk melakukan pekerjaan yang lebih bernilai tinggi.

Di antara ini, terdapat pertimbangan terhadap stabilitas personel dan struktur. Namun di sisi lain, juga karena banyak posisi yang masih memiliki kekurangan tenaga kerja.

Para ahli menyatakan bahwa bank-bank besar memiliki banyak pekerjaan yang harus diselesaikan, beberapa kebutuhan TI bahkan dijadwalkan hingga akhir tahun depan. Mereka berharap model besar dapat membantu karyawan menyelesaikan lebih banyak pekerjaan, meningkatkan efisiensi dan kecepatan, alih-alih mengurangi tenaga kerja.

Yang lebih penting, perkembangan cepat model besar membuat pasokan bakat yang langka sulit memenuhi permintaan yang meningkat dalam waktu singkat. Ini mirip dengan ketika iPhone baru muncul, semua orang ingin mengembangkan aplikasi, tetapi sulit untuk menemukan programmer iOS.

Dalam sebuah konferensi fintech baru-baru ini, seorang eksekutif bank merangkum 6 tantangan utama yang dihadapi industri keuangan saat mengintegrasikan kemampuan model besar ke dalam proses bisnis inti, salah satunya adalah kekurangan tenaga kerja. Dia menyebutkan bahwa proporsi karyawan baru yang mereka rekrut baru-baru ini yang belajar di bidang AI sangat tinggi, tetapi jumlah talenta yang memahami model besar sangat sedikit.

Ada ahli yang merasakan hal ini dengan mendalam, baru-baru ini mereka menerima permintaan dukungan talenta dari seorang klien bank. Bank ini menghadapi masalah kekurangan tenaga kerja dalam pekerjaan pelatihan model karena ada seseorang yang sedang cuti dari tim model besar yang dibangun sendiri, sehingga terpaksa mencari dukungan eksternal sementara.

"Saat ini, memang sangat sedikit talenta di bidang ini, dan masih memerlukan waktu tertentu untuk melatihnya." Ahli tersebut berpendapat bahwa permintaan talenta yang langsung menggunakan model besar relatif sederhana, terutama yang mampu mengajukan pertanyaan. Namun, jika ingin membangun model besar industri atau perusahaan sendiri, lembaga keuangan perlu memiliki tim teknis model besar vertikal yang terampil.

Seorang ahli lainnya juga mengakui bahwa kekurangan talenta di bidang model besar AI sangat besar, dan lembaga-lembaga terkemuka saat ini sedang merekrut talenta terkait AI, seperti doktor algoritma. Ini karena, meskipun klien keuangan dapat memperoleh dukungan teknis dari penyedia model besar, mereka tetap merupakan pihak pengguna akhir dan pengarah inovasi, yang memerlukan akumulasi talenta tertentu untuk mendukung pembangunan platform besar AI, perencanaan berbagai aplikasi AI, serta dalam proses pemodelan, penyetelan, dan penyempurnaan, bekerja sama dengan penyedia model besar untuk melakukan penggabungan skenario, penggabungan model, dan optimasi lainnya, terus memperluas jangkauan dan efektivitas aplikasi model AI.

Beberapa peserta telah mengambil tindakan. Sebuah perusahaan bekerja sama dengan tim sumber daya manusia dari laboratorium bank tertentu, merancang praktik transformasi tenaga kerja untuk aplikasi model besar di perusahaan, serta merancang serangkaian pelatihan.