Tình trạng và triển vọng ứng dụng của mô hình lớn trong ngành tài chính
Kể từ khi ChatGPT ra đời, nỗi lo lắng của ngành tài chính về công nghệ trí tuệ nhân tạo đã nhanh chóng lan rộng. Một người trong ngành cho biết, vào tháng 5 năm nay, khi công tác ở Đại Lý, thậm chí còn gặp những chuyên gia tài chính thảo luận về mô hình lớn ngay trong chùa.
Tuy nhiên, sự lo lắng này đang dần nguôi ngoai, quan điểm của ngành về mô hình lớn cũng trở nên hợp lý hơn. CTO của Softcom Bank, Tôn Hồng Quân, đã mô tả một số giai đoạn trong thái độ của ngành tài chính đối với mô hình lớn trong năm nay: từ tháng 2-3, mọi người cảm thấy lo lắng; tháng 4-5, các đội ngũ bắt đầu được thành lập để triển khai công việc liên quan; trong vài tháng tiếp theo, gặp khó khăn trong việc tìm kiếm hướng đi và hiện thực hóa, bắt đầu trở nên hợp lý; bây giờ thì tham khảo các tiêu chuẩn, cố gắng xác minh các trường hợp ứng dụng đã được kiểm chứng.
Cần lưu ý rằng, nhiều tổ chức tài chính đã nâng mô hình lớn lên tầm chiến lược. Theo thống kê chưa đầy đủ, ít nhất có 11 ngân hàng trong số các công ty niêm yết A-shares đã rõ ràng đề cập đến việc đang khám phá ứng dụng của mô hình lớn trong báo cáo nửa năm gần nhất. Theo động thái gần đây, họ đang thực hiện suy nghĩ và lập kế hoạch con đường rõ ràng hơn từ tầm chiến lược và thiết kế cấp cao.
Từ sự hào hứng cao độ đến sự trở lại lý trí
Một chuyên gia kỳ cựu trong ngành tài chính của một công ty công nghệ lớn cho biết, so với vài tháng trước, hiện tại sự hiểu biết của khách hàng tài chính về mô hình lớn đã rõ rệt được nâng cao. Khi ChatGPT vừa mới ra mắt đầu năm, mặc dù có sự nhiệt tình rất cao, nhưng hiểu biết về bản chất và cách ứng dụng của mô hình lớn còn hạn chế.
Trong giai đoạn này, một số ngân hàng lớn đã đi đầu hành động, bắt đầu tiến hành nhiều hoạt động quảng bá khác nhau. Ví dụ, vào tháng 3 năm nay, một ngân hàng lớn đã ra mắt ứng dụng mô hình lớn tương tự như ChatGPT, nhưng đánh giá trong ngành không đồng nhất. Lúc đó, có người cho rằng, tên của ứng dụng quá nhấn mạnh vào chức năng trò chuyện, trong khi bỏ qua phần GPT quan trọng hơn.
Khi nhiều công ty công nghệ lần lượt phát hành mô hình lớn, một số bộ phận công nghệ của các tổ chức tài chính hàng đầu bắt đầu tích cực thảo luận với các công ty công nghệ lớn về việc xây dựng mô hình lớn. Các chuyên gia kỳ cựu trên cho biết, các tổ chức tài chính này đều mong muốn tự phát triển mô hình lớn, tìm kiếm hướng dẫn về việc xây dựng tập dữ liệu, cấu hình máy chủ và phương pháp đào tạo. Một công ty công nghệ tài chính thuộc sở hữu của một ngân hàng lớn thậm chí đã đề xuất mong muốn hoàn thành khả năng phát triển và cung cấp cho các đồng nghiệp trong ngành.
Sau tháng 5, tình hình bắt đầu thay đổi. Do ảnh hưởng của việc thiếu hụt tài nguyên sức mạnh tính toán và chi phí cao, nhiều tổ chức tài chính đã chuyển từ việc đơn thuần muốn tự xây dựng sức mạnh tính toán và mô hình sang việc chú trọng hơn vào giá trị ứng dụng. "Hiện nay, mỗi tổ chức tài chính đều đang quan tâm đến cách các tổ chức khác ứng dụng mô hình lớn và hiệu quả thu được."
Đối với các doanh nghiệp có quy mô khác nhau, cũng đã hình thành hai con đường phát triển. Các tổ chức tài chính lớn có lượng dữ liệu tài chính khổng lồ và các tình huống ứng dụng có thể giới thiệu các mô hình lớn cơ sở hàng đầu trong ngành, tự xây dựng mô hình lớn doanh nghiệp, đồng thời áp dụng phương pháp tinh chỉnh, hình thành mô hình lớn nhiệm vụ trong các lĩnh vực chuyên môn, nhanh chóng hỗ trợ cho kinh doanh. Trong khi đó, các tổ chức tài chính vừa và nhỏ có thể xem xét tổng hợp lợi nhuận đầu tư, theo nhu cầu giới thiệu các loại API công cộng của mô hình lớn hoặc dịch vụ triển khai riêng, đáp ứng trực tiếp nhu cầu kinh doanh.
Tuy nhiên, do yêu cầu cao về tính tuân thủ dữ liệu, an toàn và độ tin cậy trong ngành tài chính, một số người cho rằng tiến độ triển khai mô hình lớn trong ngành này thực tế chậm hơn so với kỳ vọng ban đầu vào đầu năm. Ông Tôn Hồng Quân của Softcom cho biết, họ ban đầu dự đoán ngành tài chính có thể sẽ là ngành đầu tiên áp dụng quy mô lớn mô hình lớn, nhưng từ tình hình cuối cùng của việc kết nối với khách hàng, tốc độ ứng dụng của ngành tài chính không nhanh bằng các ngành như pháp lý, tuyển dụng.
Một số tổ chức tài chính đã bắt đầu tìm kiếm giải pháp cho các yếu tố hạn chế trong quá trình triển khai mô hình lớn.
Trong lĩnh vực sức mạnh tính toán, các chuyên gia trong ngành đã quan sát thấy một số giải pháp:
Tự xây dựng sức mạnh tính toán, chi phí cao nhưng độ an toàn tốt, phù hợp với các tổ chức tài chính lớn có tiềm lực mạnh, mong muốn tự xây dựng mô hình lớn cho ngành hoặc doanh nghiệp.
Triển khai hỗn hợp sức mạnh tính toán, trong trường hợp dữ liệu nhạy cảm không ra ngoài miền, chấp nhận gọi giao diện dịch vụ mô hình lớn từ đám mây công cộng, đồng thời xử lý dịch vụ dữ liệu địa phương thông qua triển khai riêng tư. Cách này có chi phí thấp hơn, phù hợp với các tổ chức tài chính vừa và nhỏ có nguồn vốn tương đối hạn chế và ứng dụng theo nhu cầu.
Tuy nhiên, nhiều tổ chức vừa và nhỏ vẫn gặp khó khăn trong việc mua thẻ GPU cần thiết cho các mô hình lớn, với chi phí cao. Để giải quyết vấn đề này, các cơ quan liên quan đang tiến hành nghiên cứu đề tài, khám phá liệu có thể xây dựng cơ sở hạ tầng mô hình lớn cho các ngành cụ thể theo cách thỏa hiệp, tập trung tài nguyên tính toán và các mô hình lớn chung, để các tổ chức tài chính vừa và nhỏ trong ngành cũng có thể sử dụng dịch vụ mô hình lớn, tránh "lạc hậu công nghệ".
Về dữ liệu, trong nửa năm qua, với việc khám phá ứng dụng của mô hình lớn, nhiều tổ chức tài chính cũng dần tăng cường công tác quản trị dữ liệu.
Một giám đốc điều hành của một công ty công nghệ lớn cho biết, hiện tại ngoài những ngân hàng lớn có thực tiễn trưởng thành trong lĩnh vực quản trị dữ liệu, ngày càng nhiều tổ chức tài chính vừa và nhỏ cũng bắt đầu xây dựng nền tảng dữ liệu và hệ thống quản trị dữ liệu. Ông cho rằng, việc xây dựng một hệ thống quản trị dữ liệu hoàn chỉnh và nền tảng công nghệ hồ dữ liệu sẽ là chủ đề quan trọng trong xây dựng CNTT của các tổ chức tài chính trong tương lai.
Còn có ngân hàng đang giải quyết vấn đề dữ liệu thông qua mô hình lớn kết hợp với phương pháp MLOps. Ví dụ, một ngân hàng lớn đã áp dụng mô hình MLOps để xây dựng hệ thống vòng khép kín dữ liệu mô hình lớn, đạt được tự động hóa toàn bộ quy trình và quản lý thống nhất cũng như xử lý hiệu quả dữ liệu đa nguồn và dị hình. Được biết, hiện tại đã xây dựng và lưu trữ 2.6TB tập dữ liệu huấn luyện chất lượng cao.
Vượt ra ngoài bối cảnh
Trong hơn nửa năm qua, cả các nhà cung cấp dịch vụ mô hình lớn và các tổ chức tài chính lớn đều đang tích cực tìm kiếm các trường hợp ứng dụng. Các lĩnh vực như văn phòng thông minh, phát triển thông minh, tiếp thị thông minh, dịch vụ khách hàng thông minh, nghiên cứu đầu tư thông minh, kiểm soát rủi ro thông minh, phân tích nhu cầu đang được khám phá từng bước.
Như một giám đốc điều hành của một công ty công nghệ đã nói, "Mỗi chức năng quan trọng trong chuỗi dịch vụ tài chính đều xứng đáng được làm lại bằng công nghệ mô hình lớn." Công ty này gần đây đã phát hành mô hình lớn hướng tới ngành tài chính và đang hợp tác với các tổ chức để thử nghiệm nội bộ và xây dựng sản phẩm mô hình lớn cho ngành tài chính, với mục tiêu tạo ra một trợ lý kinh doanh AI toàn chuỗi cho các chuyên gia tài chính như cố vấn tài chính, đại lý bảo hiểm, nghiên cứu đầu tư, tiếp thị tài chính và bồi thường bảo hiểm.
Các tổ chức tài chính đều có những ý tưởng phong phú về việc ứng dụng mô hình lớn. Một ngân hàng lớn cho biết đã triển khai ứng dụng ở hơn 20 kịch bản nội bộ, một ngân hàng khác cho biết đã thử nghiệm ở hơn 30 kịch bản, trong khi một công ty chứng khoán thì đang khám phá việc kết nối mô hình lớn với nền tảng nhân vật ảo số mà họ đã ra mắt trước đó.
Nhưng khi thực sự áp dụng mô hình lớn vào kinh doanh, có sự đồng thuận chung trong ngành rằng nên ứng dụng nội bộ trước, sau đó mới sử dụng bên ngoài. Dù sao thì công nghệ mô hình lớn hiện tại vẫn chưa trưởng thành, như vấn đề ảo giác, và ngành tài chính lại là ngành có sự quản lý chặt chẽ, an toàn cao và đáng tin cậy.
Một giám đốc công nghệ của một ngân hàng lớn đã đề xuất rằng trong thời gian ngắn, không nên sử dụng mô hình lớn trực tiếp cho khách hàng. Các tổ chức tài chính nên ưu tiên áp dụng mô hình lớn vào phân tích và hiểu biết văn bản tài chính và hình ảnh tài chính, trong các tình huống tập trung vào trí tuệ, nhằm hiện thực hóa sự hợp tác giữa con người và máy móc, nâng cao hiệu quả công việc của nhân viên.
Hiện tại, trợ lý mã đã được triển khai tại nhiều tổ chức tài chính. Ví dụ, một ngân hàng lớn đã xây dựng hệ thống nghiên cứu và phát triển thông minh dựa trên mô hình lớn, trong đó lượng mã được trợ lý mã tạo ra chiếm 40% tổng lượng mã. Trong lĩnh vực bảo hiểm, một công ty bảo hiểm đã phát triển plugin hỗ trợ lập trình dựa trên mô hình lớn, được nhúng trực tiếp vào công cụ phát triển nội bộ.
Một số công ty công nghệ cũng đang phát triển các sản phẩm sẵn sàng cho khách hàng tài chính dựa trên khả năng tạo mã của mô hình lớn. Ông Tôn Hồng Quân từ SoftTech cho biết, một sản phẩm của họ đã bổ sung các tính năng như phân chia nhiệm vụ, trả lời chính xác, vượt qua giới hạn ngữ cảnh trên cơ sở khả năng hoàn thành mã của mô hình lớn, giúp người dùng có thể sử dụng ngay. Sản phẩm này hiện đã có hơn 3000 người sử dụng tại một ngân hàng quốc tế, với tỷ lệ tự động hoàn thành mã đạt 50%~90%.
Trong lĩnh vực văn phòng thông minh cũng có nhiều trường hợp ứng dụng thực tế. Người phụ trách sản phẩm mô hình lớn trong ngành tài chính của một công ty công nghệ lớn cho biết, chức năng hỏi đáp tại điểm giao dịch dựa trên mô hình lớn tài chính mà họ ra mắt đã được triển khai tại hàng trăm điểm giao dịch sau khi ra mắt vào tháng 7 tại một ngân hàng lớn, tỷ lệ chấp nhận câu trả lời vượt quá 85%. Hiện tại, chức năng này đã nhanh chóng được sao chép sang nhiều ngân hàng và tổ chức tài chính khác.
Tuy nhiên, các chuyên gia trong ngành đánh giá rằng, những tình huống đã được triển khai rộng rãi này thực sự vẫn chưa phải là ứng dụng cốt lõi của các tổ chức tài chính, và mô hình lớn vẫn còn một khoảng cách nhất định để đi sâu vào tầng nghiệp vụ của ngành tài chính.
Tôn Hồng Quân cho biết, trong các tình huống ứng dụng kinh doanh, độ khó tương đối lớn. Các lĩnh vực như tiếp thị, quản lý rủi ro, và tuân thủ là những lĩnh vực mà mô hình lớn có thể mang lại sự thay đổi, đồng thời cũng là nhu cầu của khách hàng trong lĩnh vực tài chính, nhưng hiện tại những công việc này vẫn phụ thuộc vào khả năng nâng cao của các nhà cung cấp mô hình lớn cơ sở, mới có thể tiến hành ứng dụng các tình huống kinh doanh.
Một chuyên gia kỳ cựu trong lĩnh vực mô hình lớn của một công ty công nghệ lớn dự đoán rằng trước cuối năm nay, sẽ có một loạt dự án xây dựng hoặc thông tin đấu thầu thực sự áp dụng mô hình lớn trong các tình huống kinh doanh cốt lõi của các tổ chức tài chính xuất hiện.
Trước đó, một số cải cách ở cấp độ thiết kế hàng đầu đang diễn ra.
Có chuyên gia cho rằng, trong tương lai, toàn bộ hệ thống thông minh và số hóa sẽ được xây dựng lại dựa trên nền tảng của mô hình lớn. Điều này yêu cầu ngành tài chính phải tái cấu trúc hệ thống trong quá trình triển khai mô hình lớn. Đồng thời, cũng không thể bỏ qua giá trị của mô hình nhỏ truyền thống, mà nên để mô hình lớn và mô hình nhỏ làm việc cùng nhau.
Xu hướng này đã được thể hiện rộng rãi trong ngành tài chính. Hiện nay, nhiều tổ chức tài chính hàng đầu đã xây dựng hệ thống phân tầng bao gồm các lớp cơ sở hạ tầng, lớp mô hình, lớp dịch vụ mô hình lớn, lớp ứng dụng dựa trên mô hình lớn.
Các hệ thống khung này thường có hai đặc điểm lớn: thứ nhất là mô hình lớn phát huy khả năng trung tâm, sử dụng mô hình truyền thống như một kỹ năng để gọi; thứ hai là lớp mô hình lớn áp dụng chiến lược đa mô hình, so sánh nội bộ, chọn ra hiệu quả tối ưu.
Trên thực tế, không chỉ các tổ chức tài chính, trong bối cảnh hiện tại còn chưa rõ ràng, một số nhà cung cấp ứng dụng mô hình lớn cũng áp dụng chiến lược đa mô hình, ưu tiên hiệu quả dịch vụ. Tôn Hồng Quân tiết lộ, lớp mô hình nền tảng của họ cũng đã tích hợp nhiều mô hình ngôn ngữ lớn, sẽ được lắp ráp và tối ưu hóa dựa trên câu trả lời của mỗi mô hình lớn trước khi cung cấp cho người dùng.
Khoảng cách nhân lực vẫn còn lớn
Việc ứng dụng các mô hình lớn đã bắt đầu mang lại một số thách thức và biến đổi cho cơ cấu nhân sự trong ngành tài chính.
Một người trong ngành công nghệ tài chính cho biết, kể từ khi ChatGPT xuất hiện, từ đầu năm đến cuối tháng 5, công ty của anh đã sa thải hơn 300 nhà phân tích dữ liệu lớn. Trong khi vài năm trước, đây vẫn là một nghề hot. Điều này đã khiến anh lo lắng về việc làm trong tương lai.
Một chuyên gia kỳ cựu từ một ngân hàng lớn cũng chia sẻ về hiệu ứng thay thế con người của các mô hình lớn. Ngân hàng này trước đây mỗi sáng đều có thực tập sinh tổng hợp các thông tin từ nhiều lĩnh vực cho bộ phận nghiên cứu đầu tư, nhưng bây giờ những công việc này có thể được hoàn thành thông qua các mô hình lớn.
Tuy nhiên, một số ngân hàng không muốn mô hình lớn dẫn đến cắt giảm nhân sự. Một ngân hàng lớn với 200.000 nhân viên tại các điểm giao dịch đã rõ ràng tuyên bố rằng họ hy vọng mô hình lớn sẽ mang lại cơ hội mới, nâng cao chất lượng dịch vụ và hiệu quả công việc của nhân viên, đồng thời giải phóng một phần nhân viên để thực hiện nhiều công việc có giá trị cao hơn, thay vì thay thế nhân viên.
Trong đó vừa có sự xem xét về ổn định nhân sự và cấu trúc, vừa vì nhiều vị trí vẫn còn thiếu nhân tài. Tôn Hồng Quân cho biết, các ngân hàng lớn có rất nhiều công việc cần hoàn thành, một số yêu cầu về CNTT thậm chí đã được lên lịch đến cuối năm sau, họ hy vọng rằng mô hình lớn có thể giúp nhân viên nâng cao hiệu suất, chứ không phải giảm nhân sự.
Hơn nữa, sự phát triển nhanh chóng của các mô hình lớn dẫn đến việc cung cấp nhân lực khan hiếm trong ngắn hạn không thể đáp ứng được nhu cầu tăng vọt. Điều này giống như khi iPhone mới xuất hiện, rất khó để tìm được lập trình viên iOS nếu muốn phát triển ứng dụng.
Một giám đốc điều hành của một ngân hàng lớn đã tóm tắt 6 thách thức mà ngành tài chính hiện đang phải đối mặt trong việc áp dụng các mô hình lớn vào quy trình kinh doanh cốt lõi, trong đó một trong số đó là nhân tài. Họ đã phát hiện ra rằng tỷ lệ sinh viên học về lĩnh vực AI rất cao trong tuyển dụng nhân viên mới và tuyển sinh, nhưng số lượng người hiểu về các mô hình lớn lại rất ít.
Tôn Hồng Quân cũng có trải nghiệm tương tự, một tuần trước Quốc khánh, họ vừa nhận được yêu cầu hỗ trợ nhân tài từ một khách hàng ngân hàng. Do có người tạm nghỉ trong đội ngũ mô hình lớn tự xây dựng của ngân hàng, công việc đào tạo mô hình thiếu nhân lực, buộc phải tìm kiếm hỗ trợ từ bên ngoài.
"Hiện tại, nhân tài trong lĩnh vực này thực sự rất hiếm, cần một khoảng thời gian nhất định để phát triển." Tôn Hong Quân cho rằng, nhu cầu nhân tài để áp dụng trực tiếp mô hình lớn tương đối đơn giản, chủ yếu là những người biết đặt câu hỏi. Nhưng nếu xây dựng mô hình lớn cho ngành hoặc doanh nghiệp, thì các tổ chức tài chính cần có một đội ngũ kỹ thuật mô hình lớn chuyên nghiệp.
Một giám đốc điều hành của một công ty công nghệ lớn cũng thừa nhận rằng có một khoảng cách rất lớn về nhân tài trong lĩnh vực mô hình AI lớn, các tổ chức hàng đầu hiện đang tuyển dụng nhân tài liên quan đến AI như tiến sĩ thuật toán, v.v. Điều này là do mặc dù khách hàng tài chính có thể nhận được hỗ trợ kỹ thuật từ các nhà sản xuất mô hình lớn, nhưng với tư cách là bên sử dụng cuối cùng và bên dẫn dắt đổi mới, họ cần tích lũy một lượng nhân tài nhất định để hỗ trợ xây dựng nền tảng AI lớn, lập kế hoạch ứng dụng AI, cũng như hợp tác với các nhà sản xuất mô hình lớn trong quá trình mô hình hóa và điều chỉnh để tối ưu hóa cảnh và mô hình, liên tục mở rộng phạm vi và hiệu quả ứng dụng của mô hình AI.
Một số tổ chức đã hành động. Giám đốc của một công ty công nghệ lớn cho biết, họ đã hợp tác với phòng thí nghiệm của một ngân hàng lớn để sắp xếp các thực hành chuyển đổi nhân sự trong việc ứng dụng mô hình lớn vào doanh nghiệp, thiết kế một loạt khóa đào tạo về tối ưu hóa Prompt, tinh chỉnh, vận hành mô hình lớn, và hợp tác với nhiều bộ phận để thành lập nhóm dự án liên kết, thúc đẩy nâng cao năng lực nhân sự doanh nghiệp.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
12 thích
Phần thưởng
12
3
Chia sẻ
Bình luận
0/400
AirdropChaser
· 12giờ trước
Cả trong và ngoài cung đều đang tham gia vào ai.
Xem bản gốcTrả lời0
HodlKumamon
· 13giờ trước
Cung đình ngọc dịch tửu gia nằm phẳng giữa Dữ liệu lý tính phái Lần này không lỗ.jpg Không giao dịch tiền điện tử chỉ xem coin Tính toán trực tuyến tỷ lệ Sharpe
Xu hướng ứng dụng mô hình lớn trong ngành tài chính: từ lo âu đến lý trí, sự thiếu hụt nhân tài vẫn là thách thức
Tình trạng và triển vọng ứng dụng của mô hình lớn trong ngành tài chính
Kể từ khi ChatGPT ra đời, nỗi lo lắng của ngành tài chính về công nghệ trí tuệ nhân tạo đã nhanh chóng lan rộng. Một người trong ngành cho biết, vào tháng 5 năm nay, khi công tác ở Đại Lý, thậm chí còn gặp những chuyên gia tài chính thảo luận về mô hình lớn ngay trong chùa.
Tuy nhiên, sự lo lắng này đang dần nguôi ngoai, quan điểm của ngành về mô hình lớn cũng trở nên hợp lý hơn. CTO của Softcom Bank, Tôn Hồng Quân, đã mô tả một số giai đoạn trong thái độ của ngành tài chính đối với mô hình lớn trong năm nay: từ tháng 2-3, mọi người cảm thấy lo lắng; tháng 4-5, các đội ngũ bắt đầu được thành lập để triển khai công việc liên quan; trong vài tháng tiếp theo, gặp khó khăn trong việc tìm kiếm hướng đi và hiện thực hóa, bắt đầu trở nên hợp lý; bây giờ thì tham khảo các tiêu chuẩn, cố gắng xác minh các trường hợp ứng dụng đã được kiểm chứng.
Cần lưu ý rằng, nhiều tổ chức tài chính đã nâng mô hình lớn lên tầm chiến lược. Theo thống kê chưa đầy đủ, ít nhất có 11 ngân hàng trong số các công ty niêm yết A-shares đã rõ ràng đề cập đến việc đang khám phá ứng dụng của mô hình lớn trong báo cáo nửa năm gần nhất. Theo động thái gần đây, họ đang thực hiện suy nghĩ và lập kế hoạch con đường rõ ràng hơn từ tầm chiến lược và thiết kế cấp cao.
Từ sự hào hứng cao độ đến sự trở lại lý trí
Một chuyên gia kỳ cựu trong ngành tài chính của một công ty công nghệ lớn cho biết, so với vài tháng trước, hiện tại sự hiểu biết của khách hàng tài chính về mô hình lớn đã rõ rệt được nâng cao. Khi ChatGPT vừa mới ra mắt đầu năm, mặc dù có sự nhiệt tình rất cao, nhưng hiểu biết về bản chất và cách ứng dụng của mô hình lớn còn hạn chế.
Trong giai đoạn này, một số ngân hàng lớn đã đi đầu hành động, bắt đầu tiến hành nhiều hoạt động quảng bá khác nhau. Ví dụ, vào tháng 3 năm nay, một ngân hàng lớn đã ra mắt ứng dụng mô hình lớn tương tự như ChatGPT, nhưng đánh giá trong ngành không đồng nhất. Lúc đó, có người cho rằng, tên của ứng dụng quá nhấn mạnh vào chức năng trò chuyện, trong khi bỏ qua phần GPT quan trọng hơn.
Khi nhiều công ty công nghệ lần lượt phát hành mô hình lớn, một số bộ phận công nghệ của các tổ chức tài chính hàng đầu bắt đầu tích cực thảo luận với các công ty công nghệ lớn về việc xây dựng mô hình lớn. Các chuyên gia kỳ cựu trên cho biết, các tổ chức tài chính này đều mong muốn tự phát triển mô hình lớn, tìm kiếm hướng dẫn về việc xây dựng tập dữ liệu, cấu hình máy chủ và phương pháp đào tạo. Một công ty công nghệ tài chính thuộc sở hữu của một ngân hàng lớn thậm chí đã đề xuất mong muốn hoàn thành khả năng phát triển và cung cấp cho các đồng nghiệp trong ngành.
Sau tháng 5, tình hình bắt đầu thay đổi. Do ảnh hưởng của việc thiếu hụt tài nguyên sức mạnh tính toán và chi phí cao, nhiều tổ chức tài chính đã chuyển từ việc đơn thuần muốn tự xây dựng sức mạnh tính toán và mô hình sang việc chú trọng hơn vào giá trị ứng dụng. "Hiện nay, mỗi tổ chức tài chính đều đang quan tâm đến cách các tổ chức khác ứng dụng mô hình lớn và hiệu quả thu được."
Đối với các doanh nghiệp có quy mô khác nhau, cũng đã hình thành hai con đường phát triển. Các tổ chức tài chính lớn có lượng dữ liệu tài chính khổng lồ và các tình huống ứng dụng có thể giới thiệu các mô hình lớn cơ sở hàng đầu trong ngành, tự xây dựng mô hình lớn doanh nghiệp, đồng thời áp dụng phương pháp tinh chỉnh, hình thành mô hình lớn nhiệm vụ trong các lĩnh vực chuyên môn, nhanh chóng hỗ trợ cho kinh doanh. Trong khi đó, các tổ chức tài chính vừa và nhỏ có thể xem xét tổng hợp lợi nhuận đầu tư, theo nhu cầu giới thiệu các loại API công cộng của mô hình lớn hoặc dịch vụ triển khai riêng, đáp ứng trực tiếp nhu cầu kinh doanh.
Tuy nhiên, do yêu cầu cao về tính tuân thủ dữ liệu, an toàn và độ tin cậy trong ngành tài chính, một số người cho rằng tiến độ triển khai mô hình lớn trong ngành này thực tế chậm hơn so với kỳ vọng ban đầu vào đầu năm. Ông Tôn Hồng Quân của Softcom cho biết, họ ban đầu dự đoán ngành tài chính có thể sẽ là ngành đầu tiên áp dụng quy mô lớn mô hình lớn, nhưng từ tình hình cuối cùng của việc kết nối với khách hàng, tốc độ ứng dụng của ngành tài chính không nhanh bằng các ngành như pháp lý, tuyển dụng.
Một số tổ chức tài chính đã bắt đầu tìm kiếm giải pháp cho các yếu tố hạn chế trong quá trình triển khai mô hình lớn.
Trong lĩnh vực sức mạnh tính toán, các chuyên gia trong ngành đã quan sát thấy một số giải pháp:
Tự xây dựng sức mạnh tính toán, chi phí cao nhưng độ an toàn tốt, phù hợp với các tổ chức tài chính lớn có tiềm lực mạnh, mong muốn tự xây dựng mô hình lớn cho ngành hoặc doanh nghiệp.
Triển khai hỗn hợp sức mạnh tính toán, trong trường hợp dữ liệu nhạy cảm không ra ngoài miền, chấp nhận gọi giao diện dịch vụ mô hình lớn từ đám mây công cộng, đồng thời xử lý dịch vụ dữ liệu địa phương thông qua triển khai riêng tư. Cách này có chi phí thấp hơn, phù hợp với các tổ chức tài chính vừa và nhỏ có nguồn vốn tương đối hạn chế và ứng dụng theo nhu cầu.
Tuy nhiên, nhiều tổ chức vừa và nhỏ vẫn gặp khó khăn trong việc mua thẻ GPU cần thiết cho các mô hình lớn, với chi phí cao. Để giải quyết vấn đề này, các cơ quan liên quan đang tiến hành nghiên cứu đề tài, khám phá liệu có thể xây dựng cơ sở hạ tầng mô hình lớn cho các ngành cụ thể theo cách thỏa hiệp, tập trung tài nguyên tính toán và các mô hình lớn chung, để các tổ chức tài chính vừa và nhỏ trong ngành cũng có thể sử dụng dịch vụ mô hình lớn, tránh "lạc hậu công nghệ".
Về dữ liệu, trong nửa năm qua, với việc khám phá ứng dụng của mô hình lớn, nhiều tổ chức tài chính cũng dần tăng cường công tác quản trị dữ liệu.
Một giám đốc điều hành của một công ty công nghệ lớn cho biết, hiện tại ngoài những ngân hàng lớn có thực tiễn trưởng thành trong lĩnh vực quản trị dữ liệu, ngày càng nhiều tổ chức tài chính vừa và nhỏ cũng bắt đầu xây dựng nền tảng dữ liệu và hệ thống quản trị dữ liệu. Ông cho rằng, việc xây dựng một hệ thống quản trị dữ liệu hoàn chỉnh và nền tảng công nghệ hồ dữ liệu sẽ là chủ đề quan trọng trong xây dựng CNTT của các tổ chức tài chính trong tương lai.
Còn có ngân hàng đang giải quyết vấn đề dữ liệu thông qua mô hình lớn kết hợp với phương pháp MLOps. Ví dụ, một ngân hàng lớn đã áp dụng mô hình MLOps để xây dựng hệ thống vòng khép kín dữ liệu mô hình lớn, đạt được tự động hóa toàn bộ quy trình và quản lý thống nhất cũng như xử lý hiệu quả dữ liệu đa nguồn và dị hình. Được biết, hiện tại đã xây dựng và lưu trữ 2.6TB tập dữ liệu huấn luyện chất lượng cao.
Vượt ra ngoài bối cảnh
Trong hơn nửa năm qua, cả các nhà cung cấp dịch vụ mô hình lớn và các tổ chức tài chính lớn đều đang tích cực tìm kiếm các trường hợp ứng dụng. Các lĩnh vực như văn phòng thông minh, phát triển thông minh, tiếp thị thông minh, dịch vụ khách hàng thông minh, nghiên cứu đầu tư thông minh, kiểm soát rủi ro thông minh, phân tích nhu cầu đang được khám phá từng bước.
Như một giám đốc điều hành của một công ty công nghệ đã nói, "Mỗi chức năng quan trọng trong chuỗi dịch vụ tài chính đều xứng đáng được làm lại bằng công nghệ mô hình lớn." Công ty này gần đây đã phát hành mô hình lớn hướng tới ngành tài chính và đang hợp tác với các tổ chức để thử nghiệm nội bộ và xây dựng sản phẩm mô hình lớn cho ngành tài chính, với mục tiêu tạo ra một trợ lý kinh doanh AI toàn chuỗi cho các chuyên gia tài chính như cố vấn tài chính, đại lý bảo hiểm, nghiên cứu đầu tư, tiếp thị tài chính và bồi thường bảo hiểm.
Các tổ chức tài chính đều có những ý tưởng phong phú về việc ứng dụng mô hình lớn. Một ngân hàng lớn cho biết đã triển khai ứng dụng ở hơn 20 kịch bản nội bộ, một ngân hàng khác cho biết đã thử nghiệm ở hơn 30 kịch bản, trong khi một công ty chứng khoán thì đang khám phá việc kết nối mô hình lớn với nền tảng nhân vật ảo số mà họ đã ra mắt trước đó.
Nhưng khi thực sự áp dụng mô hình lớn vào kinh doanh, có sự đồng thuận chung trong ngành rằng nên ứng dụng nội bộ trước, sau đó mới sử dụng bên ngoài. Dù sao thì công nghệ mô hình lớn hiện tại vẫn chưa trưởng thành, như vấn đề ảo giác, và ngành tài chính lại là ngành có sự quản lý chặt chẽ, an toàn cao và đáng tin cậy.
Một giám đốc công nghệ của một ngân hàng lớn đã đề xuất rằng trong thời gian ngắn, không nên sử dụng mô hình lớn trực tiếp cho khách hàng. Các tổ chức tài chính nên ưu tiên áp dụng mô hình lớn vào phân tích và hiểu biết văn bản tài chính và hình ảnh tài chính, trong các tình huống tập trung vào trí tuệ, nhằm hiện thực hóa sự hợp tác giữa con người và máy móc, nâng cao hiệu quả công việc của nhân viên.
Hiện tại, trợ lý mã đã được triển khai tại nhiều tổ chức tài chính. Ví dụ, một ngân hàng lớn đã xây dựng hệ thống nghiên cứu và phát triển thông minh dựa trên mô hình lớn, trong đó lượng mã được trợ lý mã tạo ra chiếm 40% tổng lượng mã. Trong lĩnh vực bảo hiểm, một công ty bảo hiểm đã phát triển plugin hỗ trợ lập trình dựa trên mô hình lớn, được nhúng trực tiếp vào công cụ phát triển nội bộ.
Một số công ty công nghệ cũng đang phát triển các sản phẩm sẵn sàng cho khách hàng tài chính dựa trên khả năng tạo mã của mô hình lớn. Ông Tôn Hồng Quân từ SoftTech cho biết, một sản phẩm của họ đã bổ sung các tính năng như phân chia nhiệm vụ, trả lời chính xác, vượt qua giới hạn ngữ cảnh trên cơ sở khả năng hoàn thành mã của mô hình lớn, giúp người dùng có thể sử dụng ngay. Sản phẩm này hiện đã có hơn 3000 người sử dụng tại một ngân hàng quốc tế, với tỷ lệ tự động hoàn thành mã đạt 50%~90%.
Trong lĩnh vực văn phòng thông minh cũng có nhiều trường hợp ứng dụng thực tế. Người phụ trách sản phẩm mô hình lớn trong ngành tài chính của một công ty công nghệ lớn cho biết, chức năng hỏi đáp tại điểm giao dịch dựa trên mô hình lớn tài chính mà họ ra mắt đã được triển khai tại hàng trăm điểm giao dịch sau khi ra mắt vào tháng 7 tại một ngân hàng lớn, tỷ lệ chấp nhận câu trả lời vượt quá 85%. Hiện tại, chức năng này đã nhanh chóng được sao chép sang nhiều ngân hàng và tổ chức tài chính khác.
Tuy nhiên, các chuyên gia trong ngành đánh giá rằng, những tình huống đã được triển khai rộng rãi này thực sự vẫn chưa phải là ứng dụng cốt lõi của các tổ chức tài chính, và mô hình lớn vẫn còn một khoảng cách nhất định để đi sâu vào tầng nghiệp vụ của ngành tài chính.
Tôn Hồng Quân cho biết, trong các tình huống ứng dụng kinh doanh, độ khó tương đối lớn. Các lĩnh vực như tiếp thị, quản lý rủi ro, và tuân thủ là những lĩnh vực mà mô hình lớn có thể mang lại sự thay đổi, đồng thời cũng là nhu cầu của khách hàng trong lĩnh vực tài chính, nhưng hiện tại những công việc này vẫn phụ thuộc vào khả năng nâng cao của các nhà cung cấp mô hình lớn cơ sở, mới có thể tiến hành ứng dụng các tình huống kinh doanh.
Một chuyên gia kỳ cựu trong lĩnh vực mô hình lớn của một công ty công nghệ lớn dự đoán rằng trước cuối năm nay, sẽ có một loạt dự án xây dựng hoặc thông tin đấu thầu thực sự áp dụng mô hình lớn trong các tình huống kinh doanh cốt lõi của các tổ chức tài chính xuất hiện.
Trước đó, một số cải cách ở cấp độ thiết kế hàng đầu đang diễn ra.
Có chuyên gia cho rằng, trong tương lai, toàn bộ hệ thống thông minh và số hóa sẽ được xây dựng lại dựa trên nền tảng của mô hình lớn. Điều này yêu cầu ngành tài chính phải tái cấu trúc hệ thống trong quá trình triển khai mô hình lớn. Đồng thời, cũng không thể bỏ qua giá trị của mô hình nhỏ truyền thống, mà nên để mô hình lớn và mô hình nhỏ làm việc cùng nhau.
Xu hướng này đã được thể hiện rộng rãi trong ngành tài chính. Hiện nay, nhiều tổ chức tài chính hàng đầu đã xây dựng hệ thống phân tầng bao gồm các lớp cơ sở hạ tầng, lớp mô hình, lớp dịch vụ mô hình lớn, lớp ứng dụng dựa trên mô hình lớn.
Các hệ thống khung này thường có hai đặc điểm lớn: thứ nhất là mô hình lớn phát huy khả năng trung tâm, sử dụng mô hình truyền thống như một kỹ năng để gọi; thứ hai là lớp mô hình lớn áp dụng chiến lược đa mô hình, so sánh nội bộ, chọn ra hiệu quả tối ưu.
Trên thực tế, không chỉ các tổ chức tài chính, trong bối cảnh hiện tại còn chưa rõ ràng, một số nhà cung cấp ứng dụng mô hình lớn cũng áp dụng chiến lược đa mô hình, ưu tiên hiệu quả dịch vụ. Tôn Hồng Quân tiết lộ, lớp mô hình nền tảng của họ cũng đã tích hợp nhiều mô hình ngôn ngữ lớn, sẽ được lắp ráp và tối ưu hóa dựa trên câu trả lời của mỗi mô hình lớn trước khi cung cấp cho người dùng.
Khoảng cách nhân lực vẫn còn lớn
Việc ứng dụng các mô hình lớn đã bắt đầu mang lại một số thách thức và biến đổi cho cơ cấu nhân sự trong ngành tài chính.
Một người trong ngành công nghệ tài chính cho biết, kể từ khi ChatGPT xuất hiện, từ đầu năm đến cuối tháng 5, công ty của anh đã sa thải hơn 300 nhà phân tích dữ liệu lớn. Trong khi vài năm trước, đây vẫn là một nghề hot. Điều này đã khiến anh lo lắng về việc làm trong tương lai.
Một chuyên gia kỳ cựu từ một ngân hàng lớn cũng chia sẻ về hiệu ứng thay thế con người của các mô hình lớn. Ngân hàng này trước đây mỗi sáng đều có thực tập sinh tổng hợp các thông tin từ nhiều lĩnh vực cho bộ phận nghiên cứu đầu tư, nhưng bây giờ những công việc này có thể được hoàn thành thông qua các mô hình lớn.
Tuy nhiên, một số ngân hàng không muốn mô hình lớn dẫn đến cắt giảm nhân sự. Một ngân hàng lớn với 200.000 nhân viên tại các điểm giao dịch đã rõ ràng tuyên bố rằng họ hy vọng mô hình lớn sẽ mang lại cơ hội mới, nâng cao chất lượng dịch vụ và hiệu quả công việc của nhân viên, đồng thời giải phóng một phần nhân viên để thực hiện nhiều công việc có giá trị cao hơn, thay vì thay thế nhân viên.
Trong đó vừa có sự xem xét về ổn định nhân sự và cấu trúc, vừa vì nhiều vị trí vẫn còn thiếu nhân tài. Tôn Hồng Quân cho biết, các ngân hàng lớn có rất nhiều công việc cần hoàn thành, một số yêu cầu về CNTT thậm chí đã được lên lịch đến cuối năm sau, họ hy vọng rằng mô hình lớn có thể giúp nhân viên nâng cao hiệu suất, chứ không phải giảm nhân sự.
Hơn nữa, sự phát triển nhanh chóng của các mô hình lớn dẫn đến việc cung cấp nhân lực khan hiếm trong ngắn hạn không thể đáp ứng được nhu cầu tăng vọt. Điều này giống như khi iPhone mới xuất hiện, rất khó để tìm được lập trình viên iOS nếu muốn phát triển ứng dụng.
Một giám đốc điều hành của một ngân hàng lớn đã tóm tắt 6 thách thức mà ngành tài chính hiện đang phải đối mặt trong việc áp dụng các mô hình lớn vào quy trình kinh doanh cốt lõi, trong đó một trong số đó là nhân tài. Họ đã phát hiện ra rằng tỷ lệ sinh viên học về lĩnh vực AI rất cao trong tuyển dụng nhân viên mới và tuyển sinh, nhưng số lượng người hiểu về các mô hình lớn lại rất ít.
Tôn Hồng Quân cũng có trải nghiệm tương tự, một tuần trước Quốc khánh, họ vừa nhận được yêu cầu hỗ trợ nhân tài từ một khách hàng ngân hàng. Do có người tạm nghỉ trong đội ngũ mô hình lớn tự xây dựng của ngân hàng, công việc đào tạo mô hình thiếu nhân lực, buộc phải tìm kiếm hỗ trợ từ bên ngoài.
"Hiện tại, nhân tài trong lĩnh vực này thực sự rất hiếm, cần một khoảng thời gian nhất định để phát triển." Tôn Hong Quân cho rằng, nhu cầu nhân tài để áp dụng trực tiếp mô hình lớn tương đối đơn giản, chủ yếu là những người biết đặt câu hỏi. Nhưng nếu xây dựng mô hình lớn cho ngành hoặc doanh nghiệp, thì các tổ chức tài chính cần có một đội ngũ kỹ thuật mô hình lớn chuyên nghiệp.
Một giám đốc điều hành của một công ty công nghệ lớn cũng thừa nhận rằng có một khoảng cách rất lớn về nhân tài trong lĩnh vực mô hình AI lớn, các tổ chức hàng đầu hiện đang tuyển dụng nhân tài liên quan đến AI như tiến sĩ thuật toán, v.v. Điều này là do mặc dù khách hàng tài chính có thể nhận được hỗ trợ kỹ thuật từ các nhà sản xuất mô hình lớn, nhưng với tư cách là bên sử dụng cuối cùng và bên dẫn dắt đổi mới, họ cần tích lũy một lượng nhân tài nhất định để hỗ trợ xây dựng nền tảng AI lớn, lập kế hoạch ứng dụng AI, cũng như hợp tác với các nhà sản xuất mô hình lớn trong quá trình mô hình hóa và điều chỉnh để tối ưu hóa cảnh và mô hình, liên tục mở rộng phạm vi và hiệu quả ứng dụng của mô hình AI.
Một số tổ chức đã hành động. Giám đốc của một công ty công nghệ lớn cho biết, họ đã hợp tác với phòng thí nghiệm của một ngân hàng lớn để sắp xếp các thực hành chuyển đổi nhân sự trong việc ứng dụng mô hình lớn vào doanh nghiệp, thiết kế một loạt khóa đào tạo về tối ưu hóa Prompt, tinh chỉnh, vận hành mô hình lớn, và hợp tác với nhiều bộ phận để thành lập nhóm dự án liên kết, thúc đẩy nâng cao năng lực nhân sự doanh nghiệp.