Cuộc tranh luận về con đường phát triển AI do hiệu suất của Manus vượt qua

Gần đây, Manus đã đạt được thành tích đột phá trong bài kiểm tra GAIA, với hiệu suất vượt trội hơn các mô hình ngôn ngữ lớn tương đương. Manus thể hiện khả năng hoàn thành độc lập các nhiệm vụ phức tạp, chẳng hạn như đàm phán kinh doanh xuyên quốc gia, liên quan đến phân tích điều khoản hợp đồng, xây dựng chiến lược và phát triển phương án. So với các hệ thống truyền thống, ưu điểm của Manus nằm ở khả năng phân tách mục tiêu động, suy luận đa phương thức và khả năng học tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực hiện được, đồng thời xử lý nhiều loại dữ liệu và liên tục nâng cao hiệu quả quyết định thông qua học tăng cường, giảm thiểu tỷ lệ sai sót.

Sự đột phá của Manus một lần nữa đã kích thích cuộc thảo luận trong ngành về con đường phát triển AI: tương lai sẽ hướng tới trí tuệ nhân tạo tổng quát (AGI) thống trị, hay là hệ thống đa tác nhân (MAS) hợp tác chiếm ưu thế?

Nguyên tắc thiết kế của Manus ẩn chứa hai khả năng:

1. Đường đi AGI: Bằng cách liên tục nâng cao trình độ trí tuệ đơn thể, làm cho nó gần gũi với khả năng ra quyết định tổng hợp của con người.

2. Đường MAS: Là người điều phối siêu cấp, chỉ huy hàng nghìn tác nhân chuyên môn làm việc phối hợp.

Bề ngoài, đây là sự khác biệt về các con đường công nghệ khác nhau, nhưng thực tế phản ánh mâu thuẫn sâu sắc về cách cân bằng giữa hiệu suất và an toàn trong sự phát triển của AI. Khi trí tuệ đơn thể càng gần AGI, rủi ro về tính không minh bạch trong quy trình ra quyết định càng cao; trong khi sự phối hợp của nhiều trí tuệ đơn thể có thể phân tán rủi ro, nhưng có thể do độ trễ trong giao tiếp mà bỏ lỡ thời điểm ra quyết định quan trọng.

Sự tiến bộ của Manus cũng làm nổi bật những rủi ro vốn có trong sự phát triển của AI:

1. Vấn đề bảo mật dữ liệu: Trong bối cảnh y tế, cần truy cập dữ liệu nhạy cảm của bệnh nhân; trong các cuộc thương lượng tài chính, có thể liên quan đến thông tin chưa công khai của doanh nghiệp.

2. Định kiến thuật toán: Trong quá trình thương lượng tuyển dụng, có thể đưa ra những đề xuất lương không công bằng cho các nhóm cụ thể; trong việc xem xét hợp đồng pháp lý, có thể có tỷ lệ sai sót cao trong việc đánh giá các điều khoản của ngành mới nổi.

3. Tấn công đối kháng: Hacker có thể cấy tín hiệu cụ thể để can thiệp vào sự phán đoán của hệ thống AI.

Những thách thức này làm nổi bật một thực tế nghiêm trọng: Hệ thống AI càng thông minh thì bề mặt tấn công tiềm ẩn càng rộng.

Để đối phó với những thách thức này, ngành công nghiệp đang khám phá nhiều chiến lược an ninh khác nhau:

1. Mô hình bảo mật không tin cậy: yêu cầu xác thực và cấp quyền nghiêm ngặt cho mỗi yêu cầu truy cập.

2. Danh tính phi tập trung (DID): thực hiện nhận diện danh tính có thể xác minh và bền vững, không cần dựa vào sổ đăng ký tập trung.

3. Mã hóa toàn phần (FHE): Cho phép thực hiện tính toán trên dữ liệu trong trạng thái mã hóa, bảo vệ quyền riêng tư của dữ liệu.

Trong đó, FHE được coi là công nghệ then chốt để giải quyết vấn đề an ninh trong thời đại AI. Nó có thể phát huy vai trò trong các lĩnh vực sau:

• Về mặt dữ liệu: Tất cả thông tin do người dùng nhập vào được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.

• Khía cạnh thuật toán: Thực hiện "đào tạo mô hình mã hóa" thông qua FHE, đảm bảo quá trình ra quyết định của AI không bị theo dõi.

• Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân sử dụng mã hóa ngưỡng, ngăn chặn lỗi điểm đơn dẫn đến rò rỉ dữ liệu toàn cầu.

Mặc dù sự phát triển của công nghệ bảo mật Web3 có thể không có liên quan trực tiếp đến người dùng thông thường, nhưng nó rất quan trọng cho sự phát triển lành mạnh của toàn bộ hệ sinh thái. Trong thời đại AI phát triển nhanh chóng hiện nay, tầm quan trọng của công nghệ bảo mật không cần phải bàn cãi.

Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, chúng ta cần một hệ thống phòng thủ tiên tiến hơn. Các công nghệ an ninh như FHE không chỉ giải quyết các vấn đề hiện tại mà còn mở đường cho một kỷ nguyên AI mạnh mẽ hơn trong tương lai. Trên con đường hướng tới AGI, những công nghệ an ninh này không còn là tùy chọn, mà là nhu cầu sinh tồn.