Asisten AI Manus mencapai kemajuan signifikan, memicu diskusi mendalam tentang keamanan dan efisiensi
Baru-baru ini, asisten AI Manus mencapai hasil terobosan dalam pengujian benchmark GAIA, dengan kinerja yang melebihi model bahasa besar setara. Manus menunjukkan kemampuan untuk menyelesaikan tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara, yang melibatkan pemecahan ketentuan kontrak, prediksi strategi, dan pengembangan rencana. Dibandingkan dengan sistem tradisional, keunggulan Manus terletak pada pemecahan tujuan dinamis, penalaran lintas mode, dan kemampuan pembelajaran yang ditingkatkan oleh memori. Ia dapat memecah tugas besar menjadi ratusan sub-tugas yang dapat dieksekusi, sekaligus memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.
Kemajuan Manus sekali lagi memicu diskusi di industri tentang jalur perkembangan AI: Apakah masa depan menuju pola unifikasi kecerdasan buatan umum (AGI), atau pola kolaborasi sistem multi-agen (MAS)? Pertanyaan ini berasal dari filosofi desain Manus, yang menyiratkan dua kemungkinan: pertama adalah jalur AGI yang mendekati kemampuan pengambilan keputusan manusia dengan terus meningkatkan tingkat kecerdasan tunggal; kedua adalah jalur MAS yang berfungsi sebagai koordinator super, mengarahkan ribuan agen cerdas di berbagai bidang untuk bekerja sama.
Diskusi ini sebenarnya menyentuh pada kontradiksi inti dalam pengembangan AI: bagaimana mencapai keseimbangan antara efisiensi dan keamanan? Seiring dengan semakin dekatnya kecerdasan tunggal menuju AGI, risiko ketidaktransparanan dalam proses pengambilan keputusan juga meningkat. Di sisi lain, kolaborasi multi-agen dapat mendistribusikan risiko, tetapi mungkin kehilangan momen pengambilan keputusan yang krusial karena keterlambatan komunikasi.
Perkembangan Manus juga menyoroti risiko keamanan yang melekat pada AI. Misalnya, dalam skenario medis, ia perlu mengakses data genom sensitif pasien; dalam negosiasi keuangan, mungkin terpapar pada informasi keuangan perusahaan yang belum dipublikasikan. Selain itu, sistem AI mungkin memiliki bias algoritma, seperti memberikan saran gaji yang tidak adil untuk kelompok tertentu dalam proses perekrutan. Dalam aspek tinjauan kontrak hukum, tingkat kesalahan dalam menilai ketentuan industri yang baru muncul juga mungkin tinggi. Yang lebih perlu diwaspadai adalah, peretas mungkin dapat mengganggu penilaian Manus dalam negosiasi dengan menyisipkan frekuensi suara tertentu.
Masalah-masalah ini menyoroti kenyataan yang mengkhawatirkan: semakin cerdas sistem AI, semakin luas potensi permukaan serangannya.
Di bidang Web3, keamanan selalu menjadi topik yang sangat diperhatikan. Teori "triple yang tidak mungkin" yang diajukan oleh pendiri Ethereum Vitalik Buterin (jaringan blockchain tidak dapat mencapai keamanan, desentralisasi, dan skalabilitas secara bersamaan) telah menginspirasi perkembangan berbagai teknologi kripto:
Model Keamanan Tanpa Kepercayaan: Menekankan pada verifikasi dan otorisasi identitas yang ketat untuk setiap permintaan akses.
Identitas Terdesentralisasi (DID): Memungkinkan entitas untuk mendapatkan identifikasi yang dapat diverifikasi tanpa pendaftaran terpusat.
Enkripsi Homomorfik Penuh (FHE): memungkinkan perhitungan data dalam keadaan terenkripsi, melindungi privasi sambil melakukan pengolahan data.
Dalam teknologi ini, enkripsi homomorfik penuh dianggap sebagai teknologi kunci untuk menyelesaikan masalah keamanan di era AI. Ini dapat berfungsi dalam beberapa aspek berikut:
Tingkat data: Semua informasi yang dimasukkan pengguna (termasuk fitur biometrik, nada suara) diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.
Tingkat algoritma: Mewujudkan "pelatihan model terenkripsi" melalui FHE, memastikan bahwa bahkan pengembang pun tidak dapat mengintip proses pengambilan keputusan AI.
Aspek kolaborasi: Komunikasi antara beberapa agen cerdas menggunakan enkripsi ambang, bahkan jika satu node disusupi, tidak akan menyebabkan kebocoran data global.
Di bidang keamanan Web3, sudah ada beberapa proyek yang berusaha menyelesaikan masalah ini. Misalnya, uPort adalah salah satu proyek identitas terdesentralisasi yang lebih awal diluncurkan di jaringan utama Ethereum; NKN telah melakukan percobaan dalam model keamanan tanpa kepercayaan; Mind Network adalah proyek FHE pertama yang diluncurkan di jaringan utama dan telah menjalin kemitraan dengan berbagai lembaga terkenal.
Seiring dengan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan yang kuat menjadi semakin penting. Enkripsi homomorfik penuh tidak hanya dapat menyelesaikan masalah keamanan saat ini, tetapi juga meletakkan dasar untuk perkembangan era AI yang kuat di masa depan. Di jalan menuju AGI, FHE tidak lagi menjadi pilihan, melainkan merupakan syarat yang diperlukan untuk memastikan sistem AI beroperasi dengan aman.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI Asisten Manus memicu pemikiran keamanan Web3, Enkripsi Homomorphic sepenuhnya menjadi teknologi kunci
Asisten AI Manus mencapai kemajuan signifikan, memicu diskusi mendalam tentang keamanan dan efisiensi
Baru-baru ini, asisten AI Manus mencapai hasil terobosan dalam pengujian benchmark GAIA, dengan kinerja yang melebihi model bahasa besar setara. Manus menunjukkan kemampuan untuk menyelesaikan tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara, yang melibatkan pemecahan ketentuan kontrak, prediksi strategi, dan pengembangan rencana. Dibandingkan dengan sistem tradisional, keunggulan Manus terletak pada pemecahan tujuan dinamis, penalaran lintas mode, dan kemampuan pembelajaran yang ditingkatkan oleh memori. Ia dapat memecah tugas besar menjadi ratusan sub-tugas yang dapat dieksekusi, sekaligus memproses berbagai jenis data, dan terus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.
Kemajuan Manus sekali lagi memicu diskusi di industri tentang jalur perkembangan AI: Apakah masa depan menuju pola unifikasi kecerdasan buatan umum (AGI), atau pola kolaborasi sistem multi-agen (MAS)? Pertanyaan ini berasal dari filosofi desain Manus, yang menyiratkan dua kemungkinan: pertama adalah jalur AGI yang mendekati kemampuan pengambilan keputusan manusia dengan terus meningkatkan tingkat kecerdasan tunggal; kedua adalah jalur MAS yang berfungsi sebagai koordinator super, mengarahkan ribuan agen cerdas di berbagai bidang untuk bekerja sama.
Diskusi ini sebenarnya menyentuh pada kontradiksi inti dalam pengembangan AI: bagaimana mencapai keseimbangan antara efisiensi dan keamanan? Seiring dengan semakin dekatnya kecerdasan tunggal menuju AGI, risiko ketidaktransparanan dalam proses pengambilan keputusan juga meningkat. Di sisi lain, kolaborasi multi-agen dapat mendistribusikan risiko, tetapi mungkin kehilangan momen pengambilan keputusan yang krusial karena keterlambatan komunikasi.
Perkembangan Manus juga menyoroti risiko keamanan yang melekat pada AI. Misalnya, dalam skenario medis, ia perlu mengakses data genom sensitif pasien; dalam negosiasi keuangan, mungkin terpapar pada informasi keuangan perusahaan yang belum dipublikasikan. Selain itu, sistem AI mungkin memiliki bias algoritma, seperti memberikan saran gaji yang tidak adil untuk kelompok tertentu dalam proses perekrutan. Dalam aspek tinjauan kontrak hukum, tingkat kesalahan dalam menilai ketentuan industri yang baru muncul juga mungkin tinggi. Yang lebih perlu diwaspadai adalah, peretas mungkin dapat mengganggu penilaian Manus dalam negosiasi dengan menyisipkan frekuensi suara tertentu.
Masalah-masalah ini menyoroti kenyataan yang mengkhawatirkan: semakin cerdas sistem AI, semakin luas potensi permukaan serangannya.
Di bidang Web3, keamanan selalu menjadi topik yang sangat diperhatikan. Teori "triple yang tidak mungkin" yang diajukan oleh pendiri Ethereum Vitalik Buterin (jaringan blockchain tidak dapat mencapai keamanan, desentralisasi, dan skalabilitas secara bersamaan) telah menginspirasi perkembangan berbagai teknologi kripto:
Dalam teknologi ini, enkripsi homomorfik penuh dianggap sebagai teknologi kunci untuk menyelesaikan masalah keamanan di era AI. Ini dapat berfungsi dalam beberapa aspek berikut:
Di bidang keamanan Web3, sudah ada beberapa proyek yang berusaha menyelesaikan masalah ini. Misalnya, uPort adalah salah satu proyek identitas terdesentralisasi yang lebih awal diluncurkan di jaringan utama Ethereum; NKN telah melakukan percobaan dalam model keamanan tanpa kepercayaan; Mind Network adalah proyek FHE pertama yang diluncurkan di jaringan utama dan telah menjalin kemitraan dengan berbagai lembaga terkenal.
Seiring dengan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan yang kuat menjadi semakin penting. Enkripsi homomorfik penuh tidak hanya dapat menyelesaikan masalah keamanan saat ini, tetapi juga meletakkan dasar untuk perkembangan era AI yang kuat di masa depan. Di jalan menuju AGI, FHE tidak lagi menjadi pilihan, melainkan merupakan syarat yang diperlukan untuk memastikan sistem AI beroperasi dengan aman.