حقق مساعد الذكاء الاصطناعي Manus تقدمًا ملحوظًا، مما أثار مناقشات عميقة حول الأمان والكفاءة
في الفترة الأخيرة، حقق مساعد الذكاء الاصطناعي Manus نتائج بارزة في اختبارات GAIA، حيث تفوقت أداؤه على نماذج اللغة الكبيرة من نفس الفئة. أظهر Manus القدرة على إكمال المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الحدود، والتي تشمل تفكيك شروط العقد، والتنبؤ بالاستراتيجيات، وتوليد الاقتراحات وغيرها من المراحل. بالمقارنة مع الأنظمة التقليدية، تتمثل مزايا Manus في تفكيك الأهداف الديناميكية، والاستدلال عبر الأنماط، وقدرة التعلم المعزز للذاكرة. يمكنه تقسيم المهام الكبيرة إلى مئات من المهام الفرعية القابلة للتنفيذ، ومعالجة أنواع متعددة من البيانات، وتحسين كفاءة اتخاذ القرار باستمرار من خلال التعلم المعزز، مما يقلل من معدل الأخطاء.
أثارت تقدم Manus مرة أخرى نقاشًا في الصناعة حول مسارات تطوير الذكاء الاصطناعي: هل سيكون المستقبل نموذجًا موحدًا نحو الذكاء الاصطناعي العام (AGI) أم نموذجًا تعاونيًا لنظم متعددة الوكلاء (MAS)؟ تنبع هذه القضية من理念 تصميم Manus ، الذي يلمح إلى احتمالين: الأول هو تعزيز مستوى الذكاء الفردي باستمرار، مما يقترب من قدرة اتخاذ القرار الشاملة لدى البشر في مسار AGI؛ والثاني هو أن يكون بمثابة منسق فائق، يقود آلاف الوكلاء المتخصصين للعمل معًا في مسار MAS.
هذه المناقشة تتناول في الواقع التناقض الأساسي في تطور الذكاء الاصطناعي: كيف يمكن تحقيق التوازن بين الكفاءة والأمان؟ مع اقتراب الذكاء الفردي من AGI، تزداد مخاطر عدم الشفافية في عملية اتخاذ القرار. من ناحية أخرى، على الرغم من أن التعاون بين عدة وكالات يمكن أن يوزع المخاطر، إلا أنه قد يفوت فرص اتخاذ القرارات الحاسمة بسبب تأخير الاتصالات.
تطور Manus يبرز أيضًا المخاطر الأمنية الكامنة في الذكاء الاصطناعي. على سبيل المثال، في المشاهد الطبية، يحتاج إلى الوصول إلى بيانات الجينوم الحساسة للمرضى؛ في المفاوضات المالية، قد يتعرض لمعلومات مالية غير معلنة للشركات. علاوة على ذلك، قد تحتوي أنظمة الذكاء الاصطناعي على تحيزات خوارزمية، مثل تقديم اقتراحات غير عادلة بشأن الرواتب لمجموعات معينة خلال عملية التوظيف. في مراجعة العقود القانونية، قد تكون معدلات الخطأ في تفسير بنود الصناعات الناشئة مرتفعة أيضًا. والأكثر إثارة للقلق هو أن القراصنة قد يتدخلون من خلال إدخال ترددات صوتية معينة، مما يعطل حكم Manus في المفاوضات.
تسلط هذه المسائل الضوء على واقع مقلق: كلما كانت أنظمة الذكاء الاصطناعي أكثر ذكاءً، زادت مساحة الهجوم المحتملة.
في مجال Web3، كانت الأمن دائمًا موضوعًا يحظى باهتمام كبير. نظرية "مثلث الاستحالة" التي اقترحها مؤسس إيثيريوم فيتاليك بوترين (لا يمكن لشبكات البلوكشين تحقيق الأمان، واللامركزية، وقابلية التوسع في نفس الوقت) ألهمت تطوير العديد من التقنيات التشفيرية:
نموذج الأمان بدون ثقة: يركز على التحقق من الهوية والتفويض الصارم لكل طلب وصول.
الهوية اللامركزية (DID): تسمح للكيانات بالحصول على هوية قابلة للتحقق بدون الحاجة إلى تسجيل مركزي.
التشفير الشامل (FHE): يسمح بإجراء الحسابات على البيانات في حالة مشفرة، مما يحمي الخصوصية أثناء معالجة البيانات.
تعتبر التشفير المتجانس الكامل من بين هذه التقنيات التكنولوجيا الرئيسية لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكن أن تلعب دورًا في المجالات التالية:
على المستوى البياني: يتم معالجة جميع المعلومات المدخلة من قبل المستخدم (بما في ذلك الخصائص البيولوجية ونبرة الصوت) في حالة مشفرة، حتى أن نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
على مستوى الخوارزمية: من خلال FHE يتم تحقيق "تدريب نموذج مشفر"، مما يضمن حتى أن المطورين لا يمكنهم التطفل على عملية اتخاذ القرار للذكاء الاصطناعي.
مستوى التعاون: يتم استخدام التشفير العتبي في الاتصالات بين عدة وكلاء، حتى إذا تم اختراق عقدة واحدة، فلن يؤدي ذلك إلى تسرب البيانات العالمية.
في مجال أمان Web3، هناك العديد من المشاريع التي تهدف إلى حل هذه المشكلات. على سبيل المثال، uPort هو مشروع هويات لامركزية تم إطلاقه في وقت مبكر على الشبكة الرئيسية لإيثيريوم؛ قامت NKN بمحاولات في نموذج الأمان بدون ثقة؛ بينما يُعتبر Mind Network هو المشروع الأول الذي تم إطلاقه على الشبكة الرئيسية باستخدام التشفير القائم على الوظائف (FHE)، وقد أقام شراكات مع العديد من المؤسسات المعروفة.
مع اقتراب تكنولوجيا الذكاء الاصطناعي من مستوى الذكاء البشري، أصبح بناء نظام دفاعي قوي أمرًا أكثر أهمية. لا يمكن للتشفير المتجانس بالكامل فقط حل المشكلات الأمنية الحالية، بل يُؤسس أيضًا لمرحلة تطوير الذكاء الاصطناعي القوي في المستقبل. على الطريق نحو الذكاء الاصطناعي العام، لم يعد التشفير المتجانس بالكامل خيارًا، بل أصبح شرطًا ضروريًا لضمان تشغيل أنظمة الذكاء الاصطناعي بشكل آمن.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
أثارت突破 AI助手Manus أفكار حول أمان Web3، وأصبح التشفير المتماثل بالكامل التقنية الرئيسية.
حقق مساعد الذكاء الاصطناعي Manus تقدمًا ملحوظًا، مما أثار مناقشات عميقة حول الأمان والكفاءة
في الفترة الأخيرة، حقق مساعد الذكاء الاصطناعي Manus نتائج بارزة في اختبارات GAIA، حيث تفوقت أداؤه على نماذج اللغة الكبيرة من نفس الفئة. أظهر Manus القدرة على إكمال المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الحدود، والتي تشمل تفكيك شروط العقد، والتنبؤ بالاستراتيجيات، وتوليد الاقتراحات وغيرها من المراحل. بالمقارنة مع الأنظمة التقليدية، تتمثل مزايا Manus في تفكيك الأهداف الديناميكية، والاستدلال عبر الأنماط، وقدرة التعلم المعزز للذاكرة. يمكنه تقسيم المهام الكبيرة إلى مئات من المهام الفرعية القابلة للتنفيذ، ومعالجة أنواع متعددة من البيانات، وتحسين كفاءة اتخاذ القرار باستمرار من خلال التعلم المعزز، مما يقلل من معدل الأخطاء.
أثارت تقدم Manus مرة أخرى نقاشًا في الصناعة حول مسارات تطوير الذكاء الاصطناعي: هل سيكون المستقبل نموذجًا موحدًا نحو الذكاء الاصطناعي العام (AGI) أم نموذجًا تعاونيًا لنظم متعددة الوكلاء (MAS)؟ تنبع هذه القضية من理念 تصميم Manus ، الذي يلمح إلى احتمالين: الأول هو تعزيز مستوى الذكاء الفردي باستمرار، مما يقترب من قدرة اتخاذ القرار الشاملة لدى البشر في مسار AGI؛ والثاني هو أن يكون بمثابة منسق فائق، يقود آلاف الوكلاء المتخصصين للعمل معًا في مسار MAS.
هذه المناقشة تتناول في الواقع التناقض الأساسي في تطور الذكاء الاصطناعي: كيف يمكن تحقيق التوازن بين الكفاءة والأمان؟ مع اقتراب الذكاء الفردي من AGI، تزداد مخاطر عدم الشفافية في عملية اتخاذ القرار. من ناحية أخرى، على الرغم من أن التعاون بين عدة وكالات يمكن أن يوزع المخاطر، إلا أنه قد يفوت فرص اتخاذ القرارات الحاسمة بسبب تأخير الاتصالات.
تطور Manus يبرز أيضًا المخاطر الأمنية الكامنة في الذكاء الاصطناعي. على سبيل المثال، في المشاهد الطبية، يحتاج إلى الوصول إلى بيانات الجينوم الحساسة للمرضى؛ في المفاوضات المالية، قد يتعرض لمعلومات مالية غير معلنة للشركات. علاوة على ذلك، قد تحتوي أنظمة الذكاء الاصطناعي على تحيزات خوارزمية، مثل تقديم اقتراحات غير عادلة بشأن الرواتب لمجموعات معينة خلال عملية التوظيف. في مراجعة العقود القانونية، قد تكون معدلات الخطأ في تفسير بنود الصناعات الناشئة مرتفعة أيضًا. والأكثر إثارة للقلق هو أن القراصنة قد يتدخلون من خلال إدخال ترددات صوتية معينة، مما يعطل حكم Manus في المفاوضات.
تسلط هذه المسائل الضوء على واقع مقلق: كلما كانت أنظمة الذكاء الاصطناعي أكثر ذكاءً، زادت مساحة الهجوم المحتملة.
في مجال Web3، كانت الأمن دائمًا موضوعًا يحظى باهتمام كبير. نظرية "مثلث الاستحالة" التي اقترحها مؤسس إيثيريوم فيتاليك بوترين (لا يمكن لشبكات البلوكشين تحقيق الأمان، واللامركزية، وقابلية التوسع في نفس الوقت) ألهمت تطوير العديد من التقنيات التشفيرية:
تعتبر التشفير المتجانس الكامل من بين هذه التقنيات التكنولوجيا الرئيسية لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكن أن تلعب دورًا في المجالات التالية:
في مجال أمان Web3، هناك العديد من المشاريع التي تهدف إلى حل هذه المشكلات. على سبيل المثال، uPort هو مشروع هويات لامركزية تم إطلاقه في وقت مبكر على الشبكة الرئيسية لإيثيريوم؛ قامت NKN بمحاولات في نموذج الأمان بدون ثقة؛ بينما يُعتبر Mind Network هو المشروع الأول الذي تم إطلاقه على الشبكة الرئيسية باستخدام التشفير القائم على الوظائف (FHE)، وقد أقام شراكات مع العديد من المؤسسات المعروفة.
مع اقتراب تكنولوجيا الذكاء الاصطناعي من مستوى الذكاء البشري، أصبح بناء نظام دفاعي قوي أمرًا أكثر أهمية. لا يمكن للتشفير المتجانس بالكامل فقط حل المشكلات الأمنية الحالية، بل يُؤسس أيضًا لمرحلة تطوير الذكاء الاصطناعي القوي في المستقبل. على الطريق نحو الذكاء الاصطناعي العام، لم يعد التشفير المتجانس بالكامل خيارًا، بل أصبح شرطًا ضروريًا لضمان تشغيل أنظمة الذكاء الاصطناعي بشكل آمن.