El avance del asistente de IA Manus provoca reflexiones sobre la seguridad en Web3, la encriptación completamente homomórfica se convierte en una tecnología clave.
El asistente de IA Manus ha logrado avances significativos, provocando una profunda discusión sobre la seguridad y la eficiencia.
Recientemente, el asistente de IA Manus logró un rendimiento destacado en las pruebas de referencia GAIA, superando a modelos de lenguaje de gran tamaño de nivel similar. Manus demostró la capacidad de completar tareas complejas de forma independiente, como negociaciones comerciales internacionales, que involucran la descomposición de cláusulas contractuales, la anticipación de estrategias y la generación de propuestas. En comparación con los sistemas tradicionales, la ventaja de Manus radica en la descomposición dinámica de objetivos, el razonamiento multimodal y la capacidad de aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de la toma de decisiones y reducir la tasa de error a través del aprendizaje por refuerzo.
El avance de Manus ha reavivado la discusión en la industria sobre el camino de desarrollo de la IA: ¿el futuro se dirige hacia un modelo unificado de inteligencia artificial general (AGI) o hacia un modelo de colaboración de sistemas multiagente (MAS)? Esta cuestión surge de la filosofía de diseño de Manus, que sugiere dos posibilidades: primero, un camino de AGI que se acerca a la capacidad de toma de decisiones integrada del ser humano a través de la mejora continua del nivel de inteligencia individual; segundo, un camino de MAS que actúa como un supercoordinador, dirigiendo el trabajo colaborativo de miles de agentes inteligentes en campos especializados.
Esta discusión en realidad toca el núcleo de la contradicción en el desarrollo de la IA: ¿cómo lograr un equilibrio entre eficiencia y seguridad? A medida que la inteligencia individual se acerca a la AGI, también aumenta el riesgo de la opacidad en su proceso de toma de decisiones. Por otro lado, aunque la colaboración entre múltiples agentes puede dispersar riesgos, puede que se pierdan momentos clave de toma de decisiones debido a la latencia en la comunicación.
El desarrollo de Manus también destaca los riesgos de seguridad inherentes a la IA. Por ejemplo, en el ámbito médico, necesita acceder a datos genómicos sensibles de los pacientes; en las negociaciones financieras, podría tocar información financiera que no ha sido divulgada por las empresas. Además, los sistemas de IA pueden presentar sesgos algorítmicos, como ofrecer recomendaciones salariales injustas a ciertos grupos durante el proceso de contratación. En cuanto a la revisión de contratos legales, la tasa de errores en la interpretación de los términos de industrias emergentes también puede ser alta. Más preocupante es que los hackers podrían interferir en el juicio de Manus en las negociaciones al implantar frecuencias de voz específicas.
Estos problemas destacan una realidad preocupante: cuanto más inteligente es un sistema de IA, mayor es su posible superficie de ataque.
En el ámbito de Web3, la seguridad ha sido un tema de gran atención. La teoría del "triángulo imposible" propuesta por el fundador de Ethereum, Vitalik Buterin (las redes blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad) ha inspirado el desarrollo de diversas tecnologías criptográficas:
Modelo de seguridad de cero confianza: enfatiza la verificación y autorización estrictas de cada solicitud de acceso.
Identidad Descentralizada (DID): permite a las entidades obtener una identificación verificable sin necesidad de un registro centralizado.
Criptografía homomórfica completa (FHE): permite realizar cálculos sobre datos en estado cifrado, protegiendo la privacidad mientras se lleva a cabo el procesamiento de datos.
Entre estas tecnologías, la encriptación homomórfica completa se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes aspectos:
En el nivel de datos: toda la información ingresada por el usuario (incluidas las características biométricas y el tono de voz) se procesa en estado cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
Nivel de algoritmo: a través de FHE se logra "entrenamiento de modelos cifrados", asegurando que ni siquiera los desarrolladores puedan espiar el proceso de decisión de la IA.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, lo que significa que incluso si un solo nodo es comprometido, no se producirá una filtración de datos global.
En el ámbito de la seguridad Web3, ya hay varios proyectos dedicados a resolver estos problemas. Por ejemplo, uPort es uno de los primeros proyectos de identidad descentralizada lanzado en la red principal de Ethereum; NKN ha hecho intentos en el modelo de seguridad de cero confianza; Mind Network es el primer proyecto de FHE que se lanzó en la red principal y ha establecido colaboraciones con varias instituciones reconocidas.
A medida que la tecnología de IA se acerca cada vez más al nivel de inteligencia humana, se vuelve cada vez más importante establecer un poderoso sistema de defensa. La criptografía homomórfica total no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para el desarrollo de la futura era de la IA fuerte. En el camino hacia la AGI, la FHE ya no es una opción, sino una condición necesaria para garantizar el funcionamiento seguro de los sistemas de IA.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
11 me gusta
Recompensa
11
3
Compartir
Comentar
0/400
BagHolderTillRetire
· 07-02 07:12
La clave aún depende del análisis cuantitativo
Ver originalesResponder0
GateUser-26d7f434
· 07-02 07:11
El progreso es demasiado rápido, se debe tener cuidado.
El avance del asistente de IA Manus provoca reflexiones sobre la seguridad en Web3, la encriptación completamente homomórfica se convierte en una tecnología clave.
El asistente de IA Manus ha logrado avances significativos, provocando una profunda discusión sobre la seguridad y la eficiencia.
Recientemente, el asistente de IA Manus logró un rendimiento destacado en las pruebas de referencia GAIA, superando a modelos de lenguaje de gran tamaño de nivel similar. Manus demostró la capacidad de completar tareas complejas de forma independiente, como negociaciones comerciales internacionales, que involucran la descomposición de cláusulas contractuales, la anticipación de estrategias y la generación de propuestas. En comparación con los sistemas tradicionales, la ventaja de Manus radica en la descomposición dinámica de objetivos, el razonamiento multimodal y la capacidad de aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de la toma de decisiones y reducir la tasa de error a través del aprendizaje por refuerzo.
El avance de Manus ha reavivado la discusión en la industria sobre el camino de desarrollo de la IA: ¿el futuro se dirige hacia un modelo unificado de inteligencia artificial general (AGI) o hacia un modelo de colaboración de sistemas multiagente (MAS)? Esta cuestión surge de la filosofía de diseño de Manus, que sugiere dos posibilidades: primero, un camino de AGI que se acerca a la capacidad de toma de decisiones integrada del ser humano a través de la mejora continua del nivel de inteligencia individual; segundo, un camino de MAS que actúa como un supercoordinador, dirigiendo el trabajo colaborativo de miles de agentes inteligentes en campos especializados.
Esta discusión en realidad toca el núcleo de la contradicción en el desarrollo de la IA: ¿cómo lograr un equilibrio entre eficiencia y seguridad? A medida que la inteligencia individual se acerca a la AGI, también aumenta el riesgo de la opacidad en su proceso de toma de decisiones. Por otro lado, aunque la colaboración entre múltiples agentes puede dispersar riesgos, puede que se pierdan momentos clave de toma de decisiones debido a la latencia en la comunicación.
El desarrollo de Manus también destaca los riesgos de seguridad inherentes a la IA. Por ejemplo, en el ámbito médico, necesita acceder a datos genómicos sensibles de los pacientes; en las negociaciones financieras, podría tocar información financiera que no ha sido divulgada por las empresas. Además, los sistemas de IA pueden presentar sesgos algorítmicos, como ofrecer recomendaciones salariales injustas a ciertos grupos durante el proceso de contratación. En cuanto a la revisión de contratos legales, la tasa de errores en la interpretación de los términos de industrias emergentes también puede ser alta. Más preocupante es que los hackers podrían interferir en el juicio de Manus en las negociaciones al implantar frecuencias de voz específicas.
Estos problemas destacan una realidad preocupante: cuanto más inteligente es un sistema de IA, mayor es su posible superficie de ataque.
En el ámbito de Web3, la seguridad ha sido un tema de gran atención. La teoría del "triángulo imposible" propuesta por el fundador de Ethereum, Vitalik Buterin (las redes blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad) ha inspirado el desarrollo de diversas tecnologías criptográficas:
Entre estas tecnologías, la encriptación homomórfica completa se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes aspectos:
En el ámbito de la seguridad Web3, ya hay varios proyectos dedicados a resolver estos problemas. Por ejemplo, uPort es uno de los primeros proyectos de identidad descentralizada lanzado en la red principal de Ethereum; NKN ha hecho intentos en el modelo de seguridad de cero confianza; Mind Network es el primer proyecto de FHE que se lanzó en la red principal y ha establecido colaboraciones con varias instituciones reconocidas.
A medida que la tecnología de IA se acerca cada vez más al nivel de inteligencia humana, se vuelve cada vez más importante establecer un poderoso sistema de defensa. La criptografía homomórfica total no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para el desarrollo de la futura era de la IA fuerte. En el camino hacia la AGI, la FHE ya no es una opción, sino una condición necesaria para garantizar el funcionamiento seguro de los sistemas de IA.