OPML : une méthode d'apprentissage automatique décentralisée efficace
OPML(L'apprentissage automatique optimiste) est une méthode novatrice permettant l'inférence et l'entraînement/réglage fin de modèles d'IA sur des systèmes blockchain. Comparé à ZKML, OPML présente des avantages en termes de faible coût et de haute efficacité. Le seuil d'entrée pour OPML est très bas, un PC ordinaire peut exécuter de grands modèles de langage, tels que le 7B-LLaMA de 26 Go, sans GPU.
OPML adopte un mécanisme de jeu de validation pour garantir la décentralisation et la vérifiabilité des services ML. Le processus spécifique est le suivant :
Le demandeur lance une tâche de service ML
Le serveur termine la tâche et soumet le résultat sur la chaîne.
Les validateurs vérifient les résultats, et en cas de désaccord, le jeu de validation est lancé.
Localiser les étapes d'erreur spécifiques par le biais du protocole binaire
Effectuer un arbitrage étape par étape sur un contrat intelligent
Jeu de vérification à une étape
Le cœur du jeu de validation à une étape est la construction d'une machine virtuelle (VM), utilisée pour l'exécution hors chaîne et l'arbitrage en chaîne. Pour améliorer l'efficacité du raisonnement des modèles d'IA, OPML a mis en œuvre une bibliothèque DNN légère et propose des scripts pour convertir les modèles Tensorflow et PyTorch au format de cette bibliothèque. Grâce à la compilation croisée, le code de raisonnement des modèles d'IA est compilé en instructions VM.
L'image VM est gérée par un arbre de Merkle, seul le hachage racine étant téléchargé sur la chaîne. Le protocole de bifurcation aide à localiser les étapes de litige et à les envoyer au contrat d'arbitrage sur la chaîne. Les tests montrent qu'un modèle AI de base ne nécessite que 2 secondes pour l'inférence dans la VM, et tout le processus de défi peut être terminé en 2 minutes.
Jeu de validation multi-niveaux
Pour surmonter les limitations du modèle à une seule étape, OPML a proposé un jeu de vérification multi-étapes:
Calculer uniquement à la dernière étape dans la VM
Les autres phases peuvent être exécutées dans un environnement local, en utilisant l'accélération CPU/GPU/TPU.
Amélioration significative des performances en réduisant la dépendance à la VM
Le schéma multi-niveaux assure l'intégrité et la sécurité des transitions entre les étapes grâce à l'arbre de Merkle.
Prenons le modèle LLaMA comme exemple, OPML utilise une méthode en deux étapes :
La deuxième phase consiste à valider le jeu sur le graphique de calcul, en utilisant l'accélération GPU.
La première phase convertit le calcul d'un seul nœud en exécution d'instructions VM
La méthode OPML multiétape permet d'atteindre une accélération α fois de plusieurs dizaines à plusieurs centaines de fois ( par rapport à la méthode à étape unique, tout en réduisant considérablement la taille de l'arbre de Merkle.
![OPML : Système de machine learning utilisant le Rollup optimiste])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(
![OPML : Système de machine learning utilisant Optimistic Rollup])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(
Garantie de cohérence
Pour garantir la cohérence des résultats ML, OPML utilise deux méthodes clés :
Utiliser l'algorithme à point fixe ) pour la technique de quantification (, réduire l'erreur d'arrondi à virgule flottante.
Utiliser une bibliothèque de flottants basée sur des logiciels pour garantir la cohérence multiplateforme.
Ces technologies surmontent efficacement les défis posés par les variables à virgule flottante et les différences de plateforme, renforçant ainsi la fiabilité de l'OPML.
OPML est encore en développement, mais montre déjà un potentiel énorme. Il offre une solution efficace, peu coûteuse et décentralisée pour l'apprentissage automatique sur la blockchain, ce qui mérite une attention et une exploration continues de l'industrie.
![OPML : Système de machine learning utilisant Optimistic Rollup])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
12 J'aime
Récompense
12
6
Partager
Commentaire
0/400
FloorSweeper
· Il y a 12h
Cette chose peut-elle fonctionner sur PC ? Allez !
Voir l'originalRépondre0
staking_gramps
· Il y a 12h
La mécanique de jeu de vérification est géniale.
Voir l'originalRépondre0
Ramen_Until_Rich
· Il y a 12h
Allez, allez, allez, cela a vraiment de l'avenir.
Voir l'originalRépondre0
ForkItAllDay
· Il y a 12h
C'est incroyable que cela puisse fonctionner sur un ordinateur ordinaire.
Voir l'originalRépondre0
StakeWhisperer
· Il y a 12h
Accélérez jusqu'à être abîmé
Voir l'originalRépondre0
PessimisticLayer
· Il y a 12h
C'est vrai, ça peut aussi fonctionner sur PC, génial.
OPML : une nouvelle solution d'apprentissage automatique décentralisée, efficace et peu coûteuse sur la Blockchain
OPML : une méthode d'apprentissage automatique décentralisée efficace
OPML(L'apprentissage automatique optimiste) est une méthode novatrice permettant l'inférence et l'entraînement/réglage fin de modèles d'IA sur des systèmes blockchain. Comparé à ZKML, OPML présente des avantages en termes de faible coût et de haute efficacité. Le seuil d'entrée pour OPML est très bas, un PC ordinaire peut exécuter de grands modèles de langage, tels que le 7B-LLaMA de 26 Go, sans GPU.
OPML adopte un mécanisme de jeu de validation pour garantir la décentralisation et la vérifiabilité des services ML. Le processus spécifique est le suivant :
Jeu de vérification à une étape
Le cœur du jeu de validation à une étape est la construction d'une machine virtuelle (VM), utilisée pour l'exécution hors chaîne et l'arbitrage en chaîne. Pour améliorer l'efficacité du raisonnement des modèles d'IA, OPML a mis en œuvre une bibliothèque DNN légère et propose des scripts pour convertir les modèles Tensorflow et PyTorch au format de cette bibliothèque. Grâce à la compilation croisée, le code de raisonnement des modèles d'IA est compilé en instructions VM.
L'image VM est gérée par un arbre de Merkle, seul le hachage racine étant téléchargé sur la chaîne. Le protocole de bifurcation aide à localiser les étapes de litige et à les envoyer au contrat d'arbitrage sur la chaîne. Les tests montrent qu'un modèle AI de base ne nécessite que 2 secondes pour l'inférence dans la VM, et tout le processus de défi peut être terminé en 2 minutes.
Jeu de validation multi-niveaux
Pour surmonter les limitations du modèle à une seule étape, OPML a proposé un jeu de vérification multi-étapes:
Le schéma multi-niveaux assure l'intégrité et la sécurité des transitions entre les étapes grâce à l'arbre de Merkle.
Prenons le modèle LLaMA comme exemple, OPML utilise une méthode en deux étapes :
La méthode OPML multiétape permet d'atteindre une accélération α fois de plusieurs dizaines à plusieurs centaines de fois ( par rapport à la méthode à étape unique, tout en réduisant considérablement la taille de l'arbre de Merkle.
![OPML : Système de machine learning utilisant le Rollup optimiste])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(
![OPML : Système de machine learning utilisant Optimistic Rollup])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(
Garantie de cohérence
Pour garantir la cohérence des résultats ML, OPML utilise deux méthodes clés :
Ces technologies surmontent efficacement les défis posés par les variables à virgule flottante et les différences de plateforme, renforçant ainsi la fiabilité de l'OPML.
OPML est encore en développement, mais montre déjà un potentiel énorme. Il offre une solution efficace, peu coûteuse et décentralisée pour l'apprentissage automatique sur la blockchain, ce qui mérite une attention et une exploration continues de l'industrie.
![OPML : Système de machine learning utilisant Optimistic Rollup])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(