OPML : Une nouvelle paradigme d'apprentissage machine basé sur l'approche optimiste
OPML(L'apprentissage automatique optimiste) est une technologie émergente, visant à appliquer des méthodes optimistes aux inférences et à l'entraînement/ajustement des modèles d'IA dans les systèmes blockchain. Par rapport à ZKML, OPML présente l'avantage d'un coût bas et d'une efficacité élevée, capable de faire fonctionner des modèles de langage de grande taille, tels que le modèle 7B-LLaMA( d'une taille d'environ 26 Go) sur un PC ordinaire.
OPML utilise un mécanisme de jeu de validation pour garantir la décentralisation et la vérifiabilité des services ML. Son processus de base est le suivant :
Le demandeur lance une tâche de service ML.
Le serveur termine la tâche et soumet le résultat sur la chaîne.
Les validateurs vérifient les résultats, et en cas de désaccord, lancent le jeu de validation.
Arbitrage unidimensionnel via un contrat intelligent
Jeu de vérification à une étape
Les éléments clés de l'OPML à une seule étape comprennent :
Construire une machine virtuelle pour l'exécution hors chaîne et l'arbitrage sur chaîne (VM)
Réaliser une bibliothèque DNN légère dédiée, pour améliorer l'efficacité de l'inférence des modèles IA
Utiliser la technique de compilation croisée pour compiler le code d'inférence du modèle AI en instructions VM
Utilisation d'un arbre de Merkle pour gérer les images VM, uniquement la racine de hachage est téléchargée sur la chaîne.
Localiser les étapes de litige via le protocole de consensus et les envoyer au contrat d'arbitrage sur la blockchain. Les tests préliminaires indiquent qu'un raisonnement de modèle d'IA de base peut être effectué en moins de 2 secondes sur un PC ordinaire, le processus complet de défi prenant environ 2 minutes.
Jeu de validation multi-niveaux
Pour surmonter les limitations de la méthode à une seule phase, OPML a introduit un jeu de validation multi-phases:
Ne calculer que dans la VM à la dernière étape, les autres étapes peuvent être exécutées dans un environnement local.
Utiliser la capacité d'accélération matérielle comme le CPU, le GPU, le TPU
Amélioration significative des performances d'exécution en réduisant la dépendance aux VM.
La pensée centrale de l'OPML multistade est de représenter le processus de calcul DNN sous forme de graphique de calcul et de valider à différentes étapes. Cette méthode peut tirer pleinement parti de l'accélération matérielle pour améliorer l'efficacité globale.
Amélioration des performances
Les méthodes OPML multi-étapes présentent des avantages significatifs par rapport aux méthodes à une seule étape :
Vitesse de calcul améliorée α fois ( α pour le GPU ou le rapport d'accélération de calcul parallèle )
La taille de l'arbre de Merkle passe de O(mn) à O(m+n), où m est le nombre d'instructions micro VM et n est le nombre de nœuds dans le graphe de calcul.
Ces améliorations ont considérablement augmenté l'efficacité et l'évolutivité du système.
Cohérence et déterminisme
Pour garantir la cohérence des résultats ML, OPML a adopté les stratégies suivantes :
Utiliser l'algorithme fixe ( pour la technologie de quantification ) afin de réduire l'impact des erreurs de flottement.
Utiliser une bibliothèque de flottants basée sur le logiciel pour garantir la cohérence multiplateforme.
Ces méthodes ont résolu efficacement le problème des différences de calcul en virgule flottante sur différentes plateformes matérielles, renforçant la fiabilité du calcul OPML.
Dans l'ensemble, OPML fournit une solution efficace et à faible coût pour l'inférence et l'entraînement des modèles d'IA dans les systèmes de blockchain. Bien qu'il soit actuellement principalement axé sur l'inférence des modèles, ce cadre prend également en charge le processus d'entraînement et pourrait devenir une solution universelle pour divers types de tâches d'apprentissage automatique.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
15 J'aime
Récompense
15
3
Partager
Commentaire
0/400
StakeOrRegret
· 07-13 11:26
L'optimisation de la Blockchain dépend encore de l'Algorithme.
Voir l'originalRépondre0
StableGeniusDegen
· 07-13 09:13
Réduction des coûts et augmentation de l'efficacité bull
Voir l'originalRépondre0
MEVEye
· 07-12 12:33
Rentable et efficace, à faible coût d'exploitation, ça ne bloque pas, c'est divin.
OPML: L'apprentissage automatique optimiste apporte un nouveau paradigme efficace et à faible coût à l'intelligence artificielle Blockchain
OPML : Une nouvelle paradigme d'apprentissage machine basé sur l'approche optimiste
OPML(L'apprentissage automatique optimiste) est une technologie émergente, visant à appliquer des méthodes optimistes aux inférences et à l'entraînement/ajustement des modèles d'IA dans les systèmes blockchain. Par rapport à ZKML, OPML présente l'avantage d'un coût bas et d'une efficacité élevée, capable de faire fonctionner des modèles de langage de grande taille, tels que le modèle 7B-LLaMA( d'une taille d'environ 26 Go) sur un PC ordinaire.
OPML utilise un mécanisme de jeu de validation pour garantir la décentralisation et la vérifiabilité des services ML. Son processus de base est le suivant :
Jeu de vérification à une étape
Les éléments clés de l'OPML à une seule étape comprennent :
Localiser les étapes de litige via le protocole de consensus et les envoyer au contrat d'arbitrage sur la blockchain. Les tests préliminaires indiquent qu'un raisonnement de modèle d'IA de base peut être effectué en moins de 2 secondes sur un PC ordinaire, le processus complet de défi prenant environ 2 minutes.
Jeu de validation multi-niveaux
Pour surmonter les limitations de la méthode à une seule phase, OPML a introduit un jeu de validation multi-phases:
La pensée centrale de l'OPML multistade est de représenter le processus de calcul DNN sous forme de graphique de calcul et de valider à différentes étapes. Cette méthode peut tirer pleinement parti de l'accélération matérielle pour améliorer l'efficacité globale.
Amélioration des performances
Les méthodes OPML multi-étapes présentent des avantages significatifs par rapport aux méthodes à une seule étape :
Ces améliorations ont considérablement augmenté l'efficacité et l'évolutivité du système.
Cohérence et déterminisme
Pour garantir la cohérence des résultats ML, OPML a adopté les stratégies suivantes :
Ces méthodes ont résolu efficacement le problème des différences de calcul en virgule flottante sur différentes plateformes matérielles, renforçant la fiabilité du calcul OPML.
Dans l'ensemble, OPML fournit une solution efficace et à faible coût pour l'inférence et l'entraînement des modèles d'IA dans les systèmes de blockchain. Bien qu'il soit actuellement principalement axé sur l'inférence des modèles, ce cadre prend également en charge le processus d'entraînement et pourrait devenir une solution universelle pour divers types de tâches d'apprentissage automatique.