OPML: Um novo paradigma de aprendizado de máquina baseado na abordagem otimista

OPML(Aprendizagem de Máquina Otimista) é uma tecnologia emergente, destinada a aplicar métodos otimistas na inferência e treinamento/ajuste fino de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML apresenta vantagens em termos de baixo custo e alta eficiência, conseguindo executar modelos de linguagem grandes, como o modelo 7B-LLaMA(, que tem um tamanho de cerca de 26GB) em um PC comum.

OPML adota um mecanismo de validação de jogos para garantir a descentralização e a verificabilidade dos serviços de ML. O seu fluxo básico é o seguinte:

1. O solicitante inicia a tarefa de serviço ML
2. O servidor completa a tarefa e submete os resultados na cadeia.
3. O validador verifica os resultados, e se houver objeções, inicia o jogo de validação
4. Arbitragem em uma única etapa através de contratos inteligentes

Jogo de Verificação de Uma Fase

Os elementos principais do OPML de uma única fase incluem:

• Construir uma máquina virtual para execução off-chain e arbitragem on-chain (VM)
• Implementar uma biblioteca DNN leve dedicada, aumentando a eficiência da inferência de modelos de IA
• Usar tecnologia de compilação cruzada para compilar o código de inferência do modelo de IA em instruções de VM
• Adotar uma árvore de Merkle para gerenciar imagens de VM, apenas subir o hash raiz para a cadeia.

Localizar etapas de disputa através do protocolo de divisão e enviá-las para o contrato de arbitragem na blockchain. Testes preliminares indicam que a inferência do modelo básico de IA pode ser concluída em menos de 2 segundos em um PC comum, e todo o processo de desafio leva cerca de 2 minutos.

Jogo de Verificação em Múltiplas Fases

Para superar as limitações do método de uma única fase, a OPML introduziu o jogo de validação em múltiplas fases:

• Apenas calcular na VM na fase final, as outras fases podem ser executadas no ambiente local
• Utilizar as capacidades de aceleração de hardware como CPU, GPU, TPU
• Aumentar significativamente o desempenho da execução, reduzindo a dependência de VM.

A ideia central do OPML de múltiplas etapas é representar o processo de cálculo DNN como um gráfico computacional e validar em diferentes etapas. Este método pode tirar pleno proveito da aceleração de hardware, aumentando a eficiência global.

Melhoria de desempenho

A abordagem OPML em múltiplas fases tem vantagens significativas em relação ao método de uma única fase:

• A velocidade de cálculo aumentou α vezes ( α é a taxa de aceleração de GPU ou cálculo paralelo )
• O tamanho da árvore de Merkle reduziu-se de O(mn) para O(m+n), onde m é o número de microinstruções da VM e n é o número de nós do gráfico computacional.

Essas melhorias aumentaram significativamente a eficiência e a escalabilidade do sistema.

Consistência e Determinismo

Para garantir a consistência dos resultados do ML, a OPML adotou as seguintes estratégias:

1. Utilizar o algoritmo fixo ( para a técnica de quantização ) para reduzir o impacto do erro de ponto flutuante
2. Utilizar uma biblioteca de ponto flutuante baseada em software para garantir a consistência entre plataformas.

Esses métodos resolveram efetivamente o problema das diferenças de cálculo em ponto flutuante em diferentes plataformas de hardware, aumentando a confiabilidade do cálculo OPML.

Em geral, o OPML oferece uma solução eficiente e de baixo custo para a inferência e treinamento de modelos de IA em sistemas de blockchain. Embora atualmente esteja focado principalmente na inferência de modelos, essa estrutura também suporta o processo de treinamento, e espera-se que se torne uma solução universal para várias tarefas de aprendizado de máquina.