OPML: Paradigma baru pembelajaran mesin berbasis pendekatan optimis

OPML(Optimistic machine learning) adalah teknologi yang sedang berkembang, yang bertujuan untuk menerapkan metode optimis dalam inferensi dan pelatihan/penyesuaian model AI dalam sistem blockchain. Dibandingkan dengan ZKML, OPML memiliki keuntungan biaya rendah dan efisiensi tinggi, mampu menjalankan model bahasa besar di PC biasa, seperti model 7B-LLaMA( dengan ukuran sekitar 26GB).

OPML menggunakan mekanisme verifikasi permainan untuk memastikan desentralisasi dan verifiabilitas layanan ML. Proses dasarnya adalah sebagai berikut:

1. Pengaju memulai tugas layanan ML
2. Server menyelesaikan tugas dan mengirimkan hasil ke blockchain
3. Validator memverifikasi hasil, jika ada keberatan maka memulai permainan verifikasi
4. Melakukan arbitrase satu langkah melalui kontrak pintar

Permainan Verifikasi Satu Tahap

Elemen inti dari OPML satu tahap meliputi:

• Membangun mesin virtual untuk eksekusi off-chain dan arbitrase on-chain (VM)
• Mewujudkan perpustakaan DNN ringan khusus, meningkatkan efisiensi inferensi model AI
• Menggunakan teknologi cross-compilation untuk mengompilasi kode inferensi model AI menjadi instruksi VM
• Menggunakan pohon Merkle untuk mengelola gambar VM, hanya mengunggah hash akar ke dalam rantai

Dengan menggunakan protokol pemisahan untuk menentukan langkah-langkah yang diperdebatkan, dan mengirimkannya ke kontrak arbitrase di blockchain. Pengujian awal menunjukkan bahwa inferensi model AI dasar dapat diselesaikan dalam waktu kurang dari 2 detik pada PC biasa, dan seluruh proses tantangan memakan waktu sekitar 2 menit.

Permainan Verifikasi Multi-Tahap

Untuk mengatasi keterbatasan metode satu tahap, OPML memperkenalkan permainan verifikasi multi-tahap:

• Hanya dihitung di VM pada tahap terakhir, tahap lainnya dapat dilakukan di lingkungan lokal
• Memanfaatkan kemampuan akselerasi perangkat keras seperti CPU, GPU, TPU
• Meningkatkan kinerja eksekusi secara signifikan dengan mengurangi ketergantungan pada VM

Inti dari OPML multi-tahap adalah untuk merepresentasikan proses perhitungan DNN sebagai grafik perhitungan, dan melakukan verifikasi di berbagai tahap. Metode ini dapat memanfaatkan akselerasi perangkat keras secara maksimal, meningkatkan efisiensi keseluruhan.

Peningkatan Kinerja

Metode OPML multi-tahap memiliki keunggulan yang signifikan dibandingkan metode satu tahap:

• Peningkatan kecepatan perhitungan α kali ( α adalah rasio percepatan GPU atau perhitungan paralel )
• Ukuran pohon Merkle berkurang dari O(mn) menjadi O(m+n), di mana m adalah jumlah instruksi mikro VM, n adalah jumlah node grafik komputasi.

Peningkatan ini secara signifikan meningkatkan efisiensi dan skalabilitas sistem.

Konsistensi dan Kepastian

Untuk memastikan konsistensi hasil ML, OPML menerapkan strategi berikut:

1. Menggunakan algoritma tetap ( teknologi kuantisasi ) untuk mengurangi pengaruh kesalahan float.
2. Menggunakan pustaka floating-point berbasis perangkat lunak untuk memastikan konsistensi lintas platform

Metode ini secara efektif menyelesaikan masalah perbedaan penghitungan floating point di berbagai platform perangkat keras, meningkatkan keandalan perhitungan OPML.

Secara keseluruhan, OPML menyediakan solusi yang efisien dan biaya rendah untuk inferensi dan pelatihan model AI dalam sistem blockchain. Meskipun saat ini lebih fokus pada inferensi model, kerangka ini juga mendukung proses pelatihan, dan diharapkan dapat menjadi solusi umum untuk berbagai tugas pembelajaran mesin.