Berita dari Biji Dunia, Tether baru-baru ini memperkenalkan sistem QVAC yang baru diluncurkan, berhasil menjalankan model LLAMA 3.2 (1 miliar parameter) dengan llama.cpp di perangkat seluler, mencapai inferensi lokal yang efisien. QVAC adalah runtime inferensi dan fine-tuning yang umum, dirancang untuk kompatibel dengan berbagai perangkat terminal termasuk smartphone, laptop, dan server, saat ini sudah mendukung beberapa model, dan ke depannya akan memperluas dukungan untuk lebih banyak model. [吴说]
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Berita dari Biji Dunia, Tether baru-baru ini memperkenalkan sistem QVAC yang baru diluncurkan, berhasil menjalankan model LLAMA 3.2 (1 miliar parameter) dengan llama.cpp di perangkat seluler, mencapai inferensi lokal yang efisien. QVAC adalah runtime inferensi dan fine-tuning yang umum, dirancang untuk kompatibel dengan berbagai perangkat terminal termasuk smartphone, laptop, dan server, saat ini sudah mendukung beberapa model, dan ke depannya akan memperluas dukungan untuk lebih banyak model. [吴说]