Aygıtı tanır, NPU dahil
yonga NPU'yu, GPU'yu ve CPU'yu yoklar, aygıtın kaldırdığı bilinen bir profili seçer ve siz bir aygıt belirttiğinizde arkanızdan başka aygıta geçmez.
yonga'ya bir model kimliği verin. Makinenizi inceler, bir aygıt ve nicemleme profili seçer, modeli OpenVINO ile dönüştürür, gerçekten çalıştığını sınar ve derleyici hatası yığını dökmek yerine her geri dönüşü açıklar.
curl -LO https://github.com/ooguz/yonga/releases/download/v0.6.0/yonga-0.6.0-x86_64.AppImage
chmod +x yonga-0.6.0-x86_64.AppImage
./yonga-0.6.0-x86_64.AppImage self installpython3 -m venv ~/.venvs/yonga
~/.venvs/yonga/bin/pip install "yonga[openvino,export,serve]"Linux x86_64 · sudo gerekmez · ev dizininizin dışına hiçbir şey yazılmaz
$ yonga prepare Qwen/Qwen3-0.6B --device npu --yes
╭─────────────── Preparation plan ───────────────╮
│ Architecture qwen3 rule arch-qwen3
│ Device decision NPU supported (tested)
│ Profile npu-int4-sym-g128
│ Expected download 1.4 GiB only the files the
│ conversion reads
│ Estimated artifact about 430 MiB
│ …
1/7 Inspecting source
2/7 Resolving compatibility
…
7/7 Probing runtime
· NPU Generating 24 tokens on NPU
Ready
Artifact cc24636a2f49356a
Device NPU
$ yonga bench cc24636a2f49356a
Prompt In tok Out tok TTFT tok/s
short-instruction 31 256 164.4 ms 68.2
medium-explanation 104 256 164.7 ms 67.7
long-context 623 256 165.0 ms 67.7yonga inspect Qwen/Qwen3-0.6B
Daha hiçbir şey indirilmeden mimariyi, boyutu, lisansı ve modeli bu makinede hazırlamanın neler gerektireceğini görün.
yonga prepare Qwen/Qwen3-0.6B
Yalnızca dönüştürmenin ihtiyaç duyduğu dosyaları indirir, nicemler, bilinen sorunları onarır ve hedef aygıtta bir duman testi derler.
yonga chat Qwen/Qwen3-0.6B
Terminalde sohbet edin ya da mevcut araçlarınızın konuşabileceği OpenAI uyumlu bir API için yonga serve çalıştırın.
yonga NPU'yu, GPU'yu ve CPU'yu yoklar, aygıtın kaldırdığı bilinen bir profili seçer ve siz bir aygıt belirttiğinizde arkanızdan başka aygıta geçmez.
Her artifact kaynak revizyonunu sabitler, profili ve dayanağını kaydeder, dosya özetlerini taşır ve hazır sayılmadan önce gerçek bir üretim testinden geçer.
Veriye dayalı bir kayıt defteri derleyici, dışa aktarıcı ve sürücü hatalarını tanır; bunları kodu, nedeni ve çalıştırılacak sonraki komutu olan bir tanılamaya dönüştürür.
Akış (streaming), durdurma dizileri, desteklenen ailelerde araç çağırma ve görü modelleri için görseller; hepsi tek bir yerel artifact'ten sunulur.
Telemetri yok. yonga OpenVINO'nun kendi kullanım raporlamasını da engeller, Hugging Face Hub'a yalnızca gerektiğinde bağlanır ve önbellekte olanla çevrimdışı çalışabilir.
AppImage, Python'u ve OpenVINO'yu içinde taşır. Dışa aktarmalar yönetilen ortamlarda çalışır; sistem Python'unuza dokunulmaz, root yetkisi gerekmez.
Bu sitedeki her iddia tek bir başvuru makinesinde çalıştırıldı: Arc iGPU'lu ve Intel AI Boost NPU'lu bir Intel Core Ultra 7 268V (Lunar Lake), Ubuntu 26.04.
Test edilen donanım ve modelleri görünyonga bench ile ölçüldüHer adım, yonga logs ile geri okuyabileceğiniz bir işe kaydedilir.
yonga'yı kurun, yonga doctor çalıştırın ve ilk modelinizi birkaç dakikada hazırlayın.
yonga bağımsız bir açık kaynak projesidir; Intel ile bağlantılı değildir ve Intel tarafından onaylanmamıştır. GNU AGPL v3.0 veya sonrası ile lisanslanmıştır.