.ai

model AI sumber terbuka terbaik

Cari

Nod Unet Loader (GGUF) dalam ComfyUI

Unet Loader (GGUF) memuatkan versi .gguf yang telah dikuantisasi Q8, Q6, Q5 dan Q4 untuk Flux, Wan, Hunyuan, Qwen-Image dan transformer besar lain supaya boleh dijalankan pada GPU 6-12 GB; DualCLIPLoader (GGUF) buat benda yang sama untuk pengekod teks T5.

Pek nod: ComfyUI-GGUF

Kategori: Pemuat

Apa yang dilakukan Unet Loader (GGUF)

GGUF ialah format kuantisasi dari llama.cpp, dibawa ke model imej dan video oleh pakej ComfyUI-GGUF city96. Transformer Flux Dev yang perlukan 24 GB dalam bf16 jadi 12 GB pada Q8, 7 GB pada Q4_K_S, dengan kualiti yang menurun secara berperingkat. Unet Loader (GGUF) baca fail-fail ni dari models/unet (atau models/diffusion_models) dan keluarkan MODEL biasa; berat dekuantisasi secara langsung, jadi ia sedikit lebih perlahan dari fp8 tapi boleh muat di tempat fp8 tak boleh. DualCLIPLoader (GGUF) dan CLIPLoader (GGUF) pula muatkan pengekod teks t5xxl dan umt5 GGUF dengan cara yang sama.

LoRAs, ControlNets dan IP-Adapters boleh guna dengan model GGUF. Bahagian lain dalam graf tak berubah: pengekod teks, VAE, sampler dan ModelSampling node kekal sama macam versi safetensors.

Input

Nama	Jenis	Apakah ia
unet_name	COMBO	Fail .gguf dari models/unet atau models/diffusion_models.

Output

Nama	Jenis	Apakah ia
MODEL	MODEL	Model yang telah dikuantisasi untuk pemuat LoRA dan KSampler.

Langkau persediaan: aliran kerja ComfyUI prapasang di awan

BitVector menjalankan aliran kerja ComfyUI sedia ada pada GPU-nya sendiri. Tiada pemasangan, tiada nod yang hilang, tiada kotak merah. Buka di telefon atau komputer riba anda dan jana dalam seminit.

Cuba BitVector

Cara menggunakan Unet Loader (GGUF)

Pasang ComfyUI-GGUF dari Manager (ia perlukan pakej Python gguf, dipasang automatik).
Muat turun GGUF Q8_0 (terbaik) atau Q4_K_S (paling kecil) model kamu ke models/unet.
Gantikan Load Diffusion Model dengan Unet Loader (GGUF) dan pilih fail itu.
Kalau nak, guna DualCLIPLoader (GGUF) dengan t5-v1_1-xxl-encoder-Q5_K_M.gguf untuk kecilkan pengekod teks.
Tinggalkan bahagian lain dalam graf; render macam biasa.

Tetapan dan petua

Q8_0 nampak sama macam fp16 untuk kebanyakan model; Q5_K_M sesuai untuk kad 8 GB; Q4 ada sedikit hilang tekstur.
Dekod GGUF guna CPU/GPU: jangka langkah 10-30% lebih perlahan dari fp8 pada kad yang sokong fp8.
Untuk Wan 2.2 ada GGUF untuk model bunyi tinggi dan rendah.
Jangan campur: VAE dan CLIP-L kekal sebagai fail safetensors.
--lowvram dengan GGUF Q4 bagi Flux boleh jalan pada 6 GB dengan hasil yang perlahan tapi berfungsi.

Penyelesaian masalah Unet Loader (GGUF)

Fail .gguf tak muncul dalam dropdown

Mengapa ia berlaku

Pakej tak dipasang (node akan jadi merah), atau fail ada dalam folder salah.

Cara membaikinya

Pasang ComfyUI-GGUF, letak fail dalam models/unet atau models/diffusion_models dan tekan R.

Ralat: seni bina GGUF tak dikenali / jenis kuantisasi tak disokong

Mengapa ia berlaku

GGUF itu model bahasa, atau jenis kuantisasi lebih baru dari pakej yang dipasang.

Cara membaikinya

Muat turun GGUF model imej dari repositori city96 atau QuantStack dan kemas kini ComfyUI-GGUF.

LoRA beri amaran tentang kunci hilang

Mengapa ia berlaku

LoRA sasarkan lapisan dengan nama asal; kebanyakan dipetakan, tapi sesetengah trainer buat nama kunci pelik.

Cara membaikinya

Cuba LoRA dengan model safetensors untuk sahkan ia berfungsi; kemas kini pakej GGUF, yang perbaiki pemetaan kunci dari masa ke masa.

Masih tak cukup memori pada Q4

Mengapa ia berlaku

Pengekod teks (T5 pada 10 GB fp16) sebenarnya yang guna banyak memori.

Cara membaikinya

Guna GGUF atau fp8 T5 dan CLIP fp8; tambah --lowvram.

Jalankan aliran kerja ini dari telefon anda

Setiap aliran kerja di halaman ini telah prapasang di BitVector dengan model dan nod tersuai sedia ada. Pilih satu, taip prompt, selesai. Tiada persediaan, tiada apa untuk dimuat turun.

Cuba BitVector

Soalan tentang Unet Loader (GGUF)

GGUF atau fp8?

fp8 lebih laju pada kad RTX 40/50 bila model muat; GGUF Q8 ada kualiti sedikit lebih baik dari fp8 dan Q4-Q6 boleh jalan di tempat fp8 tak boleh.

Boleh buat GGUF sendiri?

Boleh, guna skrip convert dalam repositori ComfyUI-GGUF dan alat kuantisasi llama.cpp; kebanyakan orang muat turun fail siap.

Nod berkaitan

Load Diffusion Model

ComfyUI core

Load Diffusion Model (UNETLoader) memuatkan rangkaian denoising kosong seperti Flux, SD3.5, Wan atau HunyuanVideo dari models/diffusion_models, dengan pilihan weight_dtype untuk fp8 bagi menjimatkan VRAM.

DualCLIPLoader

ComfyUI core

DualCLIPLoader memuatkan dua penyandi teks sekaligus, contohnya clip_l bersama t5xxl untuk Flux atau clip_g bersama t5xxl untuk SD3, dan mengeluarkan satu objek CLIP untuk nod prompt.

Load LoRA

ComfyUI core

Load LoRA (LoraLoader) guna fail LoRA pada MODEL dan CLIP dengan kekuatan berasingan, jadi gaya, watak atau konsep boleh ditambah pada mana-mana checkpoint tanpa perlu gabungkan.

ModelSamplingFlux, ModelSamplingSD3 and ModelSamplingAuraFlow

ComfyUI core

Node ModelSampling menetapkan pergeseran jadual bunyi untuk model flow-matching (Flux, SD3.5, Wan, Hunyuan, Qwen-Image, Chroma, Lumina) supaya sampler menghabiskan masa yang betul antara komposisi dan perincian.

ComfyUI Manager

ComfyUI-Manager

ComfyUI Manager ialah sambungan yang memasang, mengemas kini dan membaiki pek nod dan model tersuai dari dalam antara muka, menyelesaikan nod yang hilang dalam aliran kerja yang diimport dan menyimpan snapshot tetapan anda.

Penat membaiki nod? Biarkan awan melakukannya

BitVector mengekalkan beratus-ratus aliran kerja ComfyUI yang dipasang, dikemas kini dan diuji pada GPU awan yang pantas. Tiada Python, tiada ralat CUDA, tiada had VRAM. Berfungsi dari mana-mana pelayar.

Cuba BitVector