Unet Loader (GGUF)-Node in ComfyUI
Unet Loader (GGUF) lädt quantisierte Q8, Q6, Q5 und Q4 .gguf Versionen von Flux, Wan, Hunyuan, Qwen-Image und anderen großen Transformern, damit sie auf 6-12 GB GPUs laufen; DualCLIPLoader (GGUF) macht das Gleiche für T5 Text-Encoder.
Node-Paket: ComfyUI-GGUF
Kategorie: Loader
Was Unet Loader (GGUF) macht
GGUF ist das Quantisierungsformat von llama.cpp, das durch city96s ComfyUI-GGUF Paket auf Bild- und Videomodelle gebracht wurde. Ein Flux Dev Transformer, der 24 GB in bf16 braucht, wird bei Q8 auf 12 GB, bei Q4_K_S auf 7 GB reduziert, mit einer Qualität, die langsam schlechter wird. Unet Loader (GGUF) liest diese Dateien aus models/unet (oder models/diffusion_models) und gibt ein normales MODEL aus; die Gewichte werden on-the-fly dequantisiert, deshalb ist es etwas langsamer als fp8, passt aber dort, wo fp8 nicht passt. DualCLIPLoader (GGUF) und CLIPLoader (GGUF) laden t5xxl und umt5 GGUF Text-Encoder auf die gleiche Weise.
LoRAs, ControlNets und IP-Adapters funktionieren mit GGUF Modellen. Der Rest des Graphen bleibt gleich: Text-Encoder, VAE, Sampler und ModelSampling Nodes bleiben wie bei der safetensors Version.
Eingänge
Name | Typ | Bedeutung |
|---|---|---|
unet_name | COMBO | Eine .gguf Datei aus models/unet oder models/diffusion_models. |
Ausgänge
Name | Typ | Bedeutung |
|---|---|---|
MODEL | MODEL | Das quantisierte Modell für LoRA Loader und KSampler. |
AD
Spar dir die Einrichtung: ComfyUI-Workflows vorinstalliert in der Cloud
BitVector führt fertige ComfyUI-Workflows auf eigenen GPUs aus. Keine Installation, keine fehlenden Nodes, keine roten Kästen. Auf dem Handy oder Laptop öffnen und in einer Minute generieren.
So verwendest du Unet Loader (GGUF)
- Installiere ComfyUI-GGUF über den Manager (es braucht das gguf Python Paket, das automatisch installiert wird).
- Lade die Q8_0 (beste) oder Q4_K_S (kleinste) GGUF deines Modells in models/unet herunter.
- Ersetze Load Diffusion Model durch Unet Loader (GGUF) und wähle die Datei aus.
- Optional kannst du DualCLIPLoader (GGUF) mit t5-v1_1-xxl-encoder-Q5_K_M.gguf nutzen, um den Text-Encoder zu verkleinern.
- Lass den Rest des Graphen wie er ist; render wie gewohnt.
Einstellungen und Tipps
- Q8_0 sieht bei den meisten Modellen visuell identisch zu fp16 aus; Q5_K_M ist der Sweetspot für 8 GB Karten; Q4 zeigt leichte Texturverluste.
- GGUF Decodierung ist CPU/GPU Arbeit: rechne mit 10-30% langsameren Schritten als fp8 auf Karten, die fp8 unterstützen.
- Für Wan 2.2 gibt es GGUFs von beiden, dem High- und dem Low-Noise Modell.
- Nicht mischen: VAE und CLIP-L bleiben safetensors Dateien.
- --lowvram zusammen mit GGUF Q4 lässt Flux auf 6 GB laufen, mit langsamen, aber funktionierenden Ergebnissen.
Fehlerbehebung bei Unet Loader (GGUF)
Die .gguf Datei erscheint nicht im Dropdown
Warum es passiert
Das Paket ist nicht installiert (der Node wäre sonst rot) oder die Datei liegt im falschen Ordner.
So behebst du es
Installiere ComfyUI-GGUF, lege die Datei in models/unet oder models/diffusion_models und drücke R.
Fehler: unbekannte GGUF Architektur / nicht unterstützter Quantisierungstyp
Warum es passiert
Die GGUF ist ein Sprachmodell oder eine neuere Quantisierungsart als das installierte Paket.
So behebst du es
Lade ein Bildmodell-GGUF aus den city96 oder QuantStack Repositories und aktualisiere ComfyUI-GGUF.
LoRA gibt Warnungen über fehlende Schlüssel aus
Warum es passiert
Die LoRA zielt auf Layer mit dem Originalnamen; die meisten sind gemappt, aber manche Trainer erzeugen ungewöhnliche Schlüssel.
So behebst du es
Teste die LoRA mit dem safetensors Modell, um sicherzugehen, dass sie funktioniert; aktualisiere das GGUF Paket, das die Schlüsselzuordnung mit der Zeit verbessert.
Immer noch zu wenig Speicher bei Q4
Warum es passiert
Der Text-Encoder (T5 mit 10 GB fp16) ist der eigentliche Speicherfresser.
So behebst du es
Nutze den GGUF oder fp8 T5 und den fp8 CLIP; füge --lowvram hinzu.
AD
Diesen Workflow vom Handy aus starten
Jeder Workflow auf dieser Seite ist auf BitVector vorinstalliert, mit Modellen und Custom Nodes an Ort und Stelle. Einen auswählen, Prompt eingeben, fertig. Null Einrichtung, nichts herunterladen.
Fragen zu Unet Loader (GGUF)
GGUF oder fp8?
fp8 ist schneller auf RTX 40/50 Karten, wenn das Modell reinpasst; GGUF Q8 hat etwas bessere Qualität als fp8 und Q4-Q6 funktionieren dort, wo fp8 nicht geht.
Kann ich mein eigenes GGUF machen?
Ja, mit dem Konvertierungsskript im ComfyUI-GGUF Repository und den Quantisierungstools von llama.cpp; die meisten laden aber fertige Dateien herunter.
Verwandte Nodes
Load Diffusion Model
ComfyUI core
Load Diffusion Model (UNETLoader) lädt ein nacktes Denoising-Netzwerk wie Flux, SD3.5, Wan oder HunyuanVideo aus models/diffusion_models, mit einer weight_dtype-Option für fp8, um VRAM zu sparen.
DualCLIPLoader
ComfyUI core
DualCLIPLoader lädt zwei Text-Encoder gleichzeitig, zum Beispiel clip_l plus t5xxl für Flux oder clip_g plus t5xxl für SD3, und gibt ein einzelnes CLIP-Objekt für die Prompt-Knoten aus.
Load LoRA
ComfyUI core
Load LoRA (LoraLoader) lädt eine LoRA-Datei und wendet sie mit separaten Stärken auf MODEL und CLIP an, sodass ein Stil, Charakter oder Konzept zu jedem Checkpoint hinzugefügt werden kann, ohne ihn zu verschmelzen.
ModelSamplingFlux, ModelSamplingSD3 and ModelSamplingAuraFlow
ComfyUI core
Die ModelSampling-Knoten setzen die Verschiebung des Rauschplans für Flow-Matching-Modelle (Flux, SD3.5, Wan, Hunyuan, Qwen-Image, Chroma, Lumina), damit die Sampler die richtige Zeit auf Komposition gegenüber Details verwenden.
ComfyUI Manager
ComfyUI-Manager
ComfyUI Manager ist die Erweiterung, die benutzerdefinierte Node-Pakete und Modelle direkt in der Oberfläche installiert, aktualisiert und repariert, fehlende Nodes in importierten Workflows erkennt und deine Einrichtung sichert.
AD
Keine Lust mehr, Nodes zu reparieren? Lass es die Cloud machen
BitVector hält hunderte ComfyUI-Workflows installiert, aktuell und getestet auf schnellen Cloud-GPUs. Kein Python, keine CUDA-Fehler, keine VRAM-Grenzen. Läuft in jedem Browser.
Weitere ComfyUI-Nodes
CLIP Text Encode (Prompt)
ComfyUI core
CLIP Text Encode wandelt einen Textprompt mit dem Modell-Textencoder in CONDITIONING um. Ein Node hält den positiven Prompt, ein zweiter den negativen Prompt.
KSampler
ComfyUI core
KSampler führt die Denoising-Schleife aus: Es nimmt das Modell, die Prompts und ein Latent und erzeugt das fertige latente Bild, gesteuert durch Seed, Schritte, cfg, Sampler, Scheduler und Denoise.
Load Checkpoint
ComfyUI core
Load Checkpoint (CheckpointLoaderSimple) öffnet eine .safetensors- oder .ckpt-Modell-Datei und liefert die drei Teile, die jeder Workflow braucht: das Diffusions-MODELL, den CLIP-Textencoder und das VAE.
Save Image
ComfyUI core
Save Image speichert den IMAGE-Tensor als PNG in ComfyUI/output und bettet den gesamten Workflow in die Dateimetadaten ein, sodass das Bild zurück in ComfyUI gezogen werden kann, um den Graph wiederherzustellen.
VAE Decode
ComfyUI core
VAE Decode wandelt den gesampelten LATENT mit dem VAE in ein Pixel-BILD um; VAE Decode (Tiled) macht das Gleiche in Kacheln für sehr große Bilder.
Empty Latent Image
ComfyUI core
Empty Latent Image erstellt die leere latente Leinwand (Breite, Höhe, batch_size), von der das Text-zu-Bild-Sampling startet; die Dimensionen müssen Vielfache von 8 sein und zur Modellfamilie passen.
Model
Trends
.ai
© ModelTrends.ai
|
Made in Japan
|
© 2026