.ai

de beste open source AI-modellen

Zoeken

Unet Loader (GGUF)-node in ComfyUI

Unet Loader (GGUF) laadt gekwantiseerde Q8, Q6, Q5 en Q4 .gguf versies van Flux, Wan, Hunyuan, Qwen-Image en andere grote transformers zodat ze draaien op 6-12 GB GPU's; DualCLIPLoader (GGUF) doet hetzelfde voor T5 tekst encoders.

Nodepakket: ComfyUI-GGUF

Categorie: Loaders

Wat Unet Loader (GGUF) doet

GGUF is het kwantisatieformaat van llama.cpp, naar beeld- en videomodellen gebracht door city96's ComfyUI-GGUF pakket. Een Flux Dev transformer die 24 GB nodig heeft in bf16 wordt 12 GB bij Q8, 7 GB bij Q4_K_S, met kwaliteit die geleidelijk achteruit gaat. Unet Loader (GGUF) leest deze bestanden uit models/unet (of models/diffusion_models) en geeft een normaal MODEL uit; gewichten worden direct gedequantiseerd, dus het is iets langzamer dan fp8 maar past waar fp8 niet past. DualCLIPLoader (GGUF) en CLIPLoader (GGUF) laden t5xxl en umt5 GGUF tekst encoders op dezelfde manier.

LoRAs, ControlNets en IP-Adapters werken met GGUF modellen. De rest van de grafiek blijft hetzelfde: tekst encoders, VAE, sampler en ModelSampling nodes blijven zoals bij de safetensors versie.

Invoer

Naam	Type	Wat het is
unet_name	COMBO	Een .gguf bestand uit models/unet of models/diffusion_models.

Uitvoer

Naam	Type	Wat het is
MODEL	MODEL	Het gekwantiseerde model voor LoRA loaders en KSampler.

Sla de installatie over: ComfyUI-workflows voorgeïnstalleerd in de cloud

BitVector draait kant-en-klare ComfyUI-workflows op eigen GPU's. Geen installatie, geen ontbrekende nodes, geen rode vakken. Open het op je telefoon of laptop en genereer binnen een minuut.

BitVector proberen

Zo gebruik je Unet Loader (GGUF)

Installeer ComfyUI-GGUF via Manager (het heeft het gguf Python pakket nodig, dat automatisch wordt geïnstalleerd).
Download de Q8_0 (beste) of Q4_K_S (kleinste) GGUF van je model in models/unet.
Vervang Load Diffusion Model door Unet Loader (GGUF) en kies het bestand.
Gebruik eventueel DualCLIPLoader (GGUF) met t5-v1_1-xxl-encoder-Q5_K_M.gguf om de tekst encoder kleiner te maken.
Houd de rest van de grafiek hetzelfde; render zoals gewoonlijk.

Instellingen en tips

Q8_0 is visueel identiek aan fp16 voor de meeste modellen; Q5_K_M is de beste keuze voor 8 GB kaarten; Q4 laat kleine textuurverliezen zien.
GGUF decoderen is CPU/GPU werk: verwacht 10-30% langzamere stappen dan fp8 op kaarten die fp8 ondersteunen.
Voor Wan 2.2 zijn er GGUFs van zowel het hoge als het lage ruis model.
Meng niet: de VAE en CLIP-L blijven safetensors bestanden.
--lowvram samen met GGUF Q4 laat Flux draaien op 6 GB met trage maar werkende resultaten.

Problemen met Unet Loader (GGUF) oplossen

Het .gguf bestand verschijnt niet in de dropdown

Waarom het gebeurt

Het pakket is niet geïnstalleerd (de node zelf zou rood zijn), of het bestand staat in de verkeerde map.

Zo los je het op

Installeer ComfyUI-GGUF, zet het bestand in models/unet of models/diffusion_models en druk op R.

Fout: onbekende GGUF architectuur / niet ondersteund kwantisatietype

Waarom het gebeurt

De GGUF is een taalmodel, of een kwantisatietype nieuwer dan het geïnstalleerde pakket.

Zo los je het op

Download een beeldmodel GGUF uit de city96 of QuantStack repositories en update ComfyUI-GGUF.

LoRA geeft waarschuwingen over ontbrekende sleutels

Waarom het gebeurt

De LoRA richt zich op lagen in de originele naamgeving; de meeste zijn gemapt, maar sommige trainers maken ongebruikelijke sleutel namen.

Zo los je het op

Probeer de LoRA met het safetensors model om te checken of het werkt; update het GGUF pakket, dat de sleutel mapping in de loop van de tijd verbetert.

Nog steeds te weinig geheugen bij Q4

Waarom het gebeurt

De tekst encoder (T5 op 10 GB fp16) is de echte geheugenvreter.

Zo los je het op

Gebruik de GGUF of fp8 T5 en de fp8 CLIP; voeg --lowvram toe.

Start deze workflow vanaf je telefoon

Elke workflow op deze pagina staat voorgeïnstalleerd op BitVector, met modellen en custom nodes al op hun plek. Kies er een, typ een prompt, klaar. Nul installatie, niets te downloaden.

BitVector proberen

Vragen over Unet Loader (GGUF)

GGUF of fp8?

fp8 is sneller op RTX 40/50 kaarten als het model erin past; GGUF Q8 heeft iets betere kwaliteit dan fp8 en Q4-Q6 werken waar fp8 niet kan.

Kan ik mijn eigen GGUF maken?

Ja, met het convert script in de ComfyUI-GGUF repository en llama.cpp kwantisatie tools; de meeste mensen downloaden kant-en-klare bestanden.

Verwante nodes

Load Diffusion Model

ComfyUI core

Load Diffusion Model (UNETLoader) laadt een kale denoising netwerk zoals Flux, SD3.5, Wan of HunyuanVideo uit models/diffusion_models, met een weight_dtype optie voor fp8 om VRAM te besparen.

DualCLIPLoader

ComfyUI core

DualCLIPLoader laadt twee tekstencoders tegelijk, bijvoorbeeld clip_l plus t5xxl voor Flux of clip_g plus t5xxl voor SD3, en geeft één CLIP-object voor de prompt nodes.

Load LoRA

ComfyUI core

Load LoRA (LoraLoader) past een LoRA-bestand toe op het MODEL en CLIP met aparte sterktes, zodat je een stijl, personage of concept kunt toevoegen aan elk checkpoint zonder het te mergen.

ModelSamplingFlux, ModelSamplingSD3 and ModelSamplingAuraFlow

ComfyUI core

De ModelSampling nodes stellen de noise schedule shift in voor flow-matching modellen (Flux, SD3.5, Wan, Hunyuan, Qwen-Image, Chroma, Lumina) zodat samplers de juiste tijd besteden aan compositie versus detail.

ComfyUI Manager

ComfyUI-Manager

ComfyUI Manager is de extensie die aangepaste node-pakketten en modellen installeert, bijwerkt en repareert vanuit de interface, ontbrekende nodes in geïmporteerde workflows oplost en je setup vastlegt.

Nodes repareren beu? Laat de cloud het doen

BitVector houdt honderden ComfyUI-workflows geïnstalleerd, bijgewerkt en getest op snelle cloud-GPU's. Geen Python, geen CUDA-fouten, geen VRAM-limieten. Werkt in elke browser.

BitVector proberen