.ai

najlepsze otwarte modele AI

Szukaj

Węzeł Unet Loader (GGUF) w ComfyUI

Unet Loader (GGUF) ładuje skwantowane wersje Q8, Q6, Q5 i Q4 .gguf modeli Flux, Wan, Hunyuan, Qwen-Image i innych dużych transformerów, tak aby działały na kartach 6-12 GB; DualCLIPLoader (GGUF) robi to samo dla enkoderów tekstu T5.

Pakiet węzłów: ComfyUI-GGUF

Kategoria: Loadery

Co robi Unet Loader (GGUF)

GGUF to format kwantyzacji z llama.cpp, przeniesiony do modeli obrazów i wideo przez city96 w paczce ComfyUI-GGUF. Transformer Flux Dev, który potrzebuje 24 GB w bf16, zajmuje 12 GB w Q8, 7 GB w Q4_K_S, a jakość spada stopniowo. Unet Loader (GGUF) czyta te pliki z models/unet (lub models/diffusion_models) i daje normalny MODEL; wagi są dekwantyzowane na bieżąco, więc jest trochę wolniejszy niż fp8, ale działa tam, gdzie fp8 nie da rady. DualCLIPLoader (GGUF) i CLIPLoader (GGUF) ładują enkodery tekstu t5xxl i umt5 GGUF tak samo.

LoRA, ControlNety i IP-Adaptery działają z modelami GGUF. Reszta grafu zostaje bez zmian: enkodery tekstu, VAE, sampler i węzły ModelSampling są takie same jak dla wersji safetensors.

Wejścia

Nazwa	Typ	Co to jest
unet_name	COMBO	Plik .gguf z models/unet lub models/diffusion_models.

Wyjścia

Nazwa	Typ	Co to jest
MODEL	MODEL	Skwantowany model dla loaderów LoRA i KSampler.

Pomiń konfigurację: workflow ComfyUI zainstalowane w chmurze

BitVector uruchamia gotowe workflow ComfyUI na własnych GPU. Bez instalacji, bez brakujących węzłów, bez czerwonych ramek. Otwórz na telefonie lub laptopie i generuj w minutę.

Wypróbuj BitVector

Jak używać Unet Loader (GGUF)

Zainstaluj ComfyUI-GGUF z Managera (wymaga pakietu gguf dla Pythona, instalowanego automatycznie).
Pobierz Q8_0 (najlepszy) lub Q4_K_S (najmniejszy) GGUF swojego modelu do models/unet.
Zamień Load Diffusion Model na Unet Loader (GGUF) i wybierz plik.
Opcjonalnie użyj DualCLIPLoader (GGUF) z t5-v1_1-xxl-encoder-Q5_K_M.gguf, żeby zmniejszyć enkoder tekstu.
Resztę grafu zostaw tak jak jest; renderuj normalnie.

Ustawienia i wskazówki

Q8_0 jest wizualnie identyczny z fp16 dla większości modeli; Q5_K_M to dobry wybór dla kart 8 GB; Q4 pokazuje lekką utratę tekstur.
Dekodowanie GGUF to praca CPU/GPU: spodziewaj się 10-30% wolniejszych kroków niż fp8 na kartach wspierających fp8.
Dla Wan 2.2 są GGUFy zarówno dla modelu wysokoszumowego, jak i niskoszumowego.
Nie mieszaj: VAE i CLIP-L zostają w plikach safetensors.
--lowvram razem z GGUF Q4 pozwala Flux działać na 6 GB, choć wolniej, ale działa.

Rozwiązywanie problemów z Unet Loader (GGUF)

Plik .gguf nie pojawia się w rozwijanym menu

Dlaczego tak się dzieje

Paczka nie jest zainstalowana (węzeł byłby czerwony), albo plik jest w złym folderze.

Jak to naprawić

Zainstaluj ComfyUI-GGUF, włóż plik do models/unet lub models/diffusion_models i naciśnij R.

Błąd: nieznana architektura GGUF / nieobsługiwany typ kwantyzacji

Dlaczego tak się dzieje

GGUF to model językowy lub typ kwantyzacji nowszy niż zainstalowana paczka.

Jak to naprawić

Pobierz GGUF modelu obrazowego z repozytoriów city96 lub QuantStack i zaktualizuj ComfyUI-GGUF.

LoRA wyświetla ostrzeżenia o brakujących kluczach

Dlaczego tak się dzieje

LoRA celuje w warstwy według oryginalnych nazw; większość jest mapowana, ale niektóre trenujące dają nietypowe nazwy kluczy.

Jak to naprawić

Sprawdź LoRA na modelu safetensors, żeby potwierdzić, że działa; aktualizuj paczkę GGUF, która z czasem poprawia mapowanie kluczy.

Wciąż brak pamięci przy Q4

Dlaczego tak się dzieje

Enkoder tekstu (T5 na 10 GB fp16) jest faktycznym problemem.

Jak to naprawić

Użyj GGUF lub fp8 T5 i fp8 CLIP; dodaj --lowvram.

Uruchom ten workflow z telefonu

Każdy workflow z tej strony jest zainstalowany na BitVector razem z modelami i węzłami niestandardowymi. Wybierz, wpisz prompt, gotowe. Zero konfiguracji, nic do pobrania.

Wypróbuj BitVector

Pytania o Unet Loader (GGUF)

GGUF czy fp8?

fp8 jest szybszy na kartach RTX 40/50, gdy model się mieści; GGUF Q8 ma trochę lepszą jakość niż fp8, a Q4-Q6 działają tam, gdzie fp8 nie da rady.

Mogę zrobić własne GGUF?

Tak, używając skryptu konwertującego z repozytorium ComfyUI-GGUF i narzędzi kwantyzacji llama.cpp; większość osób po prostu pobiera gotowe pliki.

Powiązane węzły

Load Diffusion Model

ComfyUI core

Load Diffusion Model (UNETLoader) ładuje samą sieć denoisingową, taką jak Flux, SD3.5, Wan czy HunyuanVideo z folderu models/diffusion_models, z opcją weight_dtype dla fp8, żeby zaoszczędzić VRAM.

DualCLIPLoader

ComfyUI core

DualCLIPLoader ładuje dwa enkodery tekstu naraz, na przykład clip_l plus t5xxl dla Flux albo clip_g plus t5xxl dla SD3, i daje jeden obiekt CLIP do węzłów promptów.

Load LoRA

ComfyUI core

Load LoRA (LoraLoader) nakłada plik LoRA na MODEL i CLIP z osobnymi siłami, dzięki czemu styl, postać lub koncepcja mogą być dodane do dowolnego checkpointu bez łączenia.

ModelSamplingFlux, ModelSamplingSD3 and ModelSamplingAuraFlow

ComfyUI core

Węzły ModelSampling ustawiają przesunięcie harmonogramu szumu dla modeli flow-matching (Flux, SD3.5, Wan, Hunyuan, Qwen-Image, Chroma, Lumina), tak aby samplery spędzały odpowiednią ilość czasu na kompozycji względem detali.

ComfyUI Manager

ComfyUI-Manager

ComfyUI Manager to rozszerzenie, które instaluje, aktualizuje i naprawia niestandardowe paczki węzłów i modele bezpośrednio z interfejsu, rozwiązuje brakujące węzły w importowanych przepływach pracy i robi migawki twojej konfiguracji.

Masz dość naprawiania węzłów? Zostaw to chmurze

BitVector utrzymuje setki workflow ComfyUI zainstalowanych, aktualnych i przetestowanych na szybkich GPU w chmurze. Bez Pythona, bez błędów CUDA, bez limitów VRAM. Działa w każdej przeglądarce.

Wypróbuj BitVector