기본 콘텐츠로 건너뛰기

라벨이 flux-gguf인 게시물 표시

FLUX 의 다른 버전 GGUF 사용법 - Comfyui 를 이용한 사용

 Flux는 성능이 뛰어난 이미지 생성형 AI이다. 다만 flux 모델의 크기가 flux1-dev 버전인 경우 대략 22G정도 된다.  크기가 크기 때문에 보통의 데스크탑에서는 사실상 돌리기가 어렵다.  그래서 Flux1-dev-fp8 (대략 11G) 처럼 경량화된 버전들이 출시되어 사용되고 있지만 그래도 역시 이미지 한장 뽑는데 30초이상의 시간이 걸린다. 이 글에서 소개할 Flux-GGUF (약 12G) 버전은 크기도 절반이면서 Flux1-dev-fp8 보다 더 적은 시간으로 이미지를 만들어 준다.  1. Flux-GGUF 모델의 특징 및 장점     1-1.  저장공간 및 VRAM 절약 : GGUF 양자화 모델은 원래 모델에 비해 훨씬 적은 VRAM을 사용하면서도 성능은 비슷하다.  예를 들어, GGUF Q8 모델은 VRAM 사용량을 절반으로 줄이면서도 원본 모델과 99% 유사한 품질을 제공한다​.     1-2.  낮은 사양에서도 실행 가능 : GGUF 모델은 양자화를 통해 모델 크기를 줄였기 때문에, GPU 메모리가 부족한 하드웨어에서 실행할 수 있다. 6GB~12GB VRAM을 가진 장비에서도 원활하게 사용할 수 있어, 고성능 GPU가 없는 사용자에게 유리하다.     1-3.  속도 향상 : GGUF 모델은 이미지 생성 속도도 빠르다.  특히 Q8과 같은 고비트 모델은 일반적인 모델보다 빠르게 처리할 수 있다.     1-4.  호환성 : ComfyUI 및 Forge와 같은 주요 인터페이스에서 GGUF 모델을 지원하므로, 여러 플랫폼에서 쉽게 사용할 수 있다. ​ Flux-GGUF 이미지 ...