Flux 모델의 Controlnet (open pose) 기능 사용

Flux 모델의 Controlnet (open pose) 기능 사용 - Canny 모델

스테이블 디퓨전 모델은 Controlnet에서 Open Pose 기능을 사용하여 쉽게 이미지의 인물 포즈를 만들 수 있다.

하지만, Flux 모델에서는 open pose대신에 canny 모델이나 또는 depth 모델을 사용하여 그런 유사한 효과를 얻을 수 있다.

Flux-Canny 모델로 포즈를 만듬

포즈 이미지(pinterest 에서 가져옴)

일단 기본적으로 Comfyui 와 Flux 모델은 설치되어 있다는 전제 하에 설명한다.

1. Flux 용 Canny모델 사용 Workflow

Flux-Canny 모델 workflow

이것을 다운받아 Comfyui 에 Drag&Drop 하면 된다.

필요한 노드들은 Comfyui Manager 에서 Missing Custom Nodes 를 설치하면 된다.

2. Flux-Canny 모델 다운

" https://huggingface.co/XLabs-AI/flux-controlnet-canny-v3/blob/main/flux-canny-controlnet-v3.safetensors " 에서 다운로드 하거나,

아니면 구글에서 검색해보면 다운 받을 수 있는 곳을 쉽게 찾을 수 있다.

이 파일을 " ComfyUI\models\xlabs\controlnets " 폴더에 넣어준다.

3. Workflow Step 설명

원본이미지를 load 해 준다.
원본 이미지의 크기를 적절한 크기로 조정한다. 원본 이미지와 생성할 이미지의 사이즈가 같을 수록 원하는 포즈대로 만들 수 있다.
조정된 이미지의 크기를 읽어 Empty Latent Image 의 사이즈를 동일하게 맞춘 후 Sampler 에 연결해 준다.
조정된 이미지의 개략적인 외곽선들을 Canny 모델을 사용하여 얻는다.
얻은 이미지를 Apply Flux Controlnet 노드를 통과하여 Sampler 로 연결 시킨다.
원하는 prompt 를 입력한다.
이미지 생성 하면 된다.

4. 이미지 생성

포즈 원본 (pinterest 에서 가져옴)

생성된 이미지

상당히 포즈가 잘 나온 듯 하다.

pinterest 에서 가져옴

앉은 자세로 생성된 이미지

서있는 포즈

무도회장에서 서있는 이미지

그래도 어느정도 원하는 포즈대로 만들어 질 수있는 기능이다.

Flux 모델은 이미지 화질이 좋기 때문에 가급적 Flux 를 사용하여 이미지를 만들고 있는데 Canny 모델을 이용하면 어느정도의 원하는 포즈대로 이미지를 얻을 수 있다.

원하는 포즈대로 만들기 위해서는 prompt 도 원하는 포즈대로 입력을 해 주어야 더 잘 나온다.

그리고 Apply Flux ControlNet 에서 Strength 값을 0.7~ 0.9 사이로 조정하면서 이미지를 생성하면 포즈가 잘 나올것이다.

좀 더 많은 참고사항은 : 작성글 목록에서 찾으면 됩니다.

이 블로그의 인기 게시물

Comfyui Wildcard 사용법 - Stable Diffusion , Flux 에서 쉽게 Random Prompt 로 이미지 만들기

Comfyui Wildcard 사용법에 대하여 알아본다. Comfyui 로 Stable Diffusion 또는 Flux 로 이미지를 만들 때 Prompt 가 이미지를 결정하는데 매우 중요한 역할을 한다. 영어가 모국어가 아닌 이상 영어로 prompt 를 만드는 것이 참 어려운 일이다. 물론 처음에는 많은 다른 사람들이 사용한 prompt 들을 모방하여 수정하고 사용하는데 이런 일을 하나하나 해 보기가 시간이 많이 걸리고 어렵다. 그래서 Random 으로 prompt 가 만들어 져서 이미지가 생성되고 그 이미지 중에서 마음에 드는 이미지들을 골라 그 이미지의 Prompt들 만을 가지고 보완하고 개선하면 더 편리하고 좋지 않을까 생각이 든다. 그런 식의 Random Prompt 생성이 가능하게 해주는 것이 wildcard 사용이다. Joker는 card game에서 wildcard 이다. 1. Wildcard 의 의미 와일드 카드(Wildcard)란 카드 게임에서 유래되었다. 이런 카드 게임에서 모든 카드의 대용으로 쓸 수 있는 비장의 카드를 와일드 카드라고 한다. 포커나 훌라를 할 때 조커가 이런 역할을 하는데 , 이 의미가 컴퓨터와 스포츠로 확장되어 사용되는 것이다. 컴퓨터 용어로 쓰일 때는 한 디렉터리 내에 여러 파일이 존재하거나, 파일 이름의 뒷부분을 정확히 알지 못하는 경우에도 사용할 수 있는 명령어를 말합니다. '*'을 넣으면 빠진 것에 어떤 문자열이 있든지 대신할 수 있고, '?'는 임의의 한 문자에만 대응한다. Comfyui 에서 wildcard 사용은 "--문자열--" 이런 식으로 wildcard 사용 가능한 노드에 prompt 를 입력해 주면 그 노드는 "문자열" 에 해당되는 파일을 찾아 그 파일 내용 중에서 임의의 일부분을 prompt 로 대체해 준다. 2. Wildcard 사...

Flux Lora 제작 - Local 에서 Fluxgym 을 이용하여 자체 Lora 만들기

Flux Lora 는 일관된 이미지를 만드는데 꼭 필요하다. 특히 일관된 얼굴의 이미지를 만드는데 있어서 다른 기능들 (ipadapter , controlnet, imgtoimg 등) 을 이용하는 것 보다 훨씬 일정한 캐릭터를 생성하게 해준다. 문제는 이런 Lora는 주로 CIVITAI , Tensor, Hugging face 등 사이트에서 다운 받아 사용하면 되지만 그것은 나만의 독특한 캐릭터가 아니고 나의 취향과 일치 되기가 어려워서 Lora를 구하기가 어렵다. 아니면 그런 사이트 내에서 자체 Lora를 제작하면 되는데 모두 비용이 필요하다. 여기 소개하는 Fluxgym AI 는 Local 컴퓨터에서 VRAM 12G 이상이면 자체 Lora를 만들 수 있게 해준다. 소요되는 시간도 생각보다 많이 걸리지 않는다. 이제 설치하고 자체 Lora를 한번 만들어 보자. Fluxgym 으로 만든 Lora 대표이미지 1. fluxgym 설치 pinokio 앱을 실행한다. ( pinokio 앱 설치 참조 ) 우측 상단 맨 처음 아이콘 (discover) 클릭 fluxgym 을 찾아서 클릭 fluxgym 이것을 클릭하면 된다. 여러가지 파일들을 설치하기 때문에 시간이 좀 소요될 것이다. 모든 설치가 끝나면 pinokio 브라우저 하단 부분에 fluxgym 메뉴가 추가된다. fluxgym 나중에 불필요하면 삭제(쓰레기통 아이콘 클릭) 하면 모두 unintall 된다. 2. fluxgym 실행 항상 pinokio 앱을 실행하여 pinokio 브라우저에서 fluxgym 을 클릭하면 된다. flux화면3-1 -. 1번항 : 여기에 입력한 대로 fluxgym/outputs/ 의 하위 폴더를 만들어 준다. -. 2번항 : Lora를 작동시키는 trigger word 를 입력한다. (예, hart_style_a......) -. 3번항 : 자신의 가능한 VRAM 선택 : 나는 12 G 선택 ...

Pinokio 앱 설치 - 오픈 소스 AI 플랫폼

Pinokio 는 오픈 소스 AI 플랫폼이다. 로컬에서 AI 애플리케이션을 쉽게 설치하고 실행할 수 있게 도와주는 오픈 소스 AI 플랫폼이다. 이 플랫폼은 사용자가 복잡한 설치 과정 없이 클릭 한 번으로 AI 도구들을 설치할 수 있도록 설계되어 있다. 이를 통해 기술적인 배경 지식이 없는 초보자나 비전문가들도 쉽게 AI 애플리케이션을 사용할 수 있다. 이미 설치되어 있는 애플리케이션이 있어도 별도의 독립된 공간에서 문제없이 사용할 수 있게 해준다. 우리가 stable diffusion 을 comfyui 에서 사용하기 위해서는 "Python", "git ....", "conda" 뭔지 모르지만 설치해야 하는데 pinokio 브라우저에서 원 클릭으로 알아서 설치를 해주기 때문에 컴맹인 일반인도 쉽게 설치하고 사용 할 수 있다. pinokio.computer 1. Pinokio 주요 기능 원클릭 설치 : 복잡한 환경 설정이나 명령어 입력 없이도 다양한 AI 모델을 한 번의 클릭으로 설치할 수 있다. 예를 들어, Comfyui 나 Flux 같은 AI 도구들을 손쉽게 설치할 수 있다. 다양한 AI 애플리케이션 제공 : Pinokio는 다양한 오픈 소스 AI 애플리케이션을 제공하는 허브 역할을 하며, Pinokio 브라우저 나 홈페이지에서 쉽게 찾아 설치할 수 있다. 브라우저 기반 인터페이스 : 모든 설치된 애플리케이션은 Pinokio 웹 브라우저에서 관리할 수 있어, 친숙한 인터페이스로 쉽게 사용이 가능하다. 독립적인 가상 컴퓨터 : Pinokio는 백엔드 작업을 자동으로 처리하여, 애플리케이션이 로컬에서 실행되는 동안 인터넷에 연결되어 있지 않아도 된다. 2. Pinokio 설치 구글에서 pinokio 를 검색하여 " pinokio.computer " 를 클릭 Download 클릭 다운로드 된 pinokio 압축 파일을 푼다. pinokio 설치파일을 실행하여 설치 설치과정은 복...

이 블로그 검색