今天看到有人分享一個專案叫story-adapter,可以用來製作一致性角色的漫畫,便來嘗試看看,安裝流程也不是非常的難,雖然中途也卡了好一陣。一度好想放棄,但想到萬一story-adapter真的很好用,可以解決一致性角色的問題,那就太好了~
story-adapter專案連結:
story-adapter安裝流程
根據官方所說它是用 Python 3.10.14, PyTorch 2.2.2. CUDA 12.1, cuDNN 8.9.02
但我在python找不到3.10.14 windows可下載版本,所以我這邊使用3.10.11來替代(因為電腦裡已經裝過了)
下載連結:
python 3.10.11 (一般選 Windows installer (64-bit) )
上面兩個安裝好以後,找一個硬碟(我這邊用F:),新增資料夾命名為story-adapter,然後使用CMD打開
我把專案放在這個目錄 F:\project\AI\story-adapter
,你們在根據自行實際目錄做修改
#使用git clone抓專案
git clone https://github.com/jwmao1/story-adapter.git
#進入這個資料夾
cd story-adapter
#創建虛擬環境 因我電腦裝許多版本的python 所以此處指定python版本的
C:\Users\user\AppData\Local\Programs\Python\Python310\python.exe -m venv venv
#啟用虛擬環境
call venv\scripts\activate.bat
接著先找到requirements.txt,把torch給註解掉,因為它指定的版本pip找不到,我們得自行另外裝
安裝python的package
安裝pytorch
pip install torch==2.2.2+cu121 --extra-index-url https://download.pytorch.org/whl/cu121
安裝其他的包
pip install -r requirements.txt
運行demo會報錯,需升級/安裝下面這些
pip install --upgrade diffusers huggingface_hub
pip install accelerate
下載必要模型
RealVisXL_V4.0 這個整個目錄都要抓下來
https://huggingface.co/SG161222/RealVisXL_V4.0/tree/main
clip_image_encoder 這個也是整個目錄都要抓下來
https://huggingface.co/h94/IP-Adapter/tree/main/sdxl_models/image_encoder
ip-adapter_sdxl.bin 這是單一檔案
https://huggingface.co/h94/IP-Adapter/resolve/main/sdxl_models/ip-adapter_sdxl.bin?download=true
大致長這樣
耗了幾個小時終於把所有的包與必要模型都下載好了,總共需要75.6GB的空間(也太佔空間了吧)
story-adapter使用方式
#運行demo (測試的結果是只有這個參數需要輸入,其他參數只要按照上面的放,預設的目錄就會對應)
python run.py --image_encoder_path F:/project/AI/story-adapter/story-adapter/IP-Adapter/sdxl_models/image_encoder
#自定義執行(就是多了一個story參數,數字代表要跑哪一個故事)
python run.py --image_encoder_path F:/project/AI/story-adapter/story-adapter/IP-Adapter/sdxl_models/image_encoder --story 5
故事內容,目前看起來只能通過修改run.py內的參數,像下圖這樣,裡面預設了6個小故事
story-adapter 實測結果
實測後發現,我的電腦雖然能跑(RTX3060 12G),但是跑的速度實在太慢太慢了....
一張圖要跑13~15分鐘左右,每張圖還要再跑epoch訓練(不知道要跑幾輪),總之我跑完兩輪後就放棄了
生成了近30分鐘就跑只跑出這樣兩張圖,所有故事跑完不知道要耗費幾天的時間....
另外我原本以為它會自動將故事加在圖上,但看它代碼裡寫的,感覺不會這樣做...只是單純產生一致性角色的圖。
這樣或許用SD WebUI、或者ComfyUI 搭配IP-Adapter 與一些批量腳本說不定還比較有可行性
假如它出圖速度能像一般SDXL的出圖速度,或許這專案還有可玩性....
文章轉載或引用,請先告知並保留原文出處與連結!!(單純分享或非營利的只需保留原文出處,不用告知)
原文連結:
https://blog.aidec.tw/post/story-adapter-try
若有業務合作需求,可寫信至: opweb666@gmail.com
創業、網站經營相關內容未來將發布在 小易創業筆記