とりあえず、llama-cpp側のF16の件が自分の中で落ち着いた（詳細は見ていないが固定値でせっていしても変化が分からなかった）のと、画像を渡しても落ちなくなったので、先週ぶりにstablediffusion-ggmlをもう少し触ってみようかと。
設定のyamlが動くようにはなっていたものの、なんだか全く記憶に残ってない…。
なんかF16の設定もあってfalseになってるみたいだからとりあえず画像作成してみましょうかね…一番ちっちゃいさいずならかかっても5分で終わるでしょう…時間がかかる…のは仕方がないですｗ
fish と入力して 256x256 と設定して 生成ボタンをぽちっと…
10分経過してもなんか終わる気配がない…
でもまぁ動いてるから放置しておこうか…
20分経過しても…
40分ぐらい経過してからでしょうか、絵が出てきました。
F16: falseの効果が出てるっぽいのでもう一度今度はF16: trueで…
はいっ4分程度で出てきました。
まぁこれもどの辺が魚なのか良く分かりませんが…まぁ出てきました。
stablediffusion-ggmlだとF16の設定はかなり効果が出てるみたいですね。GPUだと処理に4倍かかるらしいのですが、CPUでも4倍以上のコストがかかってそうですね…
あと、内部で使ってるモデルファイルがメモリギリギリな気がするのでもう少し量子化されたモデルファイルでそろえてみようかと…
そしてなんか今日初めてstablediffusion3.5の意味が分かってきた気がします。意外と入手できそうなモデルのレパートリーが少ないという事もｗ
もう少し遊んでみたくなりました。が、さっさと落ち着かせてTTS系に進みたいんだよなぁ…
0 件のコメント:
コメントを投稿