ggml v0.19.0 ggml-sycl on stable-diffusion.cpp

実行速度以外は安定していたggml-syclで、思っている以上に実行速度が改善しなくなったので若干熱が冷めてきた感じです(笑)

ですが、パッチ状態のggml-syclでエディットモードで元の絵を2枚にして実行していたところハングアップすることがありました。本腰を入れる前に小手先でやれることをやってみたのですが、どうも回避できないので、最新化した状態から復習がてら地道にパッチあてていこうかなと。

現状ggml v0.16.0ベースで行っていますが、現行ではv0.19.0になっていて、llama.cppベースの物は依然とビシバシ更新されています。sycl部分もそれなりに追加対応が行われていています。ただ、safetensorsを扱っているだけなのを考えると、そこまで細分化して実装しているのは意味があるのかどうか疑問な実装が多々あったり…。

で、ついでなのでv0.19.0の素のggml-syclで実行してみたところ、単純な画像生成であっても、処理が途中でハングアップしているようです。原因は内蔵GPUだと実行キューに大量に処理を送り込んでしまうとこの症状が起こりやすくなります。この辺の対応は行われていないようですね。ちゃんとしたIntelGPUならうまく動くのかな？素の状態も確認できたので、地道にパッチを当てていきますかね…。