どうもLevel ZEROのスイッチが効いていないのでドキュメントをチェックしようとgithubを開いたところ、llama.cppのv1.0.0でリリースが行われていました。
ようやく実装が一段落したという事でしょうか。(中身チェックしろw)
後で見てみます…w
メモやら記録やら
どうもLevel ZEROのスイッチが効いていないのでドキュメントをチェックしようとgithubを開いたところ、llama.cppのv1.0.0でリリースが行われていました。
ようやく実装が一段落したという事でしょうか。(中身チェックしろw)
後で見てみます…w
今までは少量の漏洩が表沙汰となって、万が一その漏洩情報がもととなった場合、被害者に対して何らかの保証をする必要があるから情報漏洩に対する身代金請求も通る可能性が高かった。
しかし、ここまであからさまに多数の企業サーバーがハッキングされ、漏洩が表沙汰になると、実際に被害があった場合、どの漏洩が原因か証明することは極めて困難になるので、漏洩元が身代金請求に対して反応することは無くなるのでは?
stable-diffusion.cppでSYCLを使っているとどうもメモリー管理がうまくいかなくなっていたので、今までSYCL_USE_LEVEL_ZERO_API=0を指定してzero apiを無効化していたのですが、ggmlをv0.29.0ベースにしたところ、無効化しなくても動くようになったみたいです。
Fire TV Stick 4K Max - 第2世代(2023)を使用したときにやたらと出力ボリュームが小さくとても違和感が…体感で出力される音量は半分程度でした。結局、試しに使った程度で使用を諦めました。
夏以降の更新によって、内部的にオブジェクト指向化が進み、各モデルに対応するためパイプラインの実装も精力的に拡張が行われています。主に動画対応の様な部分も強いですけど、それ以外に一番恩恵を受ける修正がVAE出力時に一括処理できなければイメージをタイル割して出力する機能ではないでしょうか?
試しに過去のプロンプトをベースにして試していますが、当時はvaeの動作を --vae-on-cpu オプションを指定してCPUで実行する必要がありました。SYCLのメモリー消費量は現在でもバカ食いするままなのですが、この機能のおかげでSYCL上でvaeの実行が行いやすくなりました。