fire tv stickの音量

Fire TV Stick 4K Max - 第2世代（2023）を使用したときにやたらと出力ボリュームが小さくとても違和感が…体感で出力される音量は半分程度でした。結局、試しに使った程度で使用を諦めました。

Reducing VAE decode tiles

夏以降の更新によって、内部的にオブジェクト指向化が進み、各モデルに対応するためパイプラインの実装も精力的に拡張が行われています。主に動画対応の様な部分も強いですけど、それ以外に一番恩恵を受ける修正がVAE出力時に一括処理できなければイメージをタイル割して出力する機能ではないでしょうか？

試しに過去のプロンプトをベースにして試していますが、当時はvaeの動作を --vae-on-cpu オプションを指定してCPUで実行する必要がありました。SYCLのメモリー消費量は現在でもバカ食いするままなのですが、この機能のおかげでSYCL上でvaeの実行が行いやすくなりました。

好きか嫌いかはかなり差が出そうな感触

Qwen Image 2.1 turboはプロンプトがそのまま通る感じですが、FLUX 3 Image Kleinは抑止フィルターの影響か、結構無視されることが多いです。

今まで、「日本人」と指定すれば日本人っぽい感じの人物が描かれていたのですが、どうもFLUX 3 Image Kleinは確実に無視されている感じが強いです。どこかの紹介記事に日本語の指示プロンプトは先にpupを行って英語のプロンプトに変換するのが必須らしいのですが、それが原因で無視されている可能性も高いです。

気持ち悪かったので結構気合い入れてみた結果

awkについて何も知らない状態なので、どんなことができるのか？どんな書き方なのか？と言ったところから入っていきました。

見たのは、とほほさん（https://www.tohoho-web.com/ex/awk.html）のところが基本となりました。最初のころはあまりまとめられてる言語は無かった気がしますが、１０年ほど前に見たときにものすごい広範囲の言語のまとめがあったので驚いた記憶がありますが、今でもいろいろ増えているのかな？すごいですよねｗ

llama.cpp serverのsyclの集計

昨日serverで動かしてデバッグログを出力させたまま、チャットしてたら気づいたら6056252331バイトのファイルが出来上がっていました…ｗ

gemma4って結構便利？

toolsの機能自体はあまり積極的に動かさないようなのですが、時間がかかっても構わないからデバッグログの解析をgemma4でやってもらおうとチャット形式で指示してみました。

デバッグの出力ログはstable-diffusion.cppのsyclの出力なので非常に大きいです(笑)

ざっくり見てもそれなりにどんな機能が動いているのかはわかるのですが、各関数がどの程度動いているのかボリューム感までは把握しづらい面もあり、お試しで試してみることにしました。

stable-diffusion.cpp FLUX 3 Image Klein

昨日、llama.cpp serverのtoolsで少し試していましたが、思っている通りに動作してくれないのであきらめてこちらを試してみました(笑)

masterブランチの現時点でコミットされている状態でpullしてcmakeでバイナリを作成。必要なモデルファイルをダウンロードして、実行するだけでtext-to-imageの動作は確認できました。

量子化は小さめのQ3_Mを最初に選んで…vaeはそのまま、llmはQ8_0の物で試してみました。

量子かはQ4ぐらいまでにしておきたいのですが、最近扱っていたモデルはQ2まで落とさないとメモリー的に出力サイズがかなり制限されてしまうため、サイズが小さいものを使っています。正直Q2まで落としてしまうと輪郭も怪しい感じに出力されてしまうので（この辺は量子化による劣化対策でCFG(やシグマ値)を推奨値ではなく、微調整する必要がありそう）Q3モデルを使ったところ、それなりの劣化はあるものの、ギリギリ判断可能な感じなので最近よく使うようになりました…ｗ

最初にllmのモデルを8Bのもの(Qwen Image 2.1 turboで使用していたもの)を指定してしまい、いきなり

/home/siriuth/ggml_sycl_patch/src/ggml.c:3366: GGML_ASSERT(ggml_can_mul_mat(a, b)) failed
で停止されましたｗ

このあとに、gdbの出力と思われるものが出力されていました。gdbで実行していないはずなのですが、この辺のフックはどの様に行われてるのか…謎ですが、現状はあまり関係ないのでスルーします…

改めて、4Bのモデルの物を指定して実行したところ素直に動きました。

何も考えず、画像サイズは512x512で出力させましたが、どうも細部がいろいろおかしい感じです。量子化モデルを実行しているのが主な原因ではあるものの、出力サイズが小さいのも問題なのかもしれないという事で、1024x1024に変更して出力させてみました。

1024x1024でも（時間はかかってますがｗ）問題なく出力されました。 

サイズを大きくすると不自然な部分が減りましたが、やはりおかしな部分は多々あります。このへんは量子化の影響と言う感じがします。

時間がかかるので、少しサイズを小さくして1024x736で出力してみたところ、vae出力の段階でエラーになってしまいました。
[I] loading tensors completed, taking 0.60s (read: 0.43s, memcpy: 0.00s, convert: 0.03s, copy_to_backend: 0.00s) --- model_loader.cpp:1405
Killed

Qwen Image 2.1 turboでは端数丸め処理で736にされてしまっていたのですが、こちらは違う感じなのかな？ログ出力を出していないので原因はさっぱりわかりませんが。

とりあえずFLUX3.Image Kleinの動作確認が取れてよかった。

ちなみに、N150でSYCLで512x512で20分、1024x1024で1時間程度かかりました…。 

llama.cpp serverのtoolsで少し試してみました

ローカル環境でチャットだけで遊びたかっただけで始めた最初のとっかかりはlocalAIでした。良くも悪くも色々と知らない環境を知る上でとても貴重な体験ができました。

llama.cppはそんなlocalAIの中で知った（名前だけは見かけた物の現物がどんなものかは知りませんでした）ものの一つです。

stable-diffusion.cpp で今日気づいた事

のんびりとN150で遊んでいるだけなのですが、昨日からようやく最新のソースから（それなりの制限はあるものの）cmakeできるようになりました。

stable-diffusion.cpp SYCLで動いた♪

一部機能をOFFにした状態でcmakeは通っていたのですが、さくっと処理の途中でエラーが発生して出力までたどり着かなかった（これが昨日まで）ので、じっくりと関連する部分のソースや、デバッグ出力を追加したりして動作確認をしていました。

stable-diffusion.cpp で sycl は今のところ無理っぽい／(^o^)＼

8/11日以降のバージョンでビルドすると処理の途中でsegment faultが発生して実行できなくなっていました。

Qwen Image 2.1 turbo

Segment faultにハマっていて気づいていませんでしたが、今朝スマホで色々見ていてQwen Image 2.1にturboが付いている文字を発見し、慌てて調べてみると4日前ぐらいに公開されたようですね。

片手間に使用可能そうな量子化モデルをダウンロードして試してみました。

Qwen Image 2.1 turboはQwen Image 2.1をファインチューニングしたものとのことでそれなりに出力が一致してくれるのかな？と期待したのですが…似たような感じにはなるものの、結構出力されるものが違っている印象を受けました。あくまでtext to image部分だけしか試していないので、編集や加工については問題が無いのかもしれません。

全体的に出力されたものを見ると汚れているイメージが強いです。肌とか髪の毛とか結構派手にダメージを受けている感じのものが出力されました…。

逆にQwen Image 2.1の出力はstepが足りてなかったのかもしれませんが…。

実行時間は単純に1/5となるので、512x512出力で2時間かかっていたものがなんと20分で… 他の書き込みを見ていると1024x1024程度でも数秒で出力されるようですがｗ

早くSYCLで実行したいのですが、いまだに原因がつかみ切れていません…。

ダフネ

散歩ゲームをやめた後から始めたのがダフネです。まぁ暇つぶしにはいいんじゃないかなぁとは思いながら始めると、最初のうちでもけっこなバグもあったり、不具合も多かったりしてます。

ソシャゲっぽくするより、そのままパッケージで販売してほしいと思いつつも、バグも治らないようだし、一番気になるのはモンスターの種類が微妙…かな？と感じています。

モデリングの手間暇が結構かかってそうなので、そこまで要求するのは酷かもしれないですけど。

現状レベル30までで、いまだに最初のストーリーをぐるぐる回ってる感じですが、一番つらいのは描画バグで、戦闘中にフリーズではないものの、４～８フレームぐらいを繰り返すというのがあって、そうなるとアプリを再起動させなければなりません。これが地味に多かったりするので、なんかもう挫折しそう…orz

日本語入力がおかしい…

IMEは諸事情から旧バージョンのものを使用していたのですが、気づいたら何やら入力がおかしくなりました。

再起動すれば治るのかどうかもわかりませんが、とりあえずIMEのモードを旧バージョンから通常バージョンにすることで逃げました。

現象としては、英数字入力のはずなのに、コメントにするためにスラッシュを２つ入力すると、何故か一文字目の入力で全角で入力され、二文字目が半角になるという良く分からない状態に…

// ではなくなぜか ／/ となる…ｗ

標準のモードだとなんかあった気がするけど、とりあえずこれでしのいでおこう… 

Qwen image 2.1

最新のstable-diffusion.cppはまだいらないかな？とか思っていたのですが、どうやら2週間ほど前にタイトルのQwen Image 2.1がリリースされていたみたいですね。

[Win] [Shift] [T] [Y] [backspace]キーがが死亡…

ブラウザの検索ボックスの文字を消そうとバックスペースキーを押しても無反応なので、またブラウザバグってる…と思い、開きなおしても治らず…メモ帳に入力されてる文字を消そうとしても消せず…ようやくキーが死んでいるのに気づきました(笑)

思い当たる節は…なんか水が滴って水飛沫がキーに当たってたかもしれないなぁという感じ。

水だけなら乾けば何とか復活してほしいところですが、電源が入っている状態だったしダメかなぁ？

今使っているネットブックはメモリ価格が高騰したのと同時に市場から消えちゃってちょうどいい大きさのものが無くなっちゃったんだよなぁ…これを機にタブレットに移行するしかないのかな…それともネットブックは辞めて、デスクトップメインにするのがいいのかな？ノートがないと何もできない気がするんだよなぁ…。 

ふつつかな悪女

今期はいつも以上に知らない話が多かったのですが、あまり期待せずに見始めてみると、結構絵が普通のアニメの仕上がりに、量産系アニメばかりの中、かなり光っていた作品です。

初回から唯一まともに見続けた数少ない作品。今期のアニメはやたら多かったのですが、大半途中からどうでもよくなってしまう中、最後まで楽しめたアニメでした。が…エンディングがやたらと演出があったので、まさか第2クールも？と思って確認したらすでに予定通りの様で(笑)

なんとなくいい感じに纏まったと思ったら、あくまでもこれがプロローグなんですね…この物語…

ワンクール空いて、来年１月からという事で期待して待ちますかね。 

 

error: use of undeclared identifier 'ggml_mul_mat_i8_tensorwise'; did you mean 'ggml_ext_linear_i8_tensorwise'?

あまり時間が取れなかったので、1ヵ月程度sycl関連のソースで遊んでいませんでした。

その間も、llama.cppにはggml-syclに対してパッチを行ってビルドしていましたが、stable-diffusion.cppは完全放置していました。手元のソースを確認すると、8/11から触っていない感じでしたが、どうもこの直後にggmlを拡張してint8をベースにした量子化フォーマットに対応するために色々とテコ入れを行っているようで、素のggmlではビルドできない状態になっているようです。

ディスカッションにも記録が残っていて、8/12に

[Bug] Build Failure: INT8 ConvRot code on master uses undeclared ggml functions #1870

という書き込みが行われていました。

リリースを見てみると、

master-817-bcc7e29 feat: support INT8 ConvRot safetensors (#1857)

となっていて、ここのリリースからINT8への対応が始まっているようです。 

具体的にggmlをフォークして機能を拡張したggmlを使用する形で実装されています。

この拡張はメインストリームに乗せるように動いているようですが、現状の感触としては、相当な需要がなければ受け入れられないような気はします。 

ggml-org/llama.cppにはggml : add native INT8 convrot support - #26914

としてリクエストされています。

 

さて、ここまでが経緯ですが、現実問題として、個人的にはどうやって対応するべきか？と言う点です。

現状は、ggml-org/ggmlをフォークしたリポジトリをベースとしてllama.cppとstable-diffusion.cpp内の/ggml部分を挿げ替える形でggml-sycl部分のパッチソースを展開しています（建前としてですがｗ）。実際にはstable-diffusion.cppは/ggml以下を挿げ替えてビルドして、llama.cppは直接llama.cppの/ggml/src/ggml-syclへ直接パッチを当てています。

とは言え、同期のタイミングによってはllama.cppもstable-diffuion.cppのように挿げ替えても大丈夫なはず…。

どうせ２カ所にパッチしているのであれば、ggm-org/ggmlからフォークしたリポジトリではなく、stable-diffusion.cppのベースのjetlee/ggmlをフォークしてパッチを当ててもいいような気もします。

現時点で、最新のstable-diffusion.cppを動かす必要はないので、ひとまず master-816-487de75（2026/8/12） をベースとしてビルドすることに…。奇しくも触らなくなった翌日ぐらいのリリースのバージョンです(笑)

llama.cpp 4日前ぐらいから始まったバージョンリリース

4日前からリリースがvX.Y.Z形式のバージョンが振られるようになりました。

ggml自体は同期タイミングでバージョンを振り続けていますが、llama.cppはコミットのタイミングでbXXXXX形式のタグで五月雨式にリリースされていた形から変わったので、電車の中でv0.2.0と見かけたときは少し驚きました。

が、今日も先ほどv0.3.0とすでにマイナーバージョンが加算されているので本腰を入れて整備する気配です。 

手札多め？

タイトル詐欺臭い部分も多い設定ですが、作画やデザインはともかくそこそこテンポよく進むのでかなり楽しみながら見てたりします。

結構暴れまわる立ち回りでどうなっちゃうんだろう？と不安が募るわけなんですが、７話目でとりあえず別の場所に移動しちゃったみたいですね。元の国からも過去の仕事の絡みで場所が割れてしまっている状況だったのでそれだけが移動のトリガーだと思っていましたが、思っていた以上に周りにばれている状況だったようで…話的には今回が最終回でもおかしくないような終わり方でしたが、次回はどんな感じになるんでしょうかね(笑)