2026年4月3日金曜日

LocalAI 4.1.0 Release!

2時間前にリリースされたとのこと。

gemma4の対応かと思ったんですが違うようですね。

ちなみに、llama-cppがCommit 5208e2dのリリースもついさっき行われててこちらはfix: gemma 4 template (#21326)とのこと。テンプレートを使うとエラーになるようですね。変更を少し見るとテンプレートにIntegerとか変数型による分岐が追加されているようなので、function関連で型を厳密に見るようになってるのかな?まだgemma4はunslothさんのQ4_0.ggufをダウンロードしてサクッと動かそうとしてエラーになったから寝たんですが。 

0 件のコメント:

コメントを投稿