ほんのちょっとだけ動かしたMedGemma1.5ですが、どうやってもthoughtの表示を消すことができない…
いろいろなドキュメントを見るとllama.cppのパラメータを設定したり、システムプロンプトに設定したり、プロンプトに指示として設定したりと、いくつか指定する方法があるらしいのですが、正直どれも上手く行かない。
そもそもMedGemmaの出力はthoughtのステップが表示されて、最後にFinal AnswerとかFinal checkと言った形で最終段階で止まっているので、これ以上抑止できないのではないか？と言う疑問も付きまとっていたりします。
ちなみに、MedGemmaの参考例としてレントゲン写真を入力して、それに対する注目部位を示すようなpythonスクリプトが提示されているなかでも、上手くできてそうな流れになっているものの…チャットモードだと全く機能しないｗ
こういうもんなのかなぁ？とあきらめるしかないのかな？ そもそも試しに動かしてみただけなんですがｗ
0 件のコメント:
コメントを投稿