ページ

▼
2025年9月26日金曜日

Gemma3 卑屈になる。

›
どのくらい嘘をつくのか？単なる知識不足なのか？それとも自分自身を偽っているだけなのか？ 面白い質問をちょっと考えてみました。 「JR東日本の社長は誰ですか？」 インターネットにつなげて検索できるようにしてあげればまともな回答は拾ってくると思いますが、現状はほぼローカル環境。 聞い...
2025年9月23日火曜日

Gemma3の今のところの欠点

›
正直チャットで遊ぶ上では十二分の感触を得ているのは事実。正直これをベースにいろいろしてみたくなります。 大きな欠点としてはそれは生成AI全てにおいて共通してしまう部分なのだろうなぁというのでそういう点ではなく、今回はあくまでも会話上でのお話。 どうしても内部が英語に変換されている...

vLLMがいいのかも？

›
色々とやり始めていまだに素の状態でCPU以外で動作できず…そもそもgoって全く興味なかったから少しソース見ても、とっかかりもつかめていない状態。歯がゆいです。 Dockerで動かしながら環境を操作してるといくらストレージが空いていても必要な外部ソースが巨大なのであっという間に空き...
2025年9月20日土曜日

やはりIntelGPUでもCPUで動作させるより早い

›
クロック数はCPUより低いはずだし、コア数も複数じゃないはずなのに、しかもIntelのSoC内蔵だし…とあまり期待していなかったonGPUの威力なのですが、体感で５～１０倍以上の差はあるような気がします。いろいろdockerの仕様を調べているうちに、dockerコンテナを使ってい...

チューリングテスト

›
プロンプトで遊びながらふと思ったのが、タイトル通りのチューリングテストですが…ネイティブ環境でintelGPUを使ってもらえるようにしたくてポート設定をネイティブで稼働するLocal-AIとdocker上で稼働するLocal-AIが同時に動かせる状態になったので、つい試したくなっ...