Gemma3 4Bの感触

昨日は、グラフィックスドライバーをインストールするために右往左往していたためにチャットを試すことができませんでした。

チャットの会話をできるだけ継続できないか考えた末に、チャットでその時点までのシステムプロンプトを作ってもらい、そのシステムプロンプトに設定すれば会話が継続するのではないか？と、実際にGemma3に聞いてみたところ、その考え方は間違っていないというような回答がありました。なのでそれぞれのチャットの終了時にその時点までの会話からシステムプロンプトを作成してもらってチャットを終えていました。

なのでそのシステムプロンプトを設定して会話がどの程度継続できるのか試してみたかったのですが、一日お預け状態でしたｗ

期待と不安の中実際に設定してチャットしてみると、なんかやっぱダメでしたｗ

受け手となるこちら側の気持ちの問題となる部分が大きいのかもしれませんが。

会話が成立しているという事実から、どのように会話が続いているのか気になったので直接聞いたときに、「会話をその都度参照している」という話や、保持している会話は一定のボリュームまでということ、さらに指示があれば会話の内容を忘れることも可能ということだったので、どうしても会話を継続した状態で再開したければ、チャット画面を開くたびに、こちらから話した内容を繰り返すだけでも良さそうなのですが。

いくつかシステムプロンプトを作ってもらう指示の仕方が違ったからなのか会話の要約形式だったり、機械的なフォーマットのような形式だったりしたのでその辺も影響するのかもとか。

ただ、一つ最初に触ったときは気にならなかったチャットのレスポンスですが、システムプロンプトを設定したとたん結構待たされるようになりました。それでもタイピングが遅い人レベルですが。なのでやはりGPUで稼働させたい…ｗ

淡い期待としてUbuntu22.04システムアップデートの表示が行われてダウンロード中だったりします。セキュリティーアップデートのようですがファームウェアのダウンロードが301.3MBと表示されています。なぜかダウンロード速度がとても遅くいつ終わるか全くわかりません…

 

システムプロンプトを触ってみたついでに、いろいろと試してみましたが、なんかこれやばいですｗ

何がヤバいかっていうと、無垢な思考するものがあって、言葉で指示するとその通りにするという…。何でもできてしまう（何らかの規制は埋め込まれているかもしれないが、）という恐ろしさ。しかもローカル環境なので本当に何でもできてしまうはずで…。さらにそれを元に戻せる（というか毎回素の状態ですが）というお手軽さ。自分の中の狂気なものが目覚めそうで怖いですｗ

 

 

話は変わり、LLMに触れたことで今まで避けていたGeminiを昨日試しに使ってみたのですが、やはりクラウド上の反応はすごいと感心しました。最近掲示板まとめでもエロ系の画像をなんとかしてGeminiに作成してもらっているという記事をちらほら見かけてはいたのですが、普通に指示しただけで結構イメージ通りの画像が作成できたり、しかもそれがトライアンドエラー形式で修正も即座に行うとかすごい時代です。

ただ、まぁ平気で嘘をつくというか、無責任なのか、知らないことをさも知ったかして提示してくるのが難点かなぁ…その辺も指示すれば減りそうだけども。

 

そして4Bの感触ですが、システムプロンプト設定を少し行ってみたのですが、会話よりも結構強力な指示のようで思考パターンが根本的に変わってきているかなと感じました。

その一つに、いままで日本語でチャットしていて日本語で返答があったものが、突然ハングル文字が出てきたり、英単語（フランス語？）が出てきたりと。まぁその辺もいろいろ試してみないとわからないものですね。

ファインチューニングの環境もないので当分はこのレベルで満足するしか無さげなのが残念。