Gemma3の制限等

生成AIに触れて数日目ですが、予想以上に日本語のまともなレスポンスがあったので、会話に何らかの制限があるのか気になりました。

主にチャットしているgemma3-4B-itにシステムプロンプトを設定する前に、制限について聞いてみたところ、生成AIが機能的に不完全であるという前提上、さまざまな表現上の制限はあるものの、会話の内容に関する制限や規制という話は出ませんでした。

なので結構心を鬼にして酷いシステムプロンプトを設定してチャットしてみたところ、やはりガードはかかっているようでした。とはいえ、その動作は結構曖昧のようで…1Bと12Bは警告が表示されました。しかし4Bでは同じシステムプロンプトのはずなのですが何の表示もされず。いいのか4b-it！？もっとむごくすると警告出てきそうですが。

ただ、酷いシステムプロンプトを設定してチャットを行うとかなり前提条件が崩れてしまうようで、会話がかみ合わなくなったり、ユーザーの話と生成AI側の区別がつかなくなっていたりと、ボロボロに。システムプロンプトの記述の仕方をもっとしっかり調べるひつようがあるのかな？と。

多少チャットしてみて感じることは、推論で出力されている内容に関しては確実にいい加減というかただの真似でしかないというところ。おそらく思考は行われていない。と実感しました。ただ、言語表現が上手いので人格や思考のようなものがあるように錯覚するほどにはなっているとは思います。

一番いい例が、「Ubuntu22.04でIntelGPUを有効化する方法は？」と問いかけてみるとものの見事にそれっぽい感じで表示されますが、ほぼ全てが嘘っぱちでした。おそらく何らかの設定方法というテンプレートがあって、それにそれぞれの関連を結び付けて出力されている感じです。個々のコマンドラインなどはそれっぽいことが出てきてたりはするのですが、まぁ本質はその程度。何だろうと思います。データ量が増えれば細かくなるのと、最新のものに更新していたりすればそのものズバリの提案も出力されるとは思います。

まぁそう考えると知識は持っていると思ってもいいのかな？人間より確実そうだし。ただ、量子化ビットを使ったモデルの場合は細部がぼやけているはずなので、それなりに情報は劣化している感じがあったり、返される量が少ないような気がします。

まぁ…でも何だろう…。レポートのテンプレートを伝えて、箇条書の内容を並べるとそれっぽいレポートが出来上がりそうなのは明らかで、体裁を整えるのには便利そうですね！日本語から英語とか…ただ余計な話まで盛られそうで怖いですがｗ