楽天、「GENIACプロジェクト」の一環として開発された国内最大規模の高性能AIモデル「Rakuten AI 3.0」を提供開始
LocalAI v4.0.0のmmproj系のモジュールの動作がおかしいのでv3.12.1ベースに切り替えられる環境整備とmmprojの入手先か作成方法を調べていました。とりあえずgemma3n-e4b-itのmmprojを見つけたので、他のものもぼちぼち探してみるかと…見ているとタイトル通りの事が…。
ちょっと興味津々です。
で、ちょっと見ていましたが、ベースモデルが673G…嫌な予感しかしません(笑)
Quantizedされたものも公開されていましたが、2bitですら244Gです。ん~手出しできそうにありません。
どれだけ学習させたのでしょうね…。と、言うか、めちゃくちゃ期待するんですが…mini版が出てくるの待ちかな。
0 件のコメント:
コメントを投稿