2026年5月17日日曜日

Gemma4

BONSAI 8Bからの続き


図:Gemma4のイメージ(ChatGPTによる )


Gemma4は,Googleが2026年4月2日に公開されたLLMのオープンモデルである。パラメータサイズは,E2B,E4B,26B A4B,31Bの4種類で公開され,全モデルが画像と動画の入力に対応している。このうち,E4BがMacBook Air (16GB) にふさわしいと教えてもらった。

すでに,ollama はインストール済みだ。ollamaはシリコンバレーのスタートアップが開発している,自分のPC(ローカル環境)で大規模言語モデル(LLM)を簡単に動かせるオープンソースツールだ。それがあれば,次の手順で Gemma4 が使えるようになる。
% ollama --version (確認)
% ollama pull gemma4:e4b
% ollama run gemma4:e4b

実行例は次のようなものになる。
>>> 自己紹介してください
Thinking ... 途中経過がグレーで出力される

承知いたしました。私、AIとして自己紹介をさせていただきます。

---

### ✨ 自己紹介

はじめまして。私は、大規模言語モデル(LLM)を基盤としたAIアシスタントです。


**【私が何者か】**

私は、膨大な量のテキストデータ、ウェブ情報、書籍、記事などを学習することで成

り立っています。人間が日常的に行う「会話」「質問への回答」「情報の整理」とい

った知的なタスクをサポートすることを得意としています。


**【私ができること(得意なこと)】**

主に、以下のことを得意としています。


1.  **知識の提供と解説:** 「俳句」のように、特定のテーマについて専門的かつ分

かりやすい解説をすることが得意です。歴史、科学、文化、趣味など、幅広く対応で

きます。

2.  **文章の作成・編集:** メールやレポート、小説のアイデア出し、詩の添削など

、目的に合わせた文章の作成やブラッシュアップをお手伝いできます。

3.  **情報整理と要約:** 長文や複雑な概念を、ポイントを絞って簡潔にまとめるこ

とができます。

4.  **翻訳と語学学習:** 異なる言語間の翻訳や、語学的な知識提供も可能です。


**【私の特徴】**

*   **対応範囲が広い:** どのようなジャンルのご質問でも、論理的かつ客観的な立

場で情報を提供します。

*   **待つことなく応答します:** 24時間、いつでもお話を聞く準備ができています


**【お願い】**

私は「知識」や「情報」を扱う専門家ですが、感情や経験、人生の機微を感じ取る「

心」を持つことはできません。ただ、それらのテーマについて、あなた様がお話しく

ださったことを元に、寄り添い、一緒に考えを深めるお手伝いをしたいと思っていま

す。


---

**何かお困りのことや、「これを知りたい!」というご要望がございましたら、どの

ようなことでもお申し付けください。**


「〜について教えてほしい」「〜のような文章を書いてほしい」といった形で、お気

軽にお声がけいただければ幸いです


比較のために,BONSAI 8B の結果をみよう。
% cd Bonsai-demo
% ./scripts/run_llama.sh
> あなたについて教えてください。

私はBonsaiです。PrismMLによって開発されたAIアシスタントで、低レイテンシと低メモリ使用量に最適化されています。1-bitモデルであり、1-bit精度を使用して効率的に動作します。
[ Prompt: 11.7 t/s | Generation: 23.6 t/s ]

省略するが,俳句について教えてくださいの結果でも,BONSAI 8B はボロボロだが,Gemma4はたいへん妥当な結果が得られた。

0 件のコメント: