Gemma 2：オープンウェイトモデル完全ガイド

Gemma 2とは何か

Gemma 2は、2B、9B、27Bのパラメータサイズを提供するGoogleのオープンな大規模言語モデルファミリーである。これらの軽量で最先端のオープンモデルは、そのサイズに対して最高の性能を提供し、2～3倍大きなモデルに対する競争力のある代替まで提供する。

Gemma 2 2Bは、リソースが制約されたエッジおよびモバイル配備向けにGoogleが開発したコンパクトなオープンウェイト言語モデルで、より大きなGeminiアーキテクチャから蒸留されたものである。Gemma 2は商用に適したGemmaライセンスの下で利用可能で、開発者や研究者が自らのイノベーションを共有し商用化する能力を与えている。

利用可能なサイズと変種

Gemma 2は2B、9B、27Bのパラメータサイズで利用可能である。各サイズには2つの変種がある：

• ベースモデル：事前学習済みで、ファインチューニングと研究に適している
• 指示チューニング済み（IT）：会話タスクとユーザーとのやり取りに最適化されている

技術仕様

• コンテキスト長：すべてのモデルが8,192トークンのシーケンス長をサポートする。
• 語彙サイズ：256,128トークン（競合モデルよりも大幅に大きい）
• アーキテクチャ：デコーダーのみの設計を持つ密なトランスフォーマー
• 学習データ：9Bモデルの学習コーパスは8兆トークンで構成され、主にウェブ文書、コード、数学コンテンツから成る。

ハードウェア要件

メモリ要件（フル精度FP16）

Gemma 2 2B： 1Kトークンで5.76GBのVRAM、8Kトークンで6.16GBのVRAM。単一のRTX 4090または同等品で快適に処理できる。

Gemma 2 9B： フル精度には通常18～20GBのVRAMを必要とする。NVIDIA A100 40GBや24GB VRAMのRTX 4090のようなGPUは、バッチサイズを縮小すればGemma 2 2Bをファインチューニングできる。

Gemma 2 27B： 8,192トークンでフル精度（FP16）の場合、61.44GBのVRAMを必要とし、1台のNVIDIA A100 80GB、3台のRTX 4090 24GB、または1台のApple M3 Max 128GBに適している。

量子化オプション

• INT8量子化：メモリを（おおよそ）半分に削減
• INT4量子化：元のサイズの1/4までさらに削減し、ラップトップでの推論を可能にする
• GGUF形式：Ollamaや類似のツールによるCPUベースの推論に最適化

Q4量子化のGemma 2B（約1.4GB）は、4GBのRAMを持つRaspberry Pi 4で動作し、毎秒約3～5トークンを実現する。

ベンチマークのハイライト

Gemma 2モデルは、複数の評価フレームワークにわたって、パラメータ数に対して卓越した性能を示している。

LMSYS Chatbot Arena（人間による評価）

Gemma 27B（Elo 1218）はLlama 3 70B（Elo 1206）よりも高くランクされ、Gemma 9B（Elo 1187）はGPT-4-0314（Elo 1186）と同程度、Gemma 2.6B（Elo 1126）はGPT-3.5-Turbo-0613（Elo 1116）よりも高くランクされた。

学術ベンチマーク

MMLUベンチマークでは、Gemma 2 2Bは52.2%、Gemma 2 9Bは71.3%、Gemma 2 27Bは75.2%を記録している。追加のスコア：

• GSM8K（数学）：Gemma 2 9B：68.6%、Gemma 2 27B：74.0%
• HumanEval（コード）：Gemma 2 9B：68.2%、Gemma 2 27B：74.9%
• BBH（推論）：Gemma 2 9B：68.2%、Gemma 2 27B：74.9%

主要な成果

27BモデルはLMSYS Chatbot Arenaリーダーボードを急速に上昇し、魅力的な実世界の会話において、その2倍以上のサイズの人気モデルさえも上回った。一方、Gemma 2 2Bモデルは、エッジデバイスで実行可能なサイズで、Chatbot ArenaにおいてすべてのGPT-3.5モデルを上回っている。

ローカルでの実行方法

Ollamaを使う場合（最も簡単な方法）

Gemma 2は、Hugging Face Transformers、JAX、PyTorch、Keras 3.0経由のTensorFlow、vLLM、Gemma.cpp、Llama.cpp、Ollamaを含む主要なAIフレームワークと互換性がある。

インストールと使用方法：

1. ollama.comからOllamaをインストールする
2. 以下のコマンドのいずれかを実行する：

• 2Bパラメータ：ollama run gemma2:2b
• 9Bパラメータ：ollama run gemma2
• 27Bパラメータ：ollama run gemma2:27b

代替ツール

他の人気のローカル推論プラットフォームもGemma 2をサポートしている：

• LM Studio：lmstudio.aiからダウンロードし、モデル管理用のGUIを提供する
• Jan：同様の機能を持つオープンソースの代替
• GPT4All：事前設定されたモデルを備えた初心者に優しいインターフェース
• Msty：ローカルLLM推論用のクロスプラットフォームデスクトップアプリケーション

これらのツールはすべて、内蔵のモデルカタログからGemma 2の量子化版をダウンロードし、オフラインで実行できるようにする。

最適なユースケース

Gemma 2 9Bは、詩、コピーライティング、コード生成などのコンテンツ作成に適しており、指示チューニング版は会話エージェントやチャットボットに特に効果的で、質問応答や要約などのタスクをサポートする。

理想的なアプリケーション：

• エッジデバイスとモバイル：2Bモデルはスマートフォンや組み込みシステムで効率的に動作する
• コード生成と支援：HumanEvalやコーディングベンチマークでの強い性能
• ドキュメント要約：高品質の抽象的要約と抽出的要約
• カスタマーサービスチャットボット：指示チューニング版はユーザー向けの対話に優れる
• ローカルのプライバシー優先配備：外部API呼び出しなしで完全なデータ管理
• 教育ツール：教師/生徒のQ＆Aシステムや個別指導アプリケーション
• コスト効率の良い推論：単一GPUまたはCPU配備により運用コストを削減

よくある質問

Gemma 2はGPUなしでラップトップ上で完全に実行できますか？

Gemma 2の比較的小さなサイズは、ラップトップ、デスクトップ、または自社のクラウドインフラストラクチャのような限られたリソースの環境に配備することを可能にする。2BモデルはCPUで実行できるが、速度は遅くなる（毎秒数トークン）。INT4形式への量子化はメモリ要件をさらに削減する。

Gemma 2のベースモデルと指示チューニングモデルの違いは何ですか？

ベースモデルは事前学習済みで、カスタムタスクへのファインチューニングに最適化されている。指示チューニング（IT）変種は、ユーザーの指示に従い対話を行うための追加の学習を受け、さらなる学習なしでチャットボットとしてすぐに使用できる。

Gemma 2は本当にオープンソースですか？

Gemmaモデルは完全なオープンソースというよりも「オープンウェイト」である。重みは自由に利用可能だが、学習データとコードは公開されていない。寛容なライセンスはそれでも商用利用とモデルの重みの再配布を許可している。

Gemma 2はLlama 3とどう比較されますか？

9BのGemma 2モデルはクラス最高の性能を提供し、Llama 3 8Bや同サイズカテゴリの他のオープンモデルを上回る。27B変種は、より小さいにもかかわらず、はるかに大きなLlama 3モデルと競争力のある性能を達成している。