ollama - Gemma3 (2)

python ollama 使用時の備忘録

• ollama serve をまず実行

  • serveするとき、export OLLAMA_HOST="http://127.0.0.1:11435", export NO_PROXY="127.0.0.1:11435"があることを確認．

  • なければ、export または、.zshrcに記載して source ~/.zshrc．

• python において、pip install ollama で ollama クライアントがインストールできる

  • ollama.list() でちゃんとリストが出るかを確認．

  • ollama list したのと同じような内容が、jsonで返ってくるはず．

属性の見方

項目	内容
gemma-3	LLM名
12b	12 billion (120億)のパラメータ数
it	instruction tuned (指示回答チューニング)
Q4	パラメータを4ビット（16通り）で近似（軽量化）
K	scale (Group) グループ量子化（高速、安定化）
M	Multiplicative correction (乗算補正：安定化)