Ollamaの使い方：サブスクなしでAIをローカル実行する

目次

• Ollamaとは何か（そして何ではないか）
• ローカルAIがビジネスに役立つ理由

  • データがPCの外に出ない
  • 使うほど費用が増える構造から抜けられる
  • オフラインで動き、プロバイダーに依存しない
  • 向いていないケース
• ローカルLLMに必要なハードウェア

  • CPU、NVIDIA GPU、Apple Silicon
  • 量子化とは
  • 必要なメモリの計算方法
• 最初に入れるモデル
• Ollamaのインストール手順

  • macOS
  • Windows
  • Linux
• Ollamaの基本コマンド
• Modelfileでモデルをカスタマイズする
• OllamaのローカルAPI（ポート11434）の使い方

  • エディタやコーディングエージェントにつなぐ
  • Open WebUI、Docker、ネットワーク上の他のPCにつなぐ
• Ollama vs LM Studio vs Jan：どれを選ぶか
• 節約額を計算する
• まとめ

結論から言うと： Ollamaは、オープンなAIモデルをダウンロードして自分のPCで動かす無料のプログラムです。数分でインストールでき、コマンド1つでモデルを取得すれば、外部サーバーに何も送らないチャットとローカルAPIが手に入ります。快適に動くかどうかを決めるのはプロセッサーではなく、モデルを読み込めるメモリの量です。

このガイドでは、中小企業やスタートアップがAIをローカルで動かす理由、必要なハードウェア、Ollamaのインストールと設定、他のツールとの接続、LM StudioやJanのほうが向いているケースまで、一通り説明します。どのモデルを入れるかを知りたい場合は、Ollamaのおすすめモデル2026で詳しく扱っています。

Ollamaとは何か（そして何ではないか）

Ollamaは、言語モデルをローカルでパッケージ化・ダウンロード・提供するエンジンです。バックグラウンドのサービスとしてインストールされ、3つの使い方があります。

• ターミナル：ollama run や ollama pull などのコマンド。
• デスクトップアプリ：MacとWindowsにはチャット画面があります（Linuxはターミナルのみ）。
• HTTP API：http://localhost:11434 で、OpenAI形式と互換。エディタ、自動化、自作アプリをつなげられます。

Ollamaではないもの：Ollama自体はモデルではありません。Qwen、Gemma、gpt-oss、Llama、DeepSeekなど、他社のモデルを動かすためのプログラムです。回答の質は、選んだモデルとハードウェアで決まります。

ローカルAIがビジネスに役立つ理由

中小企業や立ち上げ期のスタートアップにとって、ローカルAIは技術的な流行ではありません。サブスクリプション型が抱える3つの具体的な問題を解決します。

データがPCの外に出ない

Ollamaをローカルで使うと、プロンプトも回答も手元のマシンで処理されます。会話を保存するプロバイダーも、細かく読み込むべきデータ利用ポリシーもありません。自社のソースコード、財務モデル、契約書、顧客リストなど、公開チャットに貼るべきでない情報を扱うときに効いてきます（詳しくはChatGPTに共有してはいけないもので解説しています）。

ただし、ローカルのプライバシーには限界があります。守れるのはデータがPCの中にある間だけです。ディスクが暗号化されていなかったり、チームの半分で1台を共有していたりすれば、リスクは場所を変えるだけで消えません。

使うほど費用が増える構造から抜けられる

商用APIはトークン単位の課金なので、自動化するほど支払いが増えます。ローカルモデルなら、費用はすでに払ったもの（PC）で、追加のクエリにかかるのは電気代だけです。時間あたりの利用上限も、月末の請求書での驚きもありません。

とはいえ無料ではありません。ハードウェア代、設定にかかる時間、そして9Bのローカルモデルは最先端モデルほどの性能が出ないことも勘定に入れる必要があります。数字を使ったシナリオ比較は2026年のAIの本当の料金にまとめています。

オフラインで動き、プロバイダーに依存しない

ローカルモデルは、インターネットが落ちてもプロバイダーに障害が起きても応答し続けます。数百通のメールの分類、請求書からのデータ抽出、社内文書の要約といったバッチ処理なら、上限や停止を気にせず任せておけます。

向いていないケース

タスクに対して正直になりましょう。長い推論、大きなリポジトリで動くコーディングエージェント、ミスがお金に直結する回答が必要なら、クラウドの最先端モデルのほうが今も優れています。多くの人にとって現実的なのは併用です。大量の処理と機密データはローカル、難しいことはクラウド。1つのAIプロバイダーに依存しないのと同じ考え方です。

ローカルLLMに必要なハードウェア

大事なのはどのプロセッサーを持っているかではなく、モデルがどれだけのメモリを使えるかと、そのメモリ内でデータがどれだけ速く動くかです。

CPU、NVIDIA GPU、Apple Silicon

• CPUのみ（x86）： テストや2B〜4Bの小型モデルには十分です。動きますが、システムRAMの帯域が狭いため遅くなります。
• NVIDIA GPU： モデルがカードのVRAMに収まる限り、トークン毎秒で最速の選択肢です。収まらないとOllamaはGPUとCPUにレイヤーを分割し、速度が大きく落ちます。
• Apple Silicon（M1〜M4）： ユニファイドメモリなので、GPUがPCのRAMの大部分を使えます。64 GBや128 GBのMacBook Proなら、PCではグラフィックカードを何枚も必要とするモデルを読み込めます。同じモデルなら上位のNVIDIAより遅いものの、PCでは届かないサイズに届きます。

量子化とは

量子化は、モデルの重みの精度を下げてメモリ使用量を減らす手法です。よく見るレベルは次のとおりです。

• FP16： フル精度、1パラメーターあたり2バイト。忠実度は最大ですが、メモリを大量に使います。
• Q8： 8ビット、1パラメーターあたり1バイト。メモリは半分で、品質低下はほぼ感じられません。
• Q4_K_M： 4ビット、1パラメーターあたり約0.5バイト。FP16の4分の1のメモリで、ローカル利用の実質的な標準です。品質は少し落ちますが、日常的な作業ではほとんど気づきません。

Ollamaのモデルはほぼすべて、既定でQ4でダウンロードされます。このバランスを改善するQATやMLXのバリエーションについてはモデルガイドで説明しています。

必要なメモリの計算方法

簡単な目安：

メモリ（GB）≈ パラメーター数（10億単位）× 1重みあたりのバイト数 + コンテキスト用に2〜4 GB

Q4の8Bモデルは重みだけで約4 GB、これにコンテキスト（KVキャッシュ）の領域が加わります。6 GBで起動でき、8 GBあれば快適です。

モデルサイズ	量子化	最低メモリ	快適なメモリ
7B / 8B	Q4_K_M	6 GB	8 GB
7B / 8B	Q8	9 GB	12 GB
7B / 8B	FP16	16 GB	20 GB
14B	Q4_K_M	12 GB	16 GB
32B	Q4_K_M	20 GB	24 GB
70B	Q4_K_M	40 GB	48–64 GB

あくまで目安です。実際の使用量は設定するコンテキストウィンドウに応じて増えます。モデルが遅いときは、まずGPUに丸ごと収まっているかを確認しましょう（方法は後述します）。

最初に入れるモデル

いきなり最大のモデルから始める必要はありません。2026年の出発点としては：

• RAM 8 GB： qwen3.5:4b。
• 16 GB： qwen3.5:9b。品質とサイズのバランスが最も良いモデルです。
• VRAM 24 GBまたは32 GBのMac： qwen3.5:27b。プログラミング用なら qwen3-coder:30b。

Gemma 4、gpt-oss、埋め込みモデルを含むメモリ別の比較はOllamaのおすすめモデル2026にあります。主要な2つのファミリーで迷っているならQwen vs Gemmaも参考にしてください。

Ollamaのインストール手順

macOS

ollama.com/download からインストーラーをダウンロードし、アプリを「アプリケーション」にドラッグして開きます。アプリがサービスを起動し、ターミナルに ollama コマンドを追加します。

Windows

同じページから OllamaSetup.exe をダウンロードして実行します。WSLは不要で、ネイティブに動作し、対応するNVIDIAとAMDのGPUを検出して、システムトレイにアイコンとして常駐します。

Linux

コマンド1つでサービスがインストールされます。

curl -fsSL https://ollama.com/install.sh | sh

sh に渡すスクリプトはどれもそうですが、実行前にダウンロードして中身を読むこともできます。LinuxではOllamaはsystemdのサービスとして動きます。

動作確認：

ollama --version

Ollamaの基本コマンド

コマンド	内容
ollama run <モデル>	モデルがなければダウンロードし、ターミナルでチャットを開く
ollama pull <モデル>	チャットを開かずにモデルをダウンロードする
ollama list	ダウンロード済みのモデルをサイズと日付つきで一覧表示する
ollama ps	メモリに読み込まれたモデルと、GPU・CPUのどちらで動いているかを表示する
ollama show <モデル>	パラメーター、量子化、コンテキストなどモデルの詳細を表示する
ollama rm <モデル>	モデルを削除してディスクを空ける

実際の最初の一歩：

ollama pull qwen3.5:9b
ollama run qwen3.5:9b

チャット中は /bye で終了します。初回は ollama ps を確認しましょう。 プロセッサー欄に 40%/60% CPU/GPU のような表示があれば、モデルがGPUに収まりきっていません。小さいモデルを選ぶか、コンテキストを減らしてください。

Modelfileでモデルをカスタマイズする

Modelfileは、システムプロンプト、温度、コンテキストサイズなど、モデルの振る舞いを定義するテキストファイルです。チャットのたびに指示を繰り返さなくても、特定の作業専用のアシスタントを持てます。

FROM qwen3.5:9b

# 温度：0 = より決定的な回答、1 = より創造的
PARAMETER temperature 0.2

# コンテキストウィンドウ（トークン数）
PARAMETER num_ctx 8192

SYSTEM """
あなたはセキュリティを重視するシニアソフトウェアアーキテクトです。
前置きなしに、技術的に正確な回答をMarkdownで簡潔に返します。
"""

Modelfile として保存し、パッケージ化します。

ollama create my-architect -f ./Modelfile
ollama run my-architect

コンテキストについて： Ollamaは既定でコンテキストウィンドウをVRAMに合わせて決め、24 GB未満では4,096トークンから始まります。長い文書の要約やコーディングエージェントには足りません。Modelfileの num_ctx、サーバー全体なら OLLAMA_CONTEXT_LENGTH 環境変数、またはアプリの設定から増やせます。コンテキストを増やすとメモリも増えるので、変更後にもう一度 ollama ps を確認してください。

OllamaのローカルAPI（ポート11434）の使い方

Ollamaは http://localhost:11434 でHTTPサーバーを公開しており、2種類のAPIがあります。

• ネイティブAPI： /api/generate と /api/chat。
• OpenAI互換API： /v1。OpenAIと連携済みのSDKやツールで、そのままOllamaを使えます。

テスト呼び出し：

curl http://localhost:11434/api/generate -d '{
  "model": "qwen3.5:9b",
  "prompt": "AIをローカルで動かすとコストが下がる理由を3点で要約して",
  "stream": false
}'

OpenAI互換APIなら、コードで変えるのはベースURLだけです。

from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
response = client.chat.completions.create(
    model="qwen3.5:9b",
    messages=[{"role": "user", "content": "このメールを分類して：..."}],
)
print(response.choices[0].message.content)

api_key はSDKの都合で必須ですが、Ollama側では無視されます。

エディタやコーディングエージェントにつなぐ

OpenCodeなどのツールはカスタムプロバイダーを設定できます。ベースURLを http://localhost:11434/v1 にしてモデルを選べば、コードを手元から出さずに補完やコーディング支援が使えます。設定手順はOpenCodeのインストールと設定で説明しています。エージェントには、コード向けのモデルを使い、コンテキストを32K以上に上げてください。

Open WebUI、Docker、ネットワーク上の他のPCにつなぐ

既定では、Ollamaは 127.0.0.1 でしか待ち受けません。DockerコンテナやネットワークのOpen WebUIなどからつなぐ場合は、サービスに次の環境変数を設定します。

• OLLAMA_HOST=0.0.0.0：localhost 以外からの接続を受け付ける。
• OLLAMA_ORIGINS：Webアプリがブラウザから直接APIを呼ぶ場合に、許可するオリジンを指定する。

セキュリティに注意： OllamaのAPIには認証がありません。0.0.0.0 にすると、同じネットワークの誰でもあなたのモデルを使えます。信頼できるネットワーク内か認証付きプロキシの背後でのみ行い、ポート11434をインターネットに開けないでください。OLLAMA_ORIGINS="*" はテスト以外では避けましょう。

Ollama vs LM Studio vs Jan：どれを選ぶか

3つともモデルをローカルで動かせます。違いは、何のために作られているかです。

基準	Ollama	LM Studio	Jan
目的	他のツールにAIを組み込むためのサービスとAPI	モデルを探し、試し、比較するためのGUIアプリ	オープンソースのチャットアプリ、ChatGPTのローカル版
インターフェース	ターミナルとAPI。MacとWindowsには簡単なチャットアプリ	視覚的な設定つきの本格的なGUI	チャット用のGUI
ローカルAPI	ポート11434で常時有効	アプリからサーバーを起動する必要がある	設定で有効にできるOpenAI互換サーバー
モデル	Ollamaのカタログ、GGUFの取り込み	Hugging FaceからGGUFを直接ダウンロード	モデルのダウンロードと他バックエンドへの接続
向いている用途	自動化、画面のないサーバー、エディタやエージェント	モデルや量子化の比較、プロンプトのテスト	プライベートなチャットがほしい非エンジニア

おすすめは、何かにAIを組み込むならOllama（エディタ、スクリプト、業務フロー）。決める前にモデルを試したいならLM Studio。ターミナルを開かない人向けのプライベートなチャットが必要ならJan。どれか1つに絞る必要はありません。

節約額を計算する

作業の一部をローカルモデルに移すのは、数字が合うときだけ意味があります。Crea Cosasの無料ツールが2つ役立ちます。

1. 利益率計算ツール： 今サブスクやトークンに払っている額をプロジェクトのコストから差し引き、利益率がどれだけ改善するかを確認します。
2. ビジネスモデルキャンバス： その変化をコスト構造のブロックに反映します。顧客が増えるたびに増えていた費用が、償却する固定費に変わります。

ハードウェア代と設定の時間も勘定に入れてください。毎月の節約で妥当な期間内にPC代を回収できないなら、クラウドのままにして、処理量が増えたときに見直しましょう。

まとめ

AIをローカルで動かすのは、もはや研究室だけの話ではありません。Ollamaと16 GBのPC、そして適切に選んだモデルがあれば、月額料金なしのプライベートなアシスタントと、手持ちのツールにつなげられるAPIが手に入ります。何でも最先端モデルの代わりになるわけではありませんが、日々の大量の作業や、社外に出すべきでないデータの多くを引き受けてくれます。小さなモデルから始めて、役に立つかを確かめ、そこから広げていきましょう。