Docker AIとは？できること・Docker Model Runner・Gordon・使い方を初心者向けに解説

Docker AIとは？

Docker AIとは、Dockerが提供するAI開発・AIモデル実行・AIエージェント開発のための機能群を指す言葉として捉えると分かりやすいでしょう。

特に重要なのが次の機能です。

そのため、「Docker AI」という単一のAIサービスがあるというより、DockerをAI開発に活用するためのエコシステムと考えると理解しやすいでしょう。

Docker AIで何ができる？

1．AIモデルをローカルで実行できる

Docker Model Runnerを使うと、LLMなどのAIモデルを自分のコンピューター上で実行できます。

Docker HubやHugging Faceからモデルを取得し、Docker CLIから実行できます。

docker model pull ai/smollm2

モデルを取得した後は、以下のようにして実行できます。

docker model run ai/smollm2

2．Docker作業をAIに手伝ってもらえる

DockerにはGordonというDocker向けAIアシスタントがあります。

Gordonは、Dockerfileの作成、コンテナのデバッグ、イメージの管理など、Dockerに関する作業をAIで支援する機能です。

Docker初心者の場合、次のような場面でAIによる支援を受けられます。

• Dockerfileの書き方が分からない
• コンテナが起動しない
• イメージの設定を確認したい
• Dockerコマンドについて質問したい

Docker Model Runnerとは？

Docker AIを理解するうえで特に重要なのが、Docker Model Runnerです。

Docker Model Runnerは、Dockerを使ってAIモデルをローカル環境で実行・管理するための機能です。

Docker HubやOCI準拠のレジストリ、Hugging Faceなどからモデルを取得し、OpenAI互換APIやOllama互換APIなどを利用してモデルと連携できます。

つまり、次のような構成でAIアプリケーションを開発できます。

AIモデル
   ↓
Docker Model Runner
   ↓
Python / JavaScriptアプリ
   ↓
Webアプリ

Docker Model Runnerのメリット

ローカルでAIを動かせる

最大の特徴は、AIモデルを自分の環境で動かせることです。

クラウド型AIサービスでは、入力したデータが外部サービスへ送信されるケースがあります。

一方、Docker Model Runnerではローカルモデルを利用できるため、データを自分の環境内で扱いたい場合の選択肢になります。

また、ローカル環境で推論することで、利用方法によってはAPI利用料やトークンコストを抑えられる可能性があります。

Dockerの知識をそのまま活用できる

Dockerを利用している開発者にとっては、新しいAI実行環境を一から構築する必要がない点もメリットです。

Docker CLIから、以下のようなコマンドを使ってモデルを管理できます。

docker model pull
docker model run
docker model ls
docker model inspect

Docker Model Runnerで利用できる推論エンジン

Docker Model Runnerでは、環境や用途に応じて複数の推論エンジンを利用できます。

特にローカル環境でLLMを試したい場合には、llama.cppとGGUFモデルの組み合わせが利用しやすいでしょう。

Docker AIと生成AIの関係

Docker AIは、単に「Docker上でChatGPTのようなAIを動かす」というだけではありません。

AIアプリケーションの開発環境そのものをDockerで統一できることが重要です。

例えば、次のような構成を作れます。

AIモデル
   ↓
Docker Model Runner
   ↓
Python / JavaScriptアプリ
   ↓
Webアプリ

さらにMCPやAIエージェントなどを組み合わせれば、次のようなAIシステムも構築できます。

ユーザー
   ↓
AIエージェント
   ↓
LLM
   ↓
MCP
   ↓
外部サービス・データ

DockerはAIエージェントの開発からローカル実行、デプロイまでをDocker Composeなどで扱う方向にも機能を拡張しています。

Docker AIとDocker Model Runnerの違い

「Docker AI」と「Docker Model Runner」は同じものではありません。

簡単に整理すると、次のような関係です。

例えば「ローカルでLLMを動かしたい」という場合はDocker Model Runner、「DockerfileをAIに作ってもらいたい」という場合はGordonが適しています。

Docker Model Runnerを使う方法

Docker Desktopを利用している場合は、Docker Desktopの設定からAI関連の設定を確認し、Docker Model Runnerを有効化します。

その後、CLIからモデルを取得します。

docker model pull ai/smollm2

モデル一覧は以下のコマンドで確認できます。

docker model ls

そして、以下のコマンドでモデルを実行できます。

docker model run ai/smollm2

PythonからDocker AIを利用できる？

できます。

Docker Model RunnerはOpenAI互換APIを提供しているため、OpenAI SDKなど、互換APIに対応したツールやフレームワークから利用できます。

例えばPythonでは、OpenAI互換のクライアントを使ってローカルモデルへリクエストを送る構成を作れます。

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:12434/engines/v1",
    api_key="unused"
)

response = client.chat.completions.create(
    model="ai/smollm2",
    messages=[
        {
            "role": "user",
            "content": "Docker AIについて説明してください"
        }
    ]
)

print(response.choices[0].message.content)

このように、Docker Model RunnerをAIモデルの実行環境として利用し、PythonからAPI経由でAIを呼び出すことができます。

Docker AIを使うメリット

1．AI開発環境を統一できる

Dockerを利用すれば、AIモデルやアプリケーションの実行環境をコンテナ中心に管理できます。

2．ローカルAIを試しやすい

Docker Model Runnerを利用することで、ローカル環境でAIモデルを試すことができます。

3．AIモデルとアプリを連携しやすい

OpenAI互換APIなどを利用できるため、既存のAIアプリケーションから接続しやすいのが特徴です。

4．AIエージェント開発にも利用できる

Docker Agentなどを利用することで、AIエージェントを構築する環境にもDockerを活用できます。

5．開発から本番環境への移行を考えやすい

Dockerはもともとアプリケーションのポータビリティを重視した技術です。

そのため、AIアプリケーションについても、

開発 → テスト → CI/CD → 本番

という流れを統一しやすくなります。

Docker AIの注意点

PCのスペックが重要

ローカルでAIモデルを実行する場合、モデルのサイズや量子化方式によって必要なメモリなどが変わります。

大規模モデルほど必要なリソースも増えるため、スペックの低いPCでは十分な速度が出ない可能性があります。

モデルのサイズに注意

AIモデルは数GB以上になることもあります。

Docker Model Runnerではモデルをローカルにキャッシュするため、ストレージ容量にも注意が必要です。

GPUがあると有利なケースがある

CPUだけでも対応できる構成がありますが、AIモデルの推論速度を重視する場合はGPUが有利です。

環境によって利用できるGPUバックエンドや性能が異なるため、自分のPCの構成を確認してからモデルを選択しましょう。

Docker AIはどんな人におすすめ？

Docker AIは、特に以下のような人におすすめです。

• Dockerを普段から利用しているエンジニア
• ローカルLLMを試してみたい人
• AIアプリを開発したい人
• Pythonで生成AIアプリを作りたい人
• AIエージェントを開発したい人
• AIモデルをローカル環境で管理したい人
• OpenAI互換APIを利用したい人
• AI開発環境をチームで統一したい人

特に「DockerもAIも勉強したい」というエンジニアにとって、Docker AIは両方をまとめて学べるテーマです。

Docker AIを学ぶなら何から始める？

STEP1：Dockerの基本を学ぶ

まず、以下の基本概念を理解します。

• Dockerイメージ
• コンテナ
• Dockerfile
• Docker Compose
• Docker Hub

STEP2：ローカルLLMを理解する

次に、以下の概念を学びます。

• LLMとは何か
• 推論とは何か
• GGUFとは何か
• 量子化とは何か
• GPUとCPUの違い

STEP3：Docker Model Runnerを試す

実際にモデルを取得して、以下のようなコマンドを試してみましょう。

docker model pull
docker model run

STEP4：PythonからAPI接続する

最後にPythonなどからDocker Model Runnerへ接続すると、AIアプリケーション開発につながります。

まとめ

Docker AIは、DockerをAI開発に活用するための機能群です。

特に重要なのがDocker Model RunnerとGordonです。

Docker Model Runnerを利用すると、AIモデルをローカルで実行し、OpenAI互換APIなどを通じて自分のアプリケーションから利用できます。

一方、GordonはDockerfileの作成やコンテナのトラブルシューティングなど、Dockerそのものの作業をAIで支援する機能です。

今後、生成AIやAIエージェントの開発が広がるにつれて、「AIを使う」だけでなく「AIを動かす環境をどう構築・管理するか」も重要になります。

その意味で、Docker AIはAIエンジニアやPythonエンジニアが身につけておきたい技術の一つといえるでしょう。