DockerでChatGPT代替を構築｜ローカルAI環境入門

ChatGPTの月額費用が気になる、データを外部に送りたくない——そんな課題をDockerだけで解決できます。

5つのオープンソースツールをコンテナで組み合わせると、完全にローカルで動くAI環境が手に入ります。この記事では実際に構築した事例をもとに、各ツールの役割と全体構成を解説します。

この記事でわかること

なぜローカルAIが注目されているのか

クラウドAIには2つの課題があります。毎月かかるAPI費用と、入力データが外部サーバーに送られるプライバシーリスクです。

自社コードや個人情報を含むプロンプトを送り続けることに不安がある場合、ローカル実行は現実的な選択肢です。モデルの性能向上とGPU価格の低下が後押しし、2026年現在では一般的な開発機でも十分な推論速度が出ます。

実際の構築事例で使われたスペックは以下のとおりです。

GPUなしのCPUのみでも動きますが、推論速度は大幅に落ちます。14Bクラスのモデルを快適に使うにはGPUが実質必要です。

ローカルLLMを実行するための基盤です。DeepSeek（14B）、Qwen2.5-coder（7B）、Llama3.1（8B）などのモデルをコマンド1つでダウンロードして実行できます。

残り4つのコンテナはすべてOllamaが提供するAPIを通じてモデルにアクセスします。

OllamaのモデルをChatGPTそっくりのWebインターフェースで操作できるツールです。モデルの切り替えや会話履歴の管理もブラウザから行えます。

ローカルで動くにもかかわらず、操作感はほぼChatGPTと同等です。

Zapierのオープンソース代替です。Webhookや外部APIとの連携を、コードを書かずにGUIで構築できます。

AI処理を自動化パイプラインの一部として組み込む用途に向いています。たとえば「毎朝メールの要約をローカルLLMで生成してSlackに送る」といったフローを組めます。

タスクを複数ステップに分解して自律実行するエージェントです。「このリポジトリを分析してバグを探せ」といった複合的な指示を処理できます。

LLMの出力をそのまま返すのではなく、実際にコードを実行したりファイルを操作したりする能力を持ちます。

LLMはトレーニングデータ以降の情報を持ちません。SearXNGをLLMに接続することで、リアルタイムの検索結果を取り込めます。

検索クエリがGoogleやBingに送られず、プライバシーを保ちながらWeb情報を活用できる点が特徴です。

5つのコンテナは疎結合で設計されており、不要なものは省いて運用できます。最初はOllama + Open WebUIの2コンテナだけ起動し、慣れてきたらn8nを追加するという段階的な進め方が現実的です。

AgenticSeekはまだ発展途上のツールで、すべてのタスクを安定実行できるとは限りません。単純な質問応答にはOpen WebUIで十分です。

主要なコストはGPU代とストレージ代のみです。ソフトウェアはすべてオープンソースで、月額費用はゼロです。

制限として、最新のGPT-4oやClaude Sonnet 4.6と比べるとモデルの性能差はあります。日常的なコーディング補助や社内文書の処理には十分ですが、高度な推論タスクでは差が出ます。プライバシーとコストを優先するかどうかで選択が決まります。

Dockerを使えば、ChatGPTを使わない完全ローカルのAI環境を構築できます。Ollama・Open WebUI・n8n・AgenticSeek・SearXNGの5コンテナ構成で、プライバシーを守りながらAI活用の幅を広げられます。

まずはOllama + Open WebUIの2コンテナから始め、用途に応じて他のコンポーネントを追加するアプローチが無駄なく始めやすいです。