ChatGPTの利用枠を消費したのに、答えがざっくりしたまま終わる——そんな経験はありませんか。原因の多くは、プロンプトに必要な情報が足りないことにあります。

この記事では、ローカルAIをChatGPTの「前段」に置き、質問整理とプロンプト整形だけを手元で済ませる二段構えのワークフローを解説します。クラウドAIを置き換えるのではなく、本番の推論に渡す依頼文を磨く使い方です。

この記事でわかること

  • なぜローカルAIを先に使うとChatGPTの回答が変わるのか
  • OllamaやLM Studioを使った具体的な手順
  • そのまま使えるプロンプト整形用の指示文
  • 個人情報を除いてからクラウドに渡す応用

ざっくり聞くと、ざっくり返ってくる

大規模言語モデル（LLM）は、与えられた情報の範囲で最善の回答を組み立てます。入力が曖昧だと、モデルは不足分を推測で埋めます。結果として、旅行の相談なら「おすすめスポット一覧」、仕事の相談なら「一般的なアドバイス」が返りがちです。

Redditのr/LocalLLaMAやr/WritingWithAIでは、こうした失敗を減らすために、LM Studioなどでローカルモデルを「プロンプト整形アシスタント」として動かす例が増えています（参考）。ChatGPTそのものを置き換えるのではなく、本番の質問を送る前にローカル側で情報を揃える——この順番がポイントです。

二段構えの全体像

流れは次の3ステップです。

  1. ローカルAIにざっくりした依頼を渡す
  2. ローカルAIが不足情報を質問し、回答をもとにプロンプトを組み立てる
  3. 完成したプロンプトをChatGPTやClaude、GeminiなどのクラウドAIに送る

ローカル側は「インタビュアー」、クラウド側は「実行役」です。小さなモデルでも、何が足りないかを洗い出して質問を並べる作業は十分こなせます。本番の推論やコーディングは、引き続きクラウドの高性能モデルに任せます。

使うツールと準備

Ollama
Ollama is the easiest way to automate your work using open models, while keeping your data safe.
ollama.com

Ollamaは、macOS・Linux・Windowsで動くローカルLLM実行環境です。インストール後、APIは http://localhost:11434/api で待ち受けます（Ollama API）。ターミナルから ollama run でモデルを選べば、すぐ対話を始められます。

https://lmstudio.ai/

LM Studioは、GUIでモデルを選んでチャットできるデスクトップアプリです。チャット画面にそのまま指示を書き、プロンプト整形用の役割を与えやすいのが特徴です。ヘッドレス運用向けの llmster や、Python向けSDKも用意されています（LM Studio Developer Docs）。

ほかにGPT4Allや、Braveブラウザのサイドバー連携など、手元で小さなモデルを動かす選択肢もあります。いずれも「置き換え」ではなく「前処理」に使う想定です。

おすすめの軽量モデル

プロンプト整形には、巨大なフロンティアモデルは不要です。Ollamaで配布されているPhi-4、Llama 3、Gemma、Mistral、Qwenなどの軽量モデルで十分です。8GB前後のVRAMがあれば、多くの環境で快適に動きます。

プロンプト整形用の指示文

ローカルAIに最初に渡す指示は、次の文をそのまま使えます。

Act as a prompt engineer. I am going to give you a task for ChatGPT. Before answering, analyze it, tell me what context or information is missing, identify any assumptions I'm making, and ask me 5–6 clarifying questions that would significantly improve the final result. Do not attempt to complete the task yet. Focus only on gathering the information needed to create the best possible prompt.

この指示の要点は2つです。「まだ本題に答えない」と「不足情報を質問で埋める」。ローカルAIは答えを生成せず、インタビューに徹します。

実際の使い方

ステップ1：ざっくりした依頼を渡す

例として「来月の家族旅行を計画したい」と入力します。ここでは目的地も予算も書きません。

ステップ2：ローカルAIの質問に答える

ローカルAIは、予算、人数、移動手段、子どもの年齢、休みの日数などを順に聞き出します。旅行先の候補を出す段階には進みません。

ステップ3：回答をまとめてChatGPTへ渡す

質問への回答を1つのプロンプトにまとめ、ChatGPTに送ります。例えば次のような形です。

4人家族（子ども8歳・5歳）の5泊6日の国内旅行を計画してください。予算は合計15万円、新幹線移動、観光とのんびりした時間のバランスを重視します。

この手順で、最初のざっくりした相談より具体的な提案が返ってきます。ローカル側で質問整理を済ませるため、クラウドAIが同じ確認を繰り返す回数も減り、利用枠の消費を抑えやすくなります。

個人情報を除く前処理にも使える

ローカルAIは、プロンプト整形以外にも「プライバシーフィルター」として使えます。クラウドに送る前に、氏名・社名・顧客IDなどの機微情報をプレースホルダーに置き換えるよう指示できます。処理は端末内で完結するため、Ollamaの公式サイトでも「データは学習に使われない」「オフライン運用も可能」と説明されています（Ollama）。

ChatGPTに直接聞けばいいのでは？

「質問を先に出して」とChatGPT自身に頼む方法もあります。実際に有効です。それでもローカルを挟む理由は、役割を分けて作業を遅らせることにあります。

ローカルAIは回答生成に走りにくく、確認質問に専念しやすいです。オフラインでも質問整理ができるため、Wi-Fiのない場所で下書きを整え、接続後にクラウドへ渡す使い方もできます。ChatGPTの画面で別タスクに気を取られず、整形だけに集中できるのも利点です。

うまくいかないときの対処

ローカルAIがいきなり本題の回答を始めた場合は、「まだ質問だけ出してください」と再度指示します。質問が浅い場合は、「予算・期限・対象者・制約条件を必ず聞いて」と条件を足します。

モデルが重すぎて動作が遅い場合は、パラメータ数の少ないモデルに切り替えてください。プロンプト整形は推論の難易度が低く、小型モデルでも実用レベルです。

一つのチャットボットに頼らない時代へ

ローカルAIは、クラウドAIの性能には及びません。一方で、質問の設計や情報の洗い出しには向いています。整形を無料の手元環境に任せ、推論を有料のクラウドに任せる——この役割分担は、コーディングや調査など日常の作業にもそのまま応用できます。まずは1件、ざっくりした相談をローカルAIに渡し、出てきた質問に答えてからChatGPTへ送る。小さな手順の変更が、回答の具体性を大きく変えます。