FineTuning / RAG / Promptの使い分け
社内 AI を「自社向け」にしようとしたとき、最初に立つ問いが「ファインチューニング、RAG、プロンプト、どれを使うべきか」です。OpenAI も Optimizing LLM accuracyで「プロンプト → RAG → ファインチューニング」の順で取り組む推奨を出しており、Anthropic の Prompt engineering overviewも同様の段階導入を推奨しています。
プロンプトは指示で動かす、RAG は根拠を渡す、ファインチューニングは振る舞いを学ばせる、と目的が違います。安価で速い順は「プロンプト → RAG → ファインチューニング」で、まず軽い手段から試して足りない時だけ重い手段へ進むのが現在の主流です。
01.まず結論：3つは目的が違う
3 つは並列の選択肢ではなく、解いている問題が違います。
| 手段 | 一言でいうと | 向いている課題 | 向かない課題 |
|---|---|---|---|
| プロンプト | AI に指示と文脈を渡す | 汎用タスク、出力形式、口調・役割の指定 | 社内資料が答えに必要、独自の判断ルールが必要 |
| RAG | 関連文書を検索して根拠を渡す | 社内 FAQ、規程、マニュアル、顧客個別条件 | 口調や分類ルールを揃える、長期の振る舞い変更 |
| ファインチューニング | モデルの振る舞いを学習させる | 文体・分類・抽出スキーマの固定、特定形式の量産 | 最新情報を答えさせる、頻繁に変わる業務ルール |
02.3つの手段の比較
プロンプト：指示と文脈で動かす
プロンプトは、AI に渡す入力で振る舞いを決める手段です。最も安価で、変更も即時。テンプレートやシステムプロンプト、Few-shot 例示で多くの汎用タスクは対応できます。社内文書は短いものなら直接プロンプトに貼り付けても動きます。
プロンプトとは｜指示・文脈・例示の3要素とAI回答の決まり方
プロンプトの構成要素と設計は別記事で詳しく整理しています。あわせてご覧ください。
RAG：検索した根拠を文脈に入れる
RAG（検索拡張生成）は、質問に対して関連文書を検索し、その抜粋をプロンプトに入れてから AI に答えさせる方法です。社内資料の量が多く、毎回プロンプトに全部貼ることが現実的でない場合、または資料が頻繁に更新される場合、または権限管理が必要な場合に適します。
RAG実務入門｜社内文書をAI回答の根拠にする検索拡張生成
従来型 RAG（1ショット検索）の実装設計（チャンク・メタデータ・評価）は別記事で整理しています。
Agentic RAG / Agentic Search とは｜検索を動的に組み立てる現代型RAG
2024 年以降の主流である「AI が検索を反復する RAG」の解説。複雑な調査用途ではこちらが現代形。
ファインチューニング：振る舞いを学習させる
ファインチューニングは、追加学習データを与えてモデルそのものの振る舞いを変える手段です。文体・分類ルール・抽出フォーマットなど「毎回同じパターンで答えてほしい振る舞い」を強く学習させたい時に有効です。
一方で、ファインチューニングは 3 種の中で最もデメリットが重い 手段です。導入前に次の点を確認してください。
| デメリット | 内容 | 実務影響 |
|---|---|---|
| モデル進化の恩恵を受けられない | 基盤モデルが世代更新（Claude 4.5 → 4.6 → 4.7 など）しても、ファインチューニング済みモデルはその時点のベースに固定される | 数ヶ月後に汎用モデルの方が精度で上回るケースが頻発する |
| モデル更新で再学習が必要 | 新世代に乗り換えるたびに、再度学習データ整備→チューニング→評価の一連を回す | 運用負荷とコストが継続的に発生する |
| 学習データ整備の負荷 | 数百〜数千件単位の高品質なペアデータが必要 | データ準備期間で PoC が長期化しやすい |
| 最新情報の反映に弱い | 学習データの時点で凍結。新しい事実は別途プロンプトや RAG で渡す必要 | FT だけでは社内情報・最新情勢に追随できない |
2026 年現在の主流では、汎用 LLM の能力が高くなり「振る舞いをコードに焼き込む」必要性が減ってきており、ファインチューニングは特定用途（小型モデルでの量産、独自フォーマット固定など）に絞られる傾向です。
03.手段を選ぶ判断フロー
上から順に質問していくと、どの手段を選ぶべきかが見えます。途中で「YES」になった時点でその手段を採用してかまいません。
| 順 | 質問 | YES のときの推奨 |
|---|---|---|
| 1 | 汎用タスク（要約・案出し・言い換え）で即時に動かしたいか？ | プロンプト（テンプレート化） |
| 2 | 社内文書・最新情報・顧客別条件を根拠に答えさせたいか？ | RAG |
| 3 | 文体・分類ルール・抽出フォーマットを長期で固定したいか？ | ファインチューニング |
| 4 | 振る舞いを固定したうえで、最新情報も根拠として渡したいか？ | ファインチューニング + RAG の併用 |
04.組み合わせパターン
実務では 3 手段を組み合わせるのが普通です。典型パターンを示します。
| パターン | 中身 | 向いているケース |
|---|---|---|
| プロンプトのみ | テンプレート＋Few-shot だけで動かす | PoC、汎用タスク、軽い社内利用 |
| プロンプト＋RAG | システムプロンプトで振る舞い指定、RAG で根拠補完 | 社内 FAQ、ナレッジ Q&A、契約検索 |
| プロンプト＋RAG＋構造化出力 | JSON Schema で出力固定、RAG で根拠、プロンプトで規約 | 業務システム連携、レポート量産 |
| ファインチューニング＋RAG | ファインチューニング で振る舞い固定、RAG で最新情報 | コールセンター、量産分類、専門業務 |
| ファインチューニングのみ | 形式・分類が完全に決まっている量産タスク | ラベル付け、フォーマット変換（限定用途） |
05.2026 年現在の選び方の主流
2022〜2023 年は「自社モデルにファインチューニングする」発想が強く、PoC でいきなり ファインチューニング を始めるケースが多くありました。2024 年以降、汎用 LLM が大幅に強くなり、コンテキストウィンドウも 100k〜1M トークンに広がったため、「まずプロンプトと RAG で十分どこまで行けるか」を確認するのが主流になっています。
2022〜2023 年に「自社用 LLM を作る」と言って ファインチューニング から始めたプロジェクトは、(a) 学習コストが想定以上、(b) 元データ整備の負荷、(c) 学習中にモデルが進化して陳腐化、(d) 最新情報の反映が困難、といった理由で停滞することが多くありました。2026 年現在は「プロンプト → RAG → 必要なら ファインチューニング」の順で段階導入するのが主流です。
OpenAI が Optimizing LLM accuracyで示しているフローも同様で、(1) プロンプト最適化、(2) RAG 導入、(3) ファインチューニング、の順で進めることを推奨しています。
06.よくある誤解
| 誤解 | 実際 | 現場での扱い方 |
|---|---|---|
| ファインチューニング ＝ 社内 AI 化 | 社内 AI 化はプロンプト＋RAG で十分なケースが多い | ファインチューニング は最後の手段として位置づける |
| RAG はファインチューニングの代替 | 解いている問題が違う（根拠 vs 振る舞い） | 目的別に使い分ける |
| プロンプトは安いから雑でよい | テンプレートと運用設計が再現性を決める | プロンプトもテンプレ＋レビュー対象に |
| RAG を入れればハルシネーションが消える | 減るがゼロにはならない（出典確認が別途必要） | 出典確認・人間レビューと組み合わせる |
07.よくある質問（FAQ）
社内 AI 化＝ファインチューニングですか？
違います。2026 年現在の社内 AI 化は、テンプレート化されたプロンプト＋RAG＋構造化出力で多くのケースが解決できます。ファインチューニングは、文体・分類フォーマットを固定する特定用途や、小型モデルでの量産用途に限定するのが主流です。
RAG とファインチューニングはどちらが先ですか？
RAG が先です。OpenAI の Optimizing LLM accuracy も「プロンプト → RAG → ファインチューニング」の順を推奨しています。RAG で根拠を渡すことで知識面の課題はほぼ解決し、それでも残る「振る舞いを固定したい」要件があるときだけファインチューニングを検討します。
GPT や Claude のファインチューニングは効きますか？
用途次第で効きます。文体や分類ルールを固定したいケースでは効果が出やすい一方、モデルが世代更新すると陳腐化することがあります。コストと寿命を見て、まずプロンプト＋RAG で十分か検証してからファインチューニングへ進むのが安全です。
プロンプトテンプレートだけで足りる業務はどれですか？
汎用タスク（要約、言い換え、議事録の整理、案出し）、社内 FAQ の数が少ない領域、PoC 段階の検証は、プロンプトテンプレートだけで十分なことが多いです。社内文書が大量・最新版管理・権限管理が必要になった段階で RAG を加えるのが現実的です。
ファインチューニングが向く典型用途は？
コールセンター応対の口調、チケットの分類ラベル、メール文体の固定、JSON フォーマット強制、小型モデル（コスト重視）での量産タスクなど、「振る舞いを長期間固定したい」用途です。最新情報を答えさせる用途には向きません。
08.まとめ
プロンプト・RAG・ファインチューニングは、振る舞いを学ばせる／根拠を渡す／指示で動かす、と目的が違います。安価で速い順に「プロンプト → RAG → ファインチューニング」で試すのが、2026 年現在の主流です。
2022〜2023 年に流行した「いきなり自社モデルをファインチューニング」は、汎用 LLM の進化と RAG の整備により過去の話になりつつあります。社内 AI 化のほとんどは、テンプレート化されたプロンプト＋RAG＋構造化出力で十分到達できる、と前提を置いて設計するのが現実的です。
社内AIの設計を「順番」から見直しませんか
AI 活用や AI エージェント導入のご相談、PoC、伴走支援をご検討の方は、お気軽にお問い合わせください。
AI・AIエージェント活用 基礎知識集
一覧に戻る →AIの基礎
プロンプト設計
データ連携
- ›AIとデータ連携
- ›MCP 実務入門
- ›MCPサーバーとは
- ›RAG 実務入門
- ›Agentic RAG とは
- ›FineTuning / RAG / Promptの使い分け（この記事）
