ファインチューニングとは

約10分

LLMのカスタマイズ方法を理解したい方、RAGとファインチューニングの使い分けを知りたい方

ファインチューニング（Fine-tuning）とは、大規模な事前学習済みモデルに対して、特定のタスクやドメインに合わせた追加学習を行い、モデルの振る舞いを調整する技術です。ゼロから学習するのではなく、すでに豊富な知識を持つモデルを出発点として利用するため、少ないデータと計算コストで高い性能を引き出せます。

ファインチューニングを体系的に学ぶ順番

このセクションでは、ファインチューニングを「モデルを追加学習する」だけでなく、手法の選択、データ準備、知識蒸留、コスト管理まで含めて扱います。

このページ: ファインチューニングの基本概念と、RAG・プロンプトエンジニアリングとの使い分けをつかむ
ファインチューニング手法: Full Fine-tuning、LoRA、QLoRA、Adapterの仕組みと選び方を理解する
データ準備: 学習データの収集・整形・品質管理・フォーマットを実践的に学ぶ
知識蒸留: 大きなモデルの知識を小さなモデルに転移させる蒸留手法を理解する

ファインチューニングが必要になる理由

LLMは汎用的な能力を持ちますが、次のような場面では標準のモデルでは不十分なことがあります。

特定の業界用語や社内専門用語を正確に扱いたい
一貫したトーン・スタイル・フォーマットで出力させたい
特定のタスク（分類、抽出、要約）で高い精度を安定して出したい
プロンプトを長くせずにタスク固有の振る舞いを組み込みたい
APIコストや推論レイテンシを下げるために小型モデルを使いたい

ファインチューニングは、モデルの「性格」や「専門性」を変える手術に近いイメージです。

ファインチューニング・RAG・プロンプトの使い分け

3つのアプローチは目的によって使い分けます。

アプローチ	向いている用途	更新コスト	データ要件
プロンプトエンジニアリング	汎用タスク、試作、短期利用	ほぼゼロ	不要
RAG	最新情報・社内文書の参照	文書追加で低コスト	検索対象文書
ファインチューニング	振る舞い・スタイル・専門タスク	再学習コストあり	学習データ（数百〜数万件）

実際の開発では、まずプロンプトエンジニアリングで試し、次にRAGを検討し、それでも解決しない場合にファインチューニングを選ぶのが一般的です。

flowchart TD
    A["タスクの要件を整理"] --> B{"最新情報や\n社内文書が必要?"}
    B -- はい --> C["RAGを検討"]
    B -- いいえ --> D{"プロンプトだけで\n十分な精度が出るか?"}
    D -- はい --> E["プロンプトエンジニアリング"]
    D -- いいえ --> F{"振る舞い・スタイル・\n専門タスクの改善が目的?"}
    F -- はい --> G["ファインチューニングを検討"]
    F -- いいえ --> H["要件を再整理"]
    C --> I["RAG + FTの組み合わせも可能"]
    G --> I

主要手法の概要

ファインチューニングには、計算コストと性能のトレードオフが異なる複数の手法があります。

手法	概要	パラメータ更新範囲	コスト感	向いている場面
Full Fine-tuning	モデル全体のパラメータを更新する	全パラメータ	高（GPU大量消費）	十分なGPUリソースがある、大幅な特化が必要
LoRA	低ランク行列を追加して少数パラメータを学習する	追加行列のみ	低〜中	一般的なドメイン適応、コスト重視
QLoRA	LoRAを4bit量子化と組み合わせる	追加行列のみ	低（コンシューマGPU可）	手元のGPUで動かしたい、コスト最小化
Adapter	モデル層の間に小さなモジュールを挿入する	Adapterのみ	低〜中	複数タスクをモジュール式に切り替えたい
知識蒸留	大モデルの出力を教師に小モデルを学習させる	小モデル全体	中（教師モデル推論コスト）	小型・高速なモデルが必要

LoRA は低ランク行列を追加して学習対象パラメータを減らす手法、QLoRA は4bit量子化したベースモデルに LoRA を適用する手法として提案されました。[1][2] Adapter は Transformer 層に小さなモジュールを挿入してタスク適応する代表的な PEFT 手法です。[3] 各手法の実装には Hugging Face PEFT などのライブラリも使われます。[4] 詳細と実装はファインチューニング手法で解説します。

ファインチューニングのフロー

graph LR
    A["目的の定義\nタスク・評価指標"] --> B["学習データの収集\n・整形"]
    B --> C["ベースモデルの選択"]
    C --> D["手法の選択\nLoRA / QLoRA / Full"]
    D --> E["学習実行"]
    E --> F["評価・検証"]
    F -->|改善が必要| B
    F -->|十分な性能| G["デプロイ・モニタリング"]

ファインチューニングは一度やれば完成ではなく、データ品質の改善・ハイパーパラメータ調整・評価を繰り返すサイクルです。

ファインチューニングの注意点

過学習（Overfitting）

学習データに特化しすぎて、汎用的な能力が低下することがあります。評価セットを必ず別に用意し、学習データと分離して検証します。

カタストロフィック・フォーゲッティング

元のモデルが持っていた汎用能力が、ファインチューニングで失われることがあります。LoRAのような手法はこのリスクを抑えやすいとされています。

データ品質の重要性

学習データの質が低いと、どんな手法を使っても結果は改善しません。ノイズの多いデータ、矛盾するデータ、偏ったデータは特に注意が必要です。詳細はデータ準備を参照してください。

ライセンスと利用規約

ベースモデルによっては、商用利用や再配布に制限があります。ファインチューニング前にライセンスを確認してください。

まとめ

ファインチューニングは事前学習済みモデルに追加学習を行い、特定のタスク・ドメインに適応させる技術
プロンプトエンジニアリング → RAG → ファインチューニングの順で検討するのが一般的
LoRA・QLoRAは少ない計算コストでファインチューニングを実現する手法として広く使われる
データ品質が成功の鍵であり、評価セットの整備が不可欠

よくある質問

Q: ファインチューニングにはどれくらいのデータが必要ですか？

A: タスクと手法によって異なります。LoRAを使ったシンプルな分類タスクでは数百件から始められます。複雑な生成タスクや汎用的な振る舞いの変更には、数千〜数万件が必要になることがあります。重要なのはデータの量より質です。

Q: ChatGPTやClaudeをファインチューニングできますか？

A: OpenAIはモデル最適化機能として supervised fine-tuning、direct preference optimization、reinforcement fine-tuning などを提供しています。[5] Claude など他社モデルやオープンソースモデルについては、各提供元の最新ドキュメントとライセンスを確認してください。

Q: RAGとファインチューニングを組み合わせることはできますか？

A: はい。ファインチューニングでモデルの出力スタイルや専門用語の扱いを改善しつつ、RAGで最新情報や社内文書を参照させる構成は実務でも使われます。

Q: ファインチューニングなしでモデルをカスタマイズする方法はありますか？

A: システムプロンプト、few-shot examples、プロンプトテンプレートを活用するプロンプトエンジニアリングが最も手軽です。また、Anthropicのコンテキストエンジニアリングの手法も参考になります。

参考文献

ファインチューニング手法の比較

ベクトルDBの選び方