RAGチャンクサイズ

計算式と考え方

チャンク数は「文書全体のトークン数 ÷（1チャンクのトークン数 ×（1 − オーバーラップ率））」で求めます。500トークンを15%重ねる設定では1チャンクごとに新たに進む量が425トークンとなり、500万トークンの文書は約11,765件に分かれます。1回の問い合わせで渡すのは「5件 × 500トークン ＋ 指示文800トークン」の3,300トークンで、入力上限128,000トークンに対して約2.58%です。ベクトルの保存容量は1,536次元を4バイト換算して約68.9MB、埋め込みの費用は約588万トークン分で約18円にとどまります。一方で月30,000回の問い合わせでは入力が9,900万トークンに達し、生成側の費用は約44,550円になります。

チャンクサイズの選び方

RAGチャンクサイズの詳しい解説

検索拡張生成では、文書をあらかじめ細かく分割してベクトル化し、質問に近いものを取り出してモデルに渡します。この分割の粒度が、回答の質と費用の両方を左右します。小さく切れば検索の的中率は上がりますが、取り出した断片だけでは答えに足りず、逆に大きく切れば文脈は保たれるものの、質問と無関係な記述が混ざって検索の精度が落ちます。この相反する性質のどこで折り合いをつけるかが設計の中心になります。文字数ではなくトークン数で考える必要があります。日本語は1文字あたり0.7から1トークン程度を占め、英語より多くのトークンを消費します。同じ500トークンでも、日本語なら500から700文字程度、英語なら2,000文字近くに相当し、扱える情報量が大きく異なります。多言語の文書を混在させる場合、文字数で統一すると言語によって粒度がばらつくため、トークン数を基準にするのが実務的です。区切る位置も精度に効きます。決まった長さで機械的に切ると、文の途中や表の中で分断が起きます。段落や見出しといった構造の境界を優先し、その中で目標の長さに近づける方法を取れば、意味のまとまりが保たれます。前後を一定量重ねるオーバーラップは、境界にまたがる記述が失われるのを防ぐための措置で、10から20%が目安とされます。重ねる量を増やせば取りこぼしは減りますが、同じ内容が複数のチャンクに現れ、保存量と検索結果の重複が増えます。見落とされやすいのが費用の内訳です。埋め込みの処理は単価が低く、数百万トークンの文書でも数十円程度で済みます。一方、問い合わせのたびに複数のチャンクを入力として渡すため、生成側の入力トークンが累積し、こちらが費用の大半を占めます。渡す件数を5件から10件に増やせば費用はほぼ倍になり、しかも件数を増やすほど無関係な記述の割合が上がって、回答の質が下がることもあります。件数と精度の関係は文書の性質によって変わるため、実際の質問例を使って測るしかありません。設定を変えると、全文書の再処理が必要になる点も計画に織り込むべきです。チャンクサイズやオーバーラップを変えれば、既存のベクトルは使えません。文書量が大きい場合、処理時間と一時的な保存量が問題になります。本番の運用に入る前に、代表的な質問を数十件用意して複数の設定を比べ、最も成績の良い設定を選んでおくと、後の作り直しを避けられます。

業界・現場での使い方

よくある間違い・注意点

• 文字数を基準に分割する — 言語によってトークン数が変わり粒度がばらつきます。トークン数を基準にしてください。
• 埋め込みの費用だけを見る — 費用の大半は問い合わせごとの入力トークンです。件数と回数から月額で見積もってください。
• 渡す件数を増やして精度を上げようとする — 無関係な記述の割合が上がり、費用も増えます。質問例で効果を測ってから決めてください。

関連する規格・法規

• ML業界標準
• 各種論文

※本ツールは公的基準に基づく参考計算です。実際の設計・施工・法令適用は最新の告示・規格および所轄官庁の判断に従ってください。

よくある質問（FAQ）

関連計算ツール