トップコンテキストは盛ればいいわけじゃない

コラム本文

コラム:コンテキストは、盛ればいいわけじゃない

情報このコラムについて

AIはコンテキストが9割の続きです。「9割」と言った舌の根も乾かぬうちに逆のことを書きますが、これは矛盾ではありません。実際に手を動かした人だけがぶつかる、次の壁の話です。

「9割」を真に受けた人がやる失敗

前のコラムで「AIはコンテキストが9割」と書きました。渡す情報の質と量で、AIの答えは決まる、と。

すると、真面目な人ほどこう考えます。「じゃあ、全部渡せばいい」。過去の議事録も、顧客リストも、関連しそうな資料も、思いつく限りをAIに読ませる。多ければ多いほど賢くなるはずだ、と。

これが、次の落とし穴です。

情報は、多すぎると精度が落ちます。 人間と同じです。会議で背景資料を10冊積まれたら、どれが今日の論点に効くのか、かえって分からなくなる。AIもまったく同じことが起きます。

なぜ盛ると悪くなるのか

理由は2つあります。

1つは、関連性の低い情報が判断を濁らせること。今日の相談に関係ない過去案件を大量に渡すと、AIはそちらに引きずられて、的外れな一般論を返してきます。

もう1つは、重要な情報が埋もれること。本当に効く一枚の判断基準が、100枚の資料の中に紛れると、AIはそれを見つけられません。宝の地図を、電話帳の間に挟んで渡すようなものです。

AIが使える情報の枠(コンテキストウィンドウ)には限りがあります。その枠を「とりあえず全部」で埋めてしまうと、肝心なものを入れる場所がなくなる。枠は有限だという前提が、ここでは効いてきます。

本質は「選び抜く」ほうにある

だから、コンテキスト設計の本当の勝負どころは、「何を入れるか」ではなく「何を入れないか」です。

限られた枠に、今この判断に効く情報だけを、質を担保して入れる。この選別こそが設計力です。情報を集める作業は誰でもできます。集めた中から捨てる判断は、その仕事を分かっている人にしかできません。

私の実感で言えば、うまくいくときほど、AIに渡している情報は少なくて鋭い。逆に「たくさん渡したのに精度が出ない」ときは、たいてい盛りすぎです。プロンプトをいじる前に、渡した材料を減らしてみる。それで直ることが、驚くほど多いのです。

鈍器のように情報を叩き込むのではなく、日本刀のように、本質だけを研いで渡す。凡庸なAI使いは詰め込み、優れたAI使いは削ぎ落とす。この差は、そのまま出力の差になって現れます。


「じゃあ、どう選び、どう渡すのか」の実務は データとつなぐ へ。捨てる前提の情報整理は Obsidian(第二の脳) の考え方が土台になります。