危険な3点セットを、1本折る
AIエージェント(自律的にタスクをこなすAIのこと)は「超優秀だが、紙に書いてあることは何でも信じて従う新人」だと考えてください。だから守りの核はシンプルです。
AIセキュリティ事故は、権限(機密が見える)・入口(外から来た文章を読む)・出口(外へ送れる)という「危険な3点セット」が同時に揃うことで発生します。最大2つまでに限定し、いずれか1本を折ることで、事故を未然に防げます。
3点セットは悪意ある入力が実害に変わる経路を塞ぐ設計です。悪意はなくてもAIが自信満々に間違える"品質"の観点は、これとは別軸として扱います。権限・入口・出口・品質の4つが、「守り」の中身です。