AIセキュリティの基本
情報この章の要点
AIを本格的に使い込む前に、安全に使うための最初のルールを持っておきましょう。ここでは会社の制度としてではなく、個人が今日から実践できる形でお伝えします。
AIが起こし得る主なセキュリティリスク
AIを業務で使い込むにあたって、まず知っておくべき代表的なセキュリティリスクは以下の通りです。
- 意図しない「学習」
- 入力した社外秘データや個人情報がAIの学習に使われ、将来ほかのユーザーへの回答にまぎれ込む可能性があるリスク。
- アカウントやキーの「漏洩」
- パスワードの漏洩やAPIキーの公開によって、第三者にアカウント履歴を盗み見られたり、高額請求が発生したりするリスク。
- 誤情報の出力「ハルシネーション」
- AIがもっともらしい嘘（誤情報）を出力すること。検証せずに見積書や提案書に使用してしまうことで、信用失墜につながるリスク。
メモ✏️ 用語メモ：「学習される」と「流出する」は別のこと
この2つはよく混同されますが、意味が違います。先に整理しておきましょう。
学習されるとは、入力した内容が、AIそのものを賢くするための"教材"として使われることです。教材として吸収されても、あなたの入力そのものが即座に他人へ表示されるわけではありません。ただし、AIが学んだ内容の一部が、将来ほかの人への回答にまぎれ込む可能性はゼロとは言い切れません。だから、機密情報は最初から教材にさせない（＝学習オフ設定にする）のが安全です。
流出するとは、入力した内容そのものが、第三者に直接見られてしまうことです。アカウントの乗っ取りやAPIキーの漏洩、設定ミスなどで起こります。こちらは、具体的な中身がそのまま漏れる、より直接的なリスクです。
ざっくり言えば、学習は「じわじわ・確率的に」、流出は「そのまま・直接的に」。対策も、学習には学習オフ設定、流出にはパスワード・キーの管理、と分けて考えると整理しやすくなります。
① 入口（パスワード・個人情報・機密情報）
入力してはいけないものは、シンプルに整理できます。
- パスワードやログイン情報
- アカウントの不正アクセスや乗っ取りを防ぐため、パスワードや秘密情報をAIとのやり取りに直接貼り付けてはいけません。
- 外部キー（APIキー）
- アプリ開発などで使用するAPIキーを、AIとの会話にそのまま貼ったり、公開された場所に放置すると不正利用（高額請求）につながる危険があります。
- 顧客の個人情報・契約内容
- 顧客の実名、カルテ、契約書の原文など、個人が特定できる情報は入力してはいけません。
- 社外秘の情報
- 財務数値や人事情報、未公開の経営計画など、社外に出てはいけない情報も入力禁止です。
もう1つ、意外と見落とされがちなのが「入力した内容は残る」という感覚です。多くのAIチャットは会話ログを保存しています。「入力したら最後、簡単には消せない」と思っておくくらいの警戒感がちょうどよいです。そのため、業務で使う際は「AIに学習させない設定」にすることが必須となります。
実務での工夫
とはいえ、仕事で使うたびに毎回仮名化していては実務が回りません。それは正しい感覚です。本質的な解決は、仮名化の手間自体が要らない「学習させない環境」を選ぶこと（後述）。ここで紹介する2つは、個人向けチャットをその場で使う場面での、最低限のリスク低減策だと考えてください。
- 仮名化・匿名化：固有名詞をアルファベット（A社など）に置き換えたり、日付や金額の桁をぼかして入力します。頻繁に使う業務にはあまり向かないので、都度の相談・下書き程度にとどめるのが現実的です。
- 学習オフ設定（必須）：多くのAIサービスには「入力したデータをAIの学習に使わせない」設定（オプトアウト）が用意されています。使い始める前に設定画面から必ずこの設定を有効化してください。
実務チェックリスト：入力していい情報／ダメな情報
| 入力内容 | 可否 |
|---|---|
| 一般的な質問・業界動向の調べ物 | ◯ |
| 匿名化した事例（名前・日付・金額をぼかしたもの） | △（匿名化を徹底すれば可） |
| 顧客の実名・カルテ・契約書の原文 | ✕ |
| 社外秘の財務数値・未公開の経営計画 | ✕ |
そもそも「学習されにくい入口」を選ぶ
同じAIでも、どの入口から使うかによって、入力データが学習に使われるリスクは根本から変わります。入口そのものを選べば、仮名化・匿名化という毎回の手間自体が要らなくなります。業務でAIを使い込むほど、こちらが本筋です。大きく3段階あるので、機密度に応じて選び分けてください。
1. 個人向けチャット（無料のWeb版やアプリ）
ChatGPTやClaude、Geminiを、ふだんブラウザやアプリからそのまま使う形です。手軽な反面、入力した内容がサービス改善（学習）に使われることがあります。しかも近年は、初期設定のままだと学習に使われ、あとから自分でオフにする方式が主流になってきました。だからこそ、前述の学習オフ設定（オプトアウト）を最初に必ず行うことが重要になります。設定の有無や名称はサービス・時期によって変わるため、使う前に必ず最新の設定画面を確認してください。
2. API経由・法人向けプラン（APIキーを使う使い方）
アプリ開発や自動化で使う「APIキー」経由のアクセスや、法人向けプラン（Team・Enterpriseなど）では、多くの主要サービスで、入力データはデフォルトで学習に使われません（利用規約上、商用利用として扱われるため）。コマンドで動かす開発者向けツール（CLI。アプリ（バイブコーディング）やAIエージェントの段階で使うClaude Codeなど）も、APIキーやこれらのプラン経由で動くため、同じ扱いになります。本格的に作り込む段階で主に使うのは、この入口です。
3. ローカルLLM（自分のパソコンの中だけで動かす）
インターネット上のサービスを介さず、AIを自分のPCや自社サーバーの中だけで動かす方法です。入力データが外部に一切送信されないため、そもそも学習される心配がありません。機密性がもっとも高い選択肢です。
その代わり、動かすにはある程度の性能のPCが必要で、回答の質は最新のクラウドAIには一歩譲ります。「絶対に外に出せないデータを扱いたい」という場面での選択肢として、頭の片隅に置いておくと安心です。
ヒント💡 使い分けの目安
日常の調べ物や下書きは①（学習オフ設定を徹底）、仕組みとして作り込むなら②、外に出せない機密データを扱うなら③、と入口を選び分けるのが現実的です。「機密度が上がるほど、外にデータが出ない入口へ寄せる」と覚えておくと迷いません。
② 権限（利用許可・商用利用・著作権）
どのAIツールをどのように使ってよいか、また生成物の権利関係をどう扱うかというルールです。
ツール利用の3分類
まず、使うツールを3段階に分けて考えてみてください。
- 使用可：一般的なチャットAI（ChatGPT・Claudeなど）で、機密情報を含まない相談・下書き・調査
- 要確認：画像生成AIなど（著作権・商用利用に注意が必要）、業務データを読み込ませるツール
- 禁止：個人情報の入力を伴う使い方全般
実際に日々の相談や下書き作業をしてみると、そのほとんどは「使用可」に収まります。判断に迷うのは「要確認」に該当するかどうかの一部だけです。難しく考えすぎず、まずは大半が"使用可"だという前提に立ってみてください。
権利と商用利用の注意
「要確認」に分類したものは、使う前に一度立ち止まる習慣をつけてください。
- 画像・デザイン生成：生成した画像を商用利用してよいか、元になった作品の著作権を侵害していないかを確認します。
- データ読込ツール：業務データを読み込ませる場合、そのデータがどこに保存され、誰が見られる状態になるのかを確認します。 判断に迷ったら、使わない方に倒すのが安全です。
また、自分ひとりの相談・下書きに使う場合と、顧客対応に直接関わる場面で使う場合とでは、慎重さのレベルを分けて考えるとちょうどよいです。前者は多少大胆に試してよく、後者ほど後述する「出口」での品質チェックを厳密にする、というメリハリをつけてください。
他サイトから情報を集めるとき（スクレイピング）
AIに「このサイトの情報を集めて」と頼む使い方（スクレイピング。Webサイトから自動で情報を収集すること）も、権限の問題に直結します。技術的にできることと、やってよいことは別だからです。
- サイトの利用規約を確認する：多くのサイトは、利用規約で自動的な情報収集（スクレイピング）を禁止しています。禁止されているサイトから機械的にデータを集めると、規約違反になります。
- robots.txt という目印がある：サイトには「自動収集してよい範囲・だめな範囲」を示す robots.txt というファイル（機械向けの取り決め）が置かれていることがあります。これも判断材料の1つになります。
- 集めた情報の使い道にも注意：収集した文章・画像・データには、元サイトの著作権が及ぶ場合があります。そのまま転載・再配布するのは避けてください。
特に、AIエージェントに調査を任せて自動でWebを巡回させる使い方（AIエージェント）では、気づかないうちに規約で禁止されているサイトまで収集してしまうことがあります。「相手のサイトのルールを守る」という視点を持っておいてください。
③ 出口（ハルシネーション・品質チェック）
AIの出力には、必ず誤り（ハルシネーション）が混ざる可能性があることを前提に動きます。AIが出した文章・数字・提案は、必ず人が確認してから使ってください。
なぜAIは自信満々に間違えるのか（ハルシネーションの仕組み）
AIは、質問に対して"それらしい文章"を作ることが得意です。ですが、それは必ずしも"正しい事実を知っている"こととイコールではありません。
メモ✏️ 用語メモ：ハルシネーション
AIが、事実ではないことを、まるで事実であるかのように自信満々に答えてしまう現象のことです。AIは嘘をつこうとしているわけではありません。「次にどんな言葉が続くと自然か」を予測して文章を組み立てているだけなので、話しながら事実確認をしているわけではないのです。
AIは「なんでも知っている物知り」ではなく、「話の流れとして自然な言葉を、驚くほど上手に埋めてくる人」です。固有名詞・日付・数字のような、"それらしく作れてしまう"情報ほど、間違いが混ざりやすくなります。
発信する前に、検品する
出口対策の本体は、ハルシネーションを知っておくことではなく、発信する前に検品する習慣そのものです。AIが作った文章をそのまま送る・貼る・公開するのではなく、必ず人の目を一段はさんでください。
- 事実確認が要る記述は、一次ソースで裏を取る：件数・金額・日付・固有名詞・制度名など、事実として扱われる数字や名前は、AIの回答をそのまま信じず、公式ページや元データで確認します。特に「現在○件」「最新の実績は」のような数字は、参照した時点が古いほど注意が必要です
- 出力の性質で、確認の重さを変える：社内向けの下書き・ブレストは軽い目視確認で十分ですが、顧客に直接届く提案書・見積書・契約書・公開記事は、必ず人が数字と事実を検算してから送ってください。すべてを同じ重さでチェックしようとすると、確認が形だけになって逆に事故を見逃します
- 不適切な内容も合わせて見る：事実の誤りだけでなく、差別的表現・プライバシー侵害・著作権侵害が混ざっていないかも、発信前の確認に含めてください
- 誰が・いつ確認するかを決めておく：「気になったら見る」ではなく、出力の性質ごとに確認する人とタイミングをあらかじめ決めておくと、確認漏れが起きにくくなります
AIを使う前の確認リスト（まとめ）
ここまでの「入口・権限・出口」に、いくつかの視点を足して、AIを業務で使う前に一度目を通したい確認リストにまとめました。
| 観点 | 確認すること |
|---|---|
| サービスの選定 | 使うサービスと契約形態を決める。無料・個人契約は入力が学習に使われやすいので、機密を扱うなら有料・法人契約（Team／Enterprise等）を選ぶ。あわせて、社員が会社に無断で別のAIを使う「シャドーAI」を防ぐため、使ってよいサービスを会社として決めておく |
| 入力情報の管理 | 機密情報・個人情報・顧客資料を入れるときは、匿名化するか、本人の同意を得るか、そもそも入れないかを検討する |
| アカウント・キーの管理 | ログインパスワードは使い回さず、可能なら2段階認証を設定する。APIキーは公開・共有しない（漏れると不正利用・高額請求につながる） |
| 出力内容の検証 | 事実と違う内容（ハルシネーション）が混ざる前提で、一次資料や信頼できる情報で裏を取る |
| 不適切な内容の確認 | 差別的表現・プライバシー侵害・名誉毀損・著作権侵害が含まれていないか確認する |
| AIに任せる操作の範囲 | メール送信・データ削除・外部への公開・決済など「取り消せない操作」は、AIに自動実行させず、必ず人が最終確認する。どこまで自動で任せるかを先に決めておく（詳しくはAIエージェント総論） |
| 相手への説明 | 秘匿性の高い情報を扱うときは、必要に応じて顧客・取引先に説明し、同意や契約書への記載を検討する |
| 著作権への配慮 | 入力・生成・公開の各段階で、他者の著作物を侵害していないか確認する |
| 情報漏えい対策 | 外部送信や意図しない流出のリスクを踏まえ、社内のルールに沿って守る |
| 社内ルールの整備 | 入れてはいけない情報・確認手順・困ったときの相談先を、社内で決めて共有する（→本章末尾の雛形が土台になります） |
| 継続的な見直し | 技術やサービスのルールは頻繁に変わるため、定期的に設定・ルールを見直す |
AI利用ルールの確立と実践
個人事業主・フリーランスであっても、最初にルールを持つのは自分自身です。書き出す内容は、難しく考えなくて大丈夫です。「顧客名は入力しない」「見積書はAIに作らせたあと必ず自分で数字を検算する」といった、具体的な一文で十分です。3つほど書き出せば、それがもう最初のルールになります。
従業員やスタッフがいる場合は、この自分ルールをそのままメンバーに共有してみてください。難しい規程を作る必要はありません。「入口」「権限」「出口」の3点を箇条書きにして渡すだけでも、十分な最初の一歩になります。
例実例：ある会計事務所が実際に決めている3原則
顧客の機密情報を預かる会計事務所で、AIをかなり深く実務に使い込んでいる例があります。事故なく回すために譲らないルールは、次の3つだけに絞られています。
- 税務判断はAIにさせない：AIの仕事はあくまで下書きと作業まで。最終的な判断や申告内容の確定は、必ず人間（税理士本人）が行う
- 顧客情報を流出させない：入力データを学習に使わない設定を必ず使う。パスワードなど重要な情報は、AIとのやりとりに直接貼らない
- 最終確認は必ず人間：AIには提案・下書きまでを任せ、登録・公開・送信という最後の一押しは必ず自分の手で行う
会社におけるセキュリティ対策
ここまでは、個人が実践できる範囲の話でした。会社で複数人がAIに触れるようになったら、権限設計・入力の管理・出力のチェック体制を、もっと本格的な仕組みとして整える段階に入ります。
そのときは組織活用（特に権限を最小に絞る・外から来る入力を疑う・外に出す口を塞ぐ・運用ルールを回す）を読んでみてください。今日お伝えした「入口」「権限」「出口」は、その組織版の最小限の縮図にあたります。
参考：公的機関のガイドライン・すぐ使える雛形
東京都「AI導入・活用ガイドライン／生成AI利用の手引き」
自治体（東京都）が、職員向けに生成AIを安全かつ効果的に使うための考え方をまとめたものです。組織として利用ルールを整えるときの視点（組織活用）を先取りして知りたい方に向いています。
出典：東京都デジタルサービス局「AI導入・活用ガイドライン」「生成AI利用の手引き」（ページを開く）
生成AI利用ガイドラインの雛形（そのまま使えるサンプル）
自社の「生成AI利用ガイドライン」をゼロから書く必要はありません。生成AIリテラシー認定機構が、組織向けのガイドライン雛形（Word形式）を無料で配布しています。目的・禁止事項・入力/出力データの扱い・安全利用チェックリストまで一式そろっているので、自社の状況に合わせて修正・追記すればそのまま使えます。この章で押さえた「入口・権限・出口」を、組織のルールに落とし込むときの土台になります。
出典：生成AIリテラシー認定機構「社内用生成AIガイドライン 参考サンプル」（ダウンロードページを開く）