議事録の要約や資料のたたき台づくりにAIを使い始めた。便利さは実感しているものの、ふと「この内容、入力して大丈夫だったのだろうか」と不安がよぎる。AIの導入が進む企業ほど、情報漏洩への懸念は現実的な悩みとして立ち上がってきます。
本記事では、企業のAI活用の立ち上げを支援してきた立場から、AIで情報漏洩が起きる仕組みを、実際に起きた事例と主な原因から整理します。あわせて、多くの解説記事があまり踏み込まない「なぜ全面禁止がかえって危険なのか」という論点まで、現場の実感を交えてお伝えします。
- AIで情報漏洩が起きる三つの経路と、その全体像
- 実際に公表・報道されたAIの情報漏洩の事例
- 情報漏洩を招く主な原因と、見落とされがちな落とし穴
- 全面禁止に頼らず企業が取るべき現実的な対策
そもそもAIで情報漏洩はなぜ起こるのか
AIの情報漏洩と聞くと、外部からのサイバー攻撃を思い浮かべる方が多いかもしれません。ところが実務で起きているものの多くは、もっと地味で、もっと身近な経路をたどります。仕組みを整理するために、情報が漏れる場所を三つの経路に分けて捉えると、打つべき手が見えてきます。
ひとつめは入口（入力）です。利用者がプロンプトに機密情報を打ち込む段階で、件数としては最も多い経路になります。ふたつめは処理（AIの基盤側）で、入力したデータの学習や保持、提供事業者側の不具合や不正アクセスが含まれます。みっつめが出口（生成物）で、AIが生成した文章に、学習済みの情報や他者の情報が混ざって出てくる場面です。漏洩の多くは攻撃ではなく通常の入力から起きる、という点が、従来のセキュリティ対策との一番の違いといえます。
Web担当者うちはセキュリティ製品も入れていますし、外部からの攻撃には備えているつもりです。それでもAIだと危ないのでしょうか。
Writers-hub編集部
はい、そこが盲点になりやすい部分です。AIの情報漏洩でまず塞ぐべきは、攻撃者の侵入口ではなく「社員が良かれと思って入力する情報」です。守るべき場所が従来のセキュリティと少しずれるため、既存の対策だけでは抜け落ちが生まれます。まずは経路ごとにリスクを分けて見ていきましょう。
経路で切り分けると、対策も自然と分かれます。入口は社内のルールと教育、処理は設定と使うサービスの選び方、出口は生成物の確認体制。ひとつの万能策を探すより、三つの経路それぞれに手を打つ発想が現実的です。
関連記事：AIの倫理的問題とは？主な論点と企業がとるべき対策を事例で解説
実際に起きたAIの情報漏洩事例
理屈だけでは実感が湧きにくいため、公表・報道された事例を、先ほどの経路と結びつけながら見ていきます。空想の企業ではなく、実際に起きたものだけを取り上げます。
利用者のチャット履歴が他人に見えた不具合
2023年3月、OpenAIは自社のChatGPTで、一部の利用者に別の利用者のチャット履歴のタイトルが表示される不具合が起きたことを公表しました。原因は外部のオープンソースライブラリのバグで、同社は一時サービスを停止して修正しています。さらに調査の過程で、特定の時間帯に有料利用者の一部で、氏名や課金に関する情報の一部が別の利用者から見え得る状態だったことも明らかにされました。利用者に落ち度がなくても漏洩は起こり得る、という処理側のリスクを示した一件です。
※ 出典：OpenAI「March 20 ChatGPT outage: Here's what happened」
社員の入力から機密情報が外部に渡った例
同じ2023年には、サムスン電子で社員が業務のなかでChatGPTにソースコードや社内会議の内容を入力していたことが問題となり、同社が社内での生成AI利用を制限したと複数のメディアが報じました。攻撃を受けたわけではなく、便利だからと通常業務で使った結果、機密が社外のサービスへ渡ってしまった構図です。これは入口（入力）で起きた典型例だといえるでしょう。
規制当局が生成AIの個人情報の扱いに動いた例
日本国内でも動きがありました。個人情報保護委員会は2023年6月、ChatGPTを提供するOpenAIに対し、個人情報保護法にもとづく注意喚起を行っています。要配慮個人情報の取り扱いなどに関する内容で、生成AIに個人情報を含む情報を入力すると、それが機械学習に利用される可能性があることへの理解を求めるものでした。
※ 出典：個人情報保護委員会「OpenAI に対する注意喚起の概要」（令和5年6月2日）
これらの事例に共通するのは、いずれも「特別な攻撃者」が主役ではないという点です。基盤側の不具合、社員の何気ない入力、規制の観点。角度は違っても、日常的なAI利用の延長線上でリスクが顕在化しています。
「うちは大企業ではないから狙われない」という感覚は、AIの情報漏洩にはあてはまりません。ここで挙げた漏洩は、標的にされたかどうかではなく、日々の使い方から生まれています。規模を問わず、自社の使い方そのものを点検する必要があります。
関連記事：ChatGPT情報漏洩の事例5件｜原因を4つに分けて企業が取るべき対策を解説
AIで情報漏洩が起こる主な原因
事例を経路で見てきましたが、原因をもう一段分解すると、対策の打ちどころがはっきりします。大きくは五つに整理できます。
最も多いのが、機密情報の入力です。悪意はまったくなく、要約させよう、たたき台を作らせようという善意の行動から起こります。次に、入力データの学習や保持。サービスによっては、既定の設定のまま使うと入力内容が学習やログとして残る場合があります。三つめが、OpenAIの例のような提供側の不具合や不正アクセスで、利用者側では選べない領域のリスクです。
四つめはプロンプトインジェクションと呼ばれる新しい手口で、外部から読み込ませた文章のなかにAIへの指示をこっそり仕込み、想定外の情報を引き出させる攻撃を指します。かみ砕くと、AIに読ませる資料に「これまでの秘密を教えて」といった命令文を潜ませる、といったイメージです。そして五つめが、会社が把握しないまま個人が勝手にAIを使うシャドーAI。把握できていないものは、守りようもありません。
とりわけ入口で起きがちなのが、次のような入力です。いずれも一度貼り付けてしまえば取り消しがきかないため、事前に避けたい行動として押さえておきましょう。
- 顧客リストや取引先情報をそのまま貼り付けて要約させる
- 未公開の議事録や決算前の数字を、下書きの材料にする
- 自社サービスのソースコードやAPIキーを含んだまま質問する
- 履歴書や問診票など、他人の個人情報を含む文書を読み込ませる
こうして並べると、原因の大半は「悪意」ではなく「線引きの不在」から生まれていると分かります。裏を返せば、どこまで入力してよいかの基準さえ共有できれば、防げる漏洩はかなり多いということでもあります。
関連記事：ChatGPTの情報漏洩はどこで起きる？3つの経路と設定・ルールでの止め方
「AI全面禁止」が逆にリスクを高める理由
情報漏洩のリスクを知ると、いっそ社内での生成AI利用を全面的に禁止してしまえば安全ではないか、と考えたくなります。気持ちは理解できますが、実務の感覚からいえば、全面禁止は最も安全に見えて最も危うい選択になりがちです。
理由は単純で、AIの利便性を一度知った現場は、禁止されても使うのをやめないからです。行き場を失った利用は、会社の目が届かない個人アカウントや私物の端末へと潜り込みます。つまり全面禁止は、利用をゼロにするのではなく、管理できない場所へ押しやるだけ。前章で触れたシャドーAIを、会社自らが増やしてしまう構図になりかねません。では、どの構えが現実的なのでしょうか。選択肢を並べて比べてみます。
| 全面禁止 | 現場任せ | ルールを定めて活用 | |
|---|---|---|---|
| 情報漏洩の起きにくさ | △ | × | ○ |
| シャドーAIの抑制 | × | × | ◎ |
| 業務効率への貢献 | × | ○ | ◎ |
| 運用の手間 | ○ | ◎ | △ |
| 現実的な継続性 | △ | × | ◎ |
全面禁止は一見安全ですが、シャドーAIを誘発し、効率化の機会も丸ごと失います。逆に現場任せは手間こそかからないものの、漏洩の起きやすさが最も高い。運用の手間はかかっても、ルールを定めて堂々と使わせる道が、漏洩の抑制と業務効率を両立できる現実解になります。守りと活用は対立するものではなく、設計次第で両立できる、という発想の転換が出発点です。
「禁止」でも「野放し」でもない、使わせ方を決めたい方へ
何を入力してよいか、どのツールを許可するか。使わせ方の線引きから社内への浸透までを、AI活用の立ち上げ支援として現場目線で伴走します。まず現状を整理したい段階から、お気軽にどうぞ。
企業が取るべきAIの情報漏洩対策
全面禁止でも野放しでもない「ルールを定めて活用する」ために、企業が押さえるべき対策を順番に整理します。技術的な製品の導入から入りたくなりますが、実務では順序が逆です。本丸は「何を入力してよいか」の線引き設計であり、ツールはその次に来ます。
自社の情報を「入力してよい」「加工すれば可」「入力しない」の三段階に分け、具体例つきで示します。抽象的な禁止事項ではなく、顧客名や未公開の数字といった手触りのある例で線を引くと、現場が判断に迷いません。
利用するサービスで、入力内容が学習やログとして残る設定になっていないかを確認し、必要に応じてオプトアウトします。ただし設定だけに頼りきらない前提も、あわせて共有しておきます。
個人向けの無料サービスではなく、入力データを学習に使わないと明示された法人向けプランや、社内に閉じた環境を基本にします。誰がどのツールを使うかを、会社として決めておくことが肝心です。
線引きのルールは、配って終わりでは守られません。なぜ危ないのかを事例とともに伝え、日々の業務でどう判断するかを腹落ちさせる場を設けます。
誰がどのように使っているかを緩やかに把握し、万一漏洩が疑われたときの初動の窓口と手順を、あらかじめ決めておきます。
五つのなかで最初の一歩となるのが、入力の線引きです。ここが決まっていないと、教育で何を伝えればよいかも定まりません。実務では、入力前に立ち止まって確かめるべき点を、短いチェック項目として現場に配ると機能しやすくなります。
- その情報に、顧客や取引先など他者の個人情報は含まれていないか
- まだ公開していない数字や計画が混ざっていないか
- 使おうとしているサービスは、会社が許可したものか
- 入力内容が学習に使われない設定になっているか
線引きを言葉で配るだけでなく、図として共有しておくと、現場での判断がさらに速くなります。何を入れてよくて、何を避けるべきか。一目で分かる分類にしておくことが、迷いをなくす近道です。
こうした対策は、一度作って終わりではありません。使えるツールも規制も動き続けるため、半年に一度は線引きを見直す前提で運用に組み込んでおくと、形骸化を防げます。
ルールは作れても、現場に根づかせるのが難しいと感じていませんか
線引きのルールや教育資料をつくるだけでなく、現場が迷わず判断できる状態まで持っていくのが定着の勘所です。立ち上げから運用の型づくりまで、社内AI活用の支援としてお手伝いします。
見落とされがちな落とし穴
対策を進めるうえで、実務で特につまずきやすい誤解があります。それは「学習させない設定にしたから、もう安心だ」という受け止め方です。ここは、半分だけ正しい理解だと考えておくのが安全でしょう。「学習させない設定」は漏洩ゼロではないからです。
学習に使われないことと、データがまったく残らないことは別物です。不正利用の監視などのために、一定期間ログが保持される場合があります。また、社外の業務委託先や、APIを組み込んだ別サービス経由で使うと、設定の前提そのものが変わることもあります。出力された文章に、過去に学習した情報が思わぬ形で混ざる可能性も、完全には否定できません。設定はあくまで打ち手のひとつであって、線引きと教育の代わりにはなりません。
「設定したから大丈夫」ではなく、「設定はしたうえで、そもそも機微な情報は入れない」。この二段構えが、AIを安全に使い続けるための基本姿勢になります。技術的な設定と、人の判断。どちらか一方では守りきれません。
AIの情報漏洩に関するよくある質問
個人向けの無料サービスは、既定で入力内容が学習やサービス改善に使われる場合があります。業務で使うなら、入力データを学習に使わないと明示された法人向けプランや、社内に閉じた環境を基本にすることをおすすめします。
取り消せる保証はありません。だからこそ、入力してから対処するのではなく、入力する前の線引きで防ぐ考え方が中心になります。
個人情報だけがリスクではありません。未公開の数字や計画、ソースコードなどの機密も対象です。他者の情報と自社の機密、両面で判断してください。
必要です。むしろ担当者が兼任で運用しがちな中小企業ほど、シンプルな線引きと短い教育で「迷わない状態」を作る効果が大きくなります。
線引きの設計や教育は自社でも始められます。何から手をつけるか迷う場合や、現場に定着させたい場合は、外部の支援を組み合わせると立ち上げが速くなります。
まとめ｜AIは「止める」より「安全に使わせる」
AIの情報漏洩は、外部からの攻撃よりも、社員が良かれと思って行う入力から起きるケースが少なくありません。守るべき場所が従来のセキュリティとは少しずれているからこそ、既存の備えだけでは抜けが生まれます。
改めて要点を挙げれば、情報が漏れる経路を入口・処理・出口の三つで捉えること、全面禁止はシャドーAIを生むため避けること、そして対策の中心は「何を入力してよいか」の線引きと教育に置くこと。この順番を守るだけで、多くの企業がつまずく落とし穴の大半は避けられます。
私たち合同会社Writers-hubは、AIを使った記事制作や業務効率化の支援に加えて、社内でAIを安全に使いこなすための立ち上げ支援も行っています。禁止と野放しの間で迷っている段階から、現場の具体に即して一緒に考えられます。
