「ChatGPTを業務に入れたいが、リスクがよく分からないので止まっている」。企業のご担当者から、いまも頻繁に伺う言葉です。検索してみれば「7つのリスク」「8つの危険性」といった記事が並び、読み進めるほど不安の項目だけが積み上がっていく。そんな状態でご相談に来られる方は少なくありません。
問題は、リスクの数を数えても対策の順番が決まらない点にあります。情報漏洩とハルシネーションと偽アプリを同じ列に並べても、打つ手はまったく違います。片方は設定を変えれば大半が消え、もう片方は設定をいくら変えても一切消えません。
本記事では、社内でのAI活用の立ち上げをお手伝いしてきた立場から、ChatGPTのリスクを入力・出力・アカウント運用の3つに分けて整理します。そのうえで、自社にとってどのリスクが重く効いてくるのかを見分ける考え方と、現実的な対策の順番までをまとめました。
- ChatGPTのリスクを入力・出力・アカウント運用の3層で捉える理由
- 設定変更で消えるリスクと、人の工程でしか消えないリスクの違い
- 業務で入力してはいけない情報と、履歴が周囲に見えてしまう条件
- 自社にとって重いリスクを見分けるための3つの問い
- 全面禁止が逆効果になる理由と、対策に着手する順番
ChatGPTのリスクは3つの層に分けると打ち手が見える
上位に並ぶ記事の多くは、リスクを一列に並べます。情報漏洩、ハルシネーション、著作権侵害、サイバー攻撃への悪用。どれも実在する論点ですが、並べ方に難があります。性質の違うリスクを同じ列に置くと、対策の優先順位が消えます。
では、どう分けるか。実務で機能するのは、リスクが生まれる場所で切る方法です。ChatGPTとのやりとりは、情報を入れる、答えが返る、それを誰かが使うという流れをたどっていきます。だとすれば、切り分ける線もその流れに沿うのが自然でしょう。入力・出力・アカウント運用の3つに分けます。
分け方の効き目は、対策を当てはめた瞬間に現れます。入力に関わるリスクは、設定変更と入力ルールでかなりの部分が抑えられます。一方、出力に関わるリスクに設定は効きません。学習させない設定をオンにしたところで、AIがもっともらしい誤りを返す性質は変わらないからです。そしてアカウント運用のリスクは、実のところ生成AI固有というより、既存の情報セキュリティ対策の延長線上にあります。
「法人向けプランを契約したので安全になった」という認識は、入力リスクについては概ね正しく、出力リスクについては誤りです。プランの契約はデータの扱いを変えますが、生成される内容の正しさまでは変えません。
ここを混同したまま導入すると、情報漏洩は防げているのに、誤った数字の入った資料が社外に出るという事故が起こります。3つの層を順に見ていきましょう。
関連記事：AIの倫理的問題とは？主な論点と企業がとるべき対策を事例で解説
入力に関わるリスク｜入れた情報がどこへ行くのか
最初の層は、ChatGPTに入力した情報そのものです。多くの方が真っ先に不安を覚える領域で、企業の利用検討が止まる最大の理由でもあります。
入力内容がモデルの改善に使われる
ChatGPTの個人向けプラン、つまり無料版とPlusでは、入力した会話がモデルの改善に利用される場合があります。設定画面のデータ管理から学習への利用をオフにできますが、既定のままなら学習に使われる前提で考えるのが安全です。
ここでよくある誤解を一つ解いておきます。「学習に使われる」ことと「他人の画面に自分の入力がそのまま表示される」ことは同じではありません。入力した文章が原文のまま第三者に出るわけではなく、モデルの傾向として取り込まれるという話です。とはいえ、機密度の高い情報を預けてよい理由にはなりません。一度送信した情報は自社の管理下を離れ、取り消しが利かなくなります。その一点だけで、十分に重い判断だとお考えください。
法人向けのChatGPT BusinessやEnterprise、そしてAPIの利用では、既定で入力内容が学習に使われない扱いになっています。業務利用を前提にするなら、個人アカウントの寄せ集めではなく法人契約から入るほうが、社内への説明コストは確実に下がるでしょう。
履歴が残り、共有アカウントや端末から見える
見落とされがちなのが、外部への漏洩ではなく身内への露出です。チャット履歴はアカウントに紐づいて残るため、同じアカウントを複数人で使い回していれば、他のメンバーの入力内容が見えます。ログインしたままの端末を離席中に覗かれる、画面共有の最中に履歴のタイトルが一覧で映り込む、といった経路も現実的でしょう。
「チャットgpt 履歴 バレる 会社」といった検索が一定数あるのは、この不安が広く共有されている証拠だと考えられます。技術的な漏洩よりも、運用上の露出のほうが件数としては起きやすい、というのが現場での実感です。
業務で入力してはいけない情報
判断に迷ったときのために、線を引いておきます。
- 顧客や取引先の氏名、連絡先、契約内容といった個人情報
- 未公開の製品情報、価格戦略、合併や買収など公表前の経営情報
- ソースコードのうち、自社の競争力に直結する部分
- 従業員の人事評価や健康状態などの要配慮情報
- 秘密保持契約を結んで他社から預かっている資料
個人情報の取り扱いについては、個人情報保護委員会が2023年6月に注意喚起を公表しています。個人情報を含むプロンプトを入力する行為は、個人情報保護法上の規律を踏まえて判断する必要がある、という趣旨の内容です。
※ 出典：個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」（2023年6月2日）
線引きの話をすると、ほぼ必ず次のご相談に発展します。
経営者社内では禁止する方向で話が進んでいます。ただ、現場からは効率が落ちると反発もあって、判断がつきません。
判断を急ぐと高い確率で失敗する論点ですから、記事の後半で改めて扱います。ここでは一点だけ先に触れておきます。
Writers-hub編集部
禁止しても使われなくなるわけではありません。個人のスマートフォンから、ログの残らない形で使われるようになるだけです。可視化を捨てる判断になっていないか、そこを確認してください。
出力に関わるリスク｜返ってきた答えをそのまま使う危うさ
2つ目の層は、ChatGPTが返してきた内容の側です。ここが、設定変更では一切カバーできない領域にあたります。
事実と異なる内容が、自然な文章で返ってくる
生成AIは、確からしい単語のつながりを選んで文章を組み立てます。事実かどうかを判定する仕組みは持っていません。存在しない書籍や判例、実在しない統計が、自信に満ちた文体で出力される現象はハルシネーションと呼ばれます。日本語では幻覚と訳されますが、実務上は「もっともらしい作り話」と捉えたほうが実態に近いでしょう。
厄介なのは、間違いの見つけにくさにあります。明らかな誤りより、もっともらしい誤りのほうが検証コストは高い。文章が破綻していれば誰でも気づきますが、正しい文脈のなかに一つだけ数字の違う統計が混ざっている場合、疑われないまま読み飛ばされます。記事制作の現場では、AIの下書きに含まれる出典を一件ずつ当たり直す工程を必ず挟みますが、この確認だけでゼロから調べるのと変わらない時間がかかることも珍しくありません。時短のつもりが検証で溶ける、という事態は普通に起こります。
生成された内容が他者の権利を侵害する
著作権の論点も、出力側のリスクに分類されます。文化審議会の小委員会がまとめた考え方では、生成物が既存の著作物と類似しており、かつその著作物に依拠して作られたと認められる場合には、著作権侵害となり得ると整理されました。AIが作ったから責任を免れる、という理屈は成り立ちません。
※ 出典：文化審議会著作権分科会法制度小委員会「AIと著作権に関する考え方について」（2024年3月15日）
実務では、既存のキャッチコピーやキャラクター名、他社サービスの説明文をそのまま写した表現が出力に混ざっていないか、公開前に確認する工程が要ります。生成した文章を広告や公開コンテンツに使う場合、責任を負うのは出した側だからです。
判断そのものを預けてしまう
もう一つ、数字に表れにくいリスクがあります。医療、法律、税務といった専門的な判断をChatGPTに委ねてしまう使い方です。返ってくる答えは一般論としては整っていても、目の前の個別事情までは反映していません。免責の文言が添えられていても、判断の結果を引き受けるのは利用者の側です。
同じことが社内の意思決定にも当てはまります。分析や要約をAIに任せること自体は合理的な判断でしょう。ただし結論の妥当性を誰も検証しない運用が続けば、判断の質は静かに下がっていきます。
AIの下書きを、公開できる品質に仕上げる工程が抜けていませんか
出力側の誤りや権利侵害は、設定では防げません。事実確認と権利チェックを制作フローに組み込むところまでが、AI活用の実務です。編集体制ごとお手伝いする形での進め方を、現状に合わせてご提案します。
アカウント運用に関わるリスク｜偽アプリ、乗っ取り、悪用
3つ目の層は、ChatGPTを取り巻く周辺で起こる問題です。生成AI固有というより、既存のセキュリティ対策で対応できる範囲が大半を占めます。
まず偽アプリと偽サイト。知名度の高いサービスには、名前をかたった偽物が必ず出回ります。アプリストアや検索結果の広告枠から誘導され、入力した認証情報を抜き取られる手口は、生成AIに限った話ではありません。公式サイトと公式アプリから入るという基本を守れば、大半は避けられるでしょう。
次にアカウントの乗っ取り。ChatGPTのアカウントには、過去の全チャット履歴が保存されたままになっています。乗っ取られれば、そこに入力した情報がまとめて閲覧できる状態に陥るでしょう。多要素認証の設定は、面倒でも最初に済ませておくべき対策です。
パスワードを他サービスと使い回している場合、別のサービスからの流出をきっかけにChatGPTのアカウントへ侵入される可能性があります。履歴に業務情報が含まれるなら、実質的に社内資料の保管場所と同じ扱いが必要です。
悪用の側面もあります。生成AIは、自然な日本語のフィッシングメールや、攻撃コードの断片を作る用途にも使えてしまいます。かつては不自然な日本語が詐欺メールの見分け方として通用しましたが、その手がかりは明らかに弱まりました。従業員向けの注意喚起も、文面の違和感に頼らない方向へ更新する必要があるでしょう。
自社にとって重いリスクを見分ける
ここまで挙げたリスクが、すべての組織に等しく効くわけではありません。「ChatGPTは危険か」という問いは、率直に申し上げて粗すぎます。同じツールでも、社内会議の議事録を要約する使い方と、顧客名の入った提案書を作る使い方では、リスクの種類も大きさも別物になるからです。
判断に使える問いは3つあります。
入力する情報に、個人情報や未公開情報が含まれるかどうか。含まれないのであれば、入力リスクの優先度は大きく下がります。
出力を社内のメモに使うのか、顧客提出物や公開コンテンツに使うのか。外に出るほど、誤情報と権利侵害のリスクが重くなります。
限られた担当者か、全社員か。使い手が広がるほど設定や教育の徹底度が落ち、運用面のリスクが上がります。
3つの答えを並べると、注力すべき層が自然に決まってきます。たとえば公開する記事の執筆に使うなら、入力リスクはほとんど問題にならない一方で、出力の検証工程が生命線になるでしょう。逆に顧客データを扱う部門が社内用途で使うなら、投資すべきは入力側の設計です。
リスク評価を「ChatGPTという道具の評価」として行うと結論が出ません。用途ごとに評価すると、そのまま許可してよい用途と、条件を付けるべき用途に分かれ、意思決定が前へ進みます。
リスクを下げるために実際に何をするか
対策は、効き目の大きい順に並べるのが鉄則です。全部を同時にやろうとすれば、たいてい途中で止まってしまうでしょう。着手順に沿って挙げます。
個人アカウントの寄せ集めをやめ、法人向けプランへ集約します。データの学習利用を既定でオフにでき、管理者が利用状況を把握できる状態が作れます。
個人向けプランを使い続けるなら、データ管理から学習への利用をオフにします。あわせて多要素認証を有効にし、パスワードの使い回しをなくします。
禁止事項を並べるより、入力してよい情報を定義するほうが現場で機能します。迷ったら入れない、という原則も一行添えておきます。
数字、固有名詞、出典は人が確認する。公開物には権利面のチェックを入れる。担当と手順まで決めて、属人的な善意に頼らない形にします。
うまくいった使い方を社内で共有すると、ルールの浸透速度が上がります。サービスの仕様は変わるため、半年に一度は設定と規程を点検します。
ここで実務上の注意を一つ挟みます。ルールを作る作業そのものは難しくありませんが、守られないルールは、ないルールと同じ危険度です。禁止事項だけを並べた規程は、現場から見れば使うなという通告に等しく、結果として黙って使われるだけに終わります。
全面禁止が逆効果になる理由
「リスクが分からないうちは全面禁止」という判断は、一見すると安全側に倒したように見えます。ところが実際には、リスクを消したのではなく、見えない場所へ移しただけになりがちです。
- 会社としての方針を短期間で示せる
- 個別の判断にかかる手間が一時的に減る
- 個人の端末やアカウントでの利用が水面下に広がる
- 利用実態を把握できず、事故が起きても発見が遅れる
- 使いこなす競合との生産性の差が開いていく
現実的な落としどころは、用途を区切った条件付きの許可です。議事録の要約や文章の推敲といった機密性の低い用途から解禁し、顧客データを扱う業務には別の手続きを設ける。段階を踏むほうが、結果として統制は効きます。
ルールは作ったのに、現場で守られていませんか
禁止事項を配っただけでは運用は変わりません。入力の線引き、検証工程の設計、使い方の共有までを含めて、現場が実際に動く形へ落とし込むところをお手伝いしています。立ち上げの進め方から整理できます。
関連記事：ChatGPTの安全性は？リスクの正体と企業が安全に使うための対策
ChatGPTのリスクに関するよくある質問
最後に、企業のご担当者から特に多く寄せられる質問をまとめます。
個人向けの無料版とPlusは、データの扱いに大きな差がありません。どちらも既定では入力内容がモデルの改善に使われる可能性があり、設定でオフにする必要があります。学習利用を既定で行わない扱いになるのは、BusinessやEnterpriseといった法人向けプランとAPIです。
設定は入力リスクを下げますが、ゼロにはできません。送信した情報は外部のサーバーへ渡り、履歴として保存されます。設定はあくまで前提条件であって、入力してよい情報の線引きは別途必要だとお考えください。
法人アカウントであれば、管理者が利用状況を確認できる仕組みが備わっています。個人アカウントの場合でも、共有端末やログインしたままの画面から履歴を見られる可能性は残ります。業務外の内容を業務端末で入力しないという運用が無難でしょう。
画像もテキストと同じ入力データです。名刺、社内資料、身分証など、写り込んだ情報が機密や個人情報に当たる場合は避けてください。背景に社内の掲示物が入り込むといった間接的な露出にも注意が要ります。
生成物が既存の著作物と類似し、かつそれに依拠したと認められる場合、侵害となり得ます。公開前に、特徴的な表現や固有名詞が他社のものと重なっていないかを確認する工程を挟むのが安全です。
入力してよい情報の線を決めて、全員に伝えることです。設定変更やプラン契約より地味な作業ですが、事故の多くは入力の判断ミスから起きています。線引きが共有されていれば、大半は未然に防げます。
まとめ
ChatGPTのリスクは、数を数えるより、発生する場所で分けたほうが対策に直結します。要点を整理します。
- 入力リスクは、法人契約と設定変更、入力の線引きで大部分を抑えられる
- 出力リスクは設定では消えず、人が確認する工程を組み込むしかない
- アカウント運用のリスクは、多要素認証など既存のセキュリティ対策の延長で対応する
- 自社にとっての重さは、何を入れ、どこへ出し、誰が使うかで決まる
- 全面禁止はリスクを消さず、見えない場所へ移すだけになりやすい
導入がうまく進む組織には共通点があります。リスクをゼロにしようとせず、どのリスクを、どの工程で引き受けるかを決めている点です。ゼロを目指せば禁止に行き着き、放置すれば事故に行き着くでしょう。引き受け方を決めるという中間の作業が、実のところ最も手間がかかり、そして最も効きます。
合同会社Writers-hubでは、社内でのAI活用の立ち上げと、AIを使った記事制作の品質担保の両面をお手伝いしています。ルール整備の段階で止まっている場合でも、すでに使い始めていて事故が心配な場合でも、現状の棚卸しからご一緒できます。
最後に一点だけ。ChatGPTのリスクは、時間が経てば小さくなる種類のものではありません。使う人が増え、扱う情報が重くなるほど、静かに大きくなっていきます。判断を先送りしている間もリスクは動き続けている。その前提に立って、まず用途を一つ決めて始めるほうが現実的だと考えます。
禁止か解禁かで、判断が止まっていませんか
用途を一つに絞って条件を決めれば、判断は前へ進みます。どの業務から解禁し、どこに検証工程を置くかを、現状の体制をうかがったうえで具体的にご提案します。
