生成AIは、日々の業務を効率化する上で欠かせない存在となっていますが、個人情報や機密情報の取り扱いについては、多くのユーザーや企業が慎重な判断を迫られています。
本記事では、生成AIにおける個人情報のリスクを整理し、安全に活用するための設定や対策について解説します。
💡生成AI利用における個人情報の取り扱いが注目される理由
生成AIの普及により、誰もが簡単に高度なテキスト生成や分析を行えるようになりました。
その一方で、AIに入力したデータがどのように処理され、どこへ保管されるのかという点への関心が高まっています。
特に、入力した内容がAIモデルの学習に利用され、将来的に他者への回答として意図せず出力されてしまうリスクは、企業にとって無視できない課題です。社会的信用の維持とガバナンスの観点から、適切な知識に基づいた運用が求められています。
✨Yoomは生成AIへの機密情報入力を自動でマスキングできます
👉
Yoomとは？ノーコードで業務自動化につながる！生成AIを業務に組み込む際、セキュリティの不安を解消する一つの手段が「自動化による制御」です。Yoomを活用すれば、AIにデータを渡す前に、特定の個人情報や機密情報を自動で検知し、伏せ字（マスキング）にしてから処理を行うワークフローを構築できます。
これにより、人間が誤って機密情報を入力してしまうミスを防ぎながら、AIの利便性を最大限に引き出すことが可能です。以下のテンプレートを活用して、安全な自動化を体験してみましょう。
Discordの投稿内容をAIで要約してGoogle ドキュメントにテキストを追加する
試してみる
■概要
Discordでの活発な議論や情報共有は有益ですが、後から内容を追いかけたり、重要な情報をGoogle ドキュメントに手作業でまとめたりする業務に手間を感じてはいないでしょうか。このワークフローを活用すれば、Discordの特定チャンネルへの投稿をトリガーに、AIが自動で内容を要約し、指定のGoogle ドキュメントへテキストを追加します。これにより、議事録作成やナレッジ共有にかかる工数を削減し、情報資産の蓄積を円滑に進めることが可能です。
■このテンプレートをおすすめする方
・Discordの議論をGoogle ドキュメントで議事録として管理しているコミュニティマネージャーの方
・Discordでの情報共有が多く、内容の要約と整理に時間をかけているプロジェクトリーダーの方
・DiscordとGoogle ドキュメントを連携させて、情報ストックの自動化を実現したいと考えている方
■注意事項
・DiscordとGoogle ドキュメントのそれぞれとYoomを連携してください。
・トリガーは5分、10分、15分、30分、60分の間隔で起動間隔を選択できます。
・プランによって最短の起動間隔が異なりますので、ご注意ください。
メールが届いたら、AIでメール内容を取得・要約してGoogle Chatに通知する
試してみる
新しいメールを受信したら、メールの文面からAIで内容を取得・要約して、Google Chatに通知するフローです。
🤔生成AIに個人情報を入力する際に注意すべきリスク
生成AIに個人情報を入力することには、主に以下の3つのリスクが伴います。
-
学習モデルへの転用:
多くの生成AIサービスでは、デフォルトの設定において、ユーザーの入力内容を「サービスの向上（学習）」のために利用します。これにより、入力した機密情報がAIの知識の一部となり、第三者のプロンプトに対して回答として提示される可能性がゼロではありません。
-
プロンプト経由の意図しない情報流出:
従業員がリテラシー不足から、顧客名や会議の議事録、未発表の社内プロジェクト名などをそのままAIに入力してしまうことで、外部のクラウド環境に情報が送信されてしまいます。
-
法的・社会的リスク:
日本の個人情報保護法では、個人情報の「利用目的の特定」や「本人の同意」が必要です。ガイドラインに違反すると、法的な是正勧告や企業の社会的信用の低下を招く可能性があります。2023年6月、個人情報保護委員会（PPC）は生成AIの利用に関する注意喚起を公表しており、このガイダンスを遵守することが企業の信頼性向上につながります。
📒主要な生成AIのプライバシー設定と学習制限の手順
多くの主要AIサービスでは、ユーザーが自身のデータを学習に使わせないための設定を用意しています。
-
ChatGPT: Web版およびアプリ版の設定内にある「データコントロール」項目において、「すべての人のためにモデルを改善する」という項目をオフにする必要があります。また、より確実に情報を残さない方法として、ChatGPTには「一時チャット（Temporary Chat）」機能も搭載されています。
この機能を使用すると、会話履歴が保存されず、学習にも使用されないため、機密性の高い作業を行う際には有効です。 ただし、一時チャット機能を使用した場合でも、ユーザーの画面上の履歴には残りませんが、OpenAI側のバックエンドサーバーには安全性監視（不正利用の検知など）の目的で最大30日間データが保持されます。
-
Claude: 無料版や個人向け有料版では、デフォルトで学習に利用される設定となっているため、設定のプライバシーから「Claudeの改善にご協力ください」をオフにする必要があります。
Enterpriseプランではデフォルトで学習に使用されない仕様となっていますが、組織アカウントでは管理者が全メンバーの学習設定を一括で制御することも可能です。
-
Gemini: ブラウザ版のGeminiでは、Googleアカウントでログインし、画面左側のメニューの「設定とヘルプ」から「アクティビティ」を選択。
「Geminiアプリアクティビティ」の項目で「オフにする」または「オフにしてアクティビティを削除」を選択することで制御可能です。
ただし、履歴を遡って確認できなくなる点に注意が必要です。（なお、個人向けプランでは安全性維持のため Google内部で最大72時間データが保持されます）
📊【検証】個人情報を伏せた状態でAIの売上分析の精度はどう変わるか
「顧客情報や店舗名を隠すと、AIの精度が不正確になるのではないか」と懸念される方もいるかもしれません。
そこで、実際に顧客名や店舗名を抽象化した状態で、AIにそれぞれの店舗の売上の分析を実施してもらう検証を行いました。
検証内容:
特定の顧客や店舗に関する売上データを元に、AIに各店舗の売り上げの分析を行わせます。
この際、顧客名の代わりに「顧客A」、店舗名の代わりに「地方都市の店舗1」といった抽象化を行い、AIにデータを連携しました。
売り上げデータをChatGPTに読み込ませて「それぞれの店舗の売り上げを分析して強みと改善点を分析してください」と依頼してみました。
すると、下記のように売り上げ明細を基に強みや弱みを洗い出してくれました。
検証結果:
顧客名や店舗名を伏せた状態であっても、AIが生成した売上の分析に質的な変化は見られませんでした。
AIは固有名詞（顧客名や店舗名）よりも、売上金額や商品名といった売上データそのものを重視して回答を生成しているため、適切なマスキングを行っても十分に高精度な分析結果が得られることを確認できました。
ただし、今回はダミーデータを使用したため、特徴を的確にまとめることは難しかったです。しかし、実際に明細が増えていくと、より専門的なデータになると予想されます。
例えば、店舗名や商品名についても「店舗A」のような一律な名称ではなく、地方都市や特定の業態を反映した情報を加えた方が、より正確な分析ができるはずです。
マスキングを行いながらも、あまりにも情報を絞り過ぎず、大まかな傾向を残しておくことで、より有益なデータが得られると感じています。
✅企業が安全に生成AIを活用するための具体的な対策
組織全体で安全にAIを活用するためには、以下の3つのステップが推奨されます。
-
社内ガイドラインの策定: 入力してよい情報の範囲を明確にし、利用禁止事項やオプトアウト設定の徹底をルール化しましょう。
-
技術的アプローチの導入: APIを利用したセキュアな環境の構築や、実データの代わりに 「合成データ（実データの特徴を持つ架空データ）」を利用してテストを行う手法 が有効です。
-
継続的なリテラシー教育: AIの仕組みやリスクは日々変化しています。 従業員に対して定期的な研修を行い、最新の動向を共有し続けること が、最大の防御となります。
📈まとめ
生成AIを活用する際の個人情報管理には慎重なアプローチが求められます。 個人情報や機密データが不適切に取り扱われないよう、AI利用時には個人情報を適切にマスキングし、リスクを最小限に抑えるように心がけましょう。
特に、生成AIがどのように学習し、データを扱うかを理解した上で、安全対策を徹底することが、企業の信頼性を保つ鍵となります。
これからも生成AIを安心して活用できる環境を整えるために、ユーザー、企業全体で意識していきましょう。
⭐Yoomでできること
Yoomは、100名以上の従業員が利用する企業でも安心して導入できるセキュリティを備えています。
データの暗号化はもちろん、API連携を通じたセキュアなAI活用により、個人情報を守りながら業務の自動化を実現 します。
日々の煩雑な業務を安全に、かつスピーディに改善するために、まずは以下のテンプレートから試してみませんか。
Outlookメールに届いた情報をAIで抽出し、Backlogに課題を追加する
試してみる
Outlookに新しいメールが届いたらAIで情報を抽出して、Backlogに抽出した内容を課題として追加するフローです。
申し込みメールの内容をAIで解析し、Microsoft Excelで見積書の作成、Outlookで送信する
試してみる
申し込みメールを受信したら、AIを用いてメール内容を抽出して見積書をMicrosoft Excelの雛形から作成、Outlookメールで送信するフローです。
✨こちらから簡単に登録が可能です
【出典】
https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert
https://exawizards.com/column/article/chatgpt/ng-chatgpt
https://www.authense.jp/komon/blog/dx-legaltech/2850
https://www.pwc.com/jp/ja/knowledge/column/awareness-cyber-security/generative-ai-regulation07.html
