はじめに
最近は個人でも企業でも、生成AIの活用が社会的な注目を集めています。
しかし、一方で、
- お客様情報をAIに渡すなんてありえない!守秘義務というものがあるんだ!
- 自社の機密情報をAIに渡して、何かあったらどうするんだ!
など、情報管理上の理由で生成AIを使用していない(できない)という企業もあるのではないかと思います。
本記事では、「本当に生成AIを利用しちゃいけないの?」という点を、関連法規上と技術上の観点から解説していきます。
生成AIに顧客情報を入力する際の3つの法的リスク
顧客情報などを生成AIに入力する行為に関しては、主に個人情報保護法上の以下の3つのリスクが潜んでいます。
1. AIの学習データとして利用される(情報漏えい)リスク
多くの無料版や個人向けプランの生成AIでは、ユーザーが入力したデータ(プロンプト)がAIのモデル改善や再学習に利用される設定になっています。顧客の個人情報や機密情報を入力すると、将来的に別のユーザーへの回答として出力され、実質的な「情報漏えい」を引き起こす恐れがあります。
2. 「目的外利用」に該当するリスク
個人情報保護法では、あらかじめ特定した「利用目的」の達成に必要な範囲を超えて個人情報を取り扱うことを原則禁止しています。たとえば、商品の発送や問い合わせ対応のために取得した顧客データを、プライバシーポリシー等で明示していない「AIによる分析や学習」に利用した場合、目的外利用に該当する可能性があります。
3. 「第三者提供」に該当するリスク
入力したデータがAI提供事業者(OpenAI社やGoogle社など)のサーバーに送信され、事業者側が学習データ等として利用できる状態になることは、個人情報保護法上の「第三者提供」にあたる可能性があります。本人の同意なく第三者に個人データを提供することは原則として認められていません(ただし、単なるデータ処理の委託とみなされる場合や、学習に利用されない契約形態の場合は例外となります)。
対策①”基本は「法人プラン」の利用”
「AIの学習データとして利用される(情報漏えい)リスク」については、原則「法人プラン」の利用で対策します。
各生成AIサービス、たとえばGoogleのGeminiなどを例にすると、法人プランの場合は規約で学習利用を禁止しています。
そのため、投入したデータが学習に利用されて他の個人や法人に参照されることはありません。
一方で、例え有料版だとしても「個人向けの有料プラン(Google AI Pro / Google AI Ultraなど)」の場合、自動的に学習対象から除外されるわけではない」という点は非常に間違えやすいポイントです。
※手動で学習対象から除外する設定をしてやる必要があります。
「法人プランの利用」はマストである、と覚えておきましょう。
対策②”プライバシーポリシー・利用規約に生成AI利用を明記する”
生成AIの利用が「目的外利用」に該当するリスクに対応するためには、あらかじめプライバシーポリシーや利用規約、業務委託契約書やNDAなどに、生成AIの利用について明記することが重要です。
例えば以下のような一文を入れておく必要があります。
「お問い合わせ対応の品質向上および業務効率化のため、AI(人工知能)技術を用いたデータ分析・要約等に利用する場合があります」
合わせて、業務遂行にあたり学習利用されない法人向け生成AI環境を利用する」旨の事前承諾(または再委託の許可)を得ておくのが安全です。
対策③”法人プラン+DPA(データ処理契約)の確認”
入力したデータがAI提供事業者(OpenAI社やGoogle社など)のサーバーに送信され、事業者側が学習データ等として利用できる状態になることは、個人情報保護法上の「第三者提供」にあたる可能性があります。
「第三者提供」のリスクを防ぐためには、「AI事業者にデータを『提供』したのではなく、単なる『システム(クラウド)の保管・処理』として使っている状態」を法的に成立させることが鍵になります。
個人情報保護委員会のガイドラインに基づき、以下の4つの対策を組み合わせるのが実務上の王道です。
1. 「学習に利用されない」法人プラン・APIを利用する(最重要)
無料版や個人向けプランのデフォルト設定では、入力データがAIのモデル学習に使われるため「第三者提供」とみなされるリスクが高まります。
- 対策: 必ず法人プランを契約し、規約上「入力データが学習に利用されないこと(オプトアウト済みであること)」を担保します。これにより、AI事業者が独自の目的でデータを取り扱わない状態(=第三者提供にあたらない状態)を作れます。
2. DPA(データ処理契約)を締結する
規約の確認だけでなく、AI事業者とDPA(Data Processing Addendum:データ処理補遺)を締結します。
- DPAの役割: 「AI事業者は自社(委託元)の指示に従ってシステム処理を行うだけであり、独自の目的でデータを利用・開示しない」ことを法的に約束させる契約です。主要ベンダー(OpenAI、Google、Microsoft、Anthropicなど)の法人プランでは、オンライン上でDPAの締結が可能です。
3. 入力前に個人情報を削除・マスキングする(技術的対策)
そもそも入力するデータに「特定の個人を識別できる情報(氏名、住所、メールアドレス、顧客IDなど)」が含まれていなければ、個人情報保護法上の「個人データの第三者提供」には該当しません。
- 対策: 氏名等を「A様」のように置き換えてからプロンプトに入力するルールを徹底します。可能であれば、入力時に個人情報を自動検知してマスキングするシステム(DLPツールや社内専用AIゲートウェイ)を導入すると確実です。
4. 「外国にある第三者への提供(越境移転)」への対応
海外のAI事業者(米国など)のサーバーにデータを送信する場合、学習利用がなくても「外国にある第三者への提供」のルールが適用されるケースがあります(サーバーの所在国や、事業者がデータにアクセスできる状態かどうかに依存します)。
- 対策:
- リージョン(データ保管場所)の指定: 日本国内(東京・大阪リージョン等)にデータを保管・処理できるクラウドサービス(Azure OpenAI ServiceやGoogle CloudのVertex AIなど)を選択する。
- 情報提供・公表: 海外サーバーを利用する場合は、プライバシーポリシー等に「外国にある事業者にデータ処理の委託を行う場合がある」旨や、当該外国の個人情報保護制度に関する情報を記載しておく。
おわりに
生成AIはビジネスを加速させる強力なツールですが、個人情報保護法やプライバシーへの配慮を欠いたまま利用すると、企業の信頼を大きく損なうリスクがあります。
かといって、法的・技術的な仕組みを知らないまま、「生成AIは危ない!」という思い込みから利用を禁止してしまうと、活用している企業と大きな差をつけられてしまうことは間違いありません。
法的・技術的なルールを正しく知り、しっかりと管理したうえで活用するのであれば、生成AIは中小企業の大きな手助けとなってくれるでしょう。
当Tri-Support行政書士事務所では、生成AIの業務利用に伴う社内ガイドラインの策定や、個人情報保護法に対応したプライバシーポリシーの改定サポートを行っております。法務面での不安を解消し、安心してAI活用を進めたい事業者様は、ぜひお気軽にご相談ください。
