何が問題になるか
場面
社員が、業務の効率を上げるため、生成AIサービスに顧客の氏名や相談内容を入力していたことが分かったという相談です。会社として生成AIの利用ルールを決めておらず、誰が何を入力したかを把握できていない場面もあります。
法律の整理
結論は、次のとおりです。
- 入力が、会社が特定した利用目的の範囲内かを確認します。範囲外であれば、目的外利用の問題になります。
- 要配慮個人情報を入力するには、原則として本人の同意が必要です。
- 入力した内容が生成AIの機械学習に利用される設定か、利用されない設定かを、サービスの規約・設定で確認します。
根拠となる規定は、次のとおりです。個人情報の保護に関する法律(平成15年法律第57号)の第16条は、第2項で、個人情報取扱事業者を「個人情報データベース等を事業の用に供している者」と定めています。第2条は、第3項で、要配慮個人情報を、「本人の人種、信条、社会的身分、病歴、犯罪の経歴、犯罪により害を被った事実」などが含まれる個人情報と定めています。
個人情報保護委員会は、令和5年6月2日の「生成AIサービスの利用に関する注意喚起等」で、個人情報取扱事業者が個人情報を含むプロンプトを入力する場合には、「特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること」を求めています。同じ資料は、本人の同意なく個人データを含むプロンプトを入力し、それが応答結果の出力以外の目的で取り扱われる場合は、「個人情報保護法の規定に違反することとなる可能性がある」としています。そのうえで、サービスを提供する事業者が「当該個人データを機械学習に利用しないこと等を十分に確認すること」を求めています。
会社が備えること
確認すること
- 社員が入力した情報の種類(氏名、連絡先、相談内容など)と、入力した時期
- 入力した情報に、病歴などの要配慮個人情報が含まれていないか
- その入力が、会社が特定した利用目的の範囲内か
- 利用したサービスの規約・設定で、入力した内容が機械学習に利用される扱いになっていたか
対応
- 社内ルールで、生成AIに入力してはいけない情報を明示します。顧客の個人情報は、その代表例として書きます。
- 業務で使うサービスを会社が決め、入力した内容が機械学習に利用されない設定かを確認してから使わせます。
- 要配慮個人情報を扱う業務では、本人の同意の有無を確認する手順を決めます。
- ルールに反する入力が分かったときの社内の報告先を決め、社内研修でルールの理由とあわせて伝えます。
ご相談で伺うこと
ご相談では、次の点を伺います。
- 入力された情報の内容と範囲、入力した社員の人数
- 利用していた生成AIサービスの規約・設定の内容
- プライバシーポリシーなどで公表している利用目的
- 生成AIの利用に関する社内ルールの有無と内容