何が問題になるか
場面
社員が生成AIに質問し、その回答を確認しないまま、取引先に渡す資料や説明に使うことがあります。回答に誤りがあり、取引先がその内容を前提に動いた結果、損害が出たという場面です。取引先からは損害の賠償を求められます。社内では「AIが間違えたのだから、会社の落ち度ではない」という声が出ることもあります。
法律の整理
AIを使ったことは、それだけで会社の責任を免れる理由になりません。契約上の義務に違反した場合の損害賠償(民法の第415条)と、不法行為(民法の第709条)の判断は、人が確認して出した場合と同じ枠組みで行われます。
民法の第415条は、第1項で、「債務者がその債務の本旨に従った履行をしないとき又は債務の履行が不能であるときは、債権者は、これによって生じた損害の賠償を請求することができる。」と定めています。同じ項のただし書きは、不履行が「契約その他の債務の発生原因及び取引上の社会通念に照らして債務者の責めに帰することができない事由によるもの」であるときは、この限りでないとしています。
契約の関係とは別に、民法は「不法行為」の章を第709条から置いています。取引先に損害を与えたときは、こちらの規定でも責任が問われます。
総務省と経済産業省の「AI 事業者ガイドライン」(第1.1版、2025年3月)は、生成AIについて「偽情報・誤情報の生成・発信等」のリスクを挙げています。事業活動でAIを使う会社は「AI 利用者」とされ、「AI 提供者が意図している適正な利用を行い」とされています。AIサービスの提供・運営では、「人間によるモニタリング」も連携した形で実施されると書かれています。
会社が備えること
確認すること
- 社内でAIを使っている業務と、その出力が社外に出る場面
- 取引先との契約で、成果物の内容や確認の手順をどう定めているか
- AIの出力を誰が、どの段階で確認しているか
- 誤りが見つかったときの社内の連絡の流れ
対応
AIの出力を人が確認する体制を整えておくことが、実務上の備えになります。取引先に出す資料や回答は、作成した担当者とは別の者が根拠を確かめてから出す手順にします。確認した者と確認した日を記録に残します。
社内規程では、AIを使ってよい業務と、使う場合の確認の方法を定めます。社員向けの研修では、AIの回答に誤りが含まれることがある点を伝えます。
損害が出たときは、事実関係を整理します。誤った回答がどの業務で使われ、誰が確認し、取引先にどう伝わったかを時系列でまとめます。取引先への説明は、整理した事実に沿って行います。
ご相談で伺うこと
- 損害が出た取引の内容と、取引先との契約書
- AIを使った業務と、その出力が取引先に渡るまでの流れ
- 出力を確認した人と、確認の方法
- 取引先から受けている請求の内容
- 社内でAIの使い方を定めた規程や指針の有無