使いこなすほどに便利になっていく生成AIだが、そのまま鵜呑みにしてしまうと思わぬ落とし穴も存在する。本頁では法律家の監修のもと、AI利用に潜む代表的なリスクを紹介。ルールを確認して適切にAIを活用しよう！
＊ ＊ ＊
弁護士
佐藤健太郎さん
2017年弁護士登録。現在は阿部・井窪・片山法律事務所で、訴訟や知的財産法分野の案件を中心に、広く企業法務に関する案件に従事している。著書（共著）に『ChatGPTの法律』（中央経済社、2023年）がある。
Q：AIの学習機能をオフにしていれば、会社の情報や個人情報をAIに入力しても大丈夫？
A：結論はNO。「AIの学習に使われない」ことと、「入力した情報が外部に送信・保存されない」ことは別問題。そもそも学習のオンオフに限らず、AIに与えた情報はクラウド上にアップロードされることになるため、セキュリティ上のリスクが生じる。また個人情報保護委員会は、事業者が個人データを入力する際、利用目的の範囲内か、AI事業者が回答生成以外の目的で扱わないかを確認するよう注意喚起している。社外秘資料や顧客情報をAIに与える際は、学習設定だけで判断せず、会社が許可したサービスか、保存・管理条件はどうかまで確認することをオススメする。
Q：AIが教えてくれた情報はどこまで信用していい？
A：AIは日進月歩で高機能化が進んでいるが、その仕組みの特性上、間違いを犯す可能性はゼロではない。特に生成AIは、存在しない事実や出典を、いかにももっともらしく答える「ハルシネーション」を起こす場合もしばしば。実際、アメリカでは2023年に弁護士がChatGPTで作った架空の判例を裁判資料に引用し、裁判所から5000ドルの制裁金を科されたケースも。OpenAI自身も、AIの出力を唯一の事実情報源として頼らず、使用・共有前に正確性を確認するよう求めている。固有名詞、数字、引用、法律・医療など重要な情報ほど、元資料や公的機関など一次情報までさかのぼって確認する必要があるだろう。
Q：AIで作成した資料が間違っていた！ 誰の責任になる？
A：AIの使用者の責任が問われる場合がある。2026年、経済産業省は「AI利活用における民事責任の解釈適用に関する手引き」を公表し、AI利用で損害が生じた場合の民事責任について、現行の不法行為法や製造物責任法などに基づき、利用者やAI提供者の行為、過失、因果関係などを個別に判断する考え方を整理。たとえばAIで作った営業資料の誤った数字を確認せず顧客に提示し、損害を与えれば、AIを利用した側の責任になり得る。AIの出力は「下書き」と考え、最終確認は人が行うことが重要だ。
【次ページ】トラブル回避のためにAIを使う上でのNGを学んでおこう▶
- 1
- 2
