はじめに
急速に普及が進む「生成AI（ChatGPT等）」。業務効率を飛躍的に高める可能性を秘めている一方で、その仕組みを正しく理解しないまま利用すると、思わぬ法的トラブルを招くおそれがあります。
今回は、法律家としての視点から、生成AIを安全に使いこなすために最低限知っておくべき基礎知識と、入力・出力時の注意点を整理しました。
生成AIの基礎知識：従来のツールとは何が違うのか？
生成AIは、我々が生成AIに一定の情報を入力することで（この入力を「プロンプト」といいます。）、文脈に沿った回答を出力してくれるものです。生成AIは、文章のみならず、画像や動画といった様々な入力に対して、対応する様々な出力を返すことができ、以下のように、従来の検索エンジンや定型的な自動化ツールとは本質的に異なる特性を持っています。
「確率」に基づく文章の構成
生成AIは人間のように「意味」を理解しているわけではなく、膨大な学習データから「次に来る確率が高い言葉」を繋ぎ合わせて回答を作成します。そのため、非常に自然な文章を作成できる反面、もっともらしい嘘（ハルシネーション）をつく性質があることを理解しておく必要があります。
学習による進化と情報流出のリスク
ユーザーが入力したプロンプトは、原則としてAIの学習データとして利用され、精度向上に役立てられます。これは、入力した情報がAIの「知能」の一部として取り込まれ、間接的に他者への回答に反映されてしまうリスクを孕んでいることを意味します。
入力段階の注意：情報の「出し方」
プロンプトに入力された情報が個人情報や機密情報に該当する場合、それが他者への回答に反映されてしまうリスクがあるため、慎重な対応が求められます。
実務的な対応方針
各生成AIサービスでは、入力情報を学習に利用するか否かの設定が可能です。
- 学習オフの設定： 有料プラン等で提供される「学習オフ」の設定は必須といえます。
- ゼロデータリテンション（ZDR）: プロンプトをサーバに保持せず処理直後に破棄するオプションです。データ漏えいリスクを最小化できる一方、後日「どのような指示を出したか」の履歴が確認できなくなるため、利便性との兼ね合いを検討する必要があります。
対応方針を検討するにあたっての法的検討要素
個人情報保護法
プロンプトに個人情報をおよそ含めないという対応は難しいと理解しています。したがって、プロンプトに個人情報が含まれるという前提で、個人情報保護法上、どのような対応が必要か、検討が必要です。
なお、以下の議論においては、「事業をするならプライバシーポリシーを作りましょう」の第三者提供に関する説明も参照ください。
本人同意を不要としたい
個人情報保護法上、委託先に提供する場合など例外的な場合を除き、個人情報を第三者に提供する場合は本人同意が必要となります。かかる本人同意を逐一取得することは生成AI利用の文脈では、現実的ではありません。したがって、生成AIにおける利用が委託先に提供している場合に該当するよう、整理する必要があります。
詳細な個人情報保護法上の議論は省きますが、この場合、*学習オフの設定が必須となります。
面倒な個人情報保護法対応をしたくない
生成AIは、外国（アメリカ）の事業者が提供しているものが大半です。つまり、基本的に、個人情報を外国の第三者に提供していると評価されます。この場合、原則的には本人同意が必要となりますし、そうでなくとも、基準適合体制を整備するという面倒な作業が必要になってしまいます。
これを回避するためには、個人情報を外国の第三者に提供していないという整理が必要となります。そのためには、少なくとも、外国事業者が日本リージョンで展開する生成AIサービスを利用する必要があります。
ただし、日本リージョンであれば、最新のAIモデルを利用できない可能性があることにはご留意ください。
機密情報
自身が守秘義務を負う情報を入力すれば、機密情報を開示した企業に多大な迷惑をかける可能性があります。守秘義務違反か否かの詳細検討は、各機密保持契約を確認する必要があります。
ただ、機密保持契約違反のリスクは、大なり小なり必ずあります。リスクをとって（入力された機密情報が他者への回答に反映されてしまうリスクが顕在化した際に、契約違反の責任を負うというものです。）、それでも生成AI利用のメリットが大きいと判断できる場合に限り、利用する必要があります。
そのため、極めて機微性の高い情報は入力しないというルールを設けることは必須でしょう。
出力段階の注意：情報の「扱い方」
生成AIが出力した回答は、あくまで「下書き」や「ヒント」として捉えるべきです。
内容の正確性の担保（人間による確認）
上記のとおり、生成AIは、もっともらしい嘘（ハルシネーション）をつく性質があります。生成された回答を鵜呑みにせず、必ず1次ソースにあたって、人間が最終確認を行う必要があります。逆に、こういった確認ができないような場面では、利用を控えるか、又はハルシネーションのリスクが許容できる範囲で利用することが必要です。
著作権侵害のリスクへの配慮
生成AIは、「次に来る確率が高い言葉」を繋ぎ合わせて回答を作成する以上、生成された画像や文章が、既存の著作物と酷似している場合があります。そして、生成AIの利用者は、そうだと知らずに（又は知って）、対外的に公表・利用することで著作権侵害を指摘されるリスクがあります。社内利用に閉じる場合はともかく、特に商用利用やSNSでの発信の際は注意が必要です。
おわりに
生成AIは、正しく使えば強力な武器になりますが、法律的な「守り」が疎かになれば、企業に重大な損害を及ぼしかねません。
社内ガイドラインの策定や、具体的な活用場面でのリーガルチェックが必要な際は、実務に即したアドバイスを提供いたしますので、お気軽に当事務所までご相談ください。
