はじめに
業務効率化の強力な武器として、中小企業でもChatGPT、Claude、Geminiといった生成AIの活用が急速に進んでいます。しかし、こうした使い方を適当に行っている場合、法律や契約に違反するリスクがあります。
「便利だから」という理由だけで、ルールを定めずに従業員へ利用を任せるのは危険です。今回は、中小企業が安全に生成AIを活用するために知っておくべきルールのうち、「個人情報保護法」に関する注意点を解説します。
なぜ生成AIへの入力が問題になるのか?
冒頭で示した例に関し、顧客リストや顧客からのクレーム文章は原則個人情報に該当するため(個人情報とは何かについては、「事業をするならプライバシーポリシーを作りましょう」で説明しました。)、個人情報保護法の問題が生じます。既に「生成AIの社内利用における法的・実務的注意点」で生成AI×個人情報保護法の説明したところですが、今回はもう少し深掘っていきたいと思います。
生成AIのプランや生成AI提供事業者におけるデータの利用目的を確認せず、ただ漫然と利用する場合、次のようなリスクがあるため、適切に対処する必要があります。
個人情報の「第三者提供」に該当するリスクとその対処 = 学習の有無に注意
個人情報保護法上、個人情報の「第三者提供」と判断される場合には、原則として本人の同意が必要とされています。しかしながら、逐一同意を取得することは現実的ではありません。そのため、第三者提供の同意が不要となる場合の1つである、個人情報の取扱いを生成AI提供事業者に対して「委託」しているという立て付けにし、同意取得を回避する必要があります。
【深掘り:個人情報の取扱いの「委託】
個人情報の取扱いの「委託」が同意取得を不要とできるのは、この場合には委託者が受託者をいわば手足のように使っているため、実質的に考えて委託者と受託者を同一視できるためです。そのため、対象となる個人情報を、①受託者の利益のために利用するような場合や、②受託者(又は他の委託者)の保有する個人情報と組み合わせて利用するような場合(いわゆる「混ぜるな危険」と呼ばれる類型)は、委託となることはありません。
したがって、生成AI提供事業者が自社の利益のためにデータを使うこと、すなわちAIモデルの学習に利用されないことを確保する必要があります。一般に無料プランであれば学習のために利用されるため、有料プランを契約し、かつ、そのプランの内容を確認しておく必要があります。
個人情報の「越境移転」に該当するリスクとその対処 = 基準適合体制の整備
個人情報保護法上、個人情報を外国の第三者に提供していると判断される場合(越境移転)、原則として本人の同意が必要とされています。逐一同意を取得することは現実的ではないため、過去の記事「生成AIの社内利用における法的・実務的注意点」では日本リージョンに限定して生成AIを利用する方法を提案しました。
今回は、より根本的な解決として、基準適合体制の整備という方法を説明します。法令上何をすればよいのかというと、次に該当するよう評価することが基準適合体制の整備となります。
上記は個人情報の保護に関する法律施行規則の定めであり、「法」は個人情報保護法を指すのですが、いずれにせよこれだけでは何をすればよいのか分かりにくいかと思います。そこで、個人情報の保護に関する法律についてのガイドライン(外国にある第三者への提供編)の4-2を見ると、かなり詳細かつ膨大な案内が出ています。
重要なのは、案内の冒頭にある表であり、これらの項目について個人情報保護法に照らして適切な対応ができているのかの確認が必要です。以下に表を書き写した上で、一部取消線を加えました。取り消した時効は、利用者側でコントロールできる事項や、保有個人データに関する事項は生成AI提供事業者には関係ないため、確認は不要です。そのため、実際は一部の項目への対応が必要になります。
| 条番号 | 法第4章第2節の規定の趣旨に沿った措置 | 条番号 | 法第4章第2節の規定の趣旨に沿った措置 |
| 第17条 | 利用目的の特定 | 第27条 | 第三者提供の制限 |
| 第18条 | 利用目的による制限 | 第28条 | 外国にある第三者への提供の制限 |
| 第19条 | 不適正な利用の禁止 | 第32条 | 保有個人データに関する事項の公表等 |
| 第20条 | 適正な取得 | 第33条 | 開示 |
| 第21条 | 取得に際しての利用目的の通知等 | 第34条 | 訂正等 |
| 第22条 | データ内容の正確性の確保等 | 第35条 | 利用停止等 |
| 第23条 | 安全管理措置 | 第36条 | 理由の説明 |
| 第24条 | 従業者の監督 | 第37条 | 開示等の請求等に応じる手続 |
| 第25条 | 委託先の監督 | 第38条 | 手数料 |
| 第26条 | 漏えい等の報告等 | 第40条 | 個人情報取扱事業者による苦情の処理 |
実際の基準適合体制整備のチェック
では、実際にこれらの項目について、どのようにしてチェックすればよいのでしょうか?OpenAIの資料をもとに、何を確認すればよいのか説明をしたいと思います。
Data Processing (DPA)の確認
生成AI提供事業者を含むGlobalなSaaS事業者は、通常、Data Processing Addendum(DPA)という文書を用意しています。これは一般に、GDPRというヨーロッパの個人データ保護法令を遵守するために用意されているものです。OpenAIの場合、日本語訳も用意されており、OpenAI データ処理に関する補足事項があります。
これを確認することで、基準適合体制整備においてチェックすべき多くの事項がカバーされることになります。
セキュリティに関する情報の確認
もっとも、DPAで全ての項目のチェックが完了できない場合もあります。このような場合、多くのSaaS事業者において、セキュリティに関して説明しているページがありますので、そこで記載されている情報をもとに、体制として十分かのチェックを行うことができます。
また、それでも詳細がよく分からない場合、セキュリティに係る認証の取得状況で代替することもあり得ます。もっとも、この場合、認証は一般に会社全体で受けるものではないため、どの範囲のサービスで認証を受けているのかも確認しなければならないことに注意が必要です。
法律上許容されても、入力すべきではない個人情報
法律を守ることは上記のとおり可能だとしても、そうはいっても生成AIには様々なリスクがあります。
- SaaS一般にいえることですが、情報そのものが外部に提供されることに伴い、外部における情報管理が甘い場合、漏えいリスクが拡大します。
- 学習をしないと契約上謳っている場合であっても、生成AI提供事業者で実際にデータがどのように取り扱われているかはブラックボックスであり、意図せず学習されているリスクを完全にゼロにすることは困難です。
こういったリスクに鑑みて、たとえば要配慮個人情報やこれに類するようなセンシティブな情報は、そもそも入力しないというルールを定めること自体は、有効と考えます。
「社内ルール」の重要性
生成AIを一律禁止にするというのは危険な対応です。現在の生成AIの普及状況や利便性に鑑みれば、禁止しても結局は隠れて利用されてしまう(いわゆる「シャドーAI」)リスクが高まります。適切にリスクを評価し、使うべきところは使い、真に危険な場合は使わないというルールを敷いて運用することが重要です。公式に推奨する使い方を示し、「安全に使う」ことが求められます。
少なくとも、次のようなルールを定めることが必要でしょう。
- 利用可能なサービスの指定: 承認済みの法人プランのみ使用可とし、個人プランの業務利用を禁止する。
- 入力禁止情報の明確化: 顧客の借入状況等の信用情報、病歴などといった明確な分類のもと、生成AIへの入力を禁止する情報を具体的に列挙する。
- 出力結果の確認: 本記事の主目的とは異なりますが、ハルシネーション(AIが事実に反する情報を断定的に出力すること)を回避するため、生成物に対して人間による最終チェックを義務付ける。
おわりに
AIは正しく使えば、中小企業の生産性を大きく引き上げるツールです。しかし、個人情報保護法を遵守して利用するためには、DPAの確認や社内ルールの整備が欠かせません。重大なトラブルが発生する前に、自社のルール整備に不安がある場合は、ぜひ一度、当事務所へご相談ください。