第三者評価業務における生成ＡＩ利用に当たっての遵守事項
2023年10月10日制定
株式会社 日本生活介護
株式会社日本生活介護（以下、当社という）では、第三者評価における報告書作成業務において、生成ＡＩを活用するという要望について、以下のように評価機関としての方向性を示すものです。
目的）
本遵守事項は、当社に所属する評価者が、第三者評価業務において、【ChatGPT】などの生成AIを利用する際に遵守すべき事項を示したものです。
生成ＡＩは、その活用によっては講評の作成において特段の効率化が図られるものと考えられます。しかし、それは、あくまで個々の評価者の報告書作成の業務の効率化であり、ＡＩに評価を委ねることではありません。
したがって、現状においては評価機関としてＡＩを利用・活用することはなお検討課題であり、ＡＩの利用は個々の評価者の主体性と責任の問題となります。同様に、作成された各評価項目の検証、および事業所との確認については、これまでの評価業務の遂行と同様に行うものであり（評価に当たった評価者全員での合議に基づき、趣旨や内容の誤りや逸脱のチェック、および事業所との合意の形成）、その限りにおいて、たとえ個々の評価者が生成ＡＩを利用して作成した文書であっても、最終報告書の責任は評価者及び評価機関が全面的に負うこととなります。
生成AIは、業務効率の改善や新しいアイデア出しなどに役立つ反面、入力するデータの内容や生成物の利用方法によっては法令に違反したり、他者の権利を侵害したりする可能性があるため、本遵守事項を守り、適切な利用に努めることが必要です。
禁止事項等）
（１）評価対象事業所の職員や利用者に関する個人情報の入力は禁止とする。
（２）評価対象事業所の機密情報や著作物、規程情報などの入力は禁止とする。
（３）固有名詞の扱いは、東京都福祉サービス第三者評価推進機構の定める事項に準じることとする。
（４）東京都福祉サービス第三者評価推進機構により、生成AIに関する通知等が示された時は、その内容に従う。
※「個人情報」や「著作権侵害」に加えて、生成ＡＩを使用した段階で情報は機械的にＡＩのデータベースに組み込まれ記憶され、生成ＡＩに反映するので注意が必要である。
評価ガイドブックでは、商標登録されている商品名等はできるだけ使用しないこととなっているが、事業所で使用している会議体名称やキャッチフレーズ（「〇〇市〇〇会議」「よくできたね賞」など）についても、注意を払うこと。
従って、報告書に記載する場合は、生成ＡＩで文書を作成し、清書の段階で固有名詞を書き込むことが望ましい。
注意すべき事項）
（１）生成物の根拠や裏付けを自ら確認する
生成AIの原理は、「ある単語の次に用いられる可能性が確率的に最も高い単語」を出力することで、もっともらしい文章を作成していくものである。そのため、書かれている内容には虚偽が含まれている可能性がある。
生成AIのこのような限界を知り、その生成物の内容については、必ず根拠や裏付けを自ら確認することが必要である。
（２）著作権侵害
生成AIを利用して出力された生成物が、既存の著作物と同一・類似している場合は、当該生成物を利用（複製や配信等）する行為が著作権侵害に該当する可能性がある。
そのため、以下の留意事項を遵守する。
・特定の作者や作家の作品のみを学習させた特化型AIは利用しない。
・既存著作物、作家名、作品の名称を入力しないようにする。
（３）虚偽の個人情報・名誉毀損等
【ChatGPT】などは、個人に関する虚偽の情報を生成する可能性があることが知られている。虚偽の個人情報を生成して利用・提供する行為は、個人情報保護法違反（法19条、20条違反）や、名誉毀損・信用毀損に該当する可能性があるため、そのような行為は行わない。
（４）生成物の加筆・修正
生成物をそのまま利用せず、加筆・修正して使用する。
（５）生成AIのポリシー上の制限に注意する
【ChatGPT】を利用する場合、以下の点に注意する。
Usage Policies（https://openai.com/policies/usage-policies）で、「Adult content, adult industries, and dating apps（アダルトコンテンツ、アダルト産業、出会い系アプリ）」「Engaging in the unauthorized practice of law, or offering tailored legal advice without a qualified person reviewing the information（許可なく法律実務を行うこと、または資格のある人が情報をレビューしないままに特定の法的助言を提供すること）」などの具体的禁止項目を守る。
補足）
この遵守事項に定めるもののほか、生成AIの適切な利用に関して必要な事項は、第三者評価の実施における生成AIの利用に関する検討委員会で定める。
参考資料）
「生成AIサービスの利用に関する注意喚起等」（経済産業省・個人情報保護委員会）
令和５年６月２日 より
一般の利用者における留意点
- 生成AI サービスでは、入力された個人情報が、生成AI の機械学習に利用されるこ とがあり、他の情報と統計的に結びついた上で、また、正確又は不正確な内容で、生成AI サービスから出力されるリスクがある。そのため、生成AIサービスに個人情報を入力等する際には、このようなリスクを踏まえた上で適切に判断すること。
- 生成AI サービスでは、入力されたプロンプトに対する応答結果に不正確な内容が 含まれることがある。例えば、生成AI サービスの中には、応答結果として自然な文章を出力することができるものもあるが、当該文章は確率的な相関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情報が含まれるリスクがある。そのため、生成AI サービスを利用して個人情報を取り扱う際には、このようなリスクを踏まえた上で適切に判断すること。
- 生成AI サービスの利用者においては、生成AI サービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、生成AI サービスの利用について適切に判断すること。
「文章生成AI利活用ガイドライン Version 1.2」（東京都デジタルサービス局）
2023年8月より
職員が守るべきルール
①個人情報等、機密性の高い情報は入力しないこと
文章生成AIは外部サービスに該当し、セキュリティ対策はサービス提供者に依存することから、機密情報や未公開情報を入力すると、万が一の場合、情報漏えいにつながるリスクが残ります。
➁著作権保護の観点から、以下の点を十分注意し、確認すること
単に他人の既存著作物、作家名、作品の名称を入力するだけの行為は、必ずしも直ちに著作権侵害に該当するとは限りません。
ただし、生成されたデータが、プロンプトに入力したデータや既存の著作物と同一・類似している場合は、当該生成物の利用が当該著作物の著作権侵害になる可能性もあります。
特に生成物を配信・公開等する場合には、生成物が既存著作物に類似しないかの調査 を行うようにしてください。
③文章生成AIが生成した回答の根拠や裏付けを必ず自ら確認すること
文章生成AI が生成した回答は表現・言い回しが自然であるため、正しいと感じてしまいます。しかし、最新の情報を反映していなかったり、偏った価値観、アンコンシャスバイアス等が反映されてしまうこともあるなど、必ずしもその内容が「正確」とは限りません。
④文章生成AIの回答を対外的にそのまま使用する場合は、その旨を明記すること
内容を確認した後、翻訳文や要約文等、文章生成AIの回答を対外的にそのまま使用する場合は、「文章生成 AIにより作成」と記載することで、生成された文章が AIによるものか人間によるものかを読み手に伝えることができます。
「生成AIの利用ガイドライン 第１.1版（2023年10月公開）」日本ディープラーニング協会
以上
