Illuminate Data Q&A - AIの透明性に関する注意事項

Illuminate Data Q&A - AIの透明性に関する注意事項

人工知能 (AI) の合法的、倫理的、責任ある使用は、Anthologyにとって重要な優先事項です。そのため、私たちは信頼できるAIプログラムを開発し、実装しました。このプログラムと、信頼できるAIへの一般的なアプローチに関する情報は、トラストセンターおよび生成AI機能のリストをご覧ください。

私たちは、信頼できるAIの原則の一環として、透明性、説明可能性、説明責任に取り組んでいます。このページは、Illuminate Data Q&Aの実装でクライアントを支援するために必要な透明性と説明可能性を提供することを目的としています。管理者は、このページを注意深く確認し、関連するユーザが以下の考慮事項と推奨事項を認識していることを確認してから、教育機関でIlluminate Data Q&A機能を有効にすることをお勧めします。

お問い合わせ方法 :

• 信頼できるAIへの一般的なアプローチや、このページをクライアントにとってより役立つものにする方法についての質問やフィードバックについては、 [email protected]までEメールでお送りください。
• Illuminate Data Q&Aの機能や出力に関する質問やフィードバックは、Behind the Blackboardからクライアントサポートチケットを送信してください。

AIを活用した機能

IlluminateData Q&A機能は、Data Q&Aダッシュボードに表示されるデータのAI生成テキストの要約をユーザのプロンプトから生成して提供します。AnthologyがAWSと提携してこの機能を提供しているのは、AWSがAIの責任ある使用に取り組んでいることが理由の1つです。

Illuminate Data Q&A機能は、AIが支援する以下の生成機能を提供します。

データの概要と提案の生成 : ダッシュボードに表示されるデータのAI生成テキストの要約は、ユーザのプロンプトに基づいて自動的に作成されます。また、この機能では、データ要求を調整するための代替プロンプトも提案されます。

これらの機能は、Amazon Q / Amazon Bedrockの制限と可用性の対象となり、変更される場合があります。詳細については、関連するリリースノートを確認してください。

重要な事実

教育機関に関する考慮事項と推奨事項 

意図されるユースケース

Illuminate Data Q&A は、上記の機能をサポートすることのみを目的としています。これらの機能は、Data Q&Aレポートの分析と機能強化をサポートするためにクライアントの教員に提供されるものであり、そのことを目的としています。

範囲外のユースケース

Illuminate Data Q&Aは現在、生成AIモデルに直接指示できるプロンプト機能や同様の機能を提供していません。このため、意図しない (範囲外の) ユースケースは想定されていません。

信頼できるAIの原則の実践 

AnthologyとAmazonは、AIの合法的、倫理的、責任ある使用が重要な優先事項であると考えています。このセクションでは、AnthologyとAmazonがAIの合法的、倫理的、責任ある使用に関連するリスクに対処し、 Anthologyの信頼できるAIの原則を実践するためにどのように取り組んできたかについて説明します。また、クライアントが独自のAIに取り組む際に検討できる手順や、その実装における倫理的なAIのリスクの法的見直しも提案します。

透明性と説明可能性

• Illuminateの管理設定オプションでは、これがAIを活用した機能であることが明確にされています。
• 教員用のユーザインターフェイスでは、Illuminate Data Q&Aの機能が明確に"生成"機能としてマークされています。また、教員は、使用前に出力されたテキストをレビューすることが求められます。Illuminate Data Q&A機能によって作成された出力のメタデータは、自動生成されたコンテンツのフィールドとともに、各クライアントのIlluminate使用状況レポートに公開されます。また、出力がその後教員によって編集されたかどうかも表示されます。
• このドキュメントで提供されているIlluminate Data Q&A機能がAmazon Q in QuickSightでどのように機能するかに関する情報に加えて、AmazonはAmazon QとAmazon Bedrockに関する追加情報を以下の「詳細情報」セクションのリンクで提供しています。
• Illuminate Data Q&AでのAIの使用についてクライアントが透明性を保ち、必要に応じて、教員およびその他の利害関係者にこのドキュメントおよびここにリンクされているドキュメントからの関連情報を提供することが推奨されています。

信頼性と正確性

• Illuminateの「Illuminate設定」ページでは、これがAIが支援する機能であり、不正確または望ましくない出力を生成する可能性があり、そのような出力は常にエンドユーザによってレビューが行われるべきであることを明確にしています。
• ユーザインターフェイスで、ユーザはテキスト出力が正確かどうかを確認するように求められます。
• 「Amazon Bedrockに関するよくある質問」で詳しく説明されているように、出力が不正確であるリスクがあります。Illuminate Data Q&Aの特性および当社の実装は不正確さを最小限に抑えることを目的としていますが、出力の正確性、バイアス、およびその他の潜在的な問題を確認するのはクライアントの責任です。
• ユーザは、Q&Aのプロンプトで使用されている質問やフレーズを言い換えることで、不正確な出力を簡単に再生成できます。
• Illuminate Data Q&Aに関するコミュニケーションの一環として、クライアントは、この潜在的な制限を教員に知らせる必要があります。
• クライアントは、冒頭に記載されているチャネルを使用して、不正確な出力を報告できます。

公平性

• 大規模言語モデルには、ステレオタイプ化、過剰表現または過小表現、その他の有害なバイアスに関連するリスクが本質的に存在します。
• これらのリスクを考慮して、有害なバイアスが発生しやすいユースケースや、そのようなバイアスの影響がより大きくなる可能性のあるユースケースを回避するようにIlluminate Data Q&A機能を慎重に選択しました。
• それでもなお、出力の一部が有害なバイアスの影響を受ける可能性を排除することはできません。上記の「正確性」の項で述べたように、教員は出力をレビューすることが求められており、これにより有害なバイアスを軽減できます。
• Illuminate Data Q&Aに関するコミュニケーションの一環として、クライアントは、この潜在的な制限を教員に知らせる必要があります。
• クライアントは、冒頭に記載されている連絡先チャネルを使用して、潜在的に有害なバイアスを報告できます。

プライバシーとセキュリティ

• 上記の「重要な事実」セクションで説明したように、Illuminate Data Q&Aでは限定されたユーザプロンプトと概要データのみが、Amazonにアクセスするために使用されます。また、このセクションでは、個人情報の使用に関する当社とAmazonのコミットメントについても説明しています。
• Amazonは、Amazon Bedrockのセキュリティとプライバシーのドキュメントで、データプライバシーとセキュリティの慣行とコミットメントについて説明しています。

安全性

• 大規模な言語モデルには、不適切、攻撃的、またはその他の安全でない可能性のある出力のリスクが本質的に存在します。Amazonでは、これらのリスクについて、Amazonの責任あるAIのページの「制限事項」セクションで説明しています。
• これらのリスクを考慮して、安全でない出力が発生しやすいユースケースや、そのような出力の影響がより大きくなる可能性のあるユースケースを回避するようにIlluminate Data Q&A機能を慎重に選択しました。
• それでもなお、出力の一部が安全でないものになる可能性を排除することはできません。上記の「正確性」の項で述べたように、教員は出力をレビューすることが求められており、これにより安全でない出力のリスクをさらに軽減できます。
• Illuminate Data Q&Aに関するコミュニケーションの一環として、クライアントは、この潜在的な制限を教員に知らせる必要があります。
• クライアントは、冒頭に記載されているチャネルを使用して、安全でない可能性のある出力を当社に報告する必要があります。

人による制御

• クライアントとそのユーザの生成AIの使用に関連するリスクを最小限に抑えるために、私たちは意図的にクライアントがIlluminate Data Q&Aの機能を制御できるようにしています。したがって、IlluminateデータQ&Aはオプトイン機能です。管理者は、いつでもIlluminate Data Q&Aを有効または無効にすることができます。
• さらに、教員は出力を管理できます。つまり、教員は出力をレビューするよう求められ、必要に応じて出力を再生成できます。
• Illuminate Data Q&Aには、学習者やその他の個人に法的またはその他の重大な影響を与える可能性のある自動化された意思決定は含まれていません。
• クライアントには、Illuminate Data Q&Aの生成AI機能を有効にする前に、このドキュメントを、記載されている情報リンクを含めて注意深く確認して、Illuminate Data Q&Aの機能と制限、および基盤となるAmazon Q in QuickSightについて理解しておくことをお勧めします。

バリューアライメント

• 大規模言語モデルには、偏った、不適切な、またはAnthologyの価値観やクライアントや学習者の価値観と一致しない出力に関するリスクが本質的に存在します。Amazonでは、以下の「詳細情報」セクションのリンク先のWebサイトでこれらのリスクについて説明しています。
• さらに、大規模言語モデルは (幅広い目的を果たすあらゆるテクノロジーと同様に) 、Anthology、当社のクライアントやエンドユーザ、そしてより広い社会の価値観に一致しないユースケース (犯罪行為や、有害または不適切な出力の作成など) に悪用されるリスクがあります。
• これらのリスクを考慮して、価値観にそぐわない出力のリスクを最小限に抑えるようにIlluminate Data Q&Aの機能を慎重に設計および実装しました。また、潜在的にリスクの高い機能を意図的に省略しています。

知的財産

• 大規模言語モデルには、知的財産権の潜在的な侵害に関連するリスクが本質的に存在します。世界中のほとんどの知的財産法は、大規模言語モデルの出現とその使用から生じる問題の複雑さを完全には予測しておらず、適応もしていません。その結果、現在のところ、これらのモデルの使用から生じる知的財産の問題やリスクに対処するための明確な法的枠組みやガイダンスは存在しません。
• Illuminate Data Q&Aによって生成された出力をレビューして知的財産権の侵害の可能性を確認するのは、最終的にはクライアントの責任です。

アクセシビリティ

• Illuminate Data Q&Aは、Learnや他の製品と同様に、アクセシビリティを念頭に置いてを設計および開発されました。Illuminate Data Q&Aをリリースする前に、セマンティック構造、ナビゲーション、キーボードコントロール、ラベル、カスタムコンポーネント、画像ワークフローなどのアクセシビリティが意図的に改善されました。今後もAIを活用しながら、アクセシビリティを優先していきます。
• Illuminate DataQ&A機能はAmazon QuickSightを利用します。AWSでは、AWS Accessibilityページでアクセシビリティ適合性レポートを提供しています。

説明責任

• Anthologyには、AIの合法的、倫理的、責任ある使用を保証するように設計された信頼できるAIプログラムがあります。明確な内部説明責任と、Illuminate Data Q&Aによって提供される機能などの体系的な倫理的AIレビューはプログラムの重要な柱です。
• TIlluminate Data Q&Aを提供するために、当社はAmazonと提携してAmazon Q in QuickSightを活用しました。AWSは、AIの責任ある使用に取り組んでいます。
• クライアントは、AIの合法的、倫理的、責任ある使用を確保するために、社内ポリシー、手順、およびサードパーティのAIアプリケーションのレビューを実装することを検討する必要があります。この情報は、Illuminate Data Q&Aの生成AI機能に関するクライアントのレビューをサポートするために提供されています。

詳細情報

• Anthologyの信頼できるAIアプローチ
• Amazonの責任あるAIページ
• AmazonのBedrockのよくある質問
• AmazonのBedrockのセキュリティとプライバシーに関するページ
• AmazonのAIセキュリティページ
• Amazon機械学習ブログ
• AmazonのQ in QuickSightの概要
• AWSがAmazon Q in QuickSightを発表 (ブログ記事)