Illuminate Data Q&A - AI 투명성 노트 

인공 지능(AI)을 합법적, 윤리적으로 책임감 있게 사용하는 것이 Anthology의 핵심 우선 순위입니다. 따라서 당사는 신뢰할 수 있는 AI 프로그램을 개발 및 구현했습니다. 보안 센터 및 생성형 AI 기능 목록에서 당사의 프로그램 및 신뢰할 수 있는 AI로의 일반적인 접근 방식에 대한 정보를 찾을 수 있습니다. 

당사는 신뢰할 수 있는 AI 원칙의 일환으로 투명성, 설명 가능성 및 책임을 약속합니다. 이 페이지는 클라이언트가 Illuminate Data Q&A를 구현하는 데 필요한 투명성과 설명 가능성을 제공하기 위한 것입니다. 교육기관에서 Illuminate Data Q&A의 기능을 활성화하기 전에 관리자가 이 페이지를 주의 깊게 검토하고 관련 사용자가 아래의 고려 사항과 권장 사항을 알고 있는지 확인하는 것이 좋습니다. 

당사에 연락하는 방법: 

  • 신뢰할 수 있는 AI로의 일반적인 접근 방식 또는 이 페이지를 클라이언트에게 더 유용하게 만들 수 있는 방법에 대한 질문이나 피드백이 있는 경우 이메일([email protected])로 보내주십시오. 
  • Illuminate Data Q&A의 기능 또는 출력에 대한 질문이나 피드백이 있는 경우 Behind the Blackboard를 통해 클라이언트 지원 티켓을 제출해 주십시오.

AI 지원 기능 

Illuminate Data Q&A 기능은 사용자의 프롬프트에서 생성된 데이터 Q&A 대시보드에 표시된 데이터에 대해 AI가 생성한 텍스트 요약을 제공합니다. Anthology는 이 기능을 제공하기 위해 AWS와 파트너십을 맺었고, 이는 AWS가 책임감 있는 AI 사용을 위해 기울이고 있는 노력의 일환이기 때문입니다. 

Illuminate Data Q&A 기능은 다음과 같은 생성형 AI 지원 기능을 제공합니다. 

데이터 요약 및 제안 생성: 대시보드에 표시되는 데이터의 AI 생성 텍스트 요약은 사용자의 프롬프트에 따라 자동으로 생성됩니다. 또한 이 기능은 데이터 요청을 구체화하기 위한 대체 프롬프트를 제안합니다.  

이러한 기능은 Amazon Q/Amazon Bedrock의 제한 사항과 이용 가능성에 따라 달라질 수 있으며 변경될 수 있습니다. 자세한 내용은 관련 릴리즈 노트를 확인해 주십시오.

핵심적인 사실

핵심적인 사실
질문답변
어떤 Illuminate 기능에 AI 시스템이 사용됩니까?상기 나열된 데이터 Q&A 기능이 사용됩니다.
타사에서 지원하는 AI 시스템입니까?예. Illuminate Data Q&A 기능은 QuickSight의 Amazon Q에서 제공하며, 이는 다시 Amazon Bedrock을 활용합니다. QuickSight의 Amazon Q는 Amazon Bedrock을 통해 Anthropic Claude 및 Amazon Titan을 사용합니다(AWS에서 개발한 기계 학습 모델의 혼합 포함).
AI 시스템은 어떻게 작동합니까?Illuminate Data Q&A는 항상 Amazon QuickSight(자연어 처리 기능을 갖춘 BI 도구)를 기반으로 했습니다. 새로운 생성형 AI 기능을 위해 Illuminate는 추가적으로 QuickSight용 Amazon Q를 기반으로 하고 있습니다. QuickSight용 Amazon Q 덕분에 Illuminate Data Q&A는 데이터 Q&A 대시보드에 표시되는 데이터의 요약을 자동으로 생성할 수 있습니다. 또한 이 기능은 데이터 요청을 구체화하기 위한 대체 프롬프트를 제안합니다. Amazon Q는 Amazon Bedrock(및 추가 AWS 기계 학습 모델) 내에서 Anthropic Claude 및 Amazon Titan을 활용하여 이러한 기능을 제공합니다. 요약을 생성하고 프롬프트를 제안하기 위해 QuickSight의 Amazon Q는 API를 통해 대시보드의 시각적 요소 내 사용자 프롬프트 및 요약 데이터를 관련 AWS Bedrock 모델로 전달합니다.
AI 시스템은 어디에서 호스팅됩니까?Amazon QuickSight 및 Amazon Bedrock의 호스팅은 Amazon에서 결정합니다. 일반적으로 Amazon QuickSight는 Illuminate와 동일한 지역에서 사용할 수 있습니다. Amazon Bedrock은 현재 EU와 미국에서 사용할 수 있으므로 EU 및 미국 고객의 경우 이 지역을 각각 활용할 수 있습니다. 생성형 AI 모델의 출력은 일시적인 요약과 대체 프롬프트로 구성되며, Illuminate 또는 QuickSight/Bedrock의 Amazon Q에 영구적으로 저장되지 않습니다.
옵트인 기능입니까?예. 관리자는 Illuminate의 설정 페이지에서 교육기관을 대신하여 옵트인해야 합니다. 자세한 내용은 "Anthology Illuminate Settings" 주제를 참조하십시오.
AI 시스템은 어떻게 학습합니까?

Anthology는 Amazon Bedrock을 통해 Illuminate Data Q&A 기능을 제공하는 Anthropic Claude 및 Amazon Titan 모델의 학습에는 관여하지 않습니다. 이 모델들은 각각 Anthropic(Anthropic Claude)과 Amazon(Amazon Titan)에 의해 학습되었습니다. 

Anthology는 더 이상 자체 데이터 또는 클라이언트의 데이터를 사용하여 이러한 모델을 개선하지 않습니다.

클라이언트 데이터가 AI 시스템의 (재)학습에 사용됩니까?아니요. Amazon은 Amazon Bedrock 내에서 대규모 언어 모델을 재학습시키는 데 어떠한 입력 또는 출력도 사용하지 않을 것을 공개 문서에서 약속하고 있습니다. Amazon은 아래 '추가 정보' 섹션의 링크에서 대규모 언어 모델을 훈련하는 방법에 대한 정보를 제공합니다. 모든 데이터 입력과 출력은 전송 중 및 미사용 시에 암호화됩니다.
Anthology는 Illuminate Data Q&A 프로비저닝과 관련하여 개인 정보를 어떻게 사용합니까?Anthology는 Illuminate Data Q&A와 관련하여 수집한 정보를 Illuminate Data Q&A의 제공, 유지 및 지원을 위해서만, 그리고 계약상 권한이 있는 경우에만 사용합니다. 데이터 개인 정보 보호에 대한 Anthology의 접근 방식과 관련된 자세한 내용은 보안 센터에서 확인할 수 있습니다.
타사에서 지원하는 AI 시스템의 경우 타사는 개인 정보를 어떻게 사용합니까?

대시보드의 시각적 요소 중 제한된 사용자 프롬프트 및 요약 데이터만 QuickSight용 Amazon Q에서 Amazon Bedrock으로 전달되어 기능을 제공합니다. 

Amazon이나 Amazon Bedrock 모델 제공자는 Amazon Bedrock 모델을 개선하기 위해 Anthology 데이터나 Anthology 고객 데이터를 사용하지 않습니다. 

Amazon Bedrock 보안 및 개인 정보 보호와 관련된 개인 정보 보호 관행에 대한 자세한 내용은 AWS AI 보안 페이지, AWS 기계 학습 블로그, QuickSight의 Amazon Q 개요, AWS, QuickSight의 Amazon Q 발표(블로그 논문) 및 Amazon Bedrock 보안 및 개인 정보 보호 페이지의 Amazon 문서에서 확인할 수 있습니다.

Illuminate Data Q&A 설계에서 접근성이 고려되었습니까?Illuminate Data Q&A 기능은 Amazon QuickSight를 활용합니다. 이는 타사 기능이기 때문에 Anthology가 아닌 Amazon에서 접근성을 고려했습니다. Amazon은 AWS 접근성 페이지를 통해 접근성 적합성 보고서를 제공합니다.

교육기관에 대한 고려 사항 및 권장 사항 

케이스 사용 목적 

Illuminate Data Q&A는 상기 나열된 기능만 지원하기 위한 것입니다. 이러한 기능은 클라이언트의 교수자가 Data Q&A 보고서를 분석하고 개선할 수 있도록 지원하기 위해 제공되며, 교수자를 위한 것입니다. 

범위를 벗어난 케이스 사용 

Illuminate Data Q&A는 현재 생성형 AI 모델에게 직접 지시할 수 있는 프롬프트 기능 또는 이와 유사한 기능을 제공하지 않습니다. 따라서 의도하지 않은(범위를 벗어난) 케이스 사용은 예상되지 않습니다.

실제로 신뢰할 수 있는 AI 원칙 

Anthology와 Amazon은 AI를 합법적, 윤리적으로 책임감 있게 사용하는 것이 핵심 우선 순위라고 생각합니다. 이 섹션에서는 AI를 합법적, 윤리적으로 책임감 있게 사용할 때 발생 가능한 위험을 해결하고 Anthology 신뢰할 수 있는 AI 원칙을 구현하기 위해 Anthology와 Amazon이 어떻게 노력했는지 설명합니다. 또한 클라이언트가 자체 AI를 구현할 때 고려할 수 있는 단계를 제안하고 구현 시의 윤리적 AI 위험을 법적으로 검토합니다. 

투명성 및 설명 가능성 

  • 당사는 Illuminate 관리자 구성 옵션에서 이 기능이 AI 지원 기능임을 명확히 하는 바입니다. 
  • 교수자의 사용자 인터페이스에서 Illuminate Data Q&A 기능은 '생성형' 기능으로 명시됩니다. 또한 교수자는 사용하기 전에 텍스트 출력을 검토해야 합니다. Illuminate Data Q&A에 의해 생성된 출력의 메타데이터 기능은 자동 생성된 콘텐츠에 대한 필드와 함께 각 클라이언트의 Illuminate 사용 보고서에 노출됩니다. 또한 이후에 교수자가 출력을 편집했는지 여부도 표시됩니다. 
  • 이 문서에서 제공하는 QuickSight의 Amazon Q를 통한 Illuminate Data Q&A 기능의 작동 방법에 대한 정보 외에도, Amazon은 아래의 '추가 정보' 섹션에 있는 링크를 통해 Amazon Q 및 Amazon Bedrock에 대한 추가 정보를 제공합니다. 
  • 클라이언트는 Illuminate Data Q&A 내에서 AI 사용에 대해 투명하게 공개하고 교수자와 기타 이해관계자에게 이 문서와 여기에 링크된 문서의 관련 정보를 적절하게 제공하는 것이 좋습니다.

신뢰성과 정확성 

  • 당사는 Illuminate의 Illuminate 설정 페이지에서 이 기능이 부정확하거나 원치 않는 출력을 생성할 수 있는 AI 지원 기능이고 이러한 출력을 최종 사용자가 항상 검토해야 함을 명확히 하는 바입니다. 
  • 사용자 인터페이스에서 사용자는 텍스트 출력의 정확성을 검토해야 합니다. 
  • Amazon Bedrock FAQ에 자세히 설명되어 있듯이 부정확하게 출력될 위험이 있습니다. Illuminate Data Q&A의 구체적인 특성과 그에 대한 구현은 부정확성을 최소화하도록 되어 있지만 정확성, 편파성, 그리고 기타 잠재적인 문제에 대해 출력을 검토하는 것은 클라이언트의 책임입니다. 
  • 사용자는 Q&A 프롬프트에 사용된 질문이나 문구의 표현을 바꿔 부정확하게 출력된 결과를 쉽게 재생성할 수 있습니다. 
  • Illuminate Data Q&A에 대한 커뮤니케이션의 일환으로 클라이언트는 교수자에게 이러한 잠재적인 제한 사항을 알려야 합니다.
  • 클라이언트는 소개에 나열된 채널을 사용하여 부정확한 출력을 보고할 수 있습니다.

공정성

  • 대규모 언어 모델은 본질적으로 고정 관념, 과잉 또는 과소 표현 및 기타 형태의 유해한 편견과 관련된 위험을 내포하고 있습니다.
  • 당사는 이러한 위험을 감안하여 유해한 편파성에 더 취약하거나 이러한 편파성의 영향이 더 클 수 있는 케이스 사용을 피하기 위해 Illuminate Data Q&A 기능을 신중하게 선택했습니다. 
  • 그럼에도 불구하고 일부 출력이 유해한 편파성의 영향을 받을 수 있다는 점을 배제할 수 없습니다. 위의 '정확성'에서 언급했듯이 교수자는 출력을 검토해야 하며, 이를 통해 유해한 편파성을 줄일 수 있습니다. 
  • Illuminate Data Q&A에 대한 커뮤니케이션의 일환으로 클라이언트는 교수자에게 이러한 잠재적인 제한 사항을 알려야 합니다. 
  • 클라이언트는 소개에 나열된 연락 채널을 사용하여 잠재적으로 유해한 편견을 당사에 보고할 수 있습니다.

개인정보 보호 및 보안

  • 위의 '핵심적인 사실' 섹션에 설명된 대로, Illuminate Data Q&A에는 제한된 사용자 프롬프트와 요약 데이터만 사용되며 Amazon에서 액세스할 수 있습니다. 또한 이 섹션에서는 개인 정보 사용에 대한 당사와 Amazon의 책무에 대해 설명합니다. 
  • Amazon은 Amazon Bedrock 개인정보 보호 및 보안에 대한 설명서에서 데이터 개인정보 보호 및 보안의 관행과 책무에 대해 설명합니다.

안전 

  • 대규모 언어 모델은 본질적으로 부적절하거나 공격적이거나 안전하지 않을 수 있는 결과를 출력할 위험을 내포하고 있습니다. Amazon은 Amazon의 책임감 있는 AI 페이지의 제한 사항 섹션에서 이러한 위험을 설명합니다. 
  • 당사는 이러한 위험을 감안하여 안전하지 않은 출력에 더 취약하거나 이러한 출력의 영향이 더 클 수 있는 케이스 사용을 피하기 위해 Illuminate Data Q&A 기능을 신중하게 선택했습니다. 
  • 그럼에도 불구하고 일부 출력이 안전하지 않을 수 있다는 점을 배제할 수는 없습니다. 위의 '정확성' 섹션에서 언급했듯이 교수자는 출력을 검토해야 하며, 이를 통해 안전하지 않은 출력의 위험을 더 줄일 수 있습니다. 
  • Illuminate Data Q&A에 대한 커뮤니케이션의 일환으로 클라이언트는 교수자에게 이러한 잠재적인 제한 사항을 알려야 합니다. 
  • 클라이언트는 소개에 나열된 채널을 사용하여 잠재적으로 안전하지 않은 출력을 당사에 보고해야 합니다.

사람의 제어 기능

  • 클라이언트와 클라이언트의 사용자를 위한 생성형 AI 사용과 관련된 위험을 최소화하기 위해 당사는 의도적으로 클라이언트가 Illuminate Data Q&A의 기능을 제어할 수 있도록 했습니다. 따라서 Illuminate Data Q&A는 옵트인 기능입니다. 관리자는 언제든지 Illuminate Data Q&A를 활성화하거나 비활성화할 수 있습니다. 
  • 또한 교수자는 출력을 제어할 수 있습니다. 즉, 교수자는 출력을 검토하도록 요청받고 필요에 따라 출력을 다시 생성할 수 있습니다.
  • Illuminate Data Q&A에는 학습자 또는 다른 개인에게 법적 또는 다른 중대한 영향을 미칠 수 있는 자동화된 의사 결정이 포함되어 있지 않습니다. 
  • 클라이언트는 Illuminate Data Q&A 생성형 AI 기능을 활성화하기 전에 Illuminate Data Q&A 및 기본 QuickSight의 Amazon Q 기능과 제한 사항을 이해할 수 있도록 여기에 제공된 정보 링크를 포함하여 이 문서를 주의 깊게 검토하는 것이 좋습니다.

가치 조정 

  • 대규모 언어 모델은 본질적으로 편향되거나 부적절하거나 Anthology의 가치나 클라이언트와 학습자의 가치에 맞지 않는 출력과 관련된 위험이 있습니다. Amazon은 아래의 '추가 정보' 섹션에 링크된 웹사이트에서 이러한 위험을 설명합니다. 
  • 또한 대규모 언어 모델(광범위한 목적을 수행하는 모든 기술과 마찬가지로)은 Anthology, 클라이언트 또는 클라이언트의 최종 사용자에 대한 가치와 사회의 가치에 맞지 않는 케이스 사용에 오용될 위험(예: 범죄 활동 또는 유해하거나 부적절한 출력 생성)을 내포하고 있습니다. 
  • 이러한 위험을 감안하여 당사는 맞지 않는 출력의 위험을 최소화하는 방식으로 Illuminate Data Q&A 기능을 신중하게 설계하고 구현했습니다. 또한 잠재적으로 고부담이 되는 기능은 의도적으로 생략했습니다.

지적 재산권 

  • 대규모 언어 모델은 본질적으로 지적 재산권의 잠재적 침해와 관련된 위험을 내포하고 있습니다. 전 세계 대부분의 지적 재산권법은 대규모 언어 모델의 출현과 그 사용으로 인해 발생하는 문제의 복잡성을 완전히 예상하거나 이에 적응하지 못했습니다. 그 결과, 현재 이러한 모델의 사용으로 인해 발생하는 지적 재산권 문제와 위험을 다루는 명확한 법적 프레임워크나 안내가 없습니다. 
  • 궁극적으로 Illuminate Data Q&A에서 생성된 출력을 검토하여 잠재적인 지적 재산권 침해에 대해 검토하는 것은 클라이언트의 책임입니다.

접근성 

  • 당사는 Learn 및 다른 제품에서와 마찬가지로 접근성을 염두에 두고 Illuminate Data Q&A를 설계하고 개발했습니다. Illuminate Data Q&A가 공개되기 전에 몇 가지 영역을 예로 들자면 의미 체계 구조, 탐색, 키보드 컨트롤, 레이블, 사용자 지정 구성요소 및 이미지 워크플로의 접근성을 의도적으로 개선했습니다. 앞으로도 AI를 활용하면서 계속 접근성을 우선시할 것입니다. 
  • Illuminate Data Q&A 기능은 Amazon QuickSight를 활용합니다. AWS는 AWS 접근성 페이지를 통해 접근성 적합성 보고서를 제공합니다.

책임 

  • Anthology에는 AI를 합법적, 윤리적으로 책임감 있게 사용하도록 설계된 신뢰할 수 있는 AI 프로그램이 있습니다. 명확한 내부 책임과 Illuminate Data Q&A에서 제공하는 것과 같은 기능에 대한 체계적인 윤리적 AI 검토는 이 프로그램의 핵심 축입니다. 
  • Illuminate Data Q&A를 제공하기 위해 당사는 Amazon과 파트너십을 맺어 QuickSight의 Amazon Q를 활용했습니다. AWS는 AI를 책임감 있게 사용하기 위해 최선을 다하고 있습니다. 
  • 클라이언트는 AI를 합법적, 윤리적으로 책임감 있게 사용할 수 있도록 타사 AI 애플리케이션에 대한 내부 정책, 절차, 검토를 구현할 것을 고려해야 합니다. 이 정보는 클라이언트가 Illuminate Data Q&A의 생성형 AI 기능을 검토하는 데 도움을 주기 위해 제공됩니다.

추가 정보