Illuminate Data Q&A — Nota de transparência de IA 

O uso legal, ético e responsável da inteligência artificial (IA) é uma prioridade fundamental para a Anthology. Portanto, desenvolvemos e implementamos um programa de IA confiável. Você pode encontrar informações sobre nosso programa e nossa abordagem geral para IA confiável na Central de confiabilidade e na Lista de recursos de IA generativa. 

Como parte de nossos princípios de IA confiável, nós nos comprometemos com transparência, explicabilidade e responsabilidade. Esta página tem como objetivo possibilitar a transparência e a explicabilidade necessárias para ajudar nossos clientes com a implementação do Illuminate Data Q&A. Recomendamos que os administradores examinem cuidadosamente esta página e garantam que os usuários relevantes estejam cientes das considerações e recomendações abaixo antes da ativação das funcionalidades do Illuminate Data Q&A para sua instituição. 

Como entrar em contato conosco: 

  • Para perguntas ou comentários sobre nossa abordagem geral de IA confiável ou como podemos tornar esta página mais útil para os clientes, envie um e-mail para [email protected]. 
  • Para perguntas ou comentários sobre a funcionalidade ou resultados do Illuminate Data Q&A, envie um ticket de suporte ao cliente através do Behind the Blackboard.

Funcionalidades facilitadas por IA 

O recurso Illuminate Data Q&A fornece um resumo de texto gerado por IA dos dados apresentados no painel Data Q&A que é gerado a partir do prompt do usuário. A Anthology fez uma parceria com a AWS para fornecer essa funcionalidade, em parte porque a AWS está comprometida com o uso responsável da IA. 

O recurso Illuminate Data Q&A oferece as seguintes funcionalidades facilitadas por IA generativa: 

Gerar resumo de dados e sugestões: um resumo de texto gerado por IA dos dados exibidos no painel é criado automaticamente com base no prompt do usuário. O recurso também sugere prompts alternativos para refinar a solicitação de dados. 

Essas funcionalidades estão sujeitas às limitações e à disponibilidade do Amazon Q/Amazon Bedrock e estão sujeitas a alterações. Verifique as notas de lançamento relevantes para saber mais.

Principais fatos

Principais fatos
QuestãoResposta
Quais funcionalidades do Illuminate usam sistemas de IA?O recurso Data Q&A listado acima.
Este sistema de IA é compatível com terceiros?Sim. O recurso Illuminate Data Q&A é alimentado pelo Amazon Q in QuickSight, que, por sua vez, utiliza o Amazon Bedrock. O Amazon Q in QuickSight usa o Anthropic Claude e o Amazon Titan por meio do Amazon Bedrock (bem como uma combinação de modelos de aprendizado de máquina desenvolvidos pela AWS).
Como o sistema de IA funciona?O Illuminate Data Q&A sempre contou com o Amazon QuickSight (uma ferramenta de BI com recursos de processamento de linguagem natural). Para os novos recursos de IA generativa, o Illuminate também conta com o Amazon Q for QuickSight. Com a ajuda do Amazon Q for QuickSight, o Illuminate Data Q&A cria automaticamente um resumo dos dados exibidos no painel Data Q&A. O recurso também sugere prompts alternativos para refinar a solicitação de dados. O Amazon Q utiliza o Anthropic Claude e o Amazon Titan no Amazon Bedrock (além de modelos adicionais de aprendizado de máquina da AWS) para fornecer esses recursos. Para criar resumos e sugerir prompts, o Amazon Q in QuickSight passa os prompts do usuário e os dados de resumo dos visuais do painel por meio de uma API para o modelo AWS Bedrock relevante.
Onde o sistema de IA é hospedado?A hospedagem do Amazon QuickSight e do Amazon Bedrock é determinada pela Amazon. O Amazon QuickSight geralmente está disponível nas mesmas regiões que o Illuminate. O Amazon Bedrock está atualmente disponível na UE e nos EUA e, portanto, os clientes dessas respectivas regiões podem ser beneficiados. A saída do modelo de IA generativo consiste em resumos temporários e prompts alternativos que não são armazenados permanentemente no Illuminate ou no Amazon Q in QuickSight/Bedrock.
Esta funcionalidade é opcional?Sim. Os administradores precisam aceitar em nome de sua instituição na página Configurações do Illuminate. Para obter mais informações, visite o tópico "Configurações do Anthology Illuminate".
Como o sistema de IA é treinado?

A Anthology não está envolvida no treinamento dos modelos Anthropic Claude e Amazon Titan que alimentam as funcionalidades do Illuminate Data Q&A por meio do Amazon Bedrock. Esses modelos são treinados pela Anthropic (Anthropic Claude) e pela Amazon (Amazon Titan), respectivamente;

A Anthology não refina ainda mais esses modelos usando nossos próprios dados ou os dados de nossos clientes.

Os dados do cliente são usados para treinar o sistema de IA?Não. A Amazon se compromete, em sua documentação pública, a não usar nenhuma entrada ou saída para o retreinamento dos grandes modelos de linguagem no Amazon Bedrock. A Amazon fornece informações sobre como os grandes modelos de linguagem são treinados nos links da seção “Mais informações” abaixo. Qualquer entrada e saída de dados é criptografada no trânsito e em repouso.
Como a Anthology usa as informações pessoais com relação ao fornecimento do Illuminate Data Q&A?A Anthology só usa as informações coletadas em conexão com o Illuminate Data Q&A para fornecer, manter e dar suporte ao Illuminate Data Q&A e quando houver permissão contratual para fazê-lo. Você pode encontrar mais informações sobre a abordagem da Anthology em relação à privacidade de dados na Central de confiabilidade.
No caso de um sistema de IA compatível com terceiros, como o terceiro usará as informações pessoais?

Somente prompts de usuário limitados e dados de resumo dos visuais do painel são transmitidos do Amazon Q for QuickSight ao Amazon Bedrock para fornecer o recurso. 

Nem a Amazon nem nenhum fornecedor de modelos do Amazon Bedrock usam dados da Anthology ou de seus clientes para aprimorar os modelos do Amazon Bedrock. 

Você pode encontrar mais informações sobre as práticas de privacidade de dados relacionadas à segurança e privacidade do Amazon Bedrock na documentação da Amazon na Página de segurança de IA da AWS, no blog de aprendizado de máquina da AWS, na visão geral do Amazon Q in QuickSight, no artigo de blog AWS anuncia o Amazon Q in QuickSight e na página de Segurança e privacidade do Amazon Bedrock.

A acessibilidade foi considerada no desenvolvimento do Illuminate Data Q&A?O recurso Illuminate Data Q&A utiliza o Amazon QuickSight. Como se trata de um recurso de terceiros, a acessibilidade foi considerada pela Amazon e não pela Anthology. A Amazon disponibiliza relatórios de conformidade de acessibilidade por meio das páginas de acessibilidade da AWS.

Considerações e recomendações para as instituições 

Casos de uso pretendidos 

O Illuminate Data Q&A destina-se apenas a oferecer suporte às funcionalidades listadas acima. Essas funcionalidades são fornecidas e destinadas aos instrutores de nossos clientes para apoiá-los na análise e nos aprimoramentos dos relatórios do Data Q&A. 

Casos de uso fora do escopo 

Atualmente, o Illuminate Data Q&A não oferece uma funcionalidade de prompt ou outra funcionalidade semelhante que possa instruir diretamente os modelos de IA generativa. Por isso, não antecipamos nenhum caso de uso não intencional (fora do escopo).

Princípios de IA confiável na prática 

A Anthology e a Amazon acreditam que o uso legal, ético e responsável da IA é uma prioridade fundamental. Esta seção explica como a Anthology e a Amazon trabalharam para lidar com o risco aplicável ao uso legal, ético e responsável da IA e implementar os princípios de IA confiável da Anthology. Ela também sugere medidas que nossos clientes podem considerar ao realizar as próprias análises jurídicas e de IA dos riscos éticos da IA na implementação. 

Transparência e explicabilidade 

  • Deixamos claro nas opções de configuração de administração do Illuminate que esta é uma funcionalidade facilitada por IA. 
  • Na interface de usuário dos instrutores, as funcionalidades do Illuminate Data Q&A estão claramente marcadas como funcionalidades "Generativas". Os instrutores também são solicitados a analisar a saída de texto antes do uso. Os metadados da saída criada pelas funcionalidades do Illuminate Data Q&A são expostos no relatório de uso do Illuminate de cada cliente com um campo para conteúdo gerado automaticamente. Ele também mostra se a saída foi posteriormente editada pelo instrutor. 
  • Além das informações fornecidas neste documento sobre como o recurso Illuminate Data Q&A funciona com o Amazon Q in QuickSight, a Amazon fornece informações adicionais sobre o Amazon Q e o Amazon Bedrock nos links da seção “Mais informações” abaixo. 
  • Incentivamos os clientes a serem transparentes sobre o uso de IA no Illuminate Data Q&A e oferecemos aos instrutores e outras partes interessadas, conforme apropriado, as informações relevantes deste documento e da documentação vinculada aqui.

Confiabilidade e precisão 

  • Deixamos claro na página de configuração do Illuminate que essa é uma funcionalidade que utiliza IA e pode gerar saídas imprecisas ou indesejadas e que essas saídas devem sempre ser revisadas pelo usuário final 
  • Na interface do usuário, é solicitado que os usuários analisem a precisão da saída do texto. 
  • Conforme detalhado nas perguntas frequentes do Amazon Bedrock, há o risco de uma saída imprecisa. Embora a natureza específica do Illuminate Data Q&A e nossa implementação tenham como objetivo minimizar a imprecisão, é responsabilidade do cliente analisar as saídas quanto à precisão, à parcialidade e a outros problemas potenciais. 
  • Os usuários podem facilmente refazer saídas imprecisas reformulando a pergunta ou a frase usada no prompt do Q&A. 
  • Como parte da comunicação sobre o Illuminate Data Q&A, os clientes devem alertar os instrutores sobre essa possível limitação.
  • Os clientes podem reportar qualquer saída imprecisa para nós usando os canais listados na introdução.

Justiça

  • Os grandes modelos de linguagem apresentam inerentemente riscos relacionados a estereótipos, sobrerrepresentação, sub-representação e outras formas de viés prejudicial.
  • Devido a esses riscos, escolhemos cuidadosamente as funcionalidades do Illuminate Data Q&A para evitar casos de uso que possam ser mais propensos a viés prejudicial ou em que o impacto de tais ocorrências de viés poderia ser maior. 
  • No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser afetada por viés prejudicial. Conforme mencionado acima em "Precisão", solicitamos aos instrutores que avaliem a saída, o que poderá ajudar a reduzir qualquer viés prejudicial. 
  • Como parte da comunicação sobre o Illuminate Data Q&A, os clientes devem alertar os instrutores sobre essa possível limitação. 
  • Os clientes podem relatar qualquer viés potencialmente prejudicial para nós usando os canais de contato listados na introdução.

Privacidade e segurança

  • Conforme descrito na seção “Principais fatos” acima, apenas prompts de usuário limitados e dados resumidos são usados para o Illuminate Data Q&A e acessíveis à Amazon. A seção também descreve o nosso comprometimento e o da Amazon em relação ao uso de quaisquer informações pessoais. 
  • A Amazon descreve as próprias práticas e compromissos de privacidade e segurança de dados na documentação sobre Segurança e privacidade do Amazon Bedrock.

Segurança 

  • Os grandes modelos de linguagem apresentam inerentemente um risco de saídas que podem ser inadequadas, ofensivas ou não seguras. A Amazon descreve esses riscos em sua seção Limitações da página de IA responsável da Amazon. 
  • Devido a esses riscos, escolhemos cuidadosamente as funcionalidades do Illuminate Data Q&A para evitar casos de uso que possam ser mais propensos a resultados inseguros ou em que o impacto de tais resultados poderia ser maior. 
  • No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser insegura. Conforme mencionado acima na seção “Precisão”, solicitamos aos instrutores que avaliem as saídas, o que pode ajudar a reduzir o risco de que elas não sejam seguras. 
  • Como parte da comunicação sobre o Illuminate Data Q&A, os clientes devem alertar os instrutores sobre essa possível limitação. 
  • Os clientes devem relatar qualquer saída potencialmente insegura para nós usando os canais listados na introdução.

Humanos no controle

  • Para minimizar o risco relacionado ao uso de IA generativa para os clientes e os usuários, colocamos os clientes intencionalmente no controle das funcionalidades do Illuminate Data Q&A. Portanto, o Illuminate Data Q&A é um recurso opcional. Os administradores podem ativar ou desativar o Illuminate Data Q&A a qualquer momento. 
  • Além disso, os instrutores estão no controle da saída, ou seja, eles podem analisá-la e refazê-la, conforme necessário.
  • O Illuminate Data Q&A não inclui nenhuma tomada de decisão automatizada que possa ter um efeito legal ou significativo sobre os alunos ou outros indivíduos. 
  • Incentivamos os clientes a analisarem cuidadosamente este documento, inclusive os links de informações disponíveis, para garantir que compreendam as capacidades e limitações do Illuminate Data Q&A e do Amazon Q in QuickSight subjacente antes de ativarem o recurso de IA generativa do Illuminate Data Q&A.

Alinhamento de valor 

  • Os grandes modelos de linguagem apresentam inerentemente riscos em relação a saídas tendenciosas, inapropriadas ou de outra forma não alinhadas aos valores da Anthology ou aos valores dos clientes e alunos. A Amazon descreve esses riscos nos sites vinculados na seção "Informações adicionais" abaixo. 
  • Além disso, os grandes modelos de linguagem (como todas as tecnologias que servem a propósitos amplos), apresentam o risco de serem mal utilizados para casos de uso que não se alinhem aos valores da Anthology, dos clientes ou dos usuários finais e da sociedade em geral (por exemplo, para atividades criminosas ou para gerar saídas prejudiciais ou inadequadas). 
  • Devido a esses riscos, desenvolvemos e implementamos cuidadosamente as funcionalidades do Illuminate Data Q&A para minimizar o risco de saídas desalinhadas. Também omitimos intencionalmente funcionalidades com potencial de alto risco.

Propriedade intelectual 

  • Os grandes modelos de linguagem apresentam inerentemente riscos relacionados a possíveis violações dos direitos de propriedade intelectual. A maioria das leis mundiais de propriedade intelectual não antecipou nem se adaptou totalmente ao surgimento dos grandes modelos de linguagem e à complexidade das questões que surgem da utilização deles. Como resultado, atualmente não há orientação nem parâmetros jurídicos claros que abordem as questões de propriedade intelectual e os riscos que surgem do uso desses modelos. 
  • Em última análise, é responsabilidade do cliente avaliar as saídas geradas pelo Illuminate Data Q&A em busca de qualquer possível violação de direito de propriedade intelectual.

Acessibilidade 

  • Projetamos e desenvolvemos o Illuminate Data Q&A tendo em mente a acessibilidade, assim como fazemos no Learn e em nossos outros produtos. Antes do lançamento do Illuminate Data Q&A, melhoramos deliberadamente a acessibilidade da estrutura semântica, navegação, controle de teclado, rótulos, componentes personalizados e fluxos de trabalho de imagem, entre outras áreas. Continuaremos a priorizar a acessibilidade à medida que usamos a IA no futuro. 
  • O recurso Illuminate Data Q&A utiliza o Amazon QuickSight. A AWS disponibiliza relatórios de conformidade de acessibilidade por meio das páginas de acessibilidade da AWS.

Responsabilidade 

  • A Anthology tem um programa de IA confiável, projetado para garantir o uso legal, ético e responsável da IA. A responsabilidade interna clara e a análise ética sistemática da IA ou de suas funcionalidades, como as oferecidas pelo Illuminate Data Q&A, são pilares fundamentais do programa. 
  • Para oferecer o Illuminate Data Q&A, fizemos uma parceria com a Amazon para aproveitar o Amazon Q in QuickSight. A AWS está comprometida com o uso responsável da IA. 
  • Os clientes devem considerar a implementação de políticas e procedimentos internos, além da análise de aplicações de IA de terceiros para garantir o próprio uso dentro da lei, ético e responsável da IA. Essas informações são fornecidas para auxiliar nossos clientes na análise dos recursos de IA generativa do Illuminate Data Q&A.

Mais informações