O uso legítimo, ético e responsável da inteligência artificial (IA) é uma prioridade fundamental para a Anthology. Portanto, desenvolvemos e implementamos um programa de IA confiável. Você pode encontrar informações sobre nosso programa e abordagem geral para IA confiável na nossa Central de Confiabilidade e mais informações sobre recursos de IA generativa na função Lista de recursos de IA generativa.

Como parte dos nossos princípios de IA confiável, nos comprometemos com a transparência, explicabilidade e responsabilidade. Esta página tem como objetivo oferecer a transparência e as explicações necessárias para ajudar nossos clientes com a implementação do AI Design Assistant. Recomendamos que os administradores examinem cuidadosamente esta página e se certifiquem de que os instrutores estejam cientes das considerações e recomendações abaixo antes da ativação das funcionalidades do AI Alt Text Assistant na sua instituição.

Como entrar em contato conosco:

  • Para perguntas ou comentários sobre nossa abordagem geral de IA confiável ou como podemos tornar esta página mais útil para os clientes, envie um e-mail para [email protected].
  • Em caso de dúvidas ou comentários sobre a funcionalidade ou os resultados do AI Alt Text Assistant, abra um chamado de suporte ao cliente por meio do Behind the Blackboard.

Funcionalidades assistidas por IA

O AI Alt Text Assistant oferece aos instrutores sugestões de texto alternativo para imagens utilizadas nos cursos on-line por meio do fluxo de trabalho Comentários do instrutor do Ally. O intuito é inspirar os instrutores e tornar as correções de acessibilidade mais eficientes.  

A Anthology firmou uma parceria com a AWS para atualizar o modelo de IA do Ally e gerar sugestões ainda mais efetivas, juntamente com a capacidade de gerar sugestões de descrição de imagens para um conteúdo mais complexo, incluindo STEM, tabelas/gráficos, texto em imagens e imagens manuscritas. Esse recurso é desenvolvido pelo Claude, um modelo de linguagem da Anthropic, por meio do AWS Bedrock. Se a sua instituição estiver sediada no Canadá, o assistente usará o modelo Claude 3 Sonnet mais recente. Em todas as demais regiões, o Claude Sonnet 3.5 é utilizado. O modelo utilizado depende da disponibilidade na sua região da AWS. 

O AI Alt Text Assistant oferece as seguintes funcionalidades assistidas por IA generativa:

  • Gerar um texto alternativo para imagens.  Sugerir um texto alternativo nos comentários do Ally Instructor quando os instrutores estiverem fixando imagens sem texto alternativo.

Essas funcionalidades estão sujeitas às limitações e serviço do AWS Bedrock Service e sujeitas a alterações. Verifique as notas de lançamento relevantes para saber mais.

Principais fatos

Tabela de exemplos
PerguntaResposta
Que funcionalidades do Ally utilizam sistemas de IA?Sugestão de texto alternativo por IA no Painel de comentários do instrutor do Ally, quando uma imagem for marcada pelo Ally por não ter texto alternativo.
Este sistema de IA é compatível com sistemas de terceiros?Sim. Usamos o Claude, um modelo desenvolvido pela Anthropic e oferecido por meio do AWS Bedrock. As instituições no Canadá usam o Anthropic Claude 3 Sonnet, enquanto outras regiões usam o Claude Sonnet 3.5, conforme a compatibilidade em cada região da AWS.
Como o sistema de IA funciona?O AI Alt Text Assistant usa modelos Claude do Anthropic por meio do AWS Bedrock para gerar automaticamente sugestões de texto alternativo. Conforme a localização da sua instituição, pode ser o Anthropic Claude 3 Sonnet (no Canadá) ou o Claude Sonnet 3.5 (nas demais regiões). Para tanto, usa-se a imagem para gerar um texto alternativo que será enviado por meio do AWS SDK.   Também adicionamos a capacidade de envio de prompts contextuais com base no conteúdo de texto adjacente quando uma imagem é incorporada a um item de conteúdo avançado. Nenhuma informação adicional é utilizada (por exemplo, título do curso, descrição do curso). Não são utilizadas imagens para treinar os modelos do AWS Bedrock e o Bedrock gera os resultados com base em cada imagem enviada para o AI Alt Text Assistant.
Onde o sistema de IA fica hospedado?

Atualmente, o Anthology usa várias instâncias da AWS para o Amazon Bedrock, determinadas pela disponibilidade da região da Amazon. A AWS fornece essa disponibilidade por região para o modelo do Amazon Bedrock utilizado atualmente pelo Ally (Claude Sonnet 3.5) para prestar Suporte a modelos por região da AWS no Amazon Bedrock. Às vezes podemos utilizar recursos em outros locais, como no Leste dos EUA, para oferecer a melhor opção de disponibilidade opção do AWS Bedrock aos nossos clientes quando uma região específica não estiver disponível. 

Todos os resultados de clientes gerados pelo AI Alt Text Assistant são armazenados no banco de dados do Ally de cada cliente gerenciado pelo Anthology.

Essa funcionalidade é opcional?Sim. Os administradores devem ativar o AI Alt Text Assistant nas opções de configuração do LMS Ally. Selecione Geração de IA de descrições alternativas para imagens na guia de Recursos. Os administradores podem ativar ou desativar essa funcionalidade quando quiserem.
Como o sistema de IA é treinado?

A Anthology não está envolvida no treinamento do modelo da Anthropic que alimenta as funcionalidades do AI Alt Text Assistant por meio do Amazon Bedrock. Esses modelos são treinados pela Anthropic (Anthropic Claude).

A Anthology faz ajustes adicionais nesses modelos utilizando seus próprios dados ou os de seus clientes.

Os dados do cliente são utilizados para treinar o sistema de IA?Não. A Amazon se compromete em sua documentação pública a não utilizar qualquer dado recebido ou resultado para (re)treinamento dos grandes modelos de linguagem no Amazon Bedrock. A Amazon fornece informações sobre como os grandes modelos de linguagem são treinados nos links da seção “Mais informações” abaixo. Todas as entradas e saídas de dados são criptografadas em trânsito e em repouso.
Como o Anthology Ally usa informações pessoais em relação ao sistema de AI Alt Text Assistant?A Anthology usa apenas as informações coletadas associadas ao AI Alt Text Assistant para fornecer, manter e prestar suporte ao AI Alt Text Assistant e quando tiver permissão contratual para fazê-lo. Você pode encontrar mais informações sobre a abordagem da Anthology em relação à privacidade de dados na Central de Confiabilidade.
No caso de um sistema de IA compatível com terceiros, como o terceiro utilizará as informações pessoais?

Somente imagens e/ou dados contextuais em conteúdo do tipo "rich" em torno de uma imagem serão utilizados para alimentar esse recurso. Nenhuma informação adicional é compartilhada com o AWS Bedrock.  

Nem a Amazon nem qualquer fornecedor de modelos do Amazon Bedrock utilizam dados da Anthology ou de seus clientes para otimizar modelos do Amazon Bedrock  

Você pode encontrar mais informações sobre as práticas de privacidade de dados relacionadas à segurança e privacidade do Amazon Bedrock na documentação da Amazon na página AWS AI Security, no blog de Aprendizagem de Máquina da AWS e na página de Segurança e Privacidade do Amazon Bedrock.

A acessibilidade foi considerada no desenvolvimento do sistema AI Alt Text?Sim, nossos engenheiros de acessibilidade colaboraram com as equipes de produtos para avaliar o desenvolvimento, comunicar considerações importantes sobre acessibilidade e testar os novos recursos especificamente em termos de acessibilidade. Continuaremos a considerar a acessibilidade como parte integrante da nossa abordagem à IA confiável. 

Considerações e recomendações para instituições

Estudos de caso programados

O AI Alt Text Assistant destina-se apenas a oferecer suporte às funcionalidades relacionadas acima. Essas funcionalidades são fornecidas e destinadas aos instrutores dos nossos clientes para dar suporte à correção dos problemas de acessibilidade identificados pelo Ally.

Estudos de caso fora do escopo

O AI Alt Text Assistant não tem a finalidade de tornar todas as imagens acessíveis com o texto alternativo perfeito, pois ainda cabe ao instrutor ajustar ou aprovar o texto alternativo com base no contexto do conteúdo do curso. 

Princípios de IA confiável na prática

A Anthology e a Amazon acreditam que o uso legítimo, ético e responsável da IA é uma prioridade fundamental. Esta seção explica como a Anthology e a Amazon trabalharam para lidar com o risco aplicável ao uso legítimo, ético e responsável da IA e implementar os princípios de IA confiável da Anthology. Também sugere medidas que nossos clientes podem considerar ao realizar suas próprias análises jurídicas e de IA dos riscos éticos da IA no ato da implementação. 

Transparência e explicabilidade

  • Deixamos claro nas opções de configuração de administração do Ally que esta é uma funcionalidade assistida por IA
  • Na interface de usuário dos instrutores, as funcionalidades do AI Alt Text Assistant estão claramente marcadas como funcionalidades "Generativas". Os instrutores também devem avaliar o texto gerado antes de utilizá-lo. Os metadados dos resultados gerados pelas funcionalidades do AI Alt Text Assistant são incluídos no relatório de uso do Ally de cada cliente com um campo para conteúdo gerado automaticamente. Ele também mostra se os resultados foram posteriormente editados pelo instrutor.
  • O modelo por trás do AI Alt Text Assistant pode variar conforme a localização da instituição. No Canadá, o assistente usa o modelo Claude 3 Sonnet, que oferece recursos mais recentes. Em todas as demais localidades, o Claude Sonnet 3.5 é utilizado. Essa opção é baseada no que o AWS Bedrock disponibiliza em cada região.
  • Incentivamos os clientes a serem transparentes sobre o uso de IA no AI Alt Text Assistant e oferecemos aos instrutores e outras partes interessadas, conforme apropriado, as informações relevantes deste documento e a documentação vinculada neste documento.

Confiabilidade e precisão

  • Deixamos claro nas opções de Configuração de administração e nos Termos de uso do Ally que esta é uma funcionalidade assistida por IA, que pode produzir resultados imprecisos ou indesejados e que devem sempre ser analisados pelo instrutor.
  • Na interface do usuário, o sistema solicita aos instrutores que analisem o texto gerado quanto à precisão.
  • Conforme detalhado nas Perguntas frequentes do Amazon Bedrock, existe o risco de um resultado impreciso. Embora a natureza específica do AI Alt Text Assistant e nossa implementação tenham como objetivo minimizar a imprecisão, é responsabilidade do cliente analisar os resultados quanto à precisão, à parcialidade e outros problemas possíveis.
  • Os usuários podem facilmente regenerar resultados imprecisos, reformulando a pergunta ou frase usada no prompt de perguntas e respostas.
  • Como parte da comunicação relativa ao AI Alt Text Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
  • Os clientes podem reportar qualquer saída imprecisa para nós usando os canais citados na introdução.

Justiça

  • Os grandes modelos de linguagem apresentam inerentemente riscos relacionados a estereótipos, representação além/aquém do desejável e outras formas de viés prejudicial.
  • Devido a esses riscos, escolhemos cuidadosamente as funcionalidades do AI Alt Text Assistant para evitar estudos de caso que possam ser mais propensos a vieses prejudiciais ou em que o impacto dessas ocorrências de viés possa ser mais significativo.
  • No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser afetada por viés prejudicial. Conforme mencionado acima no item "Precisão", solicitamos aos instrutores que avaliem os resultados, o que pode ajudar a reduzir qualquer viés prejudicial.
  • Como parte da comunicação relativa ao AI Alt Text Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
  • Os clientes podem relatar qualquer viés potencialmente prejudicial por meio dos canais de contato relacionados na introdução.

Privacidade e segurança

  • Conforme descrito na seção "Principais fatos" acima, apenas a imagem é usada para o AI Alt Text Assistant e acessível à Microsoft. A seção também descreve o nosso comprometimento e o da Microsoft em relação ao uso de quaisquer informações pessoais.
  • A Amazon descreve as próprias práticas e compromissos de privacidade e segurança de dados na documentação sobre Segurança e privacidade do Amazon Bedrock.

Segurança

  • Os grandes modelos de linguagem apresentam inerentemente um risco de saídas que podem ser inadequadas, ofensivas ou de outra forma não seguras. A Amazon descreve esses riscos na seção de Limitações da Página de IA responsável da Amazon.
  • Devido a esses riscos, escolhemos cuidadosamente as funcionalidades do AI Alt Text Assistant para evitar estudos de caso que possam ser mais propensos a resultados inseguros ou onde o impacto de tais resultados poderia ser mais significativo.
  • No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser insegura. Conforme mencionado acima no item "Precisão", solicitamos aos instrutores que avaliem os resultados, o que pode ajudar a reduzir o risco de resultados inseguros.
  • Como parte da comunicação relativa ao AI Alt Text Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
  • Os clientes devem relatar qualquer resultado potencialmente inseguro usando os canais relacionados na introdução.

Pessoas no controle

  • Para minimizar o risco relacionado ao uso de IA generativa para clientes e usuários, deixamos os clientes intencionalmente no controle das funcionalidades do AI Alt Text Assistant. O AI Alt Text Assistant é, portanto, um recurso facultativo. Os administradores podem ativar ou desativar o AI Alt Text Assistant a qualquer momento.  
  • Além disso, os instrutores tem o controle dos resultados, o que significa que devem analisar o texto gerado e podem editá-lo, conforme necessário.
  • O AI Alt Text Assistant não inclui qualquer tipo de tomada de decisão automatizada que possa gerar um efeito legal ou significativo sobre os alunos ou outras pessoas.
  • Incentivamos os clientes a lerem cuidadosamente este documento, incluindo os links de informações aqui fornecidos, para se certificarem de que entenderam os recursos e as limitações do AI Alt Text Assistant e do Amazon Bedrock subjacentes, antes de ativar o recurso AI Alt Text Assistant.

Alinhamento de valor

  • Os grandes modelos de linguagem representam inerentemente riscos em relação a resultados tendenciosos, inapropriados ou não alinhados aos valores da Anthology ou aos valores dos clientes e alunos. A Amazon descreve esses riscos nos sites vinculados na seção "Mais informações" abaixo.
  • Além disso, os grandes modelos de linguagem (como todas as tecnologias com objetivos abrangentes), apresentam o risco de serem mal utilizados para estudos de caso que não se alinhem aos valores da Anthology, dos clientes ou dos usuários finais e da sociedade em geral (por exemplo, para atividades criminosas, para gerar resultados prejudiciais ou indevidos).
  • Devido a esses riscos, desenvolvemos e implementamos cuidadosamente nossas funcionalidades do AI Alt Text Assistant para minimizar o risco de resultados desalinhados. Por exemplo, nos concentramos em funcionalidades para instrutores e não para alunos. Também omitimos intencionalmente funcionalidades com potencial de alto risco.

Propriedade intelectual

  • Os grandes modelos de linguagem representam inerentemente riscos relacionados a possíveis violações a direitos de propriedade intelectual. A maioria das leis mundiais de propriedade intelectual não antecipou nem se adaptou inteiramente ao surgimento dos grandes modelos de linguagem e à complexidade das questões que surgem da sua utilização. Como resultado, atualmente não há orientação nem parâmetros jurídicos claros que abordem as questões de propriedade intelectual e os riscos que surgem do uso desses modelos.
  • Em última análise, é responsabilidade do cliente avaliar os resultados gerados pelo AI Alt Text Assistant em busca de qualquer possível violação de direitos de propriedade intelectual.  

Acessibilidade

  • Projetamos e desenvolvemos o AI Alt Text Assistant tendo em mente a acessibilidade, assim como fazemos no Learn e em nossos outros produtos. Antes do lançamento do AI Alt Text Assistant, aperfeiçoamos deliberadamente a acessibilidade da estrutura semântica, da navegação, do controle de teclado, de rótulos, componentes personalizados e fluxos de trabalho de imagens, apenas para citar algumas áreas. Continuaremos a priorizar a acessibilidade à medida que aproveitarmos a IA no futuro.
  • O recurso AI Alt Text Assistant explora os recursos do Amazon Bedrock. A AWS disponibiliza relatórios de conformidade de acessibilidade nas Páginas de acessibilidade da AWS.

Responsabilidade

  • A Anthology tem um Programa de IA confiável, projetado para assegurar o uso legítimo, ético e responsável da IA. A responsabilidade interna clara e a análise ética sistemática da IA ou das funcionalidades, como as oferecidas pelo AI Alt Text Assistant, são pilares fundamentais do programa.
  • Para fornecer o AI Alt Text Assistant, firmamos uma parceria com a Amazon para explorar os recursos do Amazon Bedrock. A AWS tem um compromisso com o uso responsável da IA.
  • Os clientes devem considerar a implementação de políticas e procedimentos internos, além da análise de aplicações de IA de terceiros para garantir o próprio uso de forma legítima, ética e responsável da IA. Essas informações são disponibilizadas para substanciar a avaliação dos nossos clientes em relação ao AI Alt Text Assistant.

Outras informações