L'utilisation légale, éthique et responsable de l'intelligence artificielle (IA) est une priorité pour Anthology. Pour cette raison, nous avons développé et mis en œuvre un programme d'IA éthique. Vous trouverez des informations sur notre programme et notre approche générale en matière d'IA fiable dans notre Trust Center et plus d'informations sur les fonctionnalités d'IA génératives dans notre Liste des fonctionnalités d'IA génératives.

Dans le cadre de nos principes d'utilisation éthique de l'IA, nous tenons à faire preuve de transparence et à nous montrer responsables. Cette page est destinée à fournir aux clients les explications nécessaires à la mise en œuvre de l'outil AI Alt Text Assistant. Nous recommandons aux administrateurs de l'examiner attentivement et de vérifier que les professeurs sont au courant des considérations et des recommandations qu'elle contient avant d'activer les fonctionnalités d'AI Alt Text Assistant pour leur établissement.

Comment nous contacter :

  • Pour toute question ou commentaire sur notre approche générale de l'IA ou sur la façon dont nous pouvons rendre cette page plus utile pour nos clients, veuillez nous envoyer un e-mail à l'adresse suivante : [email protected].
  • Pour toute question ou commentaire concernant les fonctionnalités ou la sortie de AI Alt Text Assistant, veuillez envoyer un ticket d'assistance client via Behind the Blackboard.

Fonctionnalités facilitées par l'IA

L'outil AI Alt Text Assistant fournit aux professeurs des suggestions de texte alternatif pour les images utilisées dans leur(s) cours(s) en ligne via le workflow de feed-back du professeur Ally. Il est destiné à inspirer les professeurs et à rendre les correctifs d'accessibilité plus efficaces.  

Anthology s'est associée à AWS pour améliorer le modèle d'IA d'Ally afin de proposer des suggestions encore plus percutantes, ainsi que la possibilité de générer des suggestions de description d'images pour des contenus plus complexes, notamment des STEM, des graphiques/graphiques, du texte dans les images et des images manuscrites. Cette fonctionnalité est développée par Claude, un modèle de langage d'Anthropic, via AWS Bedrock. Si votre établissement est basé au Canada, l'assistant utilise le nouveau modèle Claude 3 Sonnet. Dans toutes les autres régions, il utilise Claude Sonnet 3.5. Le modèle utilisé dépend de la disponibilité dans votre région AWS. 

AI Alt Text Assistant fournit les fonctionnalités suivantes facilitées par l'IA générative :

  • Génère un texte alternatif pour les images.  Suggère un texte alternatif dans les commentaires d'Ally Instructor lorsque les professeurs corrigent des images sans texte alternatif.

Ces fonctionnalités sont soumises aux limites et à la disponibilité du service AWS Bedrock et peuvent faire l'objet de modifications. Consultez les notes de publication correspondantes pour plus de détails.

Points clés

Tableau d'exemple
QuestionRéponse
Quelles fonctionnalités Ally utilisent des systèmes d'IA ?Suggestion de texte alternatif via l'IA dans le panneau de feed-back du professeur de Ally, lorsqu'une image a été signalée par Ally parce qu'elle ne contient pas de texte alternatif.
S'agit-il d'un système d'IA pris en charge par un tiers ?Oui. Nous utilisons Claude, un modèle développé par Anthropic et proposé via AWS Bedrock. Au Canada, les institutions utilisent Anthropic Claude 3 Sonnet, tandis que d'autres régions utilisent Claude Sonnet 3.5, en fonction de la disponibilité dans chaque région AWS.
Comment fonctionne ce système d'IA ?AI Alt Text Assistant utilise des modèles Claude d'Anthropic via AWS Bedrock pour générer automatiquement des suggestions de texte alternatif. Selon l'emplacement de votre établissement, il peut s'agir d'Anthropic Claude 3 Sonnet (au Canada) ou de Claude Sonnet 3.5 (dans d'autres régions). Pour ce faire, utilisez l'image pour générer un texte alternatif qui est envoyé via le SDK AWS.   Nous avons également ajouté la possibilité d'envoyer des invites contextuelles en fonction du contenu textuel environnant lorsqu'une image est intégrée à un élément de contenu enrichi. Aucune autre information n'est utilisée (par exemple, titre du cours, description du cours). Les images ne sont pas utilisées pour entraîner les modèles AWS Bedrock, et le Bedrock génère la sortie en fonction de chaque image téléchargée vers AI Alt Text Assistant.
Où le système d'IA est-il hébergé ?

Anthology utilise actuellement plusieurs instances AWS pour Amazon Bedrock, en fonction de la disponibilité dans la région Amazon. AWS fournit cette disponibilité régionale pour le modèle Amazon Bedrock actuellement utilisé par Ally (Claude Sonnet 3.5) lors du support des modèles par la région AWS dans Amazon Bedrock. Il se peut que nous utilisions parfois des ressources situées dans d'autres régions, par exemple dans l'est des États-Unis, afin de proposer à nos clients la meilleure option de disponibilité pour AWS Bedrock lorsqu'une région spécifique n'est pas disponible. 

Toutes les productions générées par AI Alt Text Assistant sont stockées dans la base de données Ally existante, gérée par Anthology, associée à chaque client.

S'agit-il d'une fonctionnalité facultative ?Oui. Les administrateurs doivent activer AI Alt Text Assistant dans les options de configuration de LMS Ally. Sélectionnez Génération automatique de descriptions alternatives pour les images dans l'onglet Fonctionnalités. Les administrateurs peuvent activer ou désactiver cette fonctionnalité à tout moment.
Comment le système d'IA est-il entraîné ?

Anthology ne participe pas à la formation du modèle anthropique qui alimente les fonctionnalités de AI Alt Text Assistant via Amazon Bedrock. Ces modèles sont entraînés par Anthropic (Anthropic Claude).

Anthology n'affine pas davantage ces modèles à l'aide de ses propres données ou de celles de ses clients.

Les données des clients sont-elles utilisées pour entraîner ou réentraîner le système d'IA ?Non Amazon s'engage dans sa documentation publique à ne pas utiliser d'entrée ou de sortie pour la (re)formation des grands modèles de langage dans Amazon Bedrock. Les informations fournies par Amazon sur l'entraînement des grands modèles de langage sont disponibles dans les liens de la section « Informations complémentaires » ci-dessous. Toutes les données d'entrée et de sortie sont chiffrées en transit et au repos.
Comment les données personnelles sont-elles utilisées par Anthology Ally dans le cadre de son système d'IA AI Text Assistant ?Anthology utilise les informations collectées en lien avec AI Alt Text Assistant uniquement pour fournir, maintenir et soutenir AI Alt Text Assistant, et lorsque nous avons l'autorisation contractuelle de le faire. Vous trouverez plus d'informations sur l'approche d'Anthology en matière de confidentialité des données dans son Trust Center.
Dans le cas d'un système d'IA pris en charge par un tiers, comment le tiers utilisera-t-il les données personnelles ?

Seules les images et/ou les données contextuelles du contenu enrichi entourant une image sont utilisées pour alimenter cette fonctionnalité. Aucune autre information n'est partagée avec AWS Bedrock.  

Ni Amazon ni aucun fournisseur de modèles Amazon Bedrock n'utilisent les données d'Anthology ou les données client d'Anthology pour améliorer les modèles Amazon Bedrock  

Vous trouverez plus d'informations sur les pratiques de confidentialité des données concernant la sécurité et la confidentialité d'Amazon Bedrock dans la documentation Amazon sur la page AWS AI Security, le blog AWS Machine Learning et la page Amazon Bedrock Security and Privacy.

L'accessibilité a-t-elle été prise en compte dans la conception du système d'IA Alt Text ?Oui, nos ingénieurs spécialistes de l'accessibilité ont collaboré avec les équipes produit pour examiner les conceptions, communiquer les considérations importantes et tester spécifiquement l'accessibilité des nouvelles fonctionnalités. Nous continuerons à considérer l'accessibilité comme une partie intégrante de notre approche éthique de l'IA. 

Considérations et recommandations à l'intention des établissements

Cas d'utilisation prévus

L'outil AI Alt Text Assistant est uniquement destiné à prendre en charge les fonctionnalités énumérées ci-dessus. Ces fonctionnalités sont fournies et destinées aux professeurs de nos clients pour les aider à résoudre les problèmes d'accessibilité des images signalés par Ally.

Cas d'utilisation hors champ d'application

L'AI Alt Text Assistant n'a pas pour but et n'est pas garanti de rendre chaque image accessible avec un texte alternatif parfait, car il appartient toujours au professeur d'ajuster ou d'approuver le texte alternatif en fonction du contexte du contenu du cours. 

Les principes d'utilisation éthique de l'IA dans la pratique

Anthology et Amazon sont convaincus que l'utilisation légale, éthique et responsable de l'IA doit rester une priorité. Cette section explique comment Anthology et Amazon ont collaboré pour faire face aux risques applicables à l'utilisation légale, éthique et responsable de l'IA, et mettre en œuvre les principes d'utilisation éthique de l'IA par Anthology. Elle suggère également des mesures que nos clients peuvent prendre lorsqu'ils entreprennent leurs propres examens juridiques de l'IA et des risques éthiques liés à sa mise en œuvre. 

Transparence et explicabilité

  • Nous indiquons clairement dans les options de configuration d'administration Ally qu'il s'agit d'une fonctionnalité facilitée par l'IA
  • Dans l'interface utilisateur des professeurs, les fonctionnalités d'AI Alt Text Assistant sont clairement identifiées comme des fonctionnalités « génératives ». Les professeurs sont également priés d'examiner le texte avant de l'utiliser. Les métadonnées des productions issues des fonctionnalités d'AI Alt Text Assistant incluses dans le rapport d'utilisation d'Ally de chaque client comportent un champ pour le contenu généré automatiquement. Elles indiquent également si le contenu a été modifié ultérieurement par le professeur.
  • Le modèle de l'AI Alt Text Assistant peut varier en fonction de l'endroit où se trouve votre établissement. Au Canada, l'assistant utilise le modèle Claude 3 Sonnet, qui offre de nouvelles fonctionnalités. Partout ailleurs, il utilise Claude Sonnet 3.5. Ce choix est basé sur ce qu'AWS Bedrock met à disposition dans chaque région.
  • Nous encourageons les clients à communiquer clairement au sujet de l'utilisation de l'IA dans l'outil AI Alt Text Assistant et à fournir à leurs professeurs et aux autres parties prenantes, le cas échéant, les informations pertinentes de ce document et la documentation liée aux présentes.

Fiabilité et précision

  • Nous indiquons clairement dans les options de configuration d'administration d'Ally et dans les conditions d'utilisation qu'il s'agit d'une fonctionnalité facilitée par l'IA, dont la production peut être inexacte ou indésirable et doit toujours être examinée par le professeur.
  • Dans l'interface utilisateur, les professeurs sont invités à examiner la précision du texte produit.
  • Comme indiqué dans la FAQ d'Amazon Bedrock, les sorties peuvent être inexactes. Bien que la nature spécifique de l'outil AI Alt Text Assistant et de notre mise en œuvre vise à minimiser les inexactitudes, il est de la responsabilité de notre client de vérifier les productions pour détecter les erreurs, biais et autres problèmes potentiels.
  • Les utilisateurs peuvent facilement régénérer des résultats inexacts en reformulant la question ou la phrase utilisée dans l'invite de questions-réponses.
  • Dans le cadre de leur communication concernant AI Alt Text Assistant, les clients doivent informer leurs professeurs de cette limitation potentielle.
  • Les clients peuvent nous signaler toute production inexacte en utilisant les canaux répertoriés dans l'introduction.

Équité

  • Les grands modèles de langage présentent intrinsèquement des risques liés aux stéréotypes, à la surreprésentation ou à la sous-représentation, et à d'autres formes de biais préjudiciables.
  • Compte tenu de ces risques, nous avons soigneusement sélectionné les fonctionnalités de l'outil AI Alt Text Assistant de façon à éviter les cas d'utilisation les plus sujets à des biais ou pour lesquels l'impact de ces biais pourrait être plus important.
  • Néanmoins, il ne peut être exclu qu'une partie de la production puisse être affectée par un biais préjudiciable. Comme décrit dans la section « Exactitude » ci-dessus, les professeurs sont invités à examiner les productions, ce qui peut aider à réduire ce genre de problème.
  • Dans le cadre de leur communication concernant AI Alt Text Assistant, les clients doivent informer leurs professeurs de cette limitation potentielle.
  • Les clients peuvent nous signaler tout biais potentiellement préjudiciable en utilisant les canaux de contact énumérés dans l'introduction.

Confidentialité et sécurité

  • Comme décrit dans la section « Faits clés » ci-dessus, seules des images sont utilisées par l'outil AI Alt Text Assistant et accessibles à Microsoft. Cette section décrit également notre engagement et celui de Microsoft concernant l'utilisation des données personnelles.
  • Amazon décrit ses pratiques et engagements en matière de confidentialité et de sécurité des données dans la documentation sur la sécurité et la confidentialité pour Amazon Bedrock.

Sécurité

  • Les grands modèles de langage présentent intrinsèquement un risque de productions inappropriées, offensantes ou autrement dangereuses. Amazon décrit ces risques dans la section Restrictions de la page relative à l'IA responsable d'Amazon.
  • Compte tenu de ces risques, nous avons soigneusement sélectionné les fonctionnalités de l'outil AI Alt Text Assistant pour éviter les cas d'utilisation plus sujets à des productions dangereuses ou pour lesquels l'impact de ces productions pourrait être plus important.
  • Néanmoins, nous ne pouvons pas exclure la possibilité de productions dangereuses. Comme décrit dans la section « Précision » ci-dessus, les professeurs sont priés d'examiner les productions, ce qui peut contribuer à réduire ce risque.
  • Dans le cadre de leur communication concernant AI Alt Text Assistant, les clients doivent informer leurs professeurs de cette limitation potentielle.
  • Ils sont également tenus de nous signaler toute production potentiellement dangereuse en utilisant les canaux énumérés dans l'introduction.

Laisser l'humain aux commandes

  • Afin de minimiser le risque lié à l'utilisation de l'IA générative pour nos clients et leurs utilisateurs, nous donnons intentionnellement aux clients le contrôle des fonctionnalités de l'outil AI Alt Text Assistant. AI Alt Text Assistant est donc une fonctionnalité facultative. Les administrateurs peuvent activer ou désactiver AI Alt Text Assistant à tout moment.  
  • De plus, les professeurs contrôlent les productions, ce qui signifie qu'ils sont invités à examiner les textes et à les modifier si nécessaire.
  • AI Alt Text Assistant n'inclut aucune prise de décision automatisée qui pourrait avoir des conséquences légales ou d'autres conséquences significatives pour les apprenants ou d'autres personnes.
  • Nous encourageons les clients à lire attentivement ce document, y compris les liens d'information fournis ici, afin de s'assurer qu'ils comprennent les fonctionnalités et les limites de AI Alt Text Assistant et de l'Amazon Bedrock sous-jacent avant d'activer la fonctionnalité AI Alt Text Assistant.

Alignement avec nos valeurs

  • Les grands modèles de langage comportent intrinsèquement des risques de productions biaisées, inappropriées ou autrement non alignées avec les valeurs d'Anthology, de nos clients et des apprenants. Amazon décrit ces risques sur les sites Web liés dans la section « Informations complémentaires » ci-dessous.
  • De plus, comme toute technologie servant à des fins générales, ils présentent le risque d'être utilisés pour des cas d'utilisation qui ne correspondent pas aux valeurs d'Anthology, de nos clients ou de leurs utilisateurs finaux, ou aux valeurs de la société de façon plus générale (p. ex., pour des activités criminelles, pour créer des productions nuisibles ou autrement inappropriées).
  • Compte tenu de ces risques, nous avons soigneusement conçu et mis en œuvre les fonctionnalités de notre outil AI Alt Text Assistant de manière à minimiser le désalignement des productions. Par exemple, nous nous sommes concentrés sur les fonctionnalités destinées aux professeurs plutôt qu'aux apprenants. Nous avons également intentionnellement omis des fonctionnalités à enjeux potentiellement élevés.

Propriété intellectuelle

  • Les grands modèles de langage présentent intrinsèquement des risques de violation des droits de propriété intellectuelle. La plupart des lois sur la propriété intellectuelle dans le monde n'ont pas pleinement anticipé, et ne sont pas adaptées à l'émergence de grands modèles de langage ni à la complexité des questions qui découlent de leur utilisation. Par conséquent, il n'existe actuellement aucun cadre juridique ni orientation clairs qui traitent des questions de propriété intellectuelle et des risques qui découlent de l'utilisation de ces modèles.
  • En définitive, il est de la responsabilité de notre client d'examiner les productions générées par AI Alt Text Assistant afin d'éviter toute violation potentielle des droits de propriété intellectuelle.  

Accessibilité

  • Nous avons conçu et développé AI Alt Text Assistant en gardant l'accessibilité à l'esprit, comme nous le faisons pour Learn et nos autres produits. Avant la mise à disposition d'AI Alt Text Assistant, nous avons délibérément amélioré l'accessibilité de la structure sémantique, de la navigation, des commandes clavier, des étiquettes, des composants personnalisés et des workflows d'images, pour ne citer que quelques domaines. Nous continuerons à accorder la priorité à l'accessibilité à mesure que nous tirerons parti de l'IA à l'avenir.
  • La fonctionnalité AI Alt Text Assistant utilise les propriétés d'Amazon Bedrock. AWS met à disposition les rapports de conformité en matière d'accessibilité sur les pages relatives à l'accessibilité d'AWS.

Responsabilité

  • Anthology a mis en place un programme de Fiabilité IA afin de garantir une utilisation légale, éthique et responsable de l'IA. Une définition claire des responsabilités en interne et un examen éthique systématique de l'IA et des fonctionnalités telles que celles fournies par AI Alt Text Assistant sont des piliers clés du programme.
  • Pour fournir AI Alt Text Assistant, nous nous sommes associés à Amazon pour profiter des propriétés d'Amazon Bedrock. AWS s'engage à utiliser l'IA de manière responsable.
  • Il est recommandé aux clients de mettre en œuvre des politiques, des procédures internes et d'examiner les applications d'IA tierces afin de garantir leur propre utilisation légale, éthique et responsable de l'IA. Ces informations sont fournies pour encourager nos clients à examiner les productions de l'outil AI Alt Text Assistant.

Autres informations