Illuminate Data Q&A : avis sur la transparence de l'IA

Illuminate Data Q&A : avis sur la transparence de l'IA 

L'utilisation légale, éthique et responsable de l'intelligence artificielle (IA) est une priorité pour Anthology. Pour cette raison, nous avons développé et mis en œuvre un programme d'IA éthique. Vous trouverez des informations sur notre programme et notre approche générale de l'IA dans notre Trust Center et notre Liste des fonctionnalités d'IA générative. 

Dans le cadre de nos principes d'utilisation éthique de l'IA, nous tenons à faire preuve de transparence et à nous montrer responsables. Cette page est destinée à fournir aux clients la transparence et les explications nécessaires à la mise en œuvre de l'outil Illuminate Data Q&A. Nous recommandons aux administrateurs de l'examiner attentivement et de vérifier que les utilisateurs concernés sont au courant des considérations et des recommandations qu'elle contient avant d'activer les fonctionnalités d'Illuminate Data Q&A pour leur établissement. 

Comment nous contacter : 

• Pour toute question ou pour nous donner votre feed-back sur notre approche générale de l'IA éthique ou sur la façon dont nous pouvons rendre cette page plus utile pour nos clients, veuillez nous envoyer un e-mail à l'adresse suivante : [email protected]. 
• Pour toute question ou pour nous donner votre feed-back sur les fonctionnalités ou les productions de l'outil Illuminate Data Q&A, veuillez soumettre un ticket de support client via Behind the Blackboard.

Fonctionnalités facilitées par l'IA

La fonctionnalité Illuminate Data Q&A fournit un résumé textuel généré par l'IA des données présentées dans le tableau de bord Data Q&A généré à partir de l'invite de l'utilisateur. Anthology s'est associé à AWS pour proposer cette fonctionnalité, en partie parce qu'AWS s'engage à utiliser l'IA de manière responsable. 

La fonctionnalité Illuminate Data Q&A fournit les fonctionnalités d'IA générative suivantes : 

Générer un résumé des données et des suggestions : un résumé textuel généré par l'IA des données affichées sur le tableau de bord est automatiquement créé à partir de l'invite de l'utilisateur. La fonctionnalité suggère également d'autres invites pour affiner la demande de données.  

Ces fonctionnalités sont soumises aux limitations et à la disponibilité d'Amazon Q/Amazon Bedrock et sont susceptibles d'être modifiées. Consultez les notes de publication correspondantes pour plus de détails.

Points clés

Considérations et recommandations à l'intention des établissements

Cas d'utilisation prévus 

Illuminate Data Q&A est uniquement destiné à prendre en charge les fonctionnalités énumérées ci-dessus. Ces fonctionnalités sont fournies et destinées aux professeurs de nos clients afin de les aider à analyser et améliorer les rapports de Data Q&A. 

Cas d'utilisation hors champ d'application 

Illuminate Data Q&A ne fournit actuellement pas de fonctionnalité d'invite ou similaire pouvant directement alimenter les modèles d'IA générative. Pour cette raison, nous ne prévoyons aucun cas d'utilisation non prévu (hors du champ d'application).

Les principes d'utilisation éthique de l'IA dans la pratique 

Anthology et Amazon sont convaincus que l'utilisation légale, éthique et responsable de l'IA doit rester une priorité. Cette section explique comment Anthology et Amazon ont collaboré pour faire face aux risques applicables à l'utilisation légale, éthique et responsable de l'IA, et mettre en œuvre les principes d'utilisation éthique de l'IA par Anthology. Elle suggère également des mesures que nos clients peuvent prendre lorsqu'ils entreprennent leurs propres examens juridiques de l'IA et des risques éthiques liés à sa mise en œuvre. 

Transparence et explicabilité 

• Nous indiquons clairement dans les options de configuration d'administration d'Illuminate qu'il s'agit d'une fonctionnalité facilitée par l'IA. 
• Dans l'interface utilisateur des professeurs, les fonctionnalités d'Illuminate Data Q&A sont clairement identifiées comme des fonctionnalités « génératives ». Les professeurs sont également priés de vérifier la sortie textuelle avant de l'utiliser. Les métadonnées de la sortie créée par Illuminate Data Q&A sont exposées dans le rapport d'utilisation d'Illuminate de chaque client avec un champ destiné au contenu généré automatiquement. Elles indiquent également si le contenu a été modifié ultérieurement par le professeur. 
• Outre les informations fournies dans ce document sur la façon dont la fonctionnalité Illuminate Data Q&A fonctionne avec Amazon Q dans QuickSight, Amazon fournit des informations supplémentaires sur Amazon Q et Amazon Bedrock dans les liens de la section « Informations complémentaires » ci-dessous. 
• Nous encourageons les clients à communiquer clairement au sujet de l'utilisation de l'IA dans Illuminate Data Q&A et à fournir à leurs professeurs et aux autres parties prenantes, le cas échéant, les informations pertinentes de ce document et la documentation liée aux présentes.

Fiabilité et précision 

• Nous indiquons clairement sur la page des Paramètres d'Illuminate qu'il s'agit d'une fonctionnalité facilitée par l'IA, qui peut produire une sortie inexacte ou indésirable, et que celle-ci doit toujours être examinée par l'utilisateur final. 
• Dans l'interface utilisateur, les utilisateurs sont invités à examiner la précision du texte produit. 
• Comme indiqué dans la FAQ d'Amazon Bedrock, les sorties peuvent être inexactes. Bien que la nature spécifique d'Illuminate Data Q&A et de notre mise en œuvre vise à réduire au maximum les inexactitudes, il est de la responsabilité de notre client de vérifier la sortie pour détecter les erreurs, biais et autres problèmes potentiels. 
• Les utilisateurs peuvent facilement générer de nouveaux résultats si les résultats précédents sont inexacts en reformulant leur invite Q&A. 
• Dans le cadre de leur communication concernant Illuminate Data Q&A, les clients doivent informer leurs professeurs de cette limitation potentielle.
• Les clients peuvent nous signaler toute sortie inexacte en utilisant les canaux répertoriés dans l'introduction.

Équité

• Les grands modèles de langage présentent intrinsèquement des risques liés aux stéréotypes, à la surreprésentation ou à la sous-représentation, et à d'autres formes de biais préjudiciables.
• Compte tenu de ces risques, nous avons soigneusement sélectionné les fonctionnalités d'Illuminate Data Q&A de façon à éviter les cas d'utilisation les plus sujets à des biais ou pour lesquels l'impact de ces biais pourrait être plus important. 
• Néanmoins, il ne peut être exclu qu'une partie de la sortie puisse être affectée par un biais préjudiciable. Comme décrit dans la section « Exactitude » ci-dessus, les professeurs sont invités à examiner la sortie pour contribuer à réduire ce genre de problème. 
• Dans le cadre de leur communication concernant Illuminate Data Q&A, les clients doivent informer leurs professeurs de cette limitation potentielle. 
• Les clients peuvent nous signaler tout biais potentiellement préjudiciable en utilisant les canaux de contact énumérés dans l'introduction.

Confidentialité et sécurité

• Comme décrit dans la section « Faits clés » ci-dessus, seules des invites limitées des utilisateurs et des récapitulatifs sont utilisés pour Illuminate Data Q&A et accessibles par Amazon. Cette section décrit également notre engagement et celui d'Amazon concernant l'utilisation des données personnelles. 
• Amazon décrit ses pratiques et engagements en matière de confidentialité et de sécurité des données dans la documentation sur la sécurité et la confidentialité pour Amazon Bedrock.

Sécurité 

• Les grands modèles de langage présentent intrinsèquement un risque de sorties inappropriées, offensantes ou autrement dangereuses. Amazon décrit ces risques dans la section Restrictions de la page relative à l'IA responsable d'Amazon. 
• Compte tenu de ces risques, nous avons soigneusement sélectionné les fonctionnalités d'Illuminate Data Q&A pour éviter les cas d'utilisation plus sujets à des sorties dangereuses ou pour lesquels l'impact de ces sorties pourrait être plus important.Responsible AI page
• Néanmoins, nous ne pouvons pas exclure la possibilité de sorties dangereuses. Comme décrit dans la section « Précision » ci-dessus, les professeurs sont priés d'examiner les sorties afin de contribuer à réduire ce risque. 
• Dans le cadre de leur communication concernant Illuminate Data Q&A, les clients doivent informer leurs professeurs de cette limitation potentielle. 
• Ils sont également tenus de nous signaler toute sortie potentiellement dangereuse en utilisant les canaux énumérés dans l'introduction.

Laisser l'humain aux commandes

• Afin de réduire au maximum le risque lié à l'utilisation de l'IA générative pour nos clients et leurs utilisateurs, nous donnons intentionnellement aux clients le contrôle des fonctionnalités d'Illuminate Data Q&A. Illuminate Data Q&A est donc une fonctionnalité à demander. Les administrateurs peuvent activer ou désactiver Illuminate Data Q&A à tout moment. 
• De plus, les professeurs contrôlent les sorties, ce qui signifie qu'ils sont invités à examiner la sortie et à la générer de nouveau si nécessaire.
• Illuminate Data Q&A n'inclut aucune prise de décision automatisée qui pourrait avoir des conséquences légales ou d'autres conséquences significatives pour les étudiants ou d'autres personnes. 
• Nous encourageons les clients à lire attentivement ce document, y compris les liens d'information qui y sont fournis, pour s'assurer qu'ils comprennent les capacités et les limites d'Illuminate Data Q&A et du service Amazon Q dans QuickSight sous-jacent avant d'activer la fonctionnalité d'IA générative Illuminate Data Q&A.

Alignement des valeurs 

• Les grands modèles de langage comportent intrinsèquement des risques de sorties biaisées, inappropriées ou autrement non alignées avec les valeurs d'Anthology, de nos clients et des étudiants. Amazon décrit ces risques dans les sites Web dont les liens sont disponibles dans la section « Informations complémentaires » ci-dessous. 
• De plus, comme toute technologie servant à des fins générales, ils présentent le risque d'être utilisés pour des cas d'utilisation qui ne correspondent pas aux valeurs d'Anthology, de nos clients ou de leurs utilisateurs finaux, ou aux valeurs de la société de façon plus générale (par exemple, pour des activités criminelles, pour créer des sorties nuisibles ou autrement inappropriées). 
• Compte tenu de ces risques, nous avons soigneusement conçu et mis en œuvre les fonctionnalités de notre outil Illuminate Data Q&A de manière à réduire au maximum le désalignement des sorties Nous avons également intentionnellement omis des fonctionnalités à enjeux potentiellement élevés.

Propriété intellectuelle 

• Les grands modèles de langage présentent intrinsèquement des risques de violation des droits de propriété intellectuelle. La plupart des lois sur la propriété intellectuelle dans le monde n'ont pas pleinement anticipé, et ne sont pas adaptées à l'émergence de grands modèles de langage ni à la complexité des questions qui découlent de leur utilisation. Par conséquent, il n'existe actuellement aucun cadre juridique ni orientation clairs qui traitent des questions de propriété intellectuelle et des risques qui découlent de l'utilisation de ces modèles. 
• En fin de compte, il est de la responsabilité de notre client d'examiner les sorties générées par Illuminate Data Q&A afin d'éviter toute violation potentielle des droits de propriété intellectuelle.

Accessibilité 

• Nous avons conçu et développé Illuminate Data Q&A en gardant l'accessibilité à l'esprit, tout comme nous le faisons pour Learn et nos autres produits. Avant sa mise à disposition, nous avons délibérément amélioré l'accessibilité de la structure sémantique, de la navigation, des commandes clavier, des étiquettes, des composants personnalisés et des workflows d'images, pour ne citer que quelques domaines. Nous continuerons à accorder la priorité à l'accessibilité à mesure que nous tirerons parti de l'IA à l'avenir. 
• La fonctionnalité Illuminate Data Q&A repose sur Amazon QuickSight. AWS met à disposition les rapports de conformité en matière d'accessibilité sur les pages relatives à l'accessibilité d'AWS.

Responsabilité 

• Anthology a mis en place un programme afin de garantir une utilisation légale, éthique et responsable de l'IA. Une définition claire des responsabilités en interne et un examen éthique systématique de l'IA et des fonctionnalités telles que celles fournies par Illuminate Data Q&A sont des piliers clés du programme. 
• Pour fournir Illuminate Data Q&A, nous nous sommes associés à Amazon afin de tirer parti d'Amazon Q dans QuickSight. AWS s'engage à utiliser l'IA de manière responsable. 
• Il est recommandé aux clients de mettre en œuvre des politiques, des procédures internes et d'examiner les applications d'IA tierces afin de garantir leur propre utilisation légale, éthique et responsable de l'IA. Ces informations sont fournies pour aider nos clients à examiner les fonctionnalités d'IA générative d'Illuminate Data Q&A.

Plus d'informations 

• L'approche éthique de l'IA d'Anthology 
• Page relative à l'IA responsable d'Amazon 
• FAQ d'Amazon Bedrock 
• Page relative à la sécurité et la confidentialité d'Amazon Bedrock 
• Page relative à la sécurité de l'IA d'Amazon
• Machine Learning Blog d'Amazon 
• Présentation d'Amazon Q dans QuickSight
• AWS annonce l'arrivée d'Amazon Q dans QuickSight (billet de blog)