Preguntas y respuestas de Data Q&A de Illuminate - Nota de transparencia de IA

El uso legal, ético y responsable de la inteligencia artificial (IA) es una de las principales prioridades de Anthology, por eso desarrollamos e implementamos un programa de IA confiable. Puede encontrar información sobre el programa y el enfoque en general en nuestro Centro de confianza y en la Lista de funciones de IA generativa.

Como parte de nuestros principios de IA confiable, nos comprometemos a ofrecer transparencia, claridad y responsabilidad. En esta página, se pretende ofrecer la transparencia y la capacidad de explicación necesarias para ayudar a nuestros clientes a implantar Data Q&A de Illuminate. Aconsejamos a los administradores que revisen detenidamente esta página y se aseguren de que los usuarios relevantes estén al tanto de las siguientes consideraciones y recomendaciones antes de activar las funcionalidades de Data Q&A de Illuminate en su institución.

Cómo ponerse en contacto con nosotros:

  • Si tiene preguntas o comentarios sobre nuestro enfoque general de la IA confiable o sobre cómo podemos hacer que esta página sea más útil para nuestros clientes, envíenos un correo electrónico a [email protected].
  • Para hacer preguntas o comentarios sobre las funcionalidades o los resultados de Data Q&A de Illuminate, envíe una solicitud de asistencia al cliente desde Behind the Blackboard.

Funcionalidades facilitadas con IA

La función Data Q&A de Illuminate proporciona un resumen de texto generado por IA de los datos presentados en el tablero Data Q&A, que se genera a partir de las indicaciones del usuario. Anthology se ha asociado con AWS para proporcionar esta funcionalidad, en parte porque AWS está comprometido con el uso responsable de la IA.

La función Data Q&A de Illuminate proporciona las siguientes funcionalidades generativas facilitadas por IA:

Generación de resumen de datos y sugerencias: se crea automáticamente un resumen de texto generado por IA de los datos que se muestran en el tablero según las indicaciones del usuario. La función también sugiere indicaciones alternativas para perfeccionar la solicitud de datos.

Estas funcionalidades están sujetas a cambios, así como a las limitaciones y la disponibilidad de Amazon Q / Amazon Bedrock. Consulte las notas de la versión relevantes.

Información esencial

Información esencial
PreguntaRespuesta
¿Qué funcionalidades de Illuminate utilizan los sistemas de IA?La función Data Q&A mencionada anteriormente.
¿Se trata de un sistema de IA con respaldo de terceros?Sí. La función Data Q&A de Illuminate tiene el respaldo de Amazon Q en QuickSight, que a su vez aprovecha Amazon Bedrock. Amazon Q en QuickSight utiliza Anthropic Claude y Amazon Titan a través de Amazon Bedrock (así como una combinación de modelos de aprendizaje automático desarrollados por AWS).
¿Cómo funciona el sistema de IA?Data Q&A de Illuminate siempre ha confiado en Amazon QuickSight (una herramienta de BI con capacidades de procesamiento de lenguaje natural). Para las nuevas capacidades generativas de IA, Illuminate también se basa en Amazon Q para QuickSight. Con la ayuda de Amazon Q para QuickSight, Data Q&A de Illuminate crea automáticamente un resumen de los datos que se muestran en este tablero. La función también sugiere indicaciones alternativas para perfeccionar la solicitud de datos. Amazon Q aprovecha Anthropic Claude y Amazon Titan dentro de Amazon Bedrock (además de modelos adicionales de aprendizaje automático de AWS) para proporcionar estas capacidades. Para crear resúmenes y sugerir indicaciones, Amazon Q en QuickSight transmite las indicaciones del usuario y los datos del resumen de los elementos visuales del tablero a través de una API al modelo de AWS Bedrock relevante.
¿Dónde se aloja el sistema de IA?Amazon determina el alojamiento de Amazon QuickSight y Amazon Bedrock. Por lo general, Amazon QuickSight está disponible en las mismas regiones que Illuminate. Amazon Bedrock está disponible actualmente en la UE y en EE. UU., por lo que para nuestros clientes de estos lugares, estas regiones se aprovechan respectivamente. El resultado del modelo de IA generativa consiste en resúmenes temporales e indicaciones alternativas que no se almacenan permanentemente en Illuminate o Amazon Q en QuickSight / Bedrock.
¿Esta funcionalidad es opcional?Sí. Los administradores deben participar en nombre de su institución en la página de configuración de Illuminate. Visite el tema "Configuración de Anthology Illuminate" para obtener más información.
¿Cómo se entrena el sistema de IA?

Anthology no participa en el entrenamiento de los modelos Anthropic Claude y Amazon Titan que impulsan Data Q&A de Illuminate a través de Amazon Bedrock. Anthropic (Anthropic Claude) y Amazon (Amazon Titan) entrenan estos modelos, respectivamente.

Anthology no perfecciona estos modelos mediante el uso de datos propios ni de los clientes.

¿Se utilizan los datos de los clientes para entrenar o volver a entrenar el sistema de IA?No. Amazon se compromete en su documentación pública a no utilizar ninguna entrada o salida para volver a entrenar los modelos de lenguaje grandes dentro de Amazon Bedrock. Amazon proporciona información sobre cómo se entrenan los modelos de idiomas grandes en los enlaces de la sección "Más información" que se encuentra a continuación. Cualquier entrada y salida de datos se cifra en tránsito y en reposo.
¿Cómo utiliza Anthology la información personal en la implementación de Data Q&A de Illuminate?Anthology solo utiliza la información recopilada en relación con Data Q&A de Illuminate para proporcionar, mantener y respaldar dicha funcionalidad y cuando tenemos el permiso contractual para hacerlo. Si desea obtener más información sobre el enfoque de Anthology con respecto a la privacidad de datos, diríjase a nuestro Centro de confianza.
En el caso de un sistema de IA desarrollado por terceros, ¿cómo se utilizarán los datos personales?

Solo se transmiten las indicaciones de usuario limitadas y los datos de resumen de las imágenes del tablero de Amazon Q para QuickSight a Amazon Bedrock para proporcionar la función.

Ni Amazon ni ningún proveedor de modelos de Amazon Bedrock utilizan datos de Anthology ni datos de los clientes de Anthology para mejorar los modelos de Amazon Bedrock.

Puede encontrar más información sobre las prácticas de privacidad de datos relacionadas con la seguridad y privacidad de Amazon Bedrock en la documentación de Amazon en la página de seguridad de IA de AWS, el blog de aprendizaje automático de AWS, la descripción general de Amazon Q en QuickSight , AWS anuncia Amazon Q en QuickSight (artículo de blog) y la página de seguridad y privacidad de Amazon Bedrock.

¿Se tuvo en cuenta la accesibilidad en el diseño de Data Q&A de Illuminate?La función Data Q&A de Illuminate aprovecha Amazon QuickSight. Dado que se trata de una función de terceros, Amazon tuvo en cuenta la accesibilidad en lugar de Anthology. Amazon pone a disposición informes de conformidad con la accesibilidad a través de las páginas de accesibilidad de AWS.

Consideraciones y sugerencias para las instituciones

Casos de uso previstos

Data Q&A de Illuminate solo está diseñado para admitir las funcionalidades enumeradas anteriormente. Estas funciones se proporcionan a los profesores de nuestros clientes, y están destinadas a que puedan apoyarlos con análisis y mejoras con los informes de Data Q&A.

Casos de uso no recomendados

Por el momento, Data Q&A de Illuminate no proporciona una funcionalidad rápida o una funcionalidad similar que pueda instruir directamente los modelos de IA generativa. Por eso, no anticipamos ningún caso de uso no deseado (fuera de alcance).

Principios de IA confiable puestos en práctica

El uso legal, ético y responsable de la IA es una de las principales prioridades de Anthology y Amazon. En esta sección, se explica cómo ambas empresas trabajaron para abordar el riesgo aplicable a este uso de la IA e implementar los principios de IA confiable de Anthology. También se sugieren los pasos que los clientes pueden considerar a la hora de emprender sus propias revisiones legales y de la IA sobre los riesgos éticos de su aplicación.

Transparencia y explicabilidad

  • En las copiones de configuración de administración de Illuminate, dejamos claro que se trata de una funcionalidad facilitada por la IA.
  • En la interfaz de usuario para profesores, las funciones Data Q&A de Illuminate se marcan claramente como funcionalidades "Generativas". También se solicita a los profesores que revisen el resultado del texto antes de usarlo. Los metadatos de la salida creados por las funcionalidades de Data Q&A de Illuminate se exponen en el informe de uso de cada cliente de Illuminate con un campo para el contenido generado automáticamente. Además, muestra si el profesor editó el resultado posteriormente.
  • Además de la información proporcionada en este documento sobre cómo la función Data Q&A de Illuminate trabaja con Amazon Q en QuickSight, Amazon proporciona información adicional sobre Amazon Q y Amazon Bedrock en los enlaces de la sección "Más información" a continuación.
  • Aconsejamos a los clientes que utilicen la IA de forma transparente en Data Q&A de Illuminate y que proporcionen a sus profesores y a otras partes interesadas, según corresponda, la información pertinente de este documento y de la documentación vinculada en él.

Fiabilidad y precisión

  • En página de configuración de Illuminate, dejamos claro que se trata de una funcionalidad facilitada por la IA cuyos resultados pueden ser inexactos o no deseados y siempre deben revisarse.
  • En la interfaz de usuario, se solicita a los usuarios que revisen el texto producido para comprobar su precisión.
  • Como se detalla en las preguntas frecuentes de Amazon Bedrock, existe el riesgo de un resultado inexacto. Si bien Data Q&A de Illuminate y nuestra implementación se diseñaron para reducir al mínimo la inexactitud, es responsabilidad de los clientes revisar los resultados para asegurarse de que sean precisos y no presenten sesgos u otros problemas potenciales.
  • Los usuarios pueden regenerar fácilmente resultados inexactos reformulando la pregunta o frase utilizada en la indicación de Data Q&A.
  • Como parte de su plan de comunicación con respecto a Data Q&A de Illuminate, los clientes deben informar a los profesores sobre esta posible limitación.
  • Los clientes pueden notificarnos cualquier resultado inexacto utilizando los canales que se indican en la introducción.

Imparcialidad

  • Los grandes modelos de lenguaje presentan intrínsecamente riesgos relacionados con los estereotipos, las representaciones excesivas o insuficientes y otras formas de sesgos dañinos.
  • Teniendo en cuenta estos riesgos, hemos elegido las funcionalidades Data Q&A de Illuminate con mucho cuidado para evitar que se produzcan casos de uso con más probabilidades de contener sesgos dañinos o en los que el impacto de dichos sesgos pueda ser más significativo.
  • Sin embargo, no podemos garantizar que todos los resultados estén exentos de estos sesgos. Como se mencionó anteriormente en el apartado "Precisión", se solicita a los profesores que revisen los resultados, lo cual ayuda a disminuir los sesgos dañinos que pueda haber.
  • Como parte de su plan de comunicación con respecto a Data Q&A de Illuminate, los clientes deben informar a los profesores sobre esta posible limitación.
  • Para informarnos sobre los sesgos potencialmente dañinos, pueden utilizar los canales de contacto que se encuentran en la introducción.

Privacidad y seguridad

  • Como se describe en la sección "Datos clave" anterior, en Data Q&A de Illuminate solo se utilizan datos resumidos y accesibles para Amazon. En esa sección también se explica nuestro compromiso y el de Amazon con respecto a su uso.
  • Amazon describe sus prácticas y compromisos de privacidad y seguridad de datos en la documentación sobre Privacidad y seguridad para Amazon Bedrock.

Seguridad

  • Los grandes modelos de lenguaje presentan siempre el riesgo de generar resultados que pueden ser inapropiados, ofensivos o peligrosos. Amazon describe estos riesgos en su sección Limitaciones de la página de IA responsable de Amazon.
  • Teniendo en cuenta estos riesgos, hemos elegido las funcionalidades de Data Q&A de Illuminate con mucho cuidado para evitar que se produzcan casos de uso con más probabilidades de contener resultados imprecisos o en los que el impacto de dichos resultados pueda ser más significativo.
  • Sin embargo, no podemos garantizar que todos los resultados sean seguros. Como ya se mencionó en la sección "Precisión", se solicita a los profesores que revisen los resultados, ya que esto reduce las posibilidades de que se generen resultados peligrosos.
  • Como parte de su plan de comunicación con respecto a Data Q&A de Illuminate, los clientes deben informar a los profesores sobre esta posible limitación.
  • Los clientes deben informarnos sobre los resultados potencialmente peligrosos a través de los canales que se indican en la introducción.

Personas al mando

  • Con el objetivo de reducir al mínimo los riesgos relacionados con el uso de la IA generativa para nuestros clientes y sus usuarios, tomamos la decisión de que sean los clientes quienes estén al mando de las funcionalidades de Data Q&A de Illuminate. Por lo tanto, Data Q&A de Illuminate es una función opcional. Los administradores pueden activar o desactivar Data Q&A de Illuminate en cualquier momento.
  • Además, los profesores tienen el control de los resultados, por lo que se les solicita que los revisen y vuelvan a generar según sea necesario.
  • La función Data Q&A de Illuminate no incluye ninguna toma de decisiones automatizada que pueda afectar de manera legal o considerable a los alumnos o a otras personas.
  • Recomendamos que los clientes revisen detenidamente este documento, incluidos los enlaces de información que se proporcionan en él, para asegurarse de que comprenden las capacidades y limitaciones de Data Q&A de Illuminate y del servicio Amazon Q en QuickSight subyacente antes de activar la función de IA generativa en Data Q&A de Illuminate.

Alineación de valores

  • El uso de grandes modelos de lenguaje conlleva riesgos inherentes en cuanto a resultados sesgados, inapropiados o no acordes con los valores de Anthology o de nuestros clientes y alumnos. Amazon describe estos riesgos en los sitios web vinculados en la sección "Más información" a continuación.
  • Además, estos modelos (como toda tecnología que cumple propósitos amplios) presentan el riesgo de que puedan utilizarse indebidamente para casos de uso que no se ajusten a los valores de Anthology, de nuestros clientes o de sus usuarios finales ni los de la sociedad en general (por ejemplo, para actividades delictivas o para crear resultados dañinos o inapropiados).
  • Teniendo en cuenta estos riesgos, diseñamos e implementamos las funciones de Data Q&A de Illuminate con mucho cuidado, con el fin de reducir al mínimo las posibilidades de que se produzcan resultados que no estén alineados con estos valores. Además, omitimos intencionalmente aquellas que podrían ser de alto riesgo.

Propiedad intelectual

  • Los grandes modelos de lenguaje presentan intrínsecamente riesgos relacionados con posibles violaciones de los derechos de propiedad intelectual. La mayoría de las leyes de propiedad intelectual de todo el mundo no se anticiparon ni adaptaron por completo a la aparición de estos modelos ni a la complejidad de los problemas que derivan a partir de su uso. Como resultado, actualmente no existe un marco jurídico claro ni una orientación que aborde las cuestiones y los riesgos en torno a la propiedad intelectual que aparecen debido al uso de estos modelos.
  • En última instancia, es responsabilidad de los clientes revisar los resultados generados con Data Q&A de Illuminate para detectar cualquier posible violación de los derechos de propiedad intelectual.

Accesibilidad

  • Diseñamos y desarrollamos el sistema de Data Q&A de Illuminate teniendo en cuenta la accesibilidad, tal como lo hacemos en Learn y en el resto de nuestros productos. Incluso antes del lanzamiento de este sistema, siempre hicimos todo lo posible por mejorar la accesibilidad de la estructura semántica, la navegación, los controles del teclado, las etiquetas, los componentes personalizados y los flujos de trabajo de imágenes, entre otras muchas áreas. A medida que avancemos en el uso de la IA, seguiremos dando prioridad a la accesibilidad.
  • La función Data Q&A de Illuminate aprovecha Amazon QuickSight. AWS pone a disposición informes de conformidad con la accesibilidad a través de las páginas de accesibilidad de AWS.

Responsabilidad

  • Anthology cuenta con un programa de IA confiable diseñado para garantizar el uso legal, ético y responsable de la IA. La responsabilidad interna clara y la revisión ética sistemática de la IA de las funcionalidades como las que ofrece Data Q&A de Illuminate son elementos fundamentales del programa.
  • Para lanzar Data Q&A de Illuminate, nos asociamos con Amazon para aprovechar Amazon Q en QuickSight. AWS está comprometido con el uso responsable de la IA.
  • Los clientes deben considerar la implementación de políticas y procedimientos internos y la revisión de las aplicaciones de IA de terceros para garantizar que su propio uso de la IA sea legal, ético y responsable. Esta información se proporciona para respaldar la revisión de nuestros clientes de la función de IA generativa Data Q&A de Illuminate.

Más información