L'ús legal, ètic i responsable de la intel·ligència artificial (IA) és una prioritat clau per a Anthology. Per això, hem desenvolupat i hem implementat un programa d'IA de confiança. Podeu trobar informació sobre el nostre programa i l'enfocament general de la IA de confiança en el nostre Centre de confiança, així com més informació sobre les característiques de la IA generativa en la nostra Llista de característiques d'IA generativa.

Com a part dels nostres principis d'IA de confiança, ens comprometem a garantir transparència, claredat i responsabilitat. El propòsit d'aquesta pàgina és proporcionar la transparència i les explicacions necessàries per ajudar els nostres clients a l'hora d'implementar AI Alt Text Assistant. Recomanem que els administradors revisin minuciosament aquesta pàgina i s'assegurin que els docents siguin coneixedors de les consideracions i recomanacions següents abans d'activar les funcionalitats d'AI Alt Text Assistant en la vostra institució.

Com podeu posar-vos en contacte amb nosaltres:

  • Si teniu preguntes o comentaris sobre el nostre enfocament general de la IA de confiança o sobre com podem fer que aquesta pàgina sigui més útil per als nostres clients, envieu-nos un correu electrònic a l'adreça [email protected].
  • Per fer preguntes o comentaris sobre les funcionalitats o els resultats d'AI Alt Text Assistant, envieu una sol·licitud d'assistència al client a través de Behind the Blackboard.

Funcionalitats facilitades per IA

AI Alt Text Assistant proporciona als docents suggeriments sobre text alternatiu per a les imatges utilitzades en els seus cursos en línia mitjançant el flux de treball Comentaris del docent d'Ally. Està pensat per inspirar els docents i simplificar la correcció dels errors d'accessibilitat.  

Anthology s'ha associat amb AWS per actualitzar el model d'IA d'Ally perquè ofereixi suggeriments encara més útils, així com la capacitat de generar suggeriments de descripció d'imatges per a continguts més complexos, com ara STEM, gràfics, text en imatges i imatges escrites a mà. Aquesta funció està impulsada per Claude, un model de llenguatge d'Anthropic, a través d'Amazon Bedrock (AWS). Si la vostra institució té la seu al Canadà, l'assistent utilitza el model més nou de Claude 3 Sonnet. En tota la resta de regions, utilitza el model Claude Sonnet 3.5. El model utilitzat depèn de la disponibilitat a la vostra regió d'AWS. 

AI Alt Text Assistant ofereix les funcionalitats generatives facilitades per IA següents:

  • Generar un text alternatiu per a les imatges.  Suggereix un text alternatiu dins dels Comentaris del docent d'Ally quan els docents corregeixen imatges sense text alternatiu.

Aquestes funcionalitats estan sotmeses a les limitacions i la disponibilitat del servei Bedrock d'AWS, així com també a patir canvis. Per saber-ne més, consulteu les notes de la versió rellevants.

Informació essencial

Taula d'exemple
PreguntaResposta
Quines funcionalitats d'Ally utilitzen sistemes d'IA?Suggeriment de text alternatiu per IA en el tauler de Comentaris del docent d'Ally, quan Ally ha marcat una imatge per no tenir text alternatiu.
Es tracta d'un sistema d'IA assistit per tercers?Sí. Utilitzem Claude, un model desenvolupat per Anthropic i que s'ofereix a través del servei Bedrock d'AWS. Les institucions del Canadà utilitzen Claude 3 Sonnet d'Anthropic, mentre que altres regions utilitzen el model Claude Sonnet 3.5, en funció del que s'admeti a cada regió d'AWS.
Com funciona el sistema d'IA?AI Alt Text Assistant utilitza els models Claude d'Anthropic a través de Bedrock d'AWS per generar suggeriments de text alternatiu de manera automàtica. Depenent de la ubicació de la vostra institució, pot ser el model Claude 3 Sonnet d'Anthropic (al Canadà) o Claude Sonnet 3.5 (en altres regions). Això s'aconsegueix utilitzant la imatge per generar un text alternatiu que s'envia mitjançant l'SDK d'AWS.   També hem afegit la possibilitat d'enviar indicacions contextuals basades en el context de text circumdant quan s'incrusta una imatge en un element de content enriquit. No es fa servir cap altra informació (per exemple, el títol o la descripció del curs). Les imatges no s'utilitzen per entrenar els models Bedrock d'AWS, i el model Bedrock genera el resultat en funció de cada imatge que es carrega a AI Alt Text Assistant.
On s'allotja el sistema d'IA?

Actualment, Anthology utilitza diverses instàncies d'AWS per a Amazon Bedrock, determinades per la disponibilitat de la regió d'Amazon. AWS proporciona aquesta disponibilitat regional per al model Amazon Bedrock que actualitza a dia d'avui Ally (Claude Sonnet 3.5) a Compatibilitat de models per regió d'AWS a Amazon Bedrock. De vegades, podem utilitzar recursos en altres ubicacions, com ara la costa est dels EUA, per oferir la millor opció de disponibilitat de Bedrock AWS als nostres clients quan una regió específica no està disponible. 

Tots els resultats del client generats per AI Alt Text Assistant s'emmagatzemen en la base de dades d'Ally existent de cada client gestionada per Anthology.

És una funcionalitat opcional?Sí. Els administradors han d'activar AI Alt Text Assistant en les opcions de configuració del sistema de gestió de l'aprenentatge d'Ally. Seleccioneu Generació de descripcions alternatives per a imatges de IA a la pestanya Funcions. Els administradors poden activar o desactivar aquesta funcionalitat en qualsevol moment.
Com s'entrena el sistema d'IA?

Anthology no participa en l'entrenament del model d'Anthropic que alimenta les funcionalitats d'AI Alt Text Assistant a través d'Amazon Bedrock. Aquests models els entrena Anthropic (Claude d'Anthropic).

Anthology no utilitza dades pròpies ni dels nostres clients per ajustar encara més aquests models.

S'utilitzen les dades dels clients per entrenar o tornar a entrenar el sistema d'IA?No. En la seva documentació pública, Amazon es compromet a no utilitzar cap de les dades introduïdes o generades per al (re)entrenament dels grans models lingüístics dins d'Amazon Bedrock. Amazon proporciona informació sobre com s'entrenen els grans models de llenguatge en els enllaços de la secció "Més informació" de més avall. Totes les dades que s'introdueixen i s'extreuen es xifren tant durant la seva transmissió com quan estan emmagatzemades.
Com fa servir Anthology Ally la informació personal en la implementació del sistema de l'Assistent de text alternatiu amb IA?Anthology només utilitza la informació recopilada en relació amb AI Alt Text Assistant per proporcionar, mantenir i donar suport a aquesta funció, sempre que tinguem el permís contractual per fer-ho. Podeu trobar més informació sobre l'enfocament d'Anthology pel que fa a la privadesa de dades en el nostre Centre de confiança.
En el cas d'un sistema d'IA assistit per un tercer, com utilitzarà aquest tercer la informació personal?

Per alimentar aquesta funció només s'utilitzen imatges o dades contextuals del contingut enriquit que envolta una imatge. No es comparteix cap més informació amb Bedrock d'AWS.  

Ni Amazon ni cap proveïdor de models d'Amazon Bedrock utilitzen dades d'Anthology o dades de clients d'Anthology per millorar els models d'Amazon Bedrock.  

Podeu trobar més informació sobre les pràctiques de privadesa de dades relacionades amb la seguretat i la privadesa d'Amazon Bedrock en la documentació d'Amazon en la pàgina de Seguretat d'IA d'AWS, el Blog sobre aprenentatge automàtic d'AWS i la pàgina Seguretat i privadesa d'Amazon Bedrock.

S'ha tingut en compte l'accessibilitat a l'hora de dissenyar el sistema de text alternatiu amb IA?Sí, els nostres enginyers d'accessibilitat han col·laborat amb els equips de productes per revisar els dissenys, comunicar consideracions importants d'accessibilitat i provar les noves funcions específicament per garantir que siguin accessibles. L'accessibilitat serà sempre una part integral del nostre enfocament d'IA de confiança. 

Consideracions i recomanacions per a les institucions

Casos d'ús previstos

AI Alt Text Assistant només està dissenyat per admetre les funcionalitats indicades anteriorment. Aquestes funcionalitats s'ofereixen als docents dels nostres clients, i s'han dissenyat per a aquests usuaris, a fi de donar-los suport amb la correcció dels problemes d'accessibilitat en les imatges detectats per Ally.

Casos d'ús no previstos

AI Alt Text Assistant no té la intenció ni garanteix que totes les imatges siguin accessibles amb un text alternatiu perfecte, ja que encara depèn del docent editar o aprovar el text alternatiu en funció del context del contingut del curs. 

Acompliment dels principis d'IA de confiança

L'ús legal, ètic i responsable de la IA és una prioritat clau per a Anthology i Amazon. En aquesta secció, s'explica com totes dues han treballat per abordar el risc aplicable a aquest ús de la IA i implementar els principis d'IA de confiança d'Anthology. També se suggereixen els passos que els nostres clients poden tenir en compte a l'hora de dur a terme les seves revisions legals i d'IA sobre els riscos ètics de la seva implementació. 

Transparència i explicabilitat

  • En les opcions de configuració d'administració d'Ally, deixem clar que es tracta d'una funcionalitat facilitada per la IA.
  • En la interfície d'usuari dels docents, les funcionalitats d'AI Alt Text Assistant estan clarament marcades com a funcionalitats "generatives". També es demana als docents que revisin els resultats del text abans d'utilitzar-lo. Les metadades dels resultats creats per les funcionalitats d'AI Alt Text Assistant s'exposen en l'informe d'ús d'Ally de cada client amb un camp per al contingut generat automàticament. També es mostra si el docent ha editat els resultats posteriorment.
  • El model darrere d'AI Alt Text Assistant pot variar en funció d'on es trobi la vostra institució. Al Canadà, l'assistent utilitza el model Claude 3 Sonnet, que ofereix capacitats més noves. A la resta de llocs, utilitza Claude Sonnet 3.5. Aquesta elecció es basa en l'oferta d'AWS Bedrock disponible en cada regió.
  • Aconsellem els clients que utilitzin la IA de manera transparent a AI Alt Text Assistant i que proporcionin als seus docents i a altres parts interessades, segons correspongui, la informació pertinent d'aquest document i de la documentació que hi està vinculada.

Fiabilitat i precisió

  • En les opcions de configuració d'administració d'Ally i en les condicions d'ús, deixem clar que es tracta d'una funcionalitat facilitada per la IA que pot generar resultats inexactes o no desitjats i que el docent sempre els ha de revisar.
  • En la interfície d'usuari, es demana als docents que revisin el text produït per comprovar-ne la precisió.
  • Tal com es detalla en la secció de Preguntes freqüents d'Amazon Bedrock, és possible que es generin resultats inexactes. Tot i que AI Alt Text Assistant i la nostra implementació han estat dissenyats específicament per minimitzar la inexactitud, és responsabilitat dels nostres clients comprovar que no hi hagi inexactituds, biaixos o altres possibles problemes en els resultats.
  • Els usuaris poden regenerar amb facilitat els resultats imprecisos reformulant la pregunta o la frase utilitzada en la pregunta.
  • Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
  • Els clients poden informar-nos de qualsevol resultat inexacte mitjançant els canals que s'indiquen en la introducció.

Imparcialitat

  • Els grans models lingüístics presenten inherentment riscos relacionats amb els estereotips, les representacions excessives o insuficients i altres formes de biaixos nocius.
  • Tenint en compte aquests riscos, hem escollit les funcionalitats d'AI Alt Text Assistant amb molta cura per evitar casos d'ús que puguin ser més propensos a contenir biaixos nocius o en els quals l'impacte d'aquest tipus de biaix sigui més significatiu.
  • No obstant això, no podem garantir que tots els resultats estiguin exempts d'aquests biaixos. Com s'ha esmentat abans en l'apartat "Precisió", es demana als docents que revisin els resultats, cosa que pot ajudar a reduir els biaixos nocius.
  • Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
  • Per informar-nos de qualsevol biaix potencialment nociu, els clients poden utilitzar els canals de contacte que s'indiquen en la introducció.

Privacitat i seguretat

  • Tal com es descriu en la secció "Informació essencial" anterior, AI Alt Text Assistant només utilitza la imatge i Microsoft hi pot accedir. En aquesta secció també s'hi descriu el nostre compromís i el de Microsoft pel que fa a l'ús de qualsevol informació personal.
  • Amazon descriu les seves pràctiques i els seus compromisos de privadesa i seguretat de dades en la documentació sobre Seguretat i privacitat d'Amazon Bedrock.

Protecció

  • Els grans models de llenguatge presenten inherentment un risc de proporcionar resultats que poden ser inadequats, ofensius o perillosos. Amazon descriu aquests riscos en la secció Limitacions de la pàgina IA responsable d'Amazon.
  • Tenint en compte aquests riscos, hem escollit les funcionalitats d'AI Alt Text Assistant amb molta cura per evitar casos d'ús que puguin ser més propensos a contenir biaixos nocius o en els quals l'impacte d'aquest tipus de biaix sigui més significatiu.
  • No obstant això, no es pot descartar que alguns dels resultats siguin insegurs. Com s'ha esmentat anteriorment a l'apartat "Precisió", es demana als docents que revisin els resultats, fet que pot ajudar a reduir el risc de resultats perillosos.
  • Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
  • Els clients han d'informar-nos de qualsevol resultat potencialment perillós mitjançant els canals que s'indiquen en la introducció.

El control, els humans

  • Per minimitzar el risc relacionat amb l'ús de la IA generativa per als nostres clients i els seus usuaris, hem decidit que siguin els clients qui tinguin el control de les funcionalitats d'AI Alt Text Assistant. Per tant, hem fet que AI Alt Text Assistant sigui una funció opcional. Els administradors poden activar o desactivar AI Alt Text Assistant en qualsevol moment.  
  • A més, els docents controlen els resultats, de manera que se'ls demana que els revisin i els editin quan calgui.
  • AI Alt Text Assistant no inclou cap presa de decisions automatitzada que pugui afectar de manera legal o significativa l'alumnat o altres persones.
  • Recomanem als clients que revisin detingudament aquest document, inclosos els enllaços d'informació que s'hi proporcionen, per assegurar-se que entenen les capacitats i limitacions d'AI Alt Text Assistant i del servei Amazon Bedrock subjacent abans d'activar la funció AI Alt Text Assistant.

Coherència amb els valors

  • Els grans models de llenguatge presenten riscos inherents pel que fa als resultats esbiaixats, inadequats o que no tenen coherència amb els valors d'Anthology o dels nostres clients i alumnes. Amazon descriu aquests riscos en els llocs web indicats en la secció "Més informació" més avall.
  • A més, aquests models (igual que passa amb totes les tecnologies que s'utilitzen per a diverses finalitats) presenten el risc que, generalment, es puguin fer servir de manera indeguda per a casos d'ús que no s'ajustin als valors d'Anthology, dels nostres clients o dels seus usuaris finals ni els de la societat en general (per exemple, per a activitats delictives o per crear resultats nocius o inapropiats).
  • Tenint en compte aquests riscos, hem dissenyat i hem implementat amb molta cura les funcionalitats d'AI Alt Text Assistant, amb l'objectiu de minimitzar el risc que es produeixin resultats que no siguin coherents amb els nostres valors. Per exemple, en lloc de centrar-nos en les funcionalitats per als alumnes, ens hem centrat en les adreçades als docents. També hem omès de manera intencionada les que podrien ser d'alt risc.

Propietat intel·lectual

  • Els grans models de llenguatge presenten inherentment riscos relacionats amb possibles violacions dels drets de propietat intel·lectual. La majoria de les lleis de propietat intel·lectual del món no s'han anticipat ni s'han adaptat del tot a l'aparició dels grans models lingüístics ni a la complexitat dels problemes que sorgeixen en utilitzar-los. Com a conseqüència, actualment no hi ha un marc legal clar ni cap orientació que tracti els assumptes de propietat intel·lectual i els riscos que sorgeixen amb l'ús d'aquests models.
  • En última instància, és responsabilitat del nostre client revisar els resultats generats per AI Alt Text Assistant a fi de detectar qualsevol possible violació dels drets de propietat intel·lectual.  

Accessibilitat

  • Hem dissenyat i hem desenvolupat AI Alt Text Assistant tenint en compte l'accessibilitat, de la mateixa manera que ho fem amb Learn i la resta dels nostres productes. Abans de llançar AI Alt Text Assistant, hem millorat tant com hem pogut l'accessibilitat de l'estructura semàntica, la navegació, els controls del teclat, les etiquetes, els components personalitzats i els fluxos de treball d'imatges, entre moltes altres àrees. A mesura que anem avançant en l'ús de la IA, continuarem donant prioritat a l'accessibilitat.
  • La funció AI Alt Text Assistant utilitza Amazon Bedrock com a base. AWS posa a disposició els informes de conformitat en accessibilitat a través de les seves pàgines específiques d'accessibilitat.

Responsabilitat

  • Anthology té un programa d'IA de confiança dissenyat per garantir l'ús legal, ètic i responsable de la IA. La responsabilitat interna clara i la revisió ètica sistemàtica de la IA o les funcionalitats com les proporcionades per AI Alt Text Assistant són elements fonamentals del programa.
  • Per tal de distribuir AI Alt Text Assistant, ens hem associat amb Amazon per aprofitar el servei Amazon Bedrock. AWS reafirma el seu compromís amb un ús responsable de la IA.
  • Els clients haurien de contemplar la possibilitat d'implementar polítiques i procediments interns, així com la revisió de les aplicacions d'IA de tercers per garantir que el seu propi ús de la IA sigui legal, ètic i responsable. Aquesta informació es proporciona per donar suport a la valoració que els nostres clients fan d'AI Alt Text Assistant.

Informació addicional