Laglig, etisk och ansvarsfull användning av artificiell intelligens (AI) är en viktig prioritet för Anthology. Därför har vi utvecklat och implementerat ett tillförlitligt AI-program. Du kan hitta information om vårt program och vår allmänna strategi för tillförlitligt AI i vårt Säkerhetscenter och mer information om generativa AI-funktioner i vår Lista över funktioner för generativ AI.

Som en del av våra principer för tillförlitligt AI förbinder vi oss till transparens, förklarbarhet och ansvarsskyldighet. Denna sida är avsedd att ge nödvändig transparens och förklaringar för att hjälpa våra kunder med deras implementering av AI Alt Text Assistant. Vi rekommenderar att administratörer noggrant granskar den här sidan och ser till att lärarna är medvetna om övervägandena och rekommendationerna nedan innan du aktiverar funktionerna i AI Alt Text Assistant för ditt lärosäte.

Så här kontaktar du oss:

  • För frågor eller återkoppling om vår allmänna inställning till tillförlitligt AI eller hur vi kan göra den här sidan mer användbar för våra kunder, vänligen mejla oss på [email protected].
  • Om du har frågor eller återkoppling om funktionerna eller utdata från AI Alt Text Assistant kan du skicka in ett kundsupportärende via Behind the Blackboard.

AI-faciliterade funktioner

AI Alt Text Assistant ger lärare förslag på alternativ text för bilder som används i deras onlinekurs(er) via arbetsflödet för läraråterkoppling i Ally. Den är avsedd att inspirera lärare och göra tillgänglighetskorrigeringar mer effektiva.  

Anthology har samarbetat med AWS för att uppgradera AI-modellen från Ally för att driva ännu mer effektfulla förslag, tillsammans med möjligheten att generera bild-beskrivningsförslag för mer komplext innehåll, inklusive STEM, diagram/grafer, text i bilder och handskrivna bilder. Den här funktionen drivs av Claude, en språkmodell från Anthropic, via AWS Bedrock. Om ditt lärosäte är baserat i Kanada använder assistenten den nyare Claude 3 Sonnet-modellen. I alla andra regioner används Claude Sonnet 3.5. Vilken modell som används beror på tillgängligheten i din AWS-region. 

AI Alt Text Assistant tillhandahåller följande generativa AI-faciliterade funktioner:

  • Generera en alternativ text för bilder.  Föreslår en alternativ text i Ally Instructor återkoppling när lärare rättar bilder utan alternativ text.

Dessa funktioner är föremål för begränsningarna och tillgängligheten för AWS Bedrock-tjänsten och kan komma att ändras. Kontrollera relevant versionsinformation för mer information.

Viktiga fakta

Exempeltabell
FrågaSvar
Vilka Ally-funktioner använder AI-system?Förslag på alternativtext via AI på panelen Läraråterkoppling i Ally, när en bild har flaggats av Ally för att den inte har alternativ text.
Är detta ett AI-system som stöds av tredje part?Ja. Vi använder Claude, en modell utvecklad av Anthropic och erbjuds genom AWS Bedrock. Lärosäten i Kanada använder Anthropic Claude 3 Sonnet, medan andra regioner använder Claude Sonnet 3.5, beroende på vad som stöds i varje AWS-region.
Hur fungerar AI-systemet?AI Alt Text Assistant använder Claude-modeller från Anthropic till AWS Bedrock för att automatiskt generera alt-textförslag. Beroende på var ditt lärosäte ligger kan det vara Anthropic Claude 3 Sonnet (i Kanada) eller Claude Sonnet 3.5 (i andra regioner). Detta uppnås genom att använda bild för att generera en alternativ text som skickas via AWS SDK.   Vi har också lagt till möjligheten att skicka kontextuella uppmaningar baserat på det omgivande textkontexten när en bild är inbäddad i ett formaterat innehållsobjektet. Ingen ytterligare information används (t.ex. kurstitel, kursbeskrivning). Bilder används inte för att träna AWS Bedrock-modellerna, och Bedrock genererar utdata baserat på varje bild som laddas upp till AI Alt Text Assistant.
Var finns AI-systemet?

Anthology använder för närvarande flera AWS-instanser för Amazon Bedrock, som bestäms av tillgängligheten i Amazon-regionen. AWS tillhandahåller den här regiontillgängligheten för Amazon Bedrock-modellen som för närvarande används av Ally (Claude Sonnet 3.5) på Model Support av AWS Region i Amazon Bedrock. Ibland kan vi använda resurser på andra platser, t.ex. i östa USA för att erbjuda våra kunder bästa möjliga tillgänglighet för AWS Bedrock när en viss region inte är tillgänglig. 

All klientutdata som genereras av AI Alt Text Assistantlagras i varje klients befintliga Ally-databas som hanteras av Anthology.

Är detta en funktion som man måste aktivera?Ja. Administratörer måste aktivera AI Alt Text Assistant i konfigurationsalternativen för LMS Ally. Välj AI Generation av alternativa beskrivningar för bild under fliken Funktioner. Administratörer kan aktivera eller inaktivera den här funktionen när som helst.
Hur utbildas AI-systemet?

Anthology är inte involverad i träningen av den antropiska modellen som driver AI Alt Text Assistant-funktionerna via Amazon Bedrock. Dessa modeller tränas av Anthropic (Anthropic Claude).

Anthology finjusterar inte dessa modeller ytterligare med hjälp av vår egen eller våra kunders data.

Används klientdata för (om)utbildning av AI-systemet?Nej. Amazon förbinder sig i sin offentliga dokumentation att inte använda någon input till, eller utdata från, för (om)träning av de stora språkmodellerna inom Amazon Bedrock. Amazon tillhandahåller information om hur de stora språkmodellerna utbildas i länkarna i avsnittet "Ytterligare information" nedan. Alla in- och utdata krypteras under överföring och i vila.
Hur använder Anthology Ally personuppgifter när det gäller tillhandahållandet av AI Al Text Assistant-systemet?Anthology använder endast den information som samlas in i samband med AI Alt Text Assistant för att tillhandahålla, underhålla och stödja AI-assistenten för alt text, och där vi har avtalsenligt permission att göra det. Du hittar mer information om Anthologys inställning till datasekretess och säkerhet i vårt Säkerhetscenter.
När det gäller AI-system som stöds av tredje part, hur kommer den tredje parten att använda personuppgifter?

Endast bilder och/eller kontextuella data i rikt innehåll som omger en bild används för att driva denna funktion. Ingen ytterligare information delas med AWS Bedrock.  

Varken Amazon eller någon leverantör av Amazon Bedrock-modeller använder några Anthology-data eller Anthology-kunddata för att förbättra Amazon Bedrock-modellerna.  

Du hittar mer information om dataskyddspraxis för Amazon Bedrock Security and Privacy i Amazon-dokumentationen på sidan för AWS AI Security, bloggenAWS Machine Learning Blog och sidan för Amazon Bedrock Security and Privacy.

Beaktades tillgänglighet i utformningen av AI alt text-systemet?Ja, våra tillgänglighetsingenjörer samarbetade med produktteam för att granska designen, informera om viktiga tillgänglighetsaspekter och testa de nya funktionerna särskilt för tillgänglighet. Vi kommer att fortsätta att betrakta tillgänglighet som en integrerad del av vår strategi för tillförlitligt AI. 

Överväganden och rekommendationer för lärosäten

Avsedda användningsfall

AI Alt Text Assistant är endast avsedd att stödja de funktioner som anges ovan. Dessa funktioner tillhandahålls till och är avsedda för våra kunders lärare för att stödja dem med korrigering av tillgänglighetsproblem för bilder enligt hur Ally flaggar detta.

Användningsfall som inte omfattas

AI Alt Text Assistant är inte avsedd och det är inte garanterat att den gör varje bild tillgänglig med perfekt alternativ text eftersom det fortfarande är upp till lärare att justera eller godkänna den alternativa texten baserat på kontext för innehåll i kursen. 

Principer för tillförlitligt AI i praktiken

Anthology och Amazon anser att laglig, etisk och ansvarsfull användning av AI är en viktig prioritet. Det här avsnittet förklarar hur Anthology och Microsoft har arbetat för att hantera den tillämpliga risken för laglig, etisk och ansvarsfull användning av AI och implementera Anthologys principer för tillförlitligt AI. Det innehåller även förslag på åtgärder som våra kunder kan överväga när de genomför sina egna AI- och juridiska granskningar av etiska AI-risker för deras implementering. 

Transparens och förklarbarhet

  • Vi gör det tydligt i konfigurationsalternativen för Ally-administration att detta är en AI-faciliterad funktionalitet
  • I användargränssnittet för lärare är funktionerna med AI Alt Text Assistant tydligt markerade som "Generativa" funktioner. Lärare ombeds också att granska textutmatningen före användning. Metadata för utdata som skapas av AI Alt Text Assistant-funktionerna exponeras i varje klients Ally-användningsrapport med ett fält för automatiskt genererat innehåll. Det visar också om utdata senare redigerades av läraren.
  • Modellen bakom AI Alt Text Assistant kan variera beroende på var ditt lärosäte är beläget. I Kanada använder assistenten Claude 3 Sonnet-modellen, som erbjuder nyare funktioner. Överallt annars använder den Claude Sonnet 3.5. Det här valet baseras på vad AWS Bedrock gör tillgängligt i varje region.
  • Vi uppmuntrar kunder att vara transparenta om användningen av AI inom AI Alt Text Assistantoch förse sina lärare och andra intressenter när så är lämpligt med relevant information från detta dokument och dokumentationen som länkas häri.

Tillförlitlighet och korrekthet

  • Vi klargör i konfigurationsalternativen för Ally-administration och användarvillkoren att detta är en AI-faciliterad funktionalitet som kan ge felaktiga eller oönskade utdata och att sådana utdata alltid ska granskas av läraren.
  • I användargränssnittet ombeds lärare att granska textutmatningens korrekthet.
  • Som det beskrivs i vanliga frågor om Amazon Bedrock, finns det risk för felaktiga utdata. Även om den specifika karaktären hos AI Alt Text Assistant och vår implementering är avsedd att minimera felaktigheter, är det vår kunds ansvar att granska utdata för korrekthet, partiskhet och andra potentiella problem.
  • Användare kan enkelt återskapa felaktiga utdata genom att omformulera frågan eller frasen som används i Frågor och svar-prompten.
  • Som en del av sin kommunikation angående AI Alt Text Assistant bör kunderna göra sina lärare medvetna om denna potentiella begränsning.
  • Kunder kan rapportera eventuella felaktiga resultat till oss med hjälp av de kanaler som anges i introduktionen.

Rättvisa

  • Stora språkmodeller medför i sig risker i samband med stereotyper, över-/underrepresentation och andra former av skadlig partiskhet.
  • Med tanke på dessa risker har vi noggrant valt funktionerna i AI Alt Text Assistant för att undvika användningsfall som kan vara mer benägna att skapa skadlig partiskhet eller där effekten av sådan partiskhet kan vara mer betydande.
  • Det kan dock inte uteslutas att en del av produktionen kan påverkas av skadlig partiskhet. Som nämnts ovan under "Korrekthet" uppmanas lärare att granska resultat, vilket kan bidra till att minska skadlig partiskhet.
  • Som en del av sin kommunikation angående AI Alt Text Assistant bör kunderna göra sina lärare medvetna om denna potentiella begränsning.
  • Kunder kan rapportera eventuell skadlig partiskhet till oss med hjälp av de kontaktkanaler som anges i introduktionen.

Integritet och säkerhet

  • Som beskrivs i avsnittet "Viktiga fakta" ovan används endast bilden för AI Alt Text Assistant och är tillgänglig för Microsoft. Avsnittet beskriver även vårt och Microsoft åtagande när det gäller användningen av personlig information.
  • Amazon beskriver sina metoder och åtaganden för datasekretess och säkerhet i dokumentationen på Amazon Bedrock Security and Privacy.

Säkerhet

  • Stora språkmodeller utgör i sig en risk för utdata som kan vara olämplig, stötande eller på annat sätt osäker. Amazon beskriver dessa risker i avsnittet Begränsningar på Amazons sida om ansvarsfull AI.
  • Med tanke på dessa risker har vi noggrant valt funktionerna i AI Alt Text Assistant för att undvika användningsfall som kan vara mer benägna att skapa osäkra utdata eller där effekten av sådana utdata kan vara mer betydande.
  • Det kan dock inte uteslutas att en del av produktionen kan vara osäker. Som nämnts ovan under "Korrekthet" uppmanas lärare att granska utdata, vilket ytterligare kan bidra till att minska risken för osäkra utdata.
  • Som en del av sin kommunikation angående AI Alt Text Assistant bör kunderna göra sina lärare medvetna om denna potentiella begränsning.
  • Kunder bör rapportera eventuell osäker utdata till oss med hjälp av de kanaler som anges i introduktionen.

Människor i kontroll

  • För att minimera risken i samband med användningen av generativ AI för våra kunder och deras användare ger vi avsiktligt kunderna kontroll över funktionerna i AI Alt Text Assistant. AI Alt Text Assistant är därför en funktion som man måste välja att aktivera. Administratörer kan aktivera eller inaktivera AI Alt Text Assistant när som helst.  
  • Dessutom har lärarna kontroll över utdata, vilket innebär att de uppmanas att granska textutdata och kan redigera textutdata efter behov.
  • AI Alt Text Assistant inkluderar inte något automatiserat beslutsfattande som kan ha en juridisk eller på annat sätt betydande inverkan på elever eller andra individer.
  • Vi uppmuntrar kunder att noggrant granska detta dokument, inklusive informationslänkarna som finns häri, för att säkerställa att de förstår möjligheterna och begränsningarna hos AI-assistenten för alt text och den underliggande Amazon Bedrock innan de aktiverar AI Alt Text Assistant-funktionen.

Anpassning av värde

  • Stora språkmodeller har i sig risker när det gäller resultat som är partiska, olämpliga eller på annat sätt inte överensstämmer med Anthologys värderingar eller värderingarna eller våra kunder och elever. Amazon beskriver dessa risker på de länkade websites i avsnittet "ytterligare information" nedan.
  • Dessutom medför stora språkmodeller (som all teknik som tjänar breda syften) risken att de i allmänhet kan missbrukas för användningsfall som inte överensstämmer med värderingarna hos Anthology, våra kunder eller deras slutanvändare och samhällets värderingar i stort (t.ex. för brottslig verksamhet, för att skapa skadlig eller på annat sätt olämplig utdata).
  • Med tanke på dessa risker har vi noggrant utformat och implementerat våra AI Alt Text Assistant-funktioner på ett sätt som minimerar risken för missriktad utdata. Vi har till exempel fokuserat på funktioner för lärare snarare än för elever. Vi har också avsiktligt utelämnat potentiellt höga insatser.

Immateriella tillgångar

  • Stora språkmodeller medför i sig risker för potentiellt intrång i immateriella rättigheter. De flesta immaterialrättsliga lagar runt om i världen har inte helt förutsett eller anpassat sig till framväxten av stora språkmodeller och komplexiteten i de frågor som uppstår genom deras användning. Till följd av detta finns det för närvarande ingen tydlig rättslig ram eller vägledning som tar itu med de immaterialrättsliga frågor och risker som uppstår vid användningen av dessa modeller.
  • I slutändan är det vår kunds ansvar att granska utdata som genereras av den AI Alt Text Assistant för eventuella intrång i immateriella rättigheter.  

Tillgänglighet

  • Vi designade och utvecklade AI Alt Text Assistant med tillgänglighet i åtanke som vi gör i hela Learn och våra andra produkter. Innan AI Alt Text Assistant lanserades förbättrade vi målmedvetet tillgängligheten för den semantiska strukturen, navigeringen, tangentbordskontrollerna, etiketterna, de anpassade komponenterna och bildarbetsflödena, för att nämna några områden. Vi kommer att fortsätta att prioritera tillgänglighet när vi utnyttjar AI i framtiden.
  • AI Alt Text Assistant-funktionen utnyttjar Amazon Bedrock. AWS gör tillgänglighetsrapporter tillgängliga via AWS tillgänglighetssidor.

Ansvarsskyldighet

  • Anthology har ett tillförlitligt AI-program som är utformat för att säkerställa laglig, etisk och ansvarsfull användning av AI. Tydlig intern ansvarsskyldighet och systematisk etisk AI-granskning eller funktioner som de som tillhandahålls av AI Alt Text Assistant är viktiga pelare i programmet.
  • För att leverera AI Alt Text Assistant samarbetade vi med Amazon för att utnyttja Amazon Bedrock. AWS strävar efter ansvarsfull användning av AI.
  • Kunder bör överväga att implementera interna policyer, förfaranden och granskning av AI-applikationer från tredje part för att säkerställa sin egen juridiska, etiska och ansvarsfulla användning av AI. Denna information tillhandahålls för att stödja våra kunders granskning av AI Alt Text Assistant.

Ytterligare information