Laglig, etisk och ansvarsfull användning av artificiell intelligens (AI) är en viktig prioritering för Anthology. Därför har vi utvecklat och implementerat ett tillförlitligt AI-program. Du hittar information om vårt program och vår allmänna strategi för tillförlitlig AI i vårt Säkerhetscenter och mer information om generativa AI-funktioner i vår lista över generativa AI-funktioner.

Som en del av våra principer för tillförlitlig AI förbinder vi oss till transparens, förklarbarhet och ansvarsskyldighet. Denna sida är avsedd att ge nödvändig transparens och förklaringar för att hjälpa våra kunder med deras implementering av AI Alt Text Assistant. Vi rekommenderar att administratörer noggrant granskar den här sidan och ser till att lärarna är medvetna om övervägandena och rekommendationerna nedan innan du aktiverar funktionerna i AI Alt Text Assistant för ditt lärosäte.

Så här kontaktar du oss:

  • För frågor eller återkoppling om vår allmänna inställning till tillförlitlig AI eller hur vi kan göra den här sidan mer användbar för våra kunder, vänligen mejla oss på [email protected].
  • Om du har frågor eller återkoppling om funktionerna eller utdata från AI Alt Text Assistant kan du skicka in ett kundsupportärende via Behind the Blackboard.

AI-faciliterade funktioner

AI Alt Text Assistant ger lärare förslag på alternativ text för bilder som används i deras onlinekurs(er) via arbetsflödet för läraråterkoppling i Ally. Avsikten är att inspirera lärare och effektivisera tillgänglighetsåtgärder. Anthology har samarbetat med Microsoft för att tillhandahålla denna funktion, inte minst för att Microsoft har ett långvarigt engagemang för etisk användning av AI.

AI Alt Text Assistant tillhandahåller följande generativa AI-faciliterade funktioner:

  • Generera en alternativ text för bilder.  Föreslår en alternativ text i Läraråterkoppling i Ally när lärare åtgärdar bilder utan alternativ text.

Dessa funktioner omfattas av begränsningarna och tillgängligheten för Azure AI Vision Service och kan komma att ändras. Kontrollera relevant versionsinformation för mer information.

Viktiga fakta

Exempeltabell
FrågaSvar
Vilka Ally-funktioner använder AI-system?Förslag på alternativtext via AI på panelen Läraråterkoppling i Ally, när en bild har flaggats av Ally för att den inte har alternativ text.
Är detta ett AI-system som stöds av tredje part?Ja – AI Alt Text Assistant drivs av Microsoft Azure Vision Service. 
Hur fungerar AI-systemet?

AI Alt Text Assistant använder Microsoft Azure Vision Service för att generera utdata automatiskt. Detta uppnås genom att använda avbildningen för att generera en alternativ text som skickas via Azure Vision API. Ingen ytterligare information används (t.ex. kurstitel, kursbeskrivning). Bilder används inte för att utbilda Microsoft Azure Vision-modeller och Azure Vision Service genererar utdata baserat på varje bild som laddas upp till AI Alt Text Assistant. Inga uppmaningar används.

Observera att för slutanvändare som har sina LMS-instanser konfigurerade på andra språk än engelska kommer utdata från AI Alt Text att översättas med AWS Translate.

En förklaring av hur Azure AI Vision-språkmodellerna fungerar i detalj finns i introduktionsavsnittet i Microsofts transparensmeddelande och länkarna i den.  

Var finns AI-systemet?Anthology använder för närvarande flera globala Azure Vision Service-instanser. Den primära instansen finns i USA, men ibland kan vi använda resurser på andra platser, till exempel Frankrike och APAC för att tillhandahålla det bästa tillgänglighetsalternativet för Azure AI Vision för våra klienter.

Alla klientutdata som genereras av AI Alt Text Assistant lagras i varje klients befintliga Ally-databas som hanteras av Anthology.
Är detta en opt-in-funktion?Ja. Administratörer måste aktivera AI Alt Text Assistant i konfigurationsalternativen för LMS Ally. Välj AI-generering av alternativa beskrivningar för bilder under fliken Funktioner. Administratörer kan aktivera eller inaktivera den här funktionen när som helst.
Hur utbildas AI-systemet?

Anthology är inte inblandad i utbildningen av modeller som driver AI Alt Text Assistant-funktionerna. Dessa modeller utbildas av Microsoft som en del av Azure Vision Service. Microsoft ger information om hur de stora språkmodellerna utbildas i introduktionsavsnittet i Microsofts transparensmeddelande och länkarna i den.

Anthology finjusterar inte Azure Vision Service ytterligare med hjälp av våra egna eller våra kunders data.

Används klientdata för (om)utbildning av AI-systemet?Nej. Microsoft förbinder sig avtalsenligt i sina Azure Vision-villkor med Anthology att inte använda några indata till eller utdata från Azure Vision för (om)utbildning av den stora språkmodellen. Samma åtagande görs i Microsofts dokumentationen om data, integritet och säkerhet för Azure Vision Service. Endast förbyggda modeller används.
Hur använder Anthology Ally personuppgifter när det gäller tillhandahållandet av AI Al Text Assistant-systemet?

Anthology Ally använder endast de bilder som samlats in i samband med AI Alt Text Assistant för att tillhandahålla, underhålla och stödja AI Alt Text Assistant. Du hittar mer information om Anthologys metod för datasekretess i Anthologys Säkerhetscenter.

Endast bilder används för att driva den här funktionen. Ingen ytterligare information delas med Microsoft Azure Vision Service.  

Microsoft använder ingen Anthology-data eller Anthology-klientdata som den har åtkomst till (som en del av Azure Vision Service) för att förbättra Vision-modellerna, för att förbättra sina egna eller tredjepartsprodukttjänster eller för att automatiskt förbättra Azure Vision-modellerna för Anthology användning i Anthologys resurs (modellerna är tillståndslösa).

Mer information om datasekretesspraxis för Azure Vision Service finns i Microsofts dokumentationen om data, integritet och säkerhet för Azure Vision Service.

Beaktades tillgänglighet i utformningen av AI Alt Text System?Ja, våra tillgänglighetsingenjörer samarbetade med produktteam för att granska designen, informera om viktiga tillgänglighetsaspekter och testa de nya funktionerna särskilt för tillgänglighet. Vi kommer att fortsätta att betrakta tillgänglighet som en integrerad del av vår strategi för tillförlitlig AI.

Överväganden och rekommendationer för lärosäten

Avsedda användningsfall

AI Alt Text Assistant är endast avsedd att stödja de funktioner som anges ovan. Dessa funktioner tillhandahålls till och är avsedda för våra kunders lärare för att stödja dem med korrigering av bildernas tillgänglighetsproblem som flaggats av Ally.

Användningsfall som inte omfattas

AI Alt Text Assistant är inte avsedd och garanterar inte heller att varje bild blir tillgänglig med perfekt alternativ text eftersom det fortfarande är upp till läraren att justera eller godkänna den alternativa texten baserat på sammanhanget för innehållet i kursen. 

Principer för tillförlitlig AI i praktiken

Anthology och Microsoft anser att laglig, etisk och ansvarsfull användning av AI är en viktig prioritet. Det här avsnittet förklarar hur Anthology och Microsoft har arbetat för att hantera den tillämpliga risken för laglig, etisk och ansvarsfull användning av AI och implementera Anthologys principer för tillförlitlig AI. Det innehåller även förslag på åtgärder som våra kunder kan överväga när de genomför sina egna AI- och juridiska granskningar av etiska AI-risker för deras implementering.

Transparens och förklarbarhet

  • Vi gör det tydligt i konfigurationsalternativen för Ally-administration att detta är en AI-faciliterad funktionalitet
  • I användargränssnittet för lärare är AI Alt Text Assistant-funktionerna tydligt markerade som "Generativa" funktioner. Lärare ombeds också att granska textutmatningen före användning. · Metadata för utdata som skapas av AI Alt Text Assistant-funktionerna exponeras i varje klients Ally-användningsrapport med ett fält för automatiskt genererat innehåll. Det visar också om utdata senare redigerades av läraren.
  • Förutom informationen i det här dokumentet om hur AI Alt Text Assistant och Azure Vision Service-modellerna fungerar ger Microsoft ytterligare information om Azure Vision Service i sitt Transparensmeddelande.
  • Vi uppmuntrar kunder att vara transparenta om användningen av AI inom AI Alt Text Assistant och förse sina lärare och andra intressenter när så är lämpligt med relevant information från detta dokument och dokumentationen som länkas häri.

Tillförlitlighet och korrekthet

  • Vi klargör i konfigurationsalternativen för Ally-administration och användarvillkoren att detta är en AI-faciliterad funktionalitet som kan ge felaktiga eller oönskade utdata och att sådana utdata alltid ska granskas av läraren.
  • I användargränssnittet ombeds lärare att granska textutmatningens korrekthet.
  • Som beskrivs i avsnittet Begränsningar i Azure Vision Service transparensmeddelande finns det en risk för felaktiga utdata. Även om den specifika karaktären hos AI Alt Text Assistant och vår implementering är avsedd att minimera felaktigheter, är det vår kunds ansvar att granska utdata för korrekthet, partiskhet och andra potentiella problem.
  • Som en del av sin kommunikation angående AI Alt Text Assistant bör kunderna göra sina lärare medvetna om denna potentiella begränsning.
  • Lärare kan använda det befintliga gränssnittet i Ally för att manuellt redigera utdata från AI Alt Text Assistant innan utdata publiceras till deltagarna.
  • Kunder kan rapportera eventuella felaktiga resultat till oss med hjälp av de kanaler som anges i introduktionen.

Rättvisa

  • Stora språkmodeller medför i sig risker i samband med stereotyper, över-/underrepresentation och andra former av skadlig partiskhet. Microsoft beskriver dessa risker i avsnittet Begränsningar i Azure Vision Service transparensmeddelande.
  • Med tanke på dessa risker har vi noggrant valt AI Alt Text Assistant-funktionerna för att undvika användningsfall som kan vara mer benägna att skapa skadlig partiskhet eller där effekten av sådan partiskhet kan vara mer betydande.
  • Det kan dock inte uteslutas att en del av produktionen kan påverkas av skadlig partiskhet. Som nämnts ovan under "Korrekthet" uppmanas lärare att granska resultat, vilket kan bidra till att minska skadlig partiskhet.
  • Som en del av sin kommunikation angående AI Alt Text Assistant bör kunderna göra sina lärare medvetna om denna potentiella begränsning.
  • Kunder kan rapportera eventuell skadlig partiskhet till oss med hjälp av de kontaktkanaler som anges i introduktionen.

Integritet och säkerhet

  • Som beskrivs i avsnittet "Viktiga fakta" ovan används endast bilden för AI Alt Text Assistant och är tillgänglig för Microsoft. Avsnittet beskriver även vårt och Microsoft åtagande när det gäller användningen av personlig information.  
  • Ally är certifierat enligt ISO 27001/27017/27018/27701. Dessa certifieringar inkluderar AI Alt Text Assistant-relaterade utdata som hanteras av Anthology. Du hittar mer information om Anthologys inställning till datasekretess och säkerhet i vårt Säkerhetscenter.
  • Microsoft beskriver sina metoder och åtaganden för datasekretess och säkerhet i dokumentationen om data, integritet och säkerhet för Azure Vision Service.
  • Oavsett Anthologys och Microsofts åtagande när det gäller datasekretess och att inte använda input för att (om)utbilda modellerna, kanske kunderna vill råda sina lärare att inte inkludera någon personlig information eller annan konfidentiell information i bilderna.

Säkerhet

  • Stora språkmodeller utgör i sig en risk för utdata som kan vara olämplig, stötande eller på annat sätt osäker. Microsoft beskriver dessa risker i avsnittet Begränsningar i Azure Vision Service transparensmeddelande.
  • Med tanke på dessa risker har vi noggrant valt AI Alt Text Assistant-funktionerna för att undvika användningsfall som kan vara mer benägna att skapa osäkra utdata eller där effekten av sådana utdata kan vara mer betydande.
  • Det kan dock inte uteslutas att en del av produktionen kan vara osäker. Som nämnts ovan under "Korrekthet" uppmanas lärare att granska utdata, vilket ytterligare kan bidra till att minska risken för osäkra utdata.
  • Som en del av sin kommunikation angående AI Alt Text Assistant bör kunderna göra sina lärare medvetna om denna potentiella begränsning.
  • Kunder bör rapportera eventuell osäker utdata till oss med hjälp av de kanaler som anges i introduktionen.

Människor i kontroll

  • För att minimera risken i samband med användningen av generativ AI för våra kunder och deras användare ger vi avsiktligt klienterna kontroll över funktionerna i AI Alt Text Assistant. AI Alt Text Assistant är därför en opt-in-funktion. Administratörer kan aktivera eller inaktivera AI Alt Text Assistant när som helst.  
  • Dessutom har lärarna kontroll över utdata, vilket innebär att de uppmanas att granska textutdata och kan redigera textutdata efter behov.
  • AI Alt Text Assistant inkluderar inte något automatiserat beslutsfattande som kan ha en juridisk eller på annat sätt betydande inverkan på elever eller andra individer.
  • Vi uppmanar kunderna att noggrant granska det här dokumentet, inklusive informationslänkarna häri, för att säkerställa att de förstår funktionerna och begränsningarna i AI Alt Text Assistant och underliggande Azure Vision Service innan de aktiverar AI Alt Text Assistant.

Anpassning av värde

  • Stora språkmodeller har i sig risker när det gäller resultat som är partiska, olämpliga eller på annat sätt inte överensstämmer med Anthologys värderingar eller värderingarna eller våra kunder och elever. Microsoft beskriver dessa risker i avsnittet Begränsningar i Azure Vision Service transparensmeddelande.
  • Dessutom innebär stora språkmodeller (som all teknik som tjänar breda syften) risken att de i allmänhet kan missbrukas för användningsfall som inte överensstämmer med värderingarna hos Anthology, våra kunder eller deras slutanvändare och samhällets värderingar i stort (t.ex. för brottslig verksamhet, för att skapa skadlig eller på annat sätt olämplig utdata).
  • Med tanke på dessa risker har vi noggrant utformat och implementerat våra AI Alt Text Assistant-funktioner på ett sätt som minimerar risken för missriktad utdata. Vi har till exempel fokuserat på funktioner för lärare snarare än för elever. Vi har också avsiktligt utelämnat potentiellt höga insatser. ·

Immateriella tillgångar

  • Stora språkmodeller medför i sig risker för potentiellt intrång i immateriella rättigheter. De flesta immaterialrättsliga lagar runt om i världen har inte helt förutsett eller anpassat sig till framväxten av stora språkmodeller och komplexiteten i de frågor som uppstår genom deras användning. Till följd av detta finns det för närvarande ingen tydlig rättslig ram eller vägledning som tar itu med de immaterialrättsliga frågor och risker som uppstår vid användningen av dessa modeller.
  • I slutändan är det vår kunds ansvar att granska utdata som genereras av den AI Alt Text Assistant för eventuella intrång i immateriella rättigheter.  

Tillgänglighet

  • Vi designade och utvecklade AI Alt Text Assistant med tillgänglighet i åtanke som vi gör i hela Learn och våra andra produkter. Innan AI Alt Text Assistant lanserades förbättrade vi målmedvetet tillgängligheten för den semantiska strukturen, navigeringen, tangentbordskontrollerna, etiketterna, de anpassade komponenterna och bildarbetsflödena, för att nämna några områden. Vi kommer att fortsätta att prioritera tillgänglighet när vi utnyttjar AI i framtiden.

Ansvarsskyldighet

  • Anthology har ett tillförlitligt AI-program som är utformat för att säkerställa laglig, etisk och ansvarsfull användning av AI. Tydlig intern ansvarsskyldighet och systematisk etisk AI-granskning eller funktioner som de som tillhandahålls av AI Alt Text Assistant är viktiga pelare i programmet.
  • För att leverera AI Alt Text Assistant samarbetade vi med Microsoft för att utnyttja Azure Vision Service som driver AI Alt Text Assistant. Microsoft hade sedan länge förbundit sig till etisk användning av AI.
  • Kunder bör överväga att implementera interna policyer, förfaranden och granskning av AI-applikationer från tredje part för att säkerställa sin egen juridiska, etiska och ansvarsfulla användning av AI. Denna information tillhandahålls för att stödja våra kunders granskning av AI Alt Text Assistant.

Ytterligare information