Illuminate Data Q&A – notering om AI-transparens

Belysa data Frågor och svar A – notering om AI-transparens  

Laglig, etisk och ansvarsfull användning av artificiell intelligens (AI) är en viktig prioritering för Anthology. Därför har vi utvecklat och implementerat ett tillförlitligt AI-program. Du hittar information om vårt program och vår allmänna strategi för tillförlitlig AI i vårt Säkerhetscenter och listan över generativa AI-funktioner.

Som en del av våra principer för tillförlitlig AI förbinder vi oss till transparens, förklarbarhet och ansvarsskyldighet. Denna sida är avsedd att ge nödvändig transparens och förklaringar för att hjälpa våra kunder med deras implementering av Illuminate Data Q&A. Vi rekommenderar att administratörer noggrant granskar den här sidan och ser till att lärarna är medvetna om övervägandena och rekommendationerna nedan innan du aktiverar funktionerna i Illuminate Data Q&A för lärosätet.

Så här kontaktar du oss:

• För frågor eller återkoppling om vår allmänna inställning till tillförlitlig AI eller hur vi kan göra den här sidan mer användbar för våra kunder, vänligen mejla oss på [email protected]. 
• Om du har frågor eller återkoppling om funktionerna eller utdata från Illuminate Data Q&A kan du skicka in ett kundsupportärende via Behind the Blackboard.

AI-underlättade funktioner 

The Illuminate Data Q& En funktion ger en AI-genererad textsammanfattning av de data som presenteras i Data Q&A-instrumentpanelen som genereras från användarens uppmaning. Anthology har samarbetat med AWS för att tillhandahålla denna funktion, delvis för att AWS har åtagit sig att använda AI på ett ansvarsfullt sätt.

The Illuminate Data Q& En funktion ger följande generativa AI-underlättade funktioner: 

Generera datasammanfattning och förslag: En AI-genererad textsammanfattning av de data som visas på instrumentpanelen skapas automatiskt baserat på användarens uppmaning. Funktionen föreslår också alternativa uppmaningar för att förfina databegäran.  

Dessa funktioner omfattas av begränsningarna och tillgängligheten för Azure AI Vision Service och kan komma att ändras. Kontrollera relevant versionsinformation för mer information.

Viktiga fakta

Överväganden och rekommendationer för lärosäten

Avsedda användningsfall

Illuminate Data Q&A iär endast avsedd att stödja de funktioner som anges ovan. Dessa funktioner tillhandahålls till och är avsedda för våra kunders lärare för att hjälpa dem med analys och förbättringar av Data Q& A rapporter. 

Användningsfall som inte omfattas

Illuminate Data Q&A tillhandahåller för närvarande inte en uppmaningsfunktion eller liknande funktion som direkt kan instruera de generativa AI-modellerna. På grund av detta förväntar vi oss inga oavsiktliga användningsfall (som inte omfattas).

Principer för tillförlitlig AI i praktiken 

Anthology och Amazon anser att laglig, etisk och ansvarsfull användning av AI är en viktig prioritet. Det här avsnittet förklarar hur Anthology och Microsoft har arbetat för att hantera den tillämpliga risken för laglig, etisk och ansvarsfull användning av AI och implementera Anthologys principer för tillförlitlig AI. Det innehåller även förslag på åtgärder som våra kunder kan överväga när de genomför sina egna AI- och juridiska granskningar av etiska AI-risker för deras implementering. 

Transparens och förklarbarhet 

• Vi gör det tydligt i konfigurationsalternativen för Ally-administration att detta är en AI-faciliterad funktionalitet. 
• I användargränssnittet för lärare är funktionerna Frågor och svar om Illuminate-data tydligt markerade som "Generativa" funktioner. Lärare ombeds även att granska textutmatningen före användning. Metadata för utdata som skapats av funktionen Frågor och svar om Illuminate-data exponeras i varje klients användningsrapport för Illuminate med ett fält för automatiskt genererat innehåll. Det visar också om utdata senare redigerades av läraren. 
• Utöver informationen i detta dokument om hur funktionen Frågor och svar om Illuminate-data fungerar med Amazon Q i QuickSight, ger Amazon ytterligare information om Amazon Q och Amazon Bedrock i länkarna i avsnittet "Ytterligare information" nedan. 
• Vi uppmuntrar kunder att vara transparenta om användningen av AI inom Frågor och svar om Illuminate-data och förse sina lärare och andra intressenter när så är lämpligt med relevant information från detta dokument och dokumentationen som länkas häri.

Tillförlitlighet och korrekthet 

• Vi klargör på sidan Inställningar i Illuminate att detta är en AI-faciliterad funktionalitet som kan ge felaktiga eller oönskade utdata och att sådana utdata alltid ska granskas av slutanvändaren. 
• I användargränssnittet ombeds användare att granska textutmatningens korrekthet. 
• Som det beskrivs i vanliga frågor om Amazon Bedrock finns det risk för felaktiga utdata. Även om den specifika karaktären hos Frågor och svar om Illuminate-data och vår implementering är avsedd att minimera felaktigheter, är det vår kunds ansvar att granska utdata för korrekthet, partiskhet och andra potentiella problem. 
• Användare kan enkelt återskapa felaktiga utdata genom att omformulera frågan eller frasen som används i Frågor och svar-uppmaningen. 
• Som en del av sin kommunikation angående Frågor och svar om Illuminate-data bör kunderna göra sina lärare medvetna om denna potentiella begränsning.
• Kunder kan rapportera eventuella felaktiga resultat till oss med hjälp av de kanaler som anges i introduktionen.

Rättvisa

• Stora språkmodeller medför i sig risker i samband med stereotyper, över- eller underrepresentation och andra former av skadlig partiskhet.
• Med tanke på dessa risker har vi noggrant valt funktionerna Frågor och svar om Illuminate-data för att undvika användningsfall som kan vara mer benägna att skapa skadlig partiskhet eller där effekten av sådan partiskhet kan vara mer betydande. 
• Det kan dock inte uteslutas att en del av produktionen kan påverkas av skadlig partiskhet. Som nämnts ovan under "Korrekthet" uppmanas lärare att granska resultat, vilket kan bidra till att minska skadlig partiskhet. 
• Som en del av sin kommunikation angående Frågor och svar om Illuimnate-data bör kunderna göra sina lärare medvetna om denna potentiella begränsning. 
• Kunder kan rapportera eventuell skadlig partiskhet till oss med hjälp av de kontaktkanaler som anges i introduktionen.

Integritet och säkerhet

• Som beskrivs i avsnittet "Viktiga fakta" ovan används endast begränsade användaruppmaningar och sammanfattningsdata för Frågor och svar om Illuminate-data och görs tillgängliga för Amazon. Avsnittet beskriver även vårt och Amazons åtagande när det gäller användningen av personlig information. 
• Amazon beskriver sina metoder och åtaganden för datasekretess och säkerhet i dokumentationen på Amazon Bedrock Security and Privacy.

Säkerhet 

• Stora språkmodeller utgör i sig en risk för utdata som kan vara olämplig, stötande eller på annat sätt osäker. Amazon beskriver dessa risker i avsnittet Begränsningar på Amazons sida om ansvarsfull AI. 
• Med tanke på dessa risker har vi noggrant valt funktionerna Frågor och svar om Illuminate-data för att undvika användningsfall som kan vara mer benägna att skapa osäkra utdata eller där effekten av sådana utdata kan vara mer betydande. 
• Det kan dock inte uteslutas att en del av produktionen kan vara osäker. Som nämnts ovan i avsnittet "Korrekthet" uppmanas lärare att granska utdata, vilket ytterligare kan bidra till att minska risken för osäkra utdata. 
• Som en del av sin kommunikation angående Frågor och svar om Illuminate-data bör kunderna göra sina lärare medvetna om denna potentiella begränsning. 
• Kunder bör rapportera eventuell osäker utdata till oss med hjälp av de kanaler som anges i introduktionen.

Människor i kontroll

• För att minimera risken i samband med användningen av generativ AI för våra kunder och deras användare ger vi avsiktligt klienterna kontroll över funktionerna i Frågor och svar om Illuminate-data. Frågor och svar om Illuminate-data är därför en opt-in-funktion. Administratörer kan aktivera eller inaktivera Frågor och svar om Illuminate-data när som helst. 
• Dessutom har lärarna kontroll över utdata, vilket innebär att de uppmanas att granska utdata och kan regenerera utdata efter behov.
• Frågor och svar om Illuminate-data inkluderar inte något automatiserat beslutsfattande som kan ha en juridisk eller på annat sätt betydande inverkan på elever eller andra individer. 
• Vi uppmanar kunderna att noggrant granska det här dokumentet, inklusive informationslänkarna häri, för att säkerställa att de förstår funktionerna och begränsningarna i Frågor och svar om Illuminate-data och underliggande Amazon Q i QuickSight innan de aktiverar den generativa AI-funktionen i Frågor och svar om Illuminate-data.

Värdejustering 

• Stora språkmodeller har i sig risker när det gäller resultat som är partiska, olämpliga eller på annat sätt inte överensstämmer med Anthologys värderingar eller värderingarna eller våra kunder och elever. Amazon beskriver dessa risker på de länkade webbplatserna i avsnittet "Ytterligare information" nedan. 
• Dessutom innebär stora språkmodeller (som all teknik som tjänar breda syften) risken att de kan missbrukas för användningsfall som inte överensstämmer med värderingarna hos Anthology, våra kunder eller deras slutanvändare och samhällets värderingar i stort (t.ex. för brottslig verksamhet, för att skapa skadlig eller på annat sätt olämplig utdata). 
• Med tanke på dessa risker har vi noggrant utformat och implementerat våra funktioner i Frågor och svar om Illuminate-data på ett sätt som minimerar risken för missriktad utdata. Vi har också avsiktligt utelämnat potentiellt höga insatser.

Immateriella tillgångar 

• Stora språkmodeller medför i sig risker för potentiellt intrång i immateriella rättigheter. De flesta immaterialrättsliga lagar runt om i världen har inte helt förutsett eller anpassat sig till framväxten av stora språkmodeller och komplexiteten i de problem som skapas när de används. Till följd av detta finns det för närvarande ingen tydlig rättslig ram eller vägledning som tar itu med de immaterialrättsliga frågor och risker som uppstår vid användningen av dessa modeller. 
• I slutänden är det vår kunds ansvar att granska utdata som genereras av Frågor och svar om Illuminate-data för eventuella intrång i immateriella rättigheter.

Tillgänglighet 

• Vi designade och utvecklade Frågor och svar om Illuminate-data med tillgänglighet i åtanke som vi gör i hela Learn och våra andra produkter. Innan Frågor och svar om Illuminate-data lanserades förbättrade vi målmedvetet tillgängligheten för den semantiska strukturen, navigeringen, tangentbordskontrollerna, etiketterna, de anpassade komponenterna och bildarbetsflödena, för att nämna några områden. Vi kommer att fortsätta att prioritera tillgänglighet när vi utnyttjar AI i framtiden. 
• Funktionen Frågor och svar om Illuminate-data utnyttjar Amazon QuickSight. AWS gör tillgänglighetsrapporter tillgängliga via AWS tillgänglighetssidor.

Ansvar 

• Anthology har ett tillförlitligt AI-program som är utformat för att säkerställa laglig, etisk och ansvarsfull användning av AI. Tydlig intern ansvarsskyldighet och systematisk etisk AI-granskning eller funktioner som de som tillhandahålls av Frågor och svar om Illuminate-data är viktiga pelare i programmet. 
• För att leverera Frågor och svar om Illuminate-data samarbetade vi med Amazon för att utnyttja Amazon Q i QuickSight. AWS har åtagit sig att använda AI på ett ansvarsfullt sätt. 
• Kunder bör överväga att implementera interna policyer, förfaranden och granskning av AI-applikationer från tredje part för att säkerställa sin egen juridiska, etiska och ansvarsfulla användning av AI. Denna information tillhandahålls för att stödja våra kunders granskning av generativa AI-funktioner i Frågor och svar om Illuminate-data.

Ytterligare information 

• Anthologys tillförlitliga AI-strategi 
• Amazons sida för ansvarsfull AI 
• Amazons vanliga frågor om Bedrock 
• Amazons sida om Säkerhet och integritet i Bedrock 
• Amazons AI-säkerhetssida
• Amazons Machine Learning Blog 
• Amazons översikt Q i QuickSight
• AWS announces Amazon Q in QuickSight (bloggartikel)