Illuminate Data spørsmål&svar - AI-transparensmerknad 

Lovlig, etisk og ansvarlig bruk av kunstig intelligens (AI) er en hovedprioritet for Anthology. Derfor har vi utviklet og implementert et pålitelig AI-program. Du finner informasjon om programmet vårt og den generelle tilnærmingen til pålitelig AI i klareringssenteret vårt og Liste over generative AI-funksjoner. 

Som en del av våre pålitelige AI-prinsipper forplikter vi oss til transparens, forklarbarhet og ansvarlighet. Denne siden er ment å gi nødvendig åpenhet og forklaring for å hjelpe kundene våre med implementeringen av spørsmål&svar om Illuminate Data. Vi anbefaler at administratorer går nøye gjennom denne siden og sørger for at de relevante brukerne er klar over vurderingene og anbefalingene nedenfor, før aktivering av funksjonalitetene for spørsmål&svar om Illuminate Data for institusjonen deres. 

Slik kontakter du oss: 

  • For spørsmål eller tilbakemeldinger om vår generelle tilnærming til pålitelig AI eller hvordan vi kan gjøre denne siden mer nyttig for kundene våre, send oss en e-post på [email protected]. 
  • Hvis du har spørsmål eller tilbakemelding om funksjonaliteten eller utdataene til Illuminate Data, kan du sende inn en henvendelse til kundestøtte via Behind the Blackboard.

AI-tilrettelagte funksjoner 

Funksjonen spørsmål&svar om Illuminate Data gir et AI-generert tekstsammendrag av dataene som presenteres i Data Q&A-instrumentbord som genereres fra brukerens ledetekst. Anthology har samarbeidet med AWS for å tilby denne funksjonaliteten, delvis fordi AWS er forpliktet til ansvarlig bruk av AI. 

Funksjonen spørsmål&svar om Illuminate Data gir følgende generative AI-tilrettelagte funksjoner: 

Generer datasammendrag og forslag: Et AI-generert tekstsammendrag av data som vises på instrumentbordet, opprettes automatisk basert på brukerens ledetekst. Funksjonen foreslår også alternative ledetekster for å forfine dataforespørselen.  

Disse funksjonene er underlagt begrensningene og tilgjengeligheten til Amazon Q / Amazon Bedrock og kan endres. Sjekk relevante versjonsmerknader for mer informasjon.

Viktige fakta

Viktige fakta
SpørsmålSvare
Hvilke Illuminate-funksjonaliteter bruker AI-systemer?Funksjonen spørsmål&svar og Data som er oppført ovenfor.
Er dette et tredjepartsstøttet AI-system?Ja. Funksjonen spørsmål&svar om Illuminate Data drives av Amazon Q i QuickSight, som igjen utnytter Amazon Bedrock. Amazon Q i QuickSight bruker Anthropic Claude og Amazon Titan gjennom Amazon Bedrock (og en blanding av AWS-utviklede maskinlæringsmodeller).
Hvordan fungerer AI-systemet?Spørsmål&svar om Illuminate Data har alltid stolt på Amazon QuickSight (et BI-verktøy med naturlig språkbehandlingskapasitet). For de nye generative AI-funksjonene er Illuminate i tillegg avhengig av Amazon Q for QuickSight. Med hjelp av Amazon Q for QuickSight, oppretter spørsmål&svar om Illuminate Data automatisk et sammendrag av dataene som vises i spørsmål&svar-datainstrumentpanelet. Funksjonen foreslår også alternative ledetekster for å forfine dataforespørselen. Amazon Q utnytter Anthropic Claude og Amazon Titan i Amazon Bedrock (og flere AWS-maskinlæringsmodeller) for å gi disse mulighetene. For å opprette sammendrag og foreslå ledetekster sender Amazon Q i QuickSight brukermeldinger og sammendragsdata fra instrumentbordvisualobjektene via en API til den relevante AWS Bedrock-modellen.
Hvor er AI-systemet drevet?Drift av Amazon QuickSight og Amazon Bedrock bestemmes av Amazon. Amazon QuickSight er generelt tilgjengelig i de samme regionene som Illuminate. Amazon Bedrock er for øyeblikket tilgjengelig i EU og USA, så for våre kunder i EU og USA utnyttes disse regionene. Utdata for den generative AI-modellen består av midlertidige sammendrag og alternative ledetekster som ikke lagres permanent i Illuminate, eller Amazon Q i QuickSight / Bedrock.
Er dette en valgfri funksjonalitet?Ja. Administratorer må registrere seg på vegne av institusjonen sin på Innstillinger-siden i Illuminate. Gå til emnet "Anthology Illuminate-innstillinger" for mer informasjon.
Hvordan trenes AI-systemet?

Anthology er ikke involvert i opplæring av Anthropic Claude og Amazon Titan-modellene som driver funksjonen spørsmål&svar om Illuminate Data gjennom Amazon Bedrock. Disse modellene er lært opp av henholdsvis Anthropic (Anthropic Claude) og Amazon (Amazon Titan).

Anthology fininnstiller ikke disse modellene ved hjelp av våre egne eller våre kunders data.

Brukes klientdata til å lære opp igjen AI-systemet?Nei. Amazon forplikter seg i sin offentlige dokumentasjon til ikke å bruke noen inndata i, eller utdata av, til omskolering av de store språkmodellene i Amazon Bedrock. Amazon leverer informasjon om hvordan de store språkmodellene er opplært i lenkene i delen "Mer informasjon" nedenfor. Alle datainndata og -utdata krypteres under overføring og i hvile.
Hvordan bruker Anthology personlig informasjon med hensyn til levering av spørsmål&svar om Illuminate Data?Anthology bruker kun informasjonen som samles inn i forbindelse med spørsmål&svar om Illuminate Data for å levere, vedlikeholde og støtte spørsmål&svar om Illuminate og hvor vi har kontraktsmessig tillatelse til å gjøre det. Du finner mer informasjon om Anthologys tilnærming til personvern og i vårt klareringssenter.
Når det gjelder et tredjepartsstøttet AI-system, hvordan vil tredjeparten bruke personlig informasjon?

Kun begrensede brukermeldinger og sammendragsdata fra instrumentbordvisualobjektene sendes fra Amazon Q for QuickSight til Amazon Bedrock for å levere funksjonen. 

Verken Amazon eller noen Amazon Bedrock-modelleverandør bruker Anthology-data eller Anthology-kundedata for å forbedre Amazon Bedrock-modellene. 

Du finner mer informasjon om personvernpraksisen angående Amazon Bedrock Security and Privacy i Amazon-dokumentasjonen på AWS AI-sikkerhetssiden, AWS-maskinlæringsblogg, Amazon Q i QuickSight-oversikten, AWS kunngjør Amazon Q i QuickSight (bloggartikkel) og Amazon Bedrock Security and Privacy-siden .

Ble tilgjengelighet vurdert i utformingen av spørsmål&svar om Illuminate Data?Funksjonen spørsmål&svar om Illimunate Data utnytter Amazon QuickSight. Siden dette er en tredjepartsfunksjon, ble tilgjengelighet vurdert av Amazon i stedet for Anthology. Amazon gjør samsvarstilgjengelighetsrapporter tilgjengelig via AWS-tilgjengelighetssidene.

Vurderinger og anbefalinger for institusjoner 

Tiltenkte brukstilfeller 

Spørsmål&svar for Illuminate Data er bare ment å støtte funksjonaliteten som er oppført ovenfor. Disse funksjonene er levert til og ment for våre kunders undervisere for å støtte dem med analyse og forbedringer av spørsmål&svar om data. 

Brukstilfeller utenfor omfanget 

Spørsmål&svar om Illuminate Data gir for øyeblikket ikke en ledetekstfunksjonalitet eller lignende funksjonalitet som direkte kan instruere de generative AI-modellene. Grunnet dette forventer vi ingen utilsiktede (utenfor omfanget) brukstilfeller.

Troverdige AI-prinsipper i praksis 

Anthology og Amazon mener at lovlig, etisk og ansvarlig bruk av AI er en nøkkelprioritet. Denne delen forklarer hvordan Anthology og Amazon har jobbet for å håndtere den nåværende risikoen for juridisk, etisk og ansvarlig bruk av AI og implementere Anthologys pålitelig AI-prinsipper. Det foreslår også trinn kundene våre kan vurdere når de foretar egen AI og juridiske vurderinger av etiske AI-risikoer ved implementeringen. 

Transparens og forklarbarhet 

  • Vi gjør det tydelig i Illujminate-administrasjonskonfigurasjonsalternativene at dette er en AI-tilrettelagt funksjonalitet. 
  • I brukergrensesnittet for undervisere er funksjonene i Illuminate Data tydelig merket som «Generative» funksjonaliteter. Undervisere blir også bedt om å gå gjennom tekstutdata før bruk. Metadataene for utdata opprettet av funksjoner for spørsmål&svar om Illimunate Data vises i hver klients Illuminate-bruksrapport med et felt for automatisk generert innhold. Det viser også om utdataene senere ble redigert av underviseren. 
  • I tillegg til informasjonen i dette dokumentet om hvordan funksjonen for spørsmål&svar om Illuminate Data fungerer med Amazon Q i QuickSight, leverer Amazon tilleggsinformasjon om Amazon Q og Amazon Bedrock i lenkene i delen "Mer informasjon" nedenfor. 
  • Vi oppfordrer kunder til å være åpne om bruken av AI i Illuminate Data og gi undervisere og andre interessenter relevant informasjon fra dette dokumentet og dokumentasjonen det er lenket til her.

Pålitelighet og nøyaktighet 

  • Vi gjør det tydelig på Illuminate-innstillingssiden til Illuminate at dette er en AI-tilrettelagt funksjonalitet som kan gi unøyaktige eller uønskede utdata, og at slike utdata alltid skal gjennomgås av sluttbrukeren. 
  • I brukergrensesnittet blir brukere bedt om å gå gjennom tekstutdataene for å påse at teksten er nøyaktig. 
  • Som beskrevet i vanlige spørsmål om Amazon Bedrock, er det fare for unøyaktige utdata. Selv om den spesifikke arten til spørsmål&svar om Illuminate Data og implementeringen vår er ment å minimere unøyaktighet, er det kundens ansvar å gjennomgå utdataene for nøyaktighet, skjevhet og andre potensielle problemer. 
  • Brukere kan enkelt generere unøyaktige utdata på nytt ved å omformulere spørsmålet eller uttrykket som brukes i spørsmål&-ledeteksten. 
  • Som en del av kommunikasjonen deres angående spørsmål&svar om Illuminate Data, bør kunder gjøre underviserne sine oppmerksomme på denne potensielle begrensningen.
  • Kunder kan rapportere eventuelle unøyaktige utdata til oss ved å bruke kanalene som er oppført i introduksjonen.

Rettferdighet

  • Store språkmodeller er i en selv innebygd risiko knyttet til stereotypier, over-/underrepresentasjon og andre former for skadelige fordommer.
  • På grunn av disse risikoene har vi nøye valgt funksjoner for spørsmål&svar om Illuminate Data for å unngå brukstilfeller som kan være mer utsatt for skadelig skjevhet eller der virkningen av slik skjevhet kan være mer betydelig. 
  • Det kan derimot ikke utelukkes at noe av produksjonen kan være påvirket av skadelige skjevheter. Som nevnt ovenfor under "Nøyaktighet", blir undervisere bedt om å gjennomgå utdata, noe som kan bidra til å redusere skadelig skjevhet.
  • Som en del av kommunikasjonen deres angående spørsmål&svar om Illuminate Data, bør kunder gjøre underviserne sine oppmerksomme på denne potensielle begrensningen. 
  • Kunder kan rapportere eventuelle potensielt skadelige skjevheter til oss ved å bruke kontaktkanalene som er oppført i introduksjonen.

Personvern og sikkerhet

  • Som beskrevet i delen "Nøkkelfakta" over, brukes bare begrensede brukermeldinger og sammendragsdata for spørsmål&svar om Illuminate Data og tilgjengelig for Amazon. Delen beskriver også vår og Amazons forpliktelse angående bruken av personlig informasjon. 
  • Amazon beskriver sine praksiser og forpliktelser for datavern og sikkerhet i dokumentasjonen om Amazon Bedrock Security and Privacy.

Sikkerhet 

  • Store språkmodeller utgjør i seg selv en risiko for utdata som kan være upassende, støtende eller på andre måter utrygge. Amazon beskriver disse risikoene i sin begrensningsdel på Amazons ansvarlige AI-side. 
  • På grunn av disse risikoene har vi nøye valgt funksjoner for spørsmål&svar om Illuminate Data for å unngå brukstilfeller som kan være mer utsatt for usikre utdata eller der virkningen av slike utdata kan være mer betydelig. 
  • Det kan likevel ikke utelukkes at noe av produksjonen kan være usikker. Som nevnt ovenfor i «Nøyaktighet»-delen, blir undervisere bedt om å gå gjennom utdataene, noe som kan bidra til å ytterligere redusere risikoen for usikre utdata. 
  • Som en del av kommunikasjonen deres angående spørsmål&svar om Illuminate Data, bør kunder gjøre underviserne sine oppmerksomme på denne potensielle begrensningen. 
  • Kunder bør rapportere potensielt usikre utdata til oss ved å bruke kanalene som er oppført i introduksjonen.

Mennesker har kontroll

  • For å minimere risikoen relatert til bruken av generativ AI for våre kunder og deres brukere, gir vi bevisst klienter kontroll over funksjonene spørsmål&svar om Illuminate Data. Spørsmål&svar om Illuminate Data er derfor en valgfri funksjon. Administratorer kan når som helst aktivere eller deaktivere spørsmål&svar om Illuminate Data. 
  • Undervisere har dessuten kontroll over utdataene, noe som betyr at de blir bedt om å gjennomgå utdata og kan redigere utdata etter behov.
  • Spørsmål&svar om Illuminate Data inkluderer ingen automatisert beslutningstaking som kan ha en juridisk eller annen betydelig effekt på elever eller andre personer.
  • Vi oppfordrer kunder til å lese nøye gjennom dette dokumentet, inkludert informasjonslenkene som er angitt her, for å være trygge på at de forstår egenskapene og begrensningene til spørsmål&svar om Illuminate Data og underliggende Amazon Q i QuickSight, før de aktiverer funksjonen spørsmål&svar om Illuminate Data.

Verdijustering 

  • Store språkmodeller har i seg selv innebygd risiko med hensyn til produksjon som er skjev, upassende eller på annen måte ikke i tråd med Anthology-verdier eller verdiene til våre kunder og elever. Amazon beskriver disse risikoene på de lenkede nettstedene i delen "Mer informasjon" nedenfor. 
  • I tillegg har store språkmodeller (som alle teknologier med brede formål) en risiko for at de kan misbrukes til brukstilfeller som ikke samsvarer med verdiene til Anthology, våre kunder eller deres sluttbrukere og samfunnets verdier generelt (f.eks. for kriminelle aktiviteter, for å skape skadelige eller på annen måte upassende utdata). 
  • På grunn av disse risikoene har vi nøye utformet og implementert funksjoner for spørsmål&svar om Illuminate Data på en måte som minimerer risikoen for feiljusterte utdata. Vi har også tilsiktet utelatt funksjonaliteter med potensielt høy innsats.

Immaterielle rettigheter 

  • Store språkmodeller utgjør i seg selv risiko knyttet til potensielle krenkelser av immaterielle rettigheter. De fleste åndsrettslover i verden har ikke fullt ut forutsett eller tilpasset seg fremveksten av store språkmodeller og kompleksiteten i problemene som kommer fra bruken av dem. Derfor finnes det for øyeblikket ikke noe klart juridisk rammeverk eller veiledning som adresserer åndsrettsproblemer og risikoer som oppstår ved bruk av disse modellene. 
  • Når alt kommer til alt, er det kundens ansvar å gjennomgå utdata generert av spørsmål&svar om Illuminate Data for eventuelle potensielle krenkelser av immaterielle rettigheter.

Tilgjengelighet 

  • Vi designet og utviklet spørsmål&svar om Illuminate Data med tilgjengelighet i tankene på samme måte som vi gjør i Learn og de andre produktene våre. Før utgivelsen av spørsmål&svar om Illuminate Data har vi målrettet forbedret tilgjengeligheten for semantisk struktur, navigasjon, tastaturkontroller, etiketter, egendefinerte komponenter og bildearbeidsflyter, for å nevne noen områder. Vi vil fortsatt prioritere tilgjengelighet når vi bruker AI i fremtiden. 
  • Funksjonen spørsmål&svar om Illimunate Data utnytter Amazon QuickSight. AWS gjør samsvarstilgjengelighetsrapporter tilgjengelig via AWS-tilgjengelighetssidene.

Ansvarlighet 

  • Anthology har et pålitelig AI-program som er utviklet for å sikre lovlig, etisk og ansvarlig bruk av AI. Tydelig intern ansvarliggjøring og den systematiske etiske AI-gjennomgangen eller funksjonaliteter som de som tilbys av spørsmål&svar om Illuminate Data er viktige pilarer i programmet. 
  • For å levere spørsmål&svar om Illuminate Data samarbeidet vi med Amazon for å utnytte Amazon Q i QuickSight. AWS forplikter seg til ansvarlig bruk av AI. 
  • Kunder bør vurdere å implementere interne retningslinjer, prosedyrer og gjennomgang av tredjeparts AI-applikasjoner for å sikre egen juridisk, etisk og ansvarlig bruk av AI. Denne informasjonen leveres for å støtte våre kunders gjennomgang av de generative AI-funksjonene til spørsmål&svar om Illuminate Data.

Ytterligere informasjon