Lovlig, etisk og ansvarlig bruk av kunstig intelligens (AI) er en hovedprioritet for Anthology. Derfor har vi utviklet og implementert et pålitelig AI-program. Du finner informasjon om programmet vårt og den generelle tilnærmingen til pålitelig AI i klareringssenteret vårt og mer informasjon om generative AI-funksjoner i vår Liste over generative AI-funksjoner.

Som en del av våre pålitelige AI-prinsipper forplikter vi oss til transparens, forklarbarhet og ansvarlighet. Denne siden er ment å gi nødvendig åpenhet og forklaringer for å hjelpe kundene våre med implementeringen av AI Alt Text Assistant. Vi anbefaler at administratorer går nøye gjennom denne siden og sørger for at instruktørene er klar over vurderingene og anbefalingene nedenfor, før du aktiverer funksjonaliteten for AI Alt Text Assistant for institusjonen din.

Slik kontakter du oss:

  • For spørsmål eller tilbakemeldinger om vår generelle tilnærming til pålitelig AI eller hvordan vi kan gjøre denne siden mer nyttig for kundene våre, send oss en e-post på [email protected].
  • Hvis du har spørsmål eller tilbakemelding om funksjonaliteten eller utdataene til AI Alt Text Assistant, kan du sende inn en forespørsel om kundestøtte via Behind the Blackboard.

AI-tilrettelagte funksjoner

Med den alternative AI-tekstassistenten får undervisere forslag til alternativ tekst for bilder som brukes i nettemnene deres via arbeidsflyten for Ally-undervisertilbakemelding. Det er ment å inspirere undervisere og gjøre tilgjengelighetsreparasjoner mer effektive.  

Anthology har inngått et samarbeid med AWS for å oppgradere Ally's AI-modell for å gi enda mer virkningsfulle forslag, sammen med muligheten til å generere bildebeskrivelsesforslag for mer komplekst innhold, inkludert STEM, diagrammer/grafer, tekst i bilder og håndskrevne bilder. Denne funksjonen er drevet av Claude, en språkmodell fra Anthropic, gjennom AWS Bedrock. Hvis institusjonen din er basert i Canada, bruker assistenten den nyere Claude 3 Sonnet-modellen. I alle andre regioner bruker den Claude Sonnet 3.5. Modellen som brukes avhenger av tilgjengelighet i AWS-regionen din. 

AI Alt Text Assistant har følgende generative AI-tilrettelagte funksjoner:

  • Generer en alternativ tekst for bilder.  Foreslår en alternativ tekst i Ally-instructor-tilbakemeldingen når undervisere fikser bilder uten alternativ tekst.

Disse funksjonene er underlagt begrensningene og tilgjengelighet til AWS Bedrock tjeneste og kan endres. Se relevante versjonsmerknader for mer informasjon.

Viktige fakta

Eksempeltabell
SpørsmålSvare
Hvilke Ally-funksjonaliteter bruker AI-systemer?Forslag til alternativ tekst via AI i Ally-undervisertilbakemeldingspanelet, når et bilde har blitt flagget av Ally fordi det ikke har alternativ tekst.
Er dette et tredjepartsstøttet AI-system?Ja. Vi bruker Claude, en modell som er utviklet av Anthropic og tilbys gjennom AWS Bedrock. Institusjoner i Canada bruker Anthropic Claude 3 Sonnet, mens andre regioner bruker Claude Sonnet 3.5, avhengig av hva som støttes i hver AWS-region.
Hvordan fungerer AI-systemet?AI Alt Text Assistant bruker Claude-modeller fra Anthropic til AWS Bedrock for å automatisk generere forslag til alt-tekst. Avhengig av hvor institusjonen din ligger, kan dette være Anthropic Claude 3 Sonnet (i Canada) eller Claude Sonnet 3.5 (i andre regioner). Dette oppnås ved å bruke bildet til å generere en alternativ tekst som sendes via AWS SDK.   Vi har også lagt til muligheten til å send kontekstavhengige ledetekster basert på det omkringliggende tekstinnholdet når et bilde er innebygd i et rikt innhold-element. Ingen ytterligere informasjon brukes (f.eks. kurstittel, emnebeskrivelse). Bilder brukes ikke til å trene AWS Bedrock-modellene, og Bedrock genererer utdataene basert på hvert bilde som lastes opp til AI Alt Text Assistant.
Hvor er AI-systemet drevet?

Anthology bruker for tiden flere AWS-instanser for Amazon Bedrock, bestemt av tilgjenglighet i Amazon-regionen. AWS gir denne regionen tilgjengelighet for Amazon Bedrock-modellen som for øyeblikket brukes av Ally (Claude Sonnet 3.5) på Model Support av AWS-regionen i Amazon Bedrock. Noen ganger kan vi bruke ressurser på andre steder, for eksempel østre USA, for å tilby det beste tilgjengelighetsvalget for AWS Bedrock for våre kunder når en bestemt region ikke er tilgjengelig. 

Alle klientutdata som genereres av AI Alt Text Assistant, lagres i hver klients eksisterende Ally-database som administreres av Anthology.

Er dette en valgfri funksjonalitet?Ja. Administratorer må aktivere den alternative AI-tekstassistenten i LMS Ally-konfigurasjonsalternativene. Velg AI-generering av alternative beskrivelser for bilder under Funksjoner-tab. Administratorer kan aktivere eller deaktivere denne funksjonaliteten når som helst.
Hvordan trenes AI-systemet?

Anthology er ikke involvert i opplæringen av Anthropic-modellen som driver AI Alt Text Assistant-funksjonene gjennom Amazon Bedrock. Disse modellene er trent av Anthropic (Anthropic Claude).

Anthology finjusterer ikke disse modellene ytterligere ved å bruke våre egne eller våre kunders data.

Brukes klientdata til å lære opp igjen AI-systemet?Nei. Amazon forplikter seg i sin offentlige dokumentasjon til ikke å bruke inndata til, eller utdata av, for (gjen)opplæring av de store språkmodellene i Amazon Bedrock. Amazon leverer informasjon om hvordan de store språkmodellene er opplært i lenkene i delen "Mer informasjon" nedenfor. Alle datainndata og -utdata krypteres under overføring og i hvile.
Hvordan bruker Anthology Ally personlig informasjon med hensyn til levering av AI Alt Text Assistant-systemet?Anthology bruker bare informasjonen som samles inn i forbindelse med AI Alt Text Assistant for å tilby, vedlikeholde og støtte AI Alt Text Assistant, og der vi har kontraktsmessig tillatelse til å gjøre det. Du finner mer informasjon om Anthologys tilnærming til personvern i vårt klareringssenter.
Når det gjelder et tredjepartsstøttet AI-system, hvordan vil tredjeparten bruke personlig informasjon?

Bare bilder og/eller kontekstavhengige data i rikt innhold rundt et bilde brukes til å drive denne funksjonen. Ingen ytterligere informasjon deles med AWS Bedrock.  

Verken Amazon eller noen Amazon Bedrock-modelleverandør bruker Anthology-data eller Anthology-kundedata for å forbedre Amazon Bedrock-modellene.  

Du finner mer informasjon om personvernpraksisen angående sikkerhet og personvern for Amazon Bedrock i Amazon-dokumentasjonen på sidene AWS AI-sikkerhet, AWS-maskinlæringsblogg og Amazon Bedrock sikkerhet og personvern.

Ble tilgjengelighet vurdert i utformingen av AI Alt Text-systemet?Ja, tilgjengelighetsingeniørene våre har samarbeidet med produktteam for å gjennomgå design, kommunisere viktige tilgjengelighetshensyn og teste de nye funksjonene spesifikt med tanke på tilgjengelighet. Vi vil fortsette å vurdere tilgjengelighet som en integrert del av vår pålitelige AI-tilnærming. 

Vurderinger og anbefalinger for institusjoner

Tiltenkte brukstilfeller

AI Alt Text Assistant er bare ment å støtte funksjonaliteten som er oppført ovenfor. Disse funksjonene leveres til og er ment for våre kunders instruktører for å støtte dem med å fikse bilders tilgjengelighetsproblemer flagget av Ally.

Brukstilfeller utenfor omfanget

AI Alt Text Assistant er ikke ment og er heller ikke garantert å gjøre hvert bilde tilgjengelig med perfekt alternativ tekst, da det fortsatt er opp til underviseren å justere eller godkjenne den alternative teksten basert på konteksten til innholdet i kurset. 

Pålitelige AI-prinsipper i praksis

Anthology og Amazon mener at lovlig, etisk og ansvarlig bruk av AI er en nøkkelprioritet. Denne delen forklarer hvordan Anthology og Amazon har jobbet for å håndtere den nåværende risikoen for juridisk, etisk og ansvarlig bruk av AI og implementere Anthologys pålitelig AI-prinsipper. Det foreslår også trinn kundene våre kan vurdere når de foretar egen AI og juridiske vurderinger av etiske AI-risikoer ved implementeringen. 

Transparens og forklarbarhet

  • Vi gjør det tydelig i Ally-administrasjonskonfigurasjonsalternativene at dette er en AI-tilrettelagt funksjonalitet
  • I brukergrensesnittet for undervisere er funksjonene i AI Alt Text Assistant tydelig merket som «Generative» funksjonaliteter. Undervisere blir også bedt om å gå gjennom tekstutdataene før bruk. · Metadataene for utdataene som opprettes av AI Alt Text Assistant, vises i hver klients Ally-bruksrapport med et felt for automatisk generert innhold. Det viser også om utdataene senere ble redigert av underviseren.
  • Modellen bak AI Alt Text Assistant kan variere avhengig av hvor institusjonen din befinner seg. I Canada bruker assistenten Claude 3 Sonnet-modellen, som tilbyr nyere funksjoner. Alle andre steder bruker den Claude Sonnet 3.5. Dette valget er basert på hva AWS Bedrock gjør tilgjengelig i hver region.
  • Vi oppfordrer kunder til å være åpne om bruken av AI i AI Alt Text Assistant og gi undervisere og andre interessenter relevant informasjon fra dette dokumentet og dokumentasjonen det er lenket til her.

Pålitelighet og nøyaktighet

  • Vi gjør det tydelig i Ally-administrasjonskonfigurasjonsalternativer og vilkår for bruk at dette er en AI-tilrettelagt funksjonalitet som kan gi unøyaktige eller uønskede utdata, og at slike utdata alltid skal gjennomgås av underviseren.
  • I brukergrensesnittet blir undervisere bedt om å gå gjennom tekstutdataene for å påse at teksten er nøyaktig.
  • Som beskrevet i vanlige spørsmål om Amazon Bedrock, er det fare for unøyaktige utdata. Selv om den spesifikke arten til AI Alt Text Assistant og implementeringen vår er ment å minimere unøyaktighet, er det kundens ansvar å gjennomgå utdataene for nøyaktighet, skjevhet og andre potensielle problemer.
  • Brukere kan enkelt regenerere unøyaktige utdata ved å omformulere spørsmålet eller uttrykket som brukes i spørsmål og svar-ledeteksten.
  • Som en del av kommunikasjonen deres angående AI Alt Text Assistant, bør kunder gjøre underviserne sine oppmerksomme på denne potensielle begrensningen.
  • Kunder kan rapportere eventuelle unøyaktige utdata til oss ved å bruke kanalene som er oppført i introduksjonen.

Rettferdighet

  • Store språkmodeller er i en selv innebygd risiko knyttet til stereotypier, over-/underrepresentasjon og andre former for skadelige fordommer.
  • På grunn av disse risikoene har vi nøye valgt funksjonalitetene for AI Alt Text Assistant for å unngå brukstilfeller som kan være mer utsatt for skadelig skjevhet eller der virkningen av slik skjevhet kan være mer betydelig.
  • Det kan derimot ikke utelukkes at noe av produksjonen kan være påvirket av skadelige skjevheter. Som nevnt ovenfor under "Nøyaktighet", blir undervisere bedt om å gjennomgå utdata, noe som kan bidra til å redusere skadelig skjevhet.
  • Som en del av kommunikasjonen deres angående AI Alt Text Assistant, bør kunder gjøre underviserne sine oppmerksomme på denne potensielle begrensningen.
  • Kunder kan rapportere eventuelle potensielt skadelige skjevheter til oss ved å bruke kontaktkanalene som er oppført i introduksjonen.

Personvern og sikkerhet

  • Som beskrevet i delen «Nøkkelfakta»-delen over, er det bare bildet som brukes til AI Alt Text Assistant og er tilgjengelig for Microsoft. Delen beskriver også vår og Microsoft sin forpliktelse angående bruken av personlig informasjon.
  • Amazon beskriver sine praksiser og forpliktelser for datavern og sikkerhet i dokumentasjonen om Amazon Bedrock sikkerhet og personvern.

Sikkerhet

  • Store språkmodeller utgjør i seg selv en risiko for utdata som kan være upassende, støtende eller på andre måter utrygge. Amazon beskriver disse risikoene i sin begrensningsdel på Amazons ansvarlige AI-side.
  • På grunn av disse risikoene har vi nøye valgt AI Alt Text Assistant-funksjonalitetene for å unngå brukstilfeller som kan være mer utsatt for usikre utdata, eller der virkningen av slike utdata kan være mer betydelig.
  • Det kan likevel ikke utelukkes at noe av produksjonen kan være usikker. Som nevnt ovenfor under «Nøyaktighet», blir undervisere bedt om å gå gjennom utdataene, noe som kan bidra til å ytterligere redusere risikoen for usikre utdata.
  • Som en del av kommunikasjonen deres angående AI Alt Text Assistant, bør kunder gjøre underviserne sine oppmerksomme på denne potensielle begrensningen.
  • Kunder bør rapportere potensielt usikre utdata til oss ved å bruke kanalene som er oppført i introduksjonen.

Mennesker har kontroll

  • For å minimere risikoen relatert til bruken av generativ AI for våre kunder og deres brukere, gir vi bevisst klienter kontroll over AI Alt Text Assistant-funksjonalitet. AI Alt Text Assistant er derfor en valgfri funksjon. Administratorer kan aktivere eller deaktivere AI Alt Text Assistant når som helst.  
  • Undervisere har dessuten kontroll over utdataene, noe som betyr at de blir bedt om å gjennomgå tekstutdata og kan redigere tekstutdata etter behov.
  • AI Alt Text Assistant inkluderer ingen automatisert beslutningstaking som kan ha en juridisk eller annen betydelig effekt på elever eller andre personer.
  • Vi oppfordrer kunder til å gå nøye gjennom dette dokumentet, inkludert informasjonslenkene som er gitt her, for å sikre at de forstår mulighetene og begrensningene til AI Alt Text Assistant og den underliggende Amazon Bedrock før de aktiverer AI Alt Text Assistant-funksjonen.

Innretting av verdier

  • Store språkmodeller har i seg selv innebygd risiko med hensyn til produksjon som er skjev, upassende eller på annen måte ikke i tråd med Anthology-verdier eller verdiene til våre kunder og elever. Amazon beskriver disse risikoene på lenkede nettsteder i delen "Ytterligere informasjon" nedenfor.
  • I tillegg har store språkmodeller (som alle teknologier med brede formål) en risiko for at de generelt kan misbrukes til brukstilfeller som ikke samsvarer med verdiene til Anthology, våre kunder eller deres sluttbrukere og samfunnets verdier generelt (f.eks. for kriminelle aktiviteter, for å skape skadelige eller på annen måte upassende utdata).
  • På grunn av disse risikoene har vi nøye utformet og implementert AI Alt Text Assistant-funksjoner på en måte som minimerer risikoen for feiljusterte utdata. Vi har for eksempel fokusert på funksjonalitet for undervisere i stedet for studenter. Vi har også tilsiktet utelatt funksjonaliteter med potensielt høy innsats.

Immaterielle rettigheter

  • Store språkmodeller utgjør i seg selv risiko knyttet til potensielle krenkelser av immaterielle rettigheter. De fleste åndsrettslover i verden har ikke fullt ut forutsett eller tilpasset seg fremveksten av store språkmodeller og kompleksiteten i problemene som oppstår gjennom bruken av dem. Derfor finnes det for øyeblikket ikke noe klart juridisk rammeverk eller veiledning som adresserer åndsrettsproblemer og risikoer som oppstår ved bruk av disse modellene.
  • Når alt kommer til alt, er det kundens ansvar å gjennomgå utdata generert av AI Alt Text Assistant for eventuelle potensielle krenkelser av immaterielle rettigheter.  

Tilgjengelighet

  • Vi designet og utviklet AI Alt Text Assistant med tilgjengelighet i tankene på samme måte som vi gjør i Learn og de andre produktene våre. Før utgivelsen av AI Alt Text Assistant har vi målrettet forbedret tilgjengeligheten for semantisk struktur, navigasjon, tastaturkontroller, etiketter, egendefinerte komponenter og bildearbeidsflyter, for å nevne noen områder. Vi vil fortsatt prioritere tilgjengelighet når vi bruker AI i fremtiden.
  • AI Alt Text Assistant-funksjonen utnytter Amazon Bedrock. AWS gjør samsvarstilgjengelighetsrapporter tilgjengelig via AWS-tilgjengelighetssidene.

Ansvarlighet

  • Anthology har et pålitelig AI-program som er utviklet for å sikre lovlig, etisk og ansvarlig bruk av AI. Tydelig intern ansvarliggjøring og den systematiske etiske AI-gjennomgangen av funksjonaliteter som de som tilbys av AI Alt Text Assistant er viktige pilarer i programmet.
  • For å levere AI Alt Text Assistant samarbeidet vi med Amazon for å utnytte Amazon Bedrock. AWS er forpliktet til ansvarlig bruk av AI.
  • Kunder bør vurdere å implementere interne retningslinjer, prosedyrer og gjennomgang av tredjeparts AI-applikasjoner for å sikre egen juridisk, etisk og ansvarlig bruk av AI. Denne informasjonen gis for å støtte våre kunders gjennomgang av AI Alt Text Assistant.

Mer informasjon