Het wettige, ethische en verantwoordelijke gebruik van kunstmatige intelligentie (AI) is een belangrijke prioriteit voor Anthology. Daarom hebben we een Trustworthy AI-programma ontwikkeld en geïmplementeerd. Informatie over ons programma en onze algemene benadering van Trustworthy AI vind je in ons Trust Center. Je kunt ook meer informatie vinden over de generatieve AI-functies in onze Lijst met generatieve AI-functies.

Als onderdeel van onze Trustworthy AI-principes zijn we toegewijd tot transparantie, uitlegbaarheid en aansprakelijkheid. Deze pagina is bedoeld om de nodige transparantie en uitleg te bieden om onze klanten te helpen met hun implementatie van de AI Alt Text Assistant. We raden beheerders aan om deze pagina zorgvuldig te bekijken en ervoor te zorgen dat cursusleiders op de hoogte zijn van de onderstaande overwegingen en aanbevelingen voordat je de functionaliteiten van AI Alt Text Assistant voor je instelling activeert.

Contact met ons opnemen:

  • Voor vragen of feedback over onze algemene benadering van Trustworthy AI of hoe we deze pagina nuttiger kunnen maken voor onze klanten, stuur ons een e-mail op [email protected].
  • Voor vragen of feedback over de functionaliteit of uitvoer van de AI Alt Text Assistant kun je een klantondersteuningsticket indienen via Behind the Blackboard.

AI-gefaciliteerde functionaliteiten

De AI Alt Text Assistant biedt cursusleiders suggesties over alternatieve tekst voor afbeeldingen die worden gebruikt in hun online cursus(sen) via de Ally-werkstroom voor feedback voor cursusleiders. Het is bedoeld om cursusleiders te inspireren en toegankelijkheidsfixes efficiënter te maken.  

Anthology is een samenwerking aangegaan met AWS om het AI-model van Ally te upgraden om nog krachtigere suggesties te kunnen doen, samen met de mogelijkheid om afbeeldingsbeschrijvingssuggesties te genereren voor complexere inhoud, waaronder STEM, grafieken/grafieken, tekst in afbeeldingen en handgeschreven afbeeldingen. Deze functie wordt aangestuurd door Claude, een taalmodel van Anthropic, via AWS Bedrock. Als je instelling in Canada is gevestigd, gebruikt de assistent het nieuwere Claude 3 Sonnet-model. In alle andere regio's wordt Claude Sonnet 3.5 gebruikt. Het gebruikte model is afhankelijk van de beschikbaarheid in jouw AWS-regio. 

De AI Alt Text Assistant biedt de volgende generatieve AI-gefaciliteerde functionaliteiten:

  • Genereer een alternatieve tekst voor afbeeldingen.  Stelt alternatieve tekst voor in de feedback voor cursusleiders van Ally wanneer cursusleiders afbeeldingen zonder alternatieve tekst aanpassen.

Deze functionaliteiten zijn onderhevig aan de beperkingen en beschikbaarheid van de AWS Bedrock Service en kunnen worden gewijzigd. Raadpleeg de relevante releaseopmerkingen voor meer informatie.

Belangrijkste feiten

Voorbeeldtabel
VraagAntwoord
Welke Ally-functionaliteiten gebruiken AI-systemen?Suggesties voor alternatieve tekst via AI in het feedbackvenster van Ally voor cursusleider, wanneer een afbeelding door Ally is gemarkeerd omdat er geen alternatieve tekst is.
Is dit een door derden ondersteund AI-systeem?Ja. We gebruiken Claude, een model dat is ontwikkeld door Anthropic en wordt aangeboden via AWS Bedrock. Instellingen in Canada gebruiken Anthropic Claude 3 Sonnet, terwijl andere regio's Claude Sonnet 3.5 gebruiken, afhankelijk van wat wordt ondersteund in elke AWS-regio.
Hoe werkt het AI-systeem?De AI Alt Text Assistant gebruikt Claude-modellen van Anthropic tot AWS Bedrock om automatisch alt-tekstsuggesties te genereren. Afhankelijk van de locatie van je instelling is dit Anthropic Claude 3 Sonnet (in Canada) of Claude Sonnet 3.5 (in andere regio's). Dit wordt bereikt door de afbeelding te gebruiken om een alternatieve tekst te genereren die via de AWS SDK wordt verzonden.   We hebben ook de mogelijkheid toegevoegd om contextuele aanwijzingen te sturen op basis van de omringende tekstinhoud wanneer een afbeelding is ingesloten in een rich content item. Er wordt geen verdere informatie gebruikt (bijv. de titel van de cursus of de beschrijving van de cursus). Afbeeldingen worden niet gebruikt om de AWS Bedrock-modellen te trainen, en de Bedrock genereert de uitvoer op basis van elke afbeelding die wordt geüpload naar de AI Alt Text Assistant.
Waar wordt het AI-systeem gehost?

Anthology gebruikt momenteel meerdere AWS-instanties voor Amazon Bedrock, afhankelijk van de beschikbaarheid van de Amazon-regio. AWS biedt deze regiobeschikbaarheid voor het Amazon Bedrock-model dat momenteel wordt gebruikt door Ally (Claude Sonnet 3.5) bij Model ondersteuning door AWS Regio in Amazon Bedrock. Soms maken we gebruik van bronnen op andere locaties, zoals US East, om onze klanten de beste beschikbaarheidsoptie voor AWS Bedrock te bieden wanneer een specifieke regio niet beschikbaar is. 

Alle clientuitvoer die wordt gegenereerd door de AI Alt Text Assistant wordt opgeslagen in de bestaande Ally-database van elke client die wordt beheerd door Anthology.

Moet je je voor deze functionaliteit aanmelden?Ja. Beheerders moeten de AI Alt Text Assistant activeren bij de configuratieopties van LMS Ally. Selecteer AI-generatie van alternatieve beschrijvingen voor afbeeldingen op het tabblad Functies. Beheerders kunnen deze functionaliteit op elk moment activeren of deactiveren.
Hoe wordt het AI-systeem getraind?

Anthology is niet betrokken bij de training van het Anthropic-model dat de AI Alt Text Assistant-functies aanstuurt via Amazon Bedrock. Deze modellen worden getraind door Anthropic (Anthropic Claude).

Anthology verfijnt deze modellen niet verder met behulp van onze eigen gegevens of die van onze klanten.

Worden clientgegevens gebruikt voor het (her)trainen van het AI-systeem?Nee. Amazon verplicht zich in zijn openbare documentatie om geen input in, of output van, de (her)training van de grote taalmodellen binnen Amazon Bedrock te gebruiken. Amazon geeft informatie over hoe de grote taalmodellen worden getraind in de links in het gedeelte ‘Meer informatie’ hieronder. Alle gegevens die worden ingevoerd en uitgevoerd, worden onderweg en in rust versleuteld.
Hoe gebruikt Anthology Ally persoonlijke informatie bij het aanbieden van het systeem voor de AI-assistent voor alternatieve tekst?Anthology gebruikt de verzamelde informatie in verband met de AI Alt Text Assistant alleen om de AI Alt Text Assistant te leveren, te onderhouden en te ondersteunen, en waar we de contractuele toestemming hebben om dit te doen. Je kunt meer informatie vinden over de benadering van Anthology ten aanzien van gegevensprivacy in ons Trust Center.
In het geval dat een AI-systeem ondersteund wordt door een derde partij: hoe gebruikt deze derde partij persoonlijke gegevens?

Alleen afbeeldingen en/of contextuele gegevens in rijke inhoud rond een afbeelding worden gebruikt om deze functie te voeden. Er wordt geen verdere informatie gedeeld met AWS Bedrock.  

Amazon noch een leverancier van Amazon Bedrock-modellen gebruiken Anthology-gegevens of Anthology-klantgegevens om de Amazon Bedrock-modellen te verbeteren  

Je kunt meer informatie vinden over het privacybeleid met betrekking tot Amazon Bedrock Security en Privacy in de Amazon documentatie op de AWS AI Security pagina, de AWS Machine Learning Blog en de Amazon Bedrock Security en Privacy page.

Is bij het ontwerp van het AI-systeem voor alternatieve tekst rekening gehouden met toegankelijkheid?Ja, onze engineers voor toegankelijkheid hebben samengewerkt met productteams om ontwerpen te controleren, belangrijke toegankelijkheidsoverwegingen te communiceren en de nieuwe functies specifiek op toegankelijkheid te testen. We blijven toegankelijkheid als integraal onderdeel beschouwen van onze Trustworthy AI-aanpak. 

Overwegingen en aanbevelingen voor instellingen

Bedoelde praktijkscenario’s

De AI Alt Text Assistant is alleen bedoeld ter ondersteuning van de hierboven vermelde functionaliteiten. Deze functionaliteiten worden aangeboden aan en zijn bedoeld voor de cursusleiders van onze klanten om hen te ondersteunen bij het oplossen van toegankelijkheidsproblemen bij afbeeldingen die zijn aangegeven door Ally.

Praktijkscenario’s buiten bereik

De AI Alt Text Assistant is niet bedoeld om elke afbeelding toegankelijk te maken met perfecte alternatieve tekst en garandeert deze functionaliteit ook niet. Het is nog steeds de taak van de cursusleider om de alternatieve tekst aan te passen of goed te keuren op basis van de context van de inhoud in de cursus. 

Trustworthy AI-principes in de praktijk

Anthology en Amazon zijn van mening dat het wettelijke, ethische en verantwoordelijk gebruik van AI een belangrijke prioriteit is. In dit gedeelte wordt uitgelegd hoe Anthology en Amazon hebben gewerkt om het toepasselijke risico voor het wettelijke, ethische en verantwoordelijk gebruik van AI aan te pakken en de Anthology Trustworthy AI-principes te implementeren. Het stelt ook stappen voor waar onze klanten rekening mee kunnen houden bij het uitvoeren van hun eigen AI- en juridische beoordelingen van ethische AI-risico's van hun implementatie. 

Transparantie en uitlegbaarheid

  • We maken in de Ally-beheerconfiguratie-opties duidelijk dat dit een door AI-gefaciliteerde functionaliteit is
  • In de gebruikersinterface voor cursusleiders worden de functionaliteiten van de AI Alt Text Assistant duidelijk gemarkeerd als ‘Generatieve’ functionaliteiten. Cursusleiders kunnen ook worden gevraagd om de tekstuitvoer vóór gebruik te bekijken. · De metagegevens van de uitvoer die is gemaakt door de functionaliteiten van de AI Alt Text Assistant worden weergegeven in het gebruiksrapport van elke klant in Ally met een veld voor automatisch gegenereerde inhoud. Je ziet ook of de uitvoer vervolgens door de cursusleider is gewijzigd.
  • Het model achter de AI Alt Text Assistant kan variëren afhankelijk van waar je instelling zich bevindt. In Canada gebruikt de assistent het Claude 3 Sonnet-model, dat nieuwere mogelijkheden biedt. Overal elders wordt Claude Sonnet 3.5 gebruikt. Deze keuze is gebaseerd op wat AWS Bedrock in elke regio beschikbaar stelt.
  • We moedigen klanten aan om transparant te zijn over het gebruik van AI binnen de AI Alt Text Assistant. Bied cursusleiders en andere belanghebbenden indien nodig de relevante informatie uit dit document en de documentatie die hierin is gekoppeld.

Betrouwbaarheid en nauwkeurigheid

  • We maken in de Ally-beheerconfiguratie-opties en de gebruiksvoorwaarden duidelijk dat dit een door AI-gefaciliteerde functionaliteit is die onnauwkeurige of ongewenste resultaten kan produceren. Dergelijke resultaten moeten altijd door de cursusleider worden gecontroleerd.
  • In de gebruikersinterface kunnen cursusleiders worden gevraagd de tekstuitvoer te controleren op nauwkeurigheid.
  • Zoals beschreven in deveelgestelde vragen van Amazon Bedrock,  bestaat er een risico op onnauwkeurige uitvoer. Hoewel de specifieke aard van de AI Alt Text Assistant en onze implementatie bedoeld is om onnauwkeurigheden te minimaliseren, is het de verantwoordelijkheid van onze klanten om de resultaten te controleren op nauwkeurigheid, vooroordelen en andere mogelijke problemen.
  • Gebruikers kunnen onnauwkeurige uitvoer eenvoudig regenereren door de vraag of zin in de vraag en antwoord prompt opnieuw te formuleren.
  • Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
  • Klanten kunnen alle onnauwkeurige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.

Eerlijkheid

  • Grote taalmodellen brengen inherent risico's met betrekking tot stereotypering, over- of ondervertegenwoordiging en andere vormen van schadelijke vooroordelen met zich mee.
  • Gezien deze risico's hebben we de functionaliteiten van de AI Alt Text Assistant zorgvuldig gekozen om praktijkscenario’s te vermijden die gevoeliger zijn voor schadelijke vooroordelen of waarin de impact van dergelijke vooroordelen groter kan zijn.
  • Toch kan niet worden uitgesloten dat een deel van de resultaten door schadelijke vooroordelen kan worden beïnvloed. Zoals hierboven vermeld onder 'Nauwkeurigheid', worden cursusleiders gevraagd de resultaten te controleren, wat kan helpen om eventuele schadelijke vooroordelen te voorkomen.
  • Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
  • Klanten kunnen potentiële schadelijke vooroordelen aan ons melden via de contactkanalen die in de introductie worden vermeld.

Privacy en beveiliging

  • Zoals hierboven is beschreven in de sectie 'Belangrijkste feiten', wordt alleen de afbeelding gebruikt voor de AI Alt Text Assistant en zijn deze beperkt toegankelijk voor Microsoft. De sectie beschrijft ook onze toewijding en die van Microsoft met betrekking tot het gebruik van persoonlijke gegevens.
  • Amazon beschrijft zijn privacy- en beveiligingspraktijken en verplichtingen in de documentatie over Amazon Bedrock Beveiliging en Privacy.

Veiligheid

  • Grote taalmodellen brengen inherent risico’s met betrekking tot resultaten die ongepast, aanstootgevend of anderszins onveilig zijn met zich mee. Amazon beschrijft deze risico's in het gedeelte Beperkingen op de pagina Verantwoordelijke AI van Amazon.
  • Gezien deze risico's hebben we de functionaliteiten van de AI Alt Text Assistant zorgvuldig gekozen om praktijkscenario’s te vermijden die gevoeliger zijn voor onveilige resultaten of waarin de impact van dergelijke resultaten groter kan zijn.
  • Toch kan niet worden uitgesloten dat een deel van de resultaten onveilig kan zijn. Zoals hierboven vermeld onder 'Nauwkeurigheid', worden cursusleiders gevraagd de resultaten te controleren, wat verder kan helpen om de risico’s van onveilige resultaten te voorkomen.
  • Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
  • Klanten moeten alle potentiële onveilige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.

Menselijk beheer

  • Om de risico’s te verminderen met betrekking tot het gebruik van generatieve AI voor onze klanten en hun gebruikers, hebben we opzettelijk klanten de controle gegeven over de functionaliteiten van de AI Alt Text Assistant. Je moet de AI Alt Text Assistant daarom inschakelen. Beheerders kunnen de AI Alt Text Assistant op elk gewenst moment activeren of deactiveren.  
  • Bovendien hebben cursusleiders de controle over de resultaten, wat betekent dat ze worden gevraagd de tekstuitvoer te bekijken en de tekstuitvoer indien nodig kunnen bewerken.
  • De AI Alt Text Assistant omvat geen geautomatiseerde besluitvorming die wettelijke of anderszins significante gevolgen kan hebben voor studenten of andere personen.
  • We raden klanten aan om dit document inclusief de informatiekoppelingen in dit document zorgvuldig te bekijken om er zeker van te zijn dat ze de mogelijkheden en beperkingen van de AI Alt Text Assistant en de onderliggende Amazon Bedrock begrijpen voordat ze de functie AI Alt Text Assistant activeren.

Aansluiting van waarden

  • Grote taalmodellen brengen inherent risico's met zich mee met betrekking tot resultaten die bevooroordeeld, ongepast of die anderszins niet overeengestemd zijn met de waarden van Anthology of de waarden van onze klanten en studenten. Amazon beschrijft deze risico's in de gelinkte websites in het gedeelte ‘meer informatie’ hieronder.
  • Daarnaast bestaat het risico dat grote taalmodellen (net als elke technologie die een breed doel dient) over het algemeen worden misbruikt voor praktijkscenario’s die niet overeenstemmen met de waarden van Anthology, onze klanten of hun eindgebruikers en die van de samenleving in bredere zin (bijvoorbeeld voor criminele activiteiten, om schadelijke of anderszins ongepaste resultaten te creëren).
  • Gezien deze risico's, hebben we de functionaliteiten van onze AI Alt Text Assistant zorgvuldig ontworpen en geïmplementeerd om het risico van niet-afgestemde resultaten te minimaliseren. We hebben ons bijvoorbeeld gericht op functionaliteiten voor cursusleiders in plaats van voor studenten. We hebben ook bewust functionaliteiten uitgesloten die potentieel van groot belang zijn.

Intellectueel eigendom

  • Grote taalmodellen brengen inherent risico's met zich mee betrekking tot mogelijke inbreuk op intellectuele eigendomsrechten. De meeste intellectuele eigendomsrechten over de hele wereld hebben niet volledig voorzien en zijn niet aangepast aan de opkomst van grote taalmodellen en de complexiteit van de problemen die zich voordoen door het gebruik ervan. Hierdoor is er op dit moment geen duidelijk juridisch kader of een duidelijke richtlijn voor de kwesties en risico's op het gebied van intellectueel eigendom die voortkomen uit het gebruik van deze modellen.
  • Uiteindelijk is het de verantwoordelijkheid van onze klant om de resultaten van de AI Alt Text Assistant te controleren op mogelijke inbreuk op intellectueel eigendomsrecht.  

Toegankelijkheid

  • We hebben de AI Alt Text Assistant ontworpen en ontwikkeld met toegankelijkheid in het achterhoofd, net als bij Learn en onze andere producten. Voorafgaand aan de release van de AI Alt Text Assistant hebben we doelbewust de toegankelijkheid verbeterd van de semantische structuur, navigatie, toetsenbordbediening, labels, aangepaste componenten en afbeeldingswerkstromen, om een paar gebieden te noemen. Toegankelijkheid blijft de prioriteit terwijl we in de toekomst gebruikmaken van AI.
  • De AI Alt Text Assistant-functie maakt gebruik van Amazon Bedrock. AWS stelt toegankelijkheidsconformiteitsrapporten beschikbaar via de AWS Toegankelijkheidspagina's.

Verantwoordelijkheid

  • Anthology heeft eenTrustworthy AI-programma dat is ontworpen om het wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Duidelijke interne aansprakelijkheid en de systematische ethische AI-controle van functionaliteiten zoals die van de AI Alt Text Assistant zijn belangrijke steunpilaren van het programma.
  • Om de AI Alt Text Assistant te leveren, zijn we een samenwerking aangegaan met Amazon om gebruik te maken van het Amazon Bedrock. AWS zet zich in voor verantwoord gebruik van AI.
  • Klanten moeten overwegen om intern beleid, procedures en evaluatie van AI-toepassingen van derden te implementeren om hun eigen wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Deze informatie is bedoeld om de beoordeling van de AI Alt Text Assistant door onze klanten te ondersteunen.

Overige informatie