Tekoälyn (AI) lainmukainen, eettinen ja vastuullinen käyttö on Anthologylle keskeistä ja ensiarvoisen tärkeää. Siksi olemme kehittäneet ja ottaneet käyttöön luotettavan tekoälyn ohjelman. Löydät tietoja ohjelmastamme ja yleisestä lähestymistavastamme luottamuskeskuksemme luotettavaan tekoälyyn ja lisätietoja generatiivisen tekoälymme ominaisuuksista kohdasta Luettelo generatiivisen tekoälyn toiminnoista.

Osana luotettavan tekoälyn periaatteitamme sitoudumme läpinäkyvyyteen, selitettävyyteen ja vastuullisuuteen. Tämän sivun tarkoituksena on tarjota tarvittavaa läpinäkyvyyttä ja selityksiä, joista on apua AI Alt Text Assistant -tekoälyn käyttöön ottaneille asiakkaillemme. Suosittelemme, että järjestelmänvalvojat lukevat tämän sivun huolellisesti ja varmistavat, että kouluttajat ovat tietoisia alla olevista seikoista ja suosituksista, ennen kuin aktivoit AI Alt Text Assistant -tekoälyn toiminnot oppilaitoksessasi.

Kuinka ottaa meihin yhteyttä:

  • Jos sinulla on kysyttävää tai palautetta yleisestä lähestymistavastamme luotettavaan tekoälyyn tai siitä, miten voimme tehdä tästä sivusta hyödyllisemmän asiakkaillemme, lähetä meille sähköpostia osoitteeseen[email protected].
  • Jos sinulla on kysyttävää tai palautetta AI Alt Text Assistant -tekoälyn toiminnoista tai tuotoksista, pyydä asiakastukea Behind the Blackboard -palvelun kautta.

Tekoälyavusteiset toiminnot

AI Alt Text Assistant tarjoaa ohjaajille vaihtoehtoisia ehdotuksia verkkokursseilla käytettävien kuvien tekstistä Allyn ohjaajien palautetyönkulun kautta. Sen tarkoituksena on inspiroida ohjaajia ja tehdä helppokäyttöisyyskorjauksista tehokkaampia. Anthology tarjoaa tämän toiminnon yhteistyössä Microsoftin kanssa, merkittävältä osin siksi, että Microsoft on ollutjo pitkään sitoutunut tekoälyn eettiseen käyttöön.

AI Alt Text Assistant tarjoaa seuraavat generatiiviset tekoälyavusteiset toiminnot:

  • Vaihtoehtoisen tekstin tekeminen kuville.  Tekoäly ehdottaa Allyn ohjaajan palautteen kautta vaihtoehtoista tekstiä, kun ohjaajat korjaavat kuvia, joissa ei ole vaihtoehtoista tekstiä.

Näihin toimintoihin sovelletaan Azure AI Vision -palvelun rajoituksia ja saatavuutta, ja ne voivat muuttua. Katso lisätietoja asianomaisista julkaisutiedoista.

Tärkeimmät tiedot

Esimerkkitaulukko
KysymysVastata
Missä Allyn toiminnoissa käytetään tekoälyjärjestelmiä?Vaihtoehtoisen tekstin ehdottamisessa tekoälyn kautta Allyn ohjaajan palautepaneelissa, kun Ally on merkinnyt kuvan vaihtoehtoisen tekstin puuttumisen vuoksi.
Onko tämä tekoälyjärjestelmä kolmannen osapuolen tukema?Kyllä – AI Alt Text Assistant -järjestelmässä käytetään Microsoftin Azure Vision Service -palvelua. 
Miten tekoälyjärjestelmä toimii?

AI Alt Text Assistant -järjestelmässä hyödynnetään tuotosten automaattiseen generoimiseen Microsoftin Azure Vision Service -palvelua. Tuotokset saadaan tekemällä kuvan avulla vaihtoehtoinen teksti, joka lähetetään Azure Vision API:n kautta. Muita tietoja (esim. kurssin nimeä, kurssin kuvausta) ei käytetä. Kuvia ei käytetä Microsoft Azure Vision -mallien kouluttamiseen, ja Azure Vision -palvelu tekee tuotoksen kunkin AI Alt Text Assistant -järjestelmään ladatun kuvan perusteella. Kehotteita ei käytetä.

Huomaa, että loppukäyttäjille, joiden LMS:ien kieleksi on määritetty muu kuin englanti, vaihtoehtoinen AI-tekstituotos käännetään AWS-kääntäjällä.

Lisätietoja Azure AI Vision -kielimallien yksityiskohtaisesta toiminnasta löydätMicrosoftin avoimuusilmoituksen johdanto-osasta ja siinä olevista linkeistä.  

Missä ovat tekoälyjärjestelmän isäntäkoneet?Anthology käyttää tällä hetkellä maailmanlaajuisesti useita Azure Vision Service -laitteita. Ensisijaisen instanssin isäntäkone on Yhdysvalloissa, mutta toisinaan saatamme käyttää muiden sijaintien, kuten Ranskan ja Aasian ja Tyynenmeren alueen, resursseja tarjotaksemme asiakkaillemme parhaan mahdollisen Azure AI Vision -palvelun käytettävyyden.

Kaikki AI Alt Text Assistant -järjestelmän asiakkaalle tekemät tuotokset tallennetaan kunkin asiakkaan Ally-tietokantaan, jota Anthology hallitsee.
Onko tämä valinnainen toiminto?Kyllä. Ylläpitäjien on otettava AI Alt Text Assistant käyttöön LMS Ally-määritysasetuksissa. Valitse Ominaisuudet-välilehdeltä Vaihtoehtoisten kuvausten generoiminen kuville tekoälyn avulla. Ylläpitäjät voivat ottaa tämän toiminnon käyttöön tai poistaa sen käytöstä milloin tahansa.
Miten tekoälyjärjestelmää koulutetaan?

Anthology ei vastaa AI Alt Text Assistant -toiminnoissa käyttävien mallien kouluttamisesta. Microsoft kouluttaa näitä malleja osana Azure Vision Service -palvelua. Microsoft kertoo suurten kielimallien kouluttamisesta Microsoftin avoimuusilmoituksen johdanto-osassa ja siinä olevissa linkeissä.

Anthology ei hienosäädä Azure Vision Service -palvelua oman tai asiakkaidemme tietojen avulla.

Käytetäänkö asiakkaiden tietoja tekoälyjärjestelmän (uudelleen)kouluttamiseen?Ei. Microsoft sitoutuu Anthologyn kanssa sopimissaan Azure Vision -palvelun ehdoissa olemaan käyttämättä mitään Azure Vision -palvelun syötteitä tai tuotoksia suuren kielimallin (uudelleen)kouluttamiseen. Sama sitoumus on tehty Microsoftin Azure Vision Service -palvelun tiedot, yksityisyys ja turvallisuus -asiakirjoissa. Microsoft käyttää vain valmiita malleja.
Miten Anthologyn Ally käyttää henkilötietoja tarjotessaan AI Al Text Assistant -järjestelmää?

Anthologyn Ally käyttää AI Alt Text Assistant -järjestelmään kerättyjä kuvia vain järjestelmän tarjoamiseen, ylläpitoon ja tukemiseen. Lisätietoja Anthologyn lähestymistavasta tietosuojaan on Anthologyn luottamuskeskuksessa.

Tässä ominaisuudessa käytetään vain kuvia. Microsoft Azure Vision Service -palvelun kanssa ei jaeta muita tietoja.  

Microsoft ei käytä mitään Anthologyn tietoja tai Anthologyn asiakastietoja, joihin se pääsee käsiksi (osana Azure Vision Service -palvelua) Vision-mallien parantamiseen, omien tai kolmannen osapuolen tuotteiden tai palveluiden parantamiseen tai parantaakseen automaattisesti Anthologyn resurssissa olevien Azure Vision -mallien Anthologyn käyttöä (mallit ovat tilattomia).

Lisätietoja Azure Vision Service -palvelun tietosuojakäytännöistä on Microsoftin Azure Vision Service -palvelun tiedot, yksityisyys ja tietosuoja -asiakirjoissa.

Onko helppokäyttöisyys otettu huomioon AI Alt Text -järjestelmän suunnittelussa?Kyllä, esteettömyysinsinöörimme ovat tehneet yhteistyötä tuotetiimien kanssa arvioidakseen suunnittelua, keskustellakseen tärkeistä esteettömyysnäkökohdista ja testatakseen uusia ominaisuuksia erityisesti helppokäyttöisyyden kannalta. Pidämme helppokäyttöisyyttä tulevaisuudessakin olennaisena osana lähestymistapaamme luotettavaan tekoälyyn.

Näkökohtia ja suosituksia oppilaitoksille

Käyttötarkoitukset

AI Alt Text Assistant on tarkoitettu vain tukemaan yllä lueteltuja toimintoja. Nämä toiminnot on tarkoitettu asiakkaidemme ohjaajille tukemaan heitä Allyn merkitsemien kuvien helppokäyttöisyysongelmien korjaamisessa.

Käyttötavat, joihin järjestelmä ei sovi

AI Alt Text Assistant -palvelua ei ole tarkoitettu tekemään jokaisesta kuvasta helppokäyttöistä täydellisellä vaihtoehtoisella tekstillä eikä tätä taata, koska ohjaajan on edelleen mukautettava vaihtoehtoista tekstiä tai hyväksyttävä se kurssin sisällön kontekstin perusteella. 

Luotettavan tekoälyn periaatteet käytännössä

Anthology ja Microsoft ajattelevat, että tekoälyn laillinen, eettinen ja vastuullinen käyttö on ensiarvoisen tärkeää. Tässä kohdassa kerrotaan, miten Anthology ja Microsoft ovat pyrkineet puuttumaan tekoälyn lailliseen, eettiseen ja vastuulliseen käyttöön liittyviin riskeihin ja toteuttamaan Anthologyn luotettavan tekoälyn periaatteet. Siinä ehdotetaan myös toimenpiteitä, jotka asiakkaamme voivat ottaa huomioon toteuttaessaan omia tekoäly- ja oikeudellisia arviointejaan tekoälyn käyttöönoton eettisistä riskeistä.

Avoimuus ja selitettävyys

  • Teemme selväksi Allyn ylläpidon määritysvaihtoehdoissa, että kyseessä on tekoälyavusteinen toiminto.
  • Ohjaajien käyttöliittymässä AI Alt Text Assistant -toiminnot on merkitty selvästi generatiivisiksi toiminnoiksi. Ohjaajia kehotetaan myös tarkistamaan tuotosten teksti ennen käyttöä. · AI Alt Text Assistant -toimintojen tuotosten metatiedot näkyvät kunkin asiakkaan Ally-käyttöraportissa, jossa on kenttä automaattisesti generoidulle sisällölle. Kentässä näkyy myös, onko ohjaaja muokannut tuotosta.
  • Tässä asiakirjassa annettujen AI Alt Text Assistant- ja Azure Vision Service -mallien toimintaa koskevien tietojen lisäksi Microsoft antaa lisätietoja Azure Vision Service -palvelusta avoimuusilmoituksessaan.
  • Kehotamme asiakkaita olemaan avoimia tekoälyn käytöstä AI Alt Text Assistant -toiminnoissa ja kertomaan ohjaajilleen ja muille sidosryhmille tarvittaessa asiaankuuluvat tiedot tästä asiakirjasta ja siihen liittyvistä asiakirjoista.

Luotettavuus ja oikeellisuus

  • Selvennämme Allyn ylläpidon määritysvaihtoehdoissa ja käyttöehdoissa, että kyseessä on tekoälyavusteinen toiminto, joka voi tuottaa epätarkkoja tai ei-toivottuja tuotoksia, ja että ohjaajan on aina tarkistettava tuotokset.
  • Käyttöliittymässä ohjaajia pyydetään tarkistamaan, että tekstituotokset ovat oikein.
  • Kuten Azure Vision Service -palvelun avoimuusilmoituksen Rajoitukset-kohdassa on kuvattu, tuotoksessa saattaa olla virheitä. Vaikka AI Alt Text Assistant -järjestelmän ja sovelluksemme tarkoituksena on nimenomaan vähentää virheitä, on asiakkaamme vastuulla tarkistaa tuotos virheellisyyden, vinoumien ja muiden mahdollisten ongelmien varalta.
  • Osana AI Alt Text Assistant -järjestelmää koskevaa viestintäänsä asiakkaiden tulisi kertoa ohjaajilleen näistä mahdollisista rajoituksista.
  • Ohjaajat voivat muokata AI Alt Text Assistant -järjestelmän tuotoksia manuaalisesti nykyisen Ally-käyttöliittymän kautta ennen tuotosten julkaisemista opiskelijoille.
  • Asiakkaat voivat ilmoittaa meille kaikista virheellisistä tuotoksista johdannossa lueteltujen kanavien kautta.

Oikeudenmukaisuus

  • Suuriin kielimalleihin liittyy luonnostaan stereotypioiden, yli- tai aliedustuksen ja muiden haitallisten vinoumien riski. Microsoft kertoo näistä riskeistä Azure Vision Service -palvelun avoimuusilmoituksen kohdassa Rajoitukset.
  • Näiden riskien vuoksi olemme valinneet AI Alt Text Assistant -toiminnot huolellisesti välttääksemme käyttötilanteita, joissa haitallisten vinoumien riski voi olla suurempi tai niiden vaikutus merkittävämpi.
  • Ei kuitenkaan voida sulkea pois mahdollisuutta, että joissakin tuotoksissa voi esiintyä haitallisia vinoumia. Kuten edellä kohdassa "Oikeellisuus" mainittiin, ohjaajia kehotetaan tarkistamaan tuotos, jotta haitallisten vinoumien määrää voidaan vähentää.
  • Osana AI Alt Text Assistantia koskevaa viestintää asiakkaiden tulisi kertoa ohjaajilleen tästä mahdollisesta rajoituksesta.
  • Asiakkaat voivat ilmoittaa meille kaikista mahdollisista haitallisista vinoumista johdannossa lueteltujen yhteyskanavien kautta.

Yksityisyys ja turvallisuus

  • Kuten edellä kohdassa Keskeiset tiedot on kerrottu, AI Alt Text Assistant -järjestelmässä käytetään vain kuvaa, ja tämä kuva on myös Microsoftin saatavilla. Samassa kohdassa kerrotaan myös meidän ja Microsoftin sitoumuksesta henkilötietojen käytön osalta.  
  • Allylla on ISO 27001/27017/27018/27701 -sertifikaatit. Nämä sertifikaatit kattavat myös Anthologyn hallinnoiman AI Alt Text Assistant -järjestelmän tuotokset. Lisätietoja Anthologyn lähestymistavasta tietosuojaan ja tietoturvaan on luottamuskeskuksessamme.
  • Microsoft kuvaa tietosuoja- ja tietoturvakäytäntöjään ja sitoumustaan Azure Vision Service -palvelun Tiedot, yksityisyys ja turvallisuus -asiakirjoissa.
  • Vaikka Anthology ja Microsoft ovat sitoutuneet tietosuojaan ja siihen, ettei syötteitä ei käytetä mallien (uudelleen)kouluttamiseen, asiakkaiden kannattaa neuvoa ohjaajia olemaan sisällyttämättä kuviin henkilötietoja tai muita luottamuksellisia tietoja.

Turvallisuus

  • Suuriin kielimalleihin liittyy luonnostaan riski tuotoksista, jotka voivat olla sopimattomia, loukkaavia tai muuten ei turvallisia. Microsoft kuvaa näitä riskejä Azure Vision Service -palvelun avoimuusilmoituksen kohdassa Rajoitukset.
  • Näiden riskien vuoksi olemme valinneet AI Alt Text Assistant -toiminnot huolellisesti välttääksemme käyttötilanteita, joissa ei turvallisten tuotosten riski voi olla suurempi tai niiden vaikutus merkittävämpi.
  • Ei kuitenkaan voida sulkea pois mahdollisuutta, että jotkut tuotoksista voivat olla ei turvallisia. Kuten edellä kohdassa "Oikeellisuus" mainittiin, ohjaajia kehotetaan tarkistamaan tuotos, jotta ei turvallisten tuotosten määrää voidaan vähentää.
  • Osana AI Alt Text Assistantia koskevaa viestintää asiakkaiden tulisi kertoa ohjaajilleen tästä mahdollisesta rajoituksesta.
  • Asiakkaiden tulisi ilmoittaa meille kaikista mahdollisesti ei turvallisista tuotoksista johdannossa lueteltujen kanavien kautta.

Ihmisen hallinta

  • Vähentääksemme generatiivisen tekoälyn käytön asiakkaillemme ja heidän käyttäjilleen aiheuttaman riskin mahdollisimman pieneksi, olemme tarkoituksella antaneet AI Alt Text Assistant -toimintojen hallinnan asiakkaille. AI Alt Text Assistant on siis valinnainen ominaisuus. Ylläpitäjät voivat ottaa AI Alt Text Assistant -toiminnot käyttöön tai poistaa ne käytöstä milloin tahansa.  
  • Lisäksi ohjaajat hallitsevat tuotoksia eli heitä pyydetään tarkistamaan tekstituotos ja he voivat tarvittaessa muokata sitä.
  • AI Alt Text Assistant -toimintoihin ei kuulu automaattista päätöksentekoa, jolla voisi olla oikeudellisia tai muuten merkittäviä vaikutuksia oppijoihin tai muihin henkilöihin.
  • Kehotamme asiakkaita lukemaan huolellisesti tämän asiakirjan ja siinä annetut tietolinkit sen varmistamiseksi, että he ymmärtävät AI Alt Text Assistant -järjestelmän ja sen taustalla olevan Azure Vision Service -palvelun ominaisuudet ja rajoitukset, ennen kuin he ottavat AI Alt Text Assistant -järjestelmän käyttöön.

Arvojen vastaavuus

  • Suuriin kielimalleihin kuuluu luonnostaan tuotosta koskevia riskejä. Tuotos saattaa olla vinoutunutta, sopimatonta tai muuten ristiriidassa Anthologyn tai asiakkaidemme ja oppijoidemme arvojen kanssa. Microsoft kertoo näistä riskeistä Azure Vision Service -palvelun avoimuusilmoituksen kohdassa Rajoitukset.
  • Lisäksi suuriin kielimalleihin (kuten kaikkiin teknologioihin, jotka ovat erittäin monikäyttöisiä) liittyy riski, että niitä voidaan yleisesti käyttää vääriin tarkoituksiin, jotka eivät vastaa Anthologyn, asiakkaidemme tai heidän loppukäyttäjiensä tai laajemman yhteiskunnan arvoja (esim. rikolliseen toimintaan tai haitallisen tai muuten sopimattoman tuotoksen tekemiseen).
  • Näiden riskien vuoksi olemme suunnitelleet ja toteuttaneet AI Alt Text Assistant -toimintomme huolellisesti siten, että arvojen vastaisten tuotosten riski olisi mahdollisimman pieni. Olemme esimerkiksi keskittäneet toiminnot ohjaajien käyttöön oppijoiden sijasta. Olemme myös tarkoituksella jättäneet pois mahdollisesti riskialttiita toimintoja. ·

Immateriaalioikeudet

  • Suuriin kielimalleihin liittyy luonnostaan riski, että niillä saatetaan loukata teollis- ja tekijänoikeuksia. Useimmissa teollis- ja tekijänoikeuksia koskevissa laeissa ympäri maailman ei ole täysin ennakoitu suurten kielimallien syntymistä ja niiden käytöstä seuraavien ongelmien monimutkaisuutta tai niitä ei ole täysin mukautettu siihen. Tämän vuoksi tällä hetkellä ei ole olemassa selkeää oikeudellista kehystä tai ohjeistusta, jossa käsiteltäisiin teollis- ja tekijänoikeuksiin liittyviä kysymyksiä ja riskejä, joita näiden mallien käytöstä aiheutuu.
  • Viime kädessä on asiakkaamme vastuulla tarkistaa kyseisen AI Alt Text Assistant -järjestelmän tuotos mahdollisten immateriaalioikeuksien loukkausten varalta.  

Helppokäyttöisyys

  • Olemme suunnitelleet ja kehittäneet AI Alt Text Assistant -järjestelmän helppokäyttöisyyttä silmällä pitäen, kuten olemme tehneet Learnin ja muidenkin tuotteidemme kohdalla. Ennen AI Alt Text Assistant -järjestelmän julkaisua paransimme määrätietoisesti muun muassa semanttisen rakenteen, siirtymisen, näppäimistöohjauksen, ohjetekstien, mukautettujen komponenttien ja kuvatyönkulkujen helppokäyttöisyyttä. Asetamme jatkossakin helppokäyttöisyyden etusijalle, kun tulevaisuudessa hyödynnämme tekoälyä.

Vastuuvelvollisuus

  • Anthologylla on luotettavan tekoälyn ohjelma, jonka tarkoitus on varmistaa tekoälyn laillinen, eettinen ja vastuullinen käyttö. Selkeä sisäinen vastuuvelvollisuus ja järjestelmällinen tekoälyn eettinen arviointi tai sellaiset toiminnot, joita AI Alt Text Assistant -järjestelmä tarjoaa, ovat ohjelman keskeisiä pilareita.
  • Pystyäksemme tarjoamaan AI Alt Text Assistant -järjestelmän olemme hyödyntäneet järjestelmän taustalla olevaa Azure Vision Service -palvelua yhteistyössä Microsoftin kanssa. Microsoft on ollut jo pitkään sitoutunut tekoälyn eettiseen käyttöön.
  • Asiakkaiden tulisi harkita sisäisten käytäntöjen, menettelyjen ja kolmannen osapuolen toteuttaman tekoälysovellusten tarkastelun käyttöönottoa varmistaakseen, että niiden oma tekoälyn käyttö on laillista, eettistä ja vastuullista. Tarjoamme nämä tiedot tukeaksemme asiakkaidemme AI Alt Text Assistant -sovelluksen arviointia.

Lisätietoja