AI Alt Text Assistant - Nodyn Tryloywder

Mae defnyddio deallusrwydd artiffisial (AI) yn gyfreithlon, yn foesegol ac yn gyfrifol yn flaenoriaeth allweddol i Anthology. Felly, rydym wedi datblygu a gweithredu rhaglen AI Dibynadwy. Gallwch ddod o hyd i wybodaeth am ein rhaglen a'n hymagwedd gyffredinol at AI Dibynadwy yn ein Canolfan Ymddiriedolaeth a mwy o wybodaeth am nodweddion AI cynhyrchiol yn ein Rhestr nodweddion AI cynhyrchiol.

Fel rhan o'n hegwyddorion AI Dibynadwy, rydym yn ymrwymo i dryloywder, egluradwyedd ac atebolrwydd. Bwriad y dudalen hon yw darparu'r tryloywder ac esboniadau sydd eu hangen i helpu ein cleientiaid i weithredu'r AI Alt Text Assistant. Argymhellwn fod gweinyddwyr yn adolygu'r dudalen hon yn ofalus a sicrhau bod hyfforddwyr yn ymwybodol o'r ystyriaethau a'r argymhellion isod cyn i chi alluogi swyddogaethau'r AI Alt Text Assistant ar gyfer eich sefydliad.

Sut i gysylltu â ni:

Am gwestiynau neu adborth ar ein hymagwedd gyffredinol at AI Dibynadwy neu sut y gallwn wneud y dudalen hon yn fwy defnyddiol i'n cleientiaid, anfonwch neges e-bost atom yn [email protected].
Ar gyfer cwestiynau neu adborth am swyddogaethau neu allbwn yr AI Alt Text Assistant, cyflwynwch docyn cymorth i gleientiaid drwy Behind the Blackboard.

Swyddogaethau a hwylusir gan AI

Mae'r AI Alt Text Assistant yn rhoi awgrymiadau i hyfforddwyr ar destun amgen ar gyfer delweddau a ddefnyddir yn eu cyrsiau ar-lein trwy lif gwaith Adborth i Hyfforddwyr Ally. Ei fwriadu yw ysbrydoli hyfforddwyr a gwneud atgyweiriadau hygyrchedd yn fwy effeithlon.

Mae Anthology wedi partneru ag AWS i uwchraddio model AI Ally i bweru awgrymiadau hyd yn oed yn fwy effeithiol, ynghyd â'r gallu i gynhyrchu awgrymiadau disgrifiad delweddau ar gyfer cynnwys mwy cymhleth, gan gynnwys STEM, siartiau/graffiau, testun mewn delweddau, a delweddau llawysgrifenedig. Mae'r nodwedd hon yn cael ei phweru gan Claude, model iaith o Anthropic, trwy AWS Bedrock. Os yw'ch sefydliad wedi'i leoli yng Nghanada, mae'r cynorthwyydd yn defnyddio'r model Claude 3 Sonnet mwy newydd. Ym mhob rhanbarth arall, mae'n defnyddio Claude Sonnet 3.5. Mae'r model a ddefnyddir yn dibynnu ar argaeledd yn eich rhanbarth AWS.

Mae'r AI Alt Text Assistant yn darparu'r swyddogaethau canlynol sy'n cael eu hwyluso gan AI cynhyrchiol:

Creu testun amgen ar gyfer delweddau. Awgrymu testun amgen o fewn Adborth i Hyfforddwyr Ally pan fydd hyfforddwyr yn trwsio delweddau heb destun amgen.

Mae'r swyddogaethau hyn yn destun i gyfyngiadau ac argaeledd Gwasanaeth AWS Bedrock ac yn destun newid. Gwiriwch y nodiadau rhyddhau perthnasol am fanylion.

Ffeithiau allweddol

Tabl enghreifftiau
Cwestiwn	Ateb
Pa swyddogaethau Ally sy'n defnyddio systemau AI?	Awgrymu testun amgen drwy AI ar banel Adborth i Hyfforddwyr Ally, pan fydd Ally wedi fflagio delwedd am beidio â chynnwys testun amgen.
A yw hon yn system AI a gefnogir gan drydydd parti?	Ydy. Rydym yn defnyddio Claude, model a ddatblygwyd gan Anthropic ac a gynigir trwy AWS Bedrock. Mae sefydliadau yng Nghanada yn defnyddio Anthropic Claude 3 Sonnet, tra bod rhanbarthau eraill yn defnyddio Claude Sonnet 3.5, yn dibynnu ar yr hyn sy'n cael ei gefnogi ym mhob rhanbarth AWS.
Sut mae'r system AI yn gweithio?	Mae'r AI Alt Text Assistant yn defnyddio modelau Claude o Anthropic trwy AWS Bedrock i gynhyrchu awgrymiadau testun amgen yn awtomatig. Yn dibynnu ar leoliad eich sefydliad, gall hyn fod yn Anthropic Claude 3 Sonnet (yng Nghanada) neu Claude Sonnet 3.5 (mewn rhanbarthau eraill). Cyflawnir hyn trwy ddefnyddio'r delwedd i gynhyrchu testun amgen sy'n cael ei anfon trwy'r AWS SDK. Rydym hefyd wedi ychwanegu'r gallu i anfon awgrymiadau cyd-destunol yn seiliedig ar y cynnwys testun amgylchynol pan fydd delwedd wedi'i hymgorffori mewn eitem cynnwys cyfoethog. Ni ddefnyddir unrhyw wybodaeth ychwanegol (e.e., teitl y cwrs, disgrifiad o'r cwrs). Nid yw delweddau yn cael eu defnyddio i hyfforddi'r modelau AWS Bedrock, ac mae'r Bedrock yn cynhyrchu'r allbwn yn seiliedig ar bob delwedd sy'n cael ei huwchlwytho i'r AI Alt Text Assistant.
Ble mae'r system AI yn cael ei lletya?	Ar hyn o bryd mae Anthology yn defnyddio sawl enghraifft AWS ar gyfer Amazon Bedrock, a bennir gan argaeledd rhanbarth Amazon. Mae AWS yn darparu'r argaeledd rhanbarth hwn ar gyfer y model Amazon Bedrock a ddefnyddir ar hyn o bryd gan Ally (Claude Sonnet 3.5) yn Cefnogaeth model gan Ranbarth AWS yn Amazon Bedrock. Ar adegau efallai y byddwn yn defnyddio adnoddau mewn lleoliadau eraill fel Dwyrain yr Unol Daleithiau i ddarparu'r opsiwn argaeledd gorau ar gyfer AWS Bedrock i'n cleientiaid pan nad yw rhanbarth penodol ar gael. Mae'r holl allbwn cleient a gynhyrchir gan yr AI Alt Text Assistant yn cael ei storio yng nghronfa ddata Ally bresennol pob cleient a reolir gan Anthology.
A yw hwn yn swyddogaeth optio i mewn?	Ydy. Mae angen i weinyddwyr alluogi'r AI Alt Text Assistant yn yr opsiynau ffurfweddu Ally yr LMS. Dewiswch Cynhyrchu AI disgrifiadau amgen ar gyfer delweddau o dan y tab Nodweddion. Gall gweinyddwyr weithredu neu ddadweithredu'r swyddogaeth hon ar unrhyw adeg.
Sut mae'r system AI wedi'i hyfforddi?	Nid yw Anthology yn ymwneud â hyfforddi'r model Anthropic sy'n pweru swyddogaethau'r AI Alt Text Assistant trwy Amazon Bedrock. Mae'r modelau hyn yn cael eu hyfforddi gan Anthropic (Anthropic Claude). Nid yw Anthology yn mireinio'r modelau hyn ymhellach gan ddefnyddio ein data ein hunain neu ein cleientiaid.
A yw data cleientiaid yn cael ei ddefnyddio i (ail)hyfforddi'r system AI?	Na. Mae Amazon yn ymrwymo yn ei ddogfennaeth gyhoeddus i beidio â defnyddio unrhyw fewnbwn i, neu allbwn o, ar gyfer (ail)hyfforddi'r modelau iaith mawr o fewn Amazon Bedrock. Mae Amazon yn darparu gwybodaeth am sut mae'r modelau iaith mawr yn cael eu hyfforddi yn y dolenni yn yr adran "Rhagor o wybodaeth" isod. Mae unrhyw fewnbwn ac allbwn data yn cael ei amgryptio wrth ei anfon ac wrth orffwys.
Sut mae Anthology Ally yn defnyddio gwybodaeth bersonol o ran darparu system y Cynorthwyydd Testun Amgen Al?	Mae Anthology yn defnyddio'r wybodaeth a gesglir mewn cysylltiad â'r AI Alt Text Assistant yn unig i ddarparu, cynnal a chefnogi'r AI Alt Text Assistant, a lle mae gennym y caniatâd cytundebol i wneud hynny. Gallwch ddod o hyd i ragor o wybodaeth am ymagwedd Anthology at breifatrwydd data yn ein Canolfan Ymddiriedolaeth.
Yn achos system AI a gefnogir gan drydydd parti, sut bydd y trydydd parti yn defnyddio gwybodaeth bersonol?	Dim ond delweddau a/neu ddata cyd-destunol mewn cynnwys cyfoethog sy'n amgylchynu delwedd sy'n cael eu defnyddio i bweru'r nodwedd hon. Nid oes unrhyw wybodaeth bellach yn cael ei rhannu ag AWS Bedrock. Nid yw Amazon na darparwr unrhyw fodel Amazon Bedrock yn defnyddio unrhyw ddata Anthology na data cwsmeriaid Anthology i wella modelau Amazon Bedrock Gallwch ddod o hyd i ragor o wybodaeth am yr arferion preifatrwydd data ynghylch Diogelwch a Phreifatrwydd Amazon Bedrock yn nogfennaeth Amazon ar y Tudalen Diogelwch AI AWS, Blog Dysgu Peiriannau AWS, a thudalen Diogelwch a Phreifatrwydd Amazon Bedrock.
A ystyriwyd hygyrchedd wrth ddylunio System y Testun Amgen AI?	Do, cydweithiodd ein peirianwyr hygyrchedd â thimau cynnyrch i adolygu dyluniadau, trafod ystyriaethau hygyrchedd pwysig, ac i brofi hygyrchedd y nodweddion newydd yn benodol. Byddwn yn parhau i ystyried hygyrchedd fel rhan annatod o'n dull AI Dibynadwy.

Ystyriaethau ac argymhellion i sefydliadau

Achosion defnydd bwriedig

Bwriedir i'r AI Alt Text Assistant gefnogi'r swyddogaethau a restrir uchod yn unig. Darperir y swyddogaethau hyn i hyfforddwyr ein cleientiaid ac fe'u bwriedir i'w cefnogi i drwsio problemau hygyrchedd ar gyfer delweddau a amlygir gan Ally.

Achosion defnydd sydd y tu allan i'r cwmpas

Ni fwriedir i'r AI Alt Text Assistant wneud pob delwedd yn hygyrch gyda thestun amgen perffaith ac nid oes gwarant hefyd gan fod yn rhaid i'r hyfforddwr addasu neu gymeradwyo'r testun amgen yn seiliedig ar gyd-destun y cynnwys yn y cwrs.

Egwyddorion AI dibynadwy ar waith

Mae Anthology ac Amazon yn credu bod defnyddio AI yn gyfreithlon, yn foesegol ac yn gyfrifol yn flaenoriaeth allweddol. Mae'r adran hon yn esbonio sut mae Anthology ac Amazon wedi gweithio i fynd i'r afael â'r risg perthnasol i'r defnydd cyfreithiol, moesegol a chyfrifol o AI a gweithredu egwyddorion AI Dibynadwy Anthology. Mae hefyd yn awgrymu camau y gall ein cleientiaid eu hystyried wrth gynnal adolygiad AI ac adolygiadau cyfreithiol o risgiau AI moesegol eu hunain wrth eu gweithredu.

Tryloywder ac Egluradwyedd

Rydym yn nodi'n glir yn yr opsiynau ffurfweddu gweinyddu Ally bod y swyddogaeth hon yn un a hwylusir gan AI
Yn y rhyngwyneb defnyddiwr ar gyfer hyfforddwyr, mae swyddogaethau'r AI Alt Text Assistant wedi'u marcio'n glir fel swyddogaethau 'Cynhyrchiol'. Gofynnir i hyfforddwyr adolygu'r allbwn testun cyn ei ddefnyddio hefyd. Mae metaddata'r allbwn a grëwyd gan swyddogaethau'r AI Alt Text Assistant yn cael eu hamlygu yn adroddiad defnydd Ally pob cleient gyda maes ar gyfer cynnwys a gynhyrchir yn awtomatig. Mae hefyd yn dangos a yw'r allbwn wedi'i olygu gan yr hyfforddwr wedi hynny.
Gall y model y tu ôl i'r AI Alt Text Assistant amrywio yn dibynnu ar ble mae eich sefydliad wedi'i leoli. Yng Nghanada, mae'r cynorthwyydd yn defnyddio model Claude 3 Sonnet, sy'n cynnig galluoedd mwy newydd. Ym mhob man arall, mae'n defnyddio Claude Sonnet 3.5. Mae'r dewis hwn yn seiliedig ar yr hyn y mae AWS Bedrock yn gwneud ar gael ym mhob rhanbarth.
Rydym yn annog cleientiaid i fod yn dryloyw ynghylch y defnydd o AI o fewn yr AI Alt Text Assistant a rhoi'r wybodaeth berthnasol o'r ddogfen hon a'r dogfennau wedi'u cysylltu yma i'w hyfforddwyr a rhanddeiliaid eraill fel y bo'n briodol.

Dibynadwyedd a chywirdeb

Rydym yn nodi'n glir yn yr opsiynau ffurfweddu gweinyddu Ally a'r telerau defnydd bod y swyddogaeth hon yn un a hwylusir gan AI a allai gynhyrchu allbwn anghywir neu annymunol ac y dylai'r allbwn hwn gael ei adolygu gan yr hyfforddwr bob amser.
Yn y rhyngwyneb defnyddiwr, gofynnir i hyfforddwyr adolygu'r allbwn testun i sicrhau ei fod yn gywir.
Fel y'i nodir yng Nghwestiynau Cyffredin Amazon Bedrock, mae perygl o gael allbwn anghywir. Er y bwriedir i natur benodol y AI Alt Text Assistant a'n gweithrediad leihau anghywirdeb, cyfrifoldeb ein cleient yw adolygu allbwn i sicrhau ei fod yn gywir, a oes ganddo ragfarn a phroblemau posibl eraill.
Gall defnyddwyr adfywio allbwn anghywir yn hawdd trwy ailadrodd y cwestiwn neu'r ymadrodd a ddefnyddir yn yr anogwr holi ac ateb.
Fel rhan o'u cyfathrebiadau ynglŷn â'r AI Alt Text Assistant, dylai cleientiaid roi gwybod i'w hyfforddwyr am y cyfyngiad posibl hwn.
Gall cleientiaid roi gwybod i ni am unrhyw allbwn anghywir gan ddefnyddio'r sianeli a restrir yn y cyflwyniad.

Tegwch

Mae gan fodelau iaith mawr risgiau cynhenid o ran stereoteipio, gor/tangynrychioli a mathau eraill o ragfarn niweidiol.
O ystyried y risgiau hyn, rydym wedi dewis swyddogaethau'r AI Alt Text Assistant yn ofalus i osgoi achosion defnydd a allai fod yn fwy agored i ragfarn niweidiol neu lle y gallai effaith rhagfarn o'r fath fod yn fwy sylweddol.
Er hynny, nid oes modd osgoi sefyllfa lle gallai rhagfarn niweidiol effeithio ar rywfaint o'r allbwn. Fel y soniwyd amdano uchod dan 'Cywirdeb', gofynnir i hyfforddwyr adolygu'r allbwn, sy'n gallu helpu i leihau unrhyw ragfarn niweidiol.
Fel rhan o'u cyfathrebiadau ynglŷn â'r AI Alt Text Assistant, dylai cleientiaid roi gwybod i'w hyfforddwyr am y cyfyngiad posibl hwn.
Gall cleientiaid roi gwybod i ni am unrhyw ragfarn niweidiol gan ddefnyddio'r sianeli cysylltu a restrir yn y cyflwyniad.

Preifatrwydd a Diogelwch

Fel y'i disgrifir yn yr adran 'Ffeithiau allweddol' uchod, defnyddir dim ond y ddelwedd ar gyfer yr AI Alt Text Assistant a dim ond y ddelwedd sydd ar gael i Microsoft. Mae'r adran hefyd yn disgrifio ein hymrwymiad ac ymrwymiad Microsoft ynghylch defnyddio unrhyw wybodaeth bersonol.
Mae Amazon yn disgrifio ei arferion ac ymrwymiadau preifatrwydd a diogelwch data yn y ddogfennaeth ar Preifatrwydd a Diogelwch Amazon Bedrock.

Diogelwch

Mae gan fodelau iaith mawr risg cynhenid y gallai allbynnau fod yn amhriodol, yn sarhaus neu'n anniogel fel arall. Mae Amazon yn disgrifio'r risgiau hyn yn ei adran Cyfyngiadau ar dudalen AI Cyfrifol Amazon.
O ystyried y risgiau hyn, rydym wedi dewis swyddogaethau'r AI Alt Text Assistant yn ofalus i osgoi achosion defnydd a allai fod yn fwy agored i allbynnau anniogel neu lle y gallai effaith allbwn o'r fath fod yn fwy sylweddol.
Er hynny, nid oes modd osgoi sefyllfa lle gallai rhywfaint o'r allbwn fod yn anniogel. Fel y soniwyd amdano uchod dan 'Cywirdeb', gofynnir i hyfforddwyr adolygu'r allbwn, sy'n gallu helpu i leihau'r risg o gael allbwn anniogel.
Fel rhan o'u cyfathrebiadau ynglŷn â'r AI Alt Text Assistant, dylai cleientiaid roi gwybod i'w hyfforddwyr am y cyfyngiad posibl hwn.
Dylai cleientiaid roi gwybod i ni am unrhyw allbwn anniogel gan ddefnyddio'r sianeli cysylltu a restrir yn y cyflwyniad.

Cael bodau dynol mewn rheolaeth

Er mwyn lleihau'r risg sy'n gysylltiedig â defnyddio AI cynhyrchiol ar gyfer ein cleientiaid a'u defnyddwyr, rydym yn rhoi rheolaeth dros swyddogaethau'r AI Alt Text Assistant i gleientiaid yn fwriadol. Felly, mae'r AI Alt Text Assistant yn nodwedd optio i mewn. Gall gweinyddwyr actifadu neu ddadactifadu'r AI Alt Text Assistant ar unrhyw adeg.
Ar ben hynny, mae hyfforddwyr yn rheoli'r allbwn, sy'n golygu y gofynnir iddynt adolygu yr allbwn testun a gallant olygu'r allbwn testun, yn ôl yr angen.
Nid yw'r AI Alt Text Assistant yn cynnwys gwneud unrhyw benderfyniadau'n awtomatig a allai gael effaith gyfreithiol neu effaith sylweddol fel arall ar ddysgwyr neu unigolion eraill.
Rydym yn annog cleientiaid i adolygu'r ddogfen hon yn ofalus, gan gynnwys y dolenni gwybodaeth a ddarperir yma i sicrhau eu bod yn deall galluoedd a chyfyngiadau'r AI Alt Text Assistant a'r Amazon Bedrock sylfaenol cyn iddynt actifadu'r nodwedd AI Alt Text Assistant.

Alinio â gwerthoedd

Mae gan fodelau iaith mawr risgiau cynhenid o ran allbwn sydd â rhagfarn, sy'n amhriodol neu nad yw'n alinio â gwerthoedd Anthology neu werthoedd ein cleientiaid a'n dysgwyr fel arall. Mae Amazon yn disgrifio'r risgiau hyn yn y gwefannau cysylltiedig yn yr adran 'rhagor o wybodaeth' isod.
Yn ogystal, mae gan fodelau iaith mawr (fel pob technoleg sy'n gwasanaethu dibenion eang) risg o gael eu camddefnyddio'n gyffredinol ar gyfer achosion defnydd nad ydynt yn alinio â gwerthoedd Anthology, ein cleientiaid neu eu defnyddwyr a gwerthoedd cymdeithas yn fwy cyffredinol (e.e., ar gyfer gweithgareddau troseddol, i greu allbwn niweidiol neu amhriodol fel arall).
O ystyried y risgiau hyn, rydym wedi cynllunio a gweithredu swyddogaethau ein AI Alt Text Assistant yn ofalus mewn modd i leihau'r risg o greu allbwn nad yw'n alinio â'n gwerthoedd. Er enghraifft, rydym wedi canolbwyntio ar swyddogaethau ar gyfer hyfforddwyr yn hytrach nag ar gyfer dysgwyr. Rydym hefyd wedi penderfynu peidio â chynnwys swyddogaethau a allai gael effaith fawr yn fwriadol.

Eiddo deallusol

Mae gan fodelau iaith mawr risgiau cynhenid o ran y posibilrwydd o dorri hawliau eiddo deallusol. Nid yw'r rhan fwyaf o gyfreithiau eiddo deallusol ledled y byd wedi rhagweld nac wedi addasu i fodelau iaith mawr a chymhlethdod y materion sy'n codi drwy eu defnyddio. O ganlyniad, nid oes fframwaith cyfreithiol na chanllawiau clir ar hyn o bryd sy'n mynd i'r afael â materion na risgiau eiddo deallusol sy'n deillio o ddefnyddio'r modelau hyn.
Yn y bôn, cyfrifoldeb ein cleient yw adolygu'r allbwn a gynhyrchir gan yr AI Alt Text Assistant hwnnw ar gyfer unrhyw achosion posibl o dorri rheolau eiddo deallusol.

Hygyrchedd

Gwnaethom ddylunio a datblygu'r AI Alt Text Assistant gan ystyried hygyrchedd fel y gwnawn drwy gydol Learn a'n cynhyrchion eraill. Cyn rhyddhau'r AI Alt Text Assistant, rydym wedi gwella hygyrchedd y strwythur semantig, llywio, rheolyddion bysellfwrdd, labeli, cydrannau personol, a llifoedd gwaith delweddau yn bwrpasol, i enwi dim ond rhai meysydd. Byddwn yn parhau i flaenoriaethu hygyrchedd wrth i ni fanteisio ar AI yn y dyfodol.
Mae'r nodwedd AI Alt Text Assistant yn defnyddio Amazon Bedrock. Mae AWS yn cyhoeddi adroddiadau cydymffurfio â hygyrchedd ar dudalennau Hygyrchedd AWS.

Atebolrwydd

Mae gan Anthology raglen AI Dibynadwy sydd wedi'i chynllunio i sicrhau defnyddio AI yn gyfreithiol, yn foesegol ac yn gyfrifol. Mae atebolrwydd mewnol clir ac adolygu swyddogaethau AI fel y rhai a ddarperir gan yr AI Alt Text Assistant yn foesegol ac yn systematig yn elfennau allweddol o'r rhaglen.
Er mwyn cyflwyno'r AI Alt Text Assistant, fe wnaethom bartneru ag Amazon i ddefnyddio Amazon Bedrock. Mae AWS wedi ymrwymo i ddefnydd cyfrifol o AI.
Dylai cleientiaid ystyried gweithredu polisïau, gweithdrefnau ac adolygiadau mewnol o raglenni AI trydydd parti er mwyn sicrhau eu bod yn defnyddio AI yn cyfreithiol, yn foesegol ac yn gyfrifol. Darperir y wybodaeth hon i gefnogi ein cleientiaid i adolygu'r AI Alt Text Assistant.