Cynorthwyydd Testun Amgen AI - Nodyn Tryloywder

Mae defnyddio deallusrwydd artiffisial (AI) yn gyfreithlon, yn foesegol ac yn gyfrifol yn flaenoriaeth allweddol i Anthology. Felly, rydym wedi datblygu a gweithredu rhaglen AI Dibynadwy. Gallwch ddod o hyd i wybodaeth am ein rhaglen a'n hymagwedd gyffredinol at AI Dibynadwy yn ein Canolfan Ymddiriedolaeth a mwy o wybodaeth am nodweddion AI cynyrchiol yn ein Rhestr o nodweddion AI cynhyrchiol.

Fel rhan o'n hegwyddorion AI Dibynadwy, rydym yn ymrwymo i dryloywder, egluradwyedd ac atebolrwydd. Bwriad y dudalen hon yw darparu'r tryloywder ac esboniadau sydd eu hangen i helpu ein cleientiaid i weithredu'r Cynorthwyydd Testun Amgen AI. Argymhellwn fod yn gweinyddwyr yn adolygu'r dudalen hon yn ofalus a sicrhau bod hyfforddwyr yn ymwybodol o'r ystyriaethau a'r argymhellion isod cyn i chi alluogi swyddogaethau'r Cynorthwyydd Testun Amgen AI ar gyfer eich sefydliad.

Sut i gysylltu â ni:

Am gwestiynau neu adborth ar ein hymagwedd gyffredinol at AI Dibynadwy neu sut y gallwn wneud y dudalen hon yn fwy defnyddiol i'n cleientiaid, anfonwch neges e-bost atom yn [email protected].
Am gwestiynau neu adborth am swyddogaethau neu allbwn y Cynorthwyydd Testun Amgen AI, cyflwynwch docyn cymorth i gleientiaid drwy Behind the Blackboard.

Swyddogaethau a hwylusir gan AI

Mae'r Cynorthwyydd Testun Amgen AI yn rhoi awgrymiadau i hyfforddwyr ar destun amgen ar gyfer delweddau a ddefnyddir yn eu cyrsiau ar-lein trwy lif gwaith Adborth i Hyfforddwyr Ally. Fe'i bwriedir i ysbrydoli hyfforddwyr a gwneud trwsiadau hygyrchedd yn fwy effeithlon. Mae Anthology wedi gweithio mewn partneriaeth â Microsoft i ddarparu'r swyddogaeth hon, yn enwedig oherwydd bod gan Microsoft ymrwymiad hirsefydlog i ddefnyddio AI yn foesegol.

Mae'r Cynorthwyydd Testun Amgen AI yn darparu'r swyddogaethau canlynol sy'n cael eu hwyluso gan AI cynhyrchiol:

Cynhyrchu testun amgen ar gyfer delweddau. Mae'n awgrymu testun amgen o fewn Adborth i Hyfforddwyr Ally wrth i hyfforddwyr drwsio delweddau heb destun amgen.

Mae'r swyddogaethau hyn yn amodol ar gyfyngiadau ac argaeledd Gwasanaeth AI Azure Vision ac yn gallu cael eu newid. Gwiriwch y nodiadau rhyddhau perthnasol am fanylion.

Ffeithiau allweddol

Tabl enghreifftiau
Cwestiwn	Ateb
Pa swyddogaethau Ally sy'n defnyddio systemau AI?	Awgrymu testun amgen drwy AI ar banel Adborth i Hyfforddwyr Ally, pan fydd Ally wedi fflagio delwedd am beidio â chynnwys testun amgen.
A yw hon yn system AI a gefnogir gan drydydd parti?	Ydy – Mae'r Cynorthwyydd Testun Amgen AI yn cael ei bweru gan Wasanaeth Azure Vision Microsoft.
Sut mae'r system AI yn gweithio?	Mae Cynorthwyydd Testun Amgen AI yn defnyddio Gwasanaeth Azure Vision Microsoft i gynhyrchu allbynnau'n awtomatig. Cyflawnir hyn drwy ddefnyddio'r ddelwedd i gynhyrchu testun amgen sy'n cael ei anfon trwy API Azure Vision. Ni ddefnyddir unrhyw wybodaeth ychwanegol (e.e., teitl y cwrs, disgrifiad o'r cwrs). Nid yw delweddau'n cael eu defnyddio i hyfforddi modelau Microsoft Azure Vision ac mae'r Gwasanaeth Azure Vision yn cynhyrchu'r allbwn yn seiliedig ar bob delwedd sy'n cael ei huwchlwytho i'r Cynorthwyydd Testun Amgen AI. Ni ddefnyddir anogwyr. Sylwer y bydd allbwn y Testun Amgen AI yn cael ei gyfieithu gan ddefnyddio AWS Translate ar gyfer defnyddwyr y mae eu sytemau LMS wedi'u ffurfweddu mewn ieithoedd heblaw am y Saesneg. Am esboniad manwl am sut mae modelau iaith Azure AI Vision yn gweithio, gweler adran Cyflwyniad Nodyn Tryloywder Microsoft a'r dolenni a ddarperir ynddo.
Ble mae'r system AI yn cael ei lletya?	Ar hyn o bryd, mae Anthology yn defnyddio sawl enghraifft o'r Gwasanaeth Azure Vision ledled y byd. Mae'r brif enghraifft wedi'i lletya yn yr Unol Daleithiau ond ar brydiau gallwn ddefnyddio adnoddau mewn lleoliadau eraill fel yn Ffrainc, APAC i ddarparu'r argaeledd gorau ar gyfer Azure AI Vision ar gyfer ein cleientiaid. Storir yr holl allbynnau cleientiaid a gynhyrchir gan y Cynorthwyydd Testun Amgen AI yng nghronfa ddata Ally bresennol pob cleient a reolir gan Anthology.
A yw hwn yn swyddogaeth optio i mewn?	Ydy. Mae angen i weinyddwyr alluogi'r Cynorthwyydd Testun Amgen AI yn yr opsiynau ffurfweddu Ally yr LMS. Dewiswch Cynhyrchu disgrifiadau amgen ar gyfer delweddau ag AI dan y tab Nodweddion. Gall gweinyddwyr weithredu neu ddadweithredu'r swyddogaeth hon ar unrhyw adeg.
Sut mae'r system AI wedi'i hyfforddi?	Nid yw Anthology yn ymwneud â hyfforddi'r modelau sy'n pweru swyddogaethau'r Cynorthwyydd Testun Amgen AI. Hyfforddir y modelau hyn gan Microsoft fel rhan o'r Gwasanaeth Azure Vision. Mae Microsoft yn darparu gwybodaeth am sut mae'r modelau iaith mawr yn cael eu hyfforddi yn adran Cyflwyniad Nodyn Tryloywder Microsoft a'r dolenni a ddarperir ynddo. Nid yw Anthology yn mireinio'r Gwasanaeth Azure Vision ymhellach gan ddefnyddio ein data ein hunain na data ein cleientiaid.
A yw data cleientiaid yn cael ei ddefnyddio i (ail)hyfforddi'r system AI?	Nac ydy. Mae Microsoft yn ymrwymo'n gontractiol yn ei delerau Azure Vision gydag Anthology i beidio â defnyddio unrhyw fewnbwn i, neu allbwn o, Azure Vision i (ail)hyfforddi'r model iaith mawr. Gwneir yr un ymrwymiad yn nogfennaeth Microsoft ar Data, preifatrwydd a diogelwch ar gyfer Gwasanaeth Azure Vision. Dim ond modelau a adeiladwyd ymlaen llaw sy'n cael eu defnyddio.
Sut mae Anthology Ally yn defnyddio gwybodaeth bersonol o ran darparu system y Cynorthwyydd Testun Amgen Al?	Mae Anthology Ally dim ond yn defnyddio'r delweddau a gesglir mewn cysylltiad â'r Cynorthwyydd Testun Amgen AI i ddarparu, cynnal a chefnogi'r Cynorthwyydd Testun Amgen AI yn unig. Gallwch ddod o hyd i ragor o wybodaeth am ymagwedd Anthology at breifatrwydd data yng Nghanolfan Ymddiriedolaeth Anthology. Dim ond delweddau yn unig sy'n cael eu defnyddio i bweru'r nodwedd hon. Ni rennir unrhyw wybodaeth ychwanegol â Gwasanaeth Microsoft Azure Vision. Nid yw Microsoft yn defnyddio unrhyw ddata Anthology na data cleientiaid Anthology y mae ganddo fynediad ato (fel rhan o Wasanaeth Azure Vision) i wella modelau Vision, i wella ei wasanaethau a chynhyrchion ei hun neu drydydd partïon, nac i wella modelau Azure Vision yn awtomatig at ddefnydd Anthology yn adnoddau Anthology (mae'r modelau'n ddi-gyflwr). Gallwch ddod o hyd i ragor o wybodaeth am yr arferion preifatrwydd data o ran y Gwasanaeth Azure Vision yn nogfennaeth Microsoft ar Data, preifatrwydd a diogelwch ar gyfer Gwasanaeth Azure Vision.
A ystyriwyd hygyrchedd wrth ddylunio System y Testun Amgen AI?	Do, cydweithiodd ein peirianwyr hygyrchedd â thimau cynnyrch i adolygu dyluniadau, trafod ystyriaethau hygyrchedd pwysig, ac i brofi hygyrchedd y nodweddion newydd yn benodol. Byddwn yn parhau i ystyried hygyrchedd fel rhan annatod o'n hymagwedd AI Dibynadwy.

Ystyriaethau ac argymhellion i sefydliadau

Achosion defnydd bwriedig

Bwriedir i'r Cynorthwyydd Testun Amgen AI gefnogi'r swyddogaethau a restrir uchod yn unig. Darperir y swyddogaethau hyn i hyfforddwyr ein cleientiaid ac fe'u bwriedir i'w cefnogi i drwsio problemau hygyrchedd ar gyfer delweddau a amlygir gan Ally.

Achosion defnydd sydd y tu allan i'r cwmpas

Ni fwriedir i'r Cynorthwyydd Testun Amgen AI wneud pob delwedd yn hygyrch gyda thestun amgen perffaith ac nid oes gwarant hefyd gan fod yn rhaid i'r hyfforddwr addasu neu gymeradwyo'r testun amgen yn seiliedig ar gyd-destun y cynnwys yn y cwrs.

Egwyddorion AI dibynadwy ar waith

Mae Anthology a Microsoft yn credu bod defnyddio AI yn gyfreithlon, yn foesegol ac yn gyfrifol yn flaenoriaeth allweddol. Mae'r adran hon yn esbonio sut mae Anthology a Microsoft wedi gweithio i fynd i'r afael â'r risg perthnasol i'r defnydd cyfreithiol, moesegol a chyfrifol o AI a gweithreduegwyddorion AI Dibynadwy Anthology. Mae hefyd yn awgrymu camau y gall ein cleientiaid eu hystyried wrth gynnal adolygiad AI ac adolygiadau cyfreithiol o risgiau AI moesegol eu hunain wrth eu gweithredu.

Tryloywder ac Egluradwyedd

Rydym yn nodi'n glir yn yr opsiynau ffurfweddu gweinyddu Ally bod y swyddogaeth honw yn un a hwylusir gan AI
Yn y rhyngwyneb defnyddiwr ar gyfer hyfforddwyr, mae swyddogaethau'r Cynorthwyydd Testun Amgen AI wedi'u marcio'n glir fel swyddogaethau 'Cynhyrchiol'. Gofynnir i hyfforddwyr adolygu allbwn y testun cyn ei ddefnyddio hefyd. · Mae metaddata'r allbwn a grëwyd gan swyddogaethau'r Cynorthwyydd Testun Amgen AI yn cael eu hamlygu yn adroddiad defnydd Ally pob cleient gyda maes ar gyfer cynnwys a gynhyrchir yn awtomatig. Mae hefyd yn dangos a yw'r allbwn wedi'i olygu gan yr hyfforddwr wedi hynny.
Yn ogystal â'r wybodaeth a ddarperir yn y ddogfen hon am sut mae'r Cynorthwyydd Testun Amgen AI a'r modelau Gwasanaeth Azure Vision yn gweithio, mae Microsoft yn darparu gwybodaeth ychwanegol am y Gwasanaeth Azure Vision yn ei Nodyn Tryloywder.
Rydym yn annog cleientiaid i fod yn dryloyw ynghylch y defnydd o AI o fewn y Cynorthwyydd Testun Amgen AI a rhoi'r wybodaeth berthnasol o'r ddogfen hon a'r dogfennau wedi'u cysylltu yma i'w hyfforddwyr a rhanddeiliaid eraill fel y bo'n briodol.

Dibynadwyedd a chywirdeb

Rydym yn nodi'n glir yn yr opsiynau ffurfweddu gweinyddu Ally a'r telerau defnydd bod y swyddogaeth hon yn un a hwylusir gan AI a allai gynhyrchu allbwn anghywir neu annymunol ac y dylai'r allbwn hwn gael ei adolygu gan yr hyfforddwr bob amser.
Yn y rhyngwyneb defnyddiwr, gofynnir i hyfforddwyr adolygu'r allbwn testun i sicrhau ei fod yn gywir.
Fel y'i nodir yn adran Cyfyngiadau Nodyn Tryloywder y Gwasanaeth Azure Vision, mae risg o gael allbwn anghywir. Er y bwriedir i natur benodol y Cynorthwyydd Testun Amgen AI a'n gweithrediad leihau anghywirdeb, cyfrifoldeb ein cleient yw adolygu allbwn i sicrhau ei fod yn gywir, a oes ganddo ragfarn a phroblemau posibl eraill.
Fel rhan o'u cyfathrebiadau ynglŷn â'r Cynorthwyydd Testun Amgen AI, dylai cleientiaid roi gwybod i'w hyfforddwyr am y cyfyngiad posibl hwn.
Gall hyfforddwyr ddefnyddio rhyngwyneb Ally presennol i olygu allbynnau'r Cynorthwyydd Testun Amgen AI â llaw cyn cyhoeddi'r allbwn i fyfyrwyr.
Gall cleientiaid roi gwybod i ni am unrhyw allbwn anghywir gan ddefnyddio'r sianeli a restrir yn y cyflwyniad.

Tegwch

Mae gan fodelau iaith mawr risgiau cynhenid o ran stereoteipio, gor/tangynrychioli a mathau eraill o ragfarn niweidiol. Mae Microsoft yn disgrifio'r risgiau hyn yn ei adran Cyfyngiadau yn Nodyn Tryloywder y Gwasanaeth Azure Vision.
O ystyried y risgiau hyn, rydym wedi dewis swyddogaethau'r Cynorthwyydd Testun Amgen AI yn ofalus i osgoi achosion defnydd a allai fod yn fwy agored i ragfarn niweidiol neu lle y gallai effaith rhagfarn o'r fath fod yn fwy sylweddol.
Er hynny, nid oes modd osgoi sefyllfa lle gallai rhagfarn niweidiol effeithio ar rywfaint o'r allbwn. Fel y soniwyd amdano uchod dan 'Cywirdeb', gofynnir i hyfforddwyr adolygu'r allbwn, sy'n gallu helpu i leihau unrhyw ragfarn niweidiol.
Fel rhan o'u cyfathrebiadau ynglŷn â'r Cynorthwyydd Testun Amgen AI, dylai cleientiaid roi gwybod i'w hyfforddwyr am y cyfyngiad posibl hwn.
Gall cleientiaid roi gwybod i ni am unrhyw ragfarn niweidiol gan ddefnyddio'r sianeli cysylltu a restrir yn y cyflwyniad.

Preifatrwydd a Diogelwch

Fel y'i disgrifir yn yr adran 'Ffeithiau allweddol' uchod, defnyddir dim ond y ddelwedd ar gyfer y Cynorthwyydd Testun Amgen AI a dim ond y ddelwedd sydd ar gael i Microsoft. Mae'r adran hefyd yn disgrifio ein hymrwymiad ac ymrwymiad Microsoft ynghylch defnyddio unrhyw wybodaeth bersonol.
Mae gan Ally ardystiad ISO 27001/27017/27018/27701. Bydd yr ardystiadau hyn yn cynnwys allbwn sy'n gysylltiedig â'r Cynorthwyydd Testun Amgen AI a reolir gan Anthology. Gallwch ddod o hyd i ragor o wybodaeth am ymagwedd Anthology at breifatrwydd a diogelwch data yn ein Canolfan Ymddiriedolaeth.
Mae Microsoft yn disgrifio ei arferion ac ymrwymiadau preifatrwydd a diogelwch data yn y ddogfennaeth ar Ddata, preifatrwydd a diogelwch ar gyfer Gwasanaeth Azure Vision.
Ni waeth beth yw ymrwymiad Anthology a Microsoft ynghylch preifatrwydd data a pheidio â defnyddio mewnbwn i (ail)hyfforddi'r modelau, efallai y bydd cleientiaid eisiau cynghori eu hyfforddwyr i beidio â chynnwys unrhyw wybodaeth bersonol neu wybodaeth gyfrinachol arall yn y delweddau.

Diogelwch

Mae gan fodelau iaith mawr risg cynhenid y gallai allbynnau fod yn amhriodol, yn sarhaus neu'n anniogel fel arall. Mae Microsoft yn disgrifio'r risgiau hyn yn ei adran Cyfyngiadau yn Nodyn Tryloywder y Gwasanaeth Azure Vision.
O ystyried y risgiau hyn, rydym wedi dewis swyddogaethau'r Cynorthwyydd Testun Amgen AI yn ofalus i osgoi achosion defnydd a allai fod yn fwy agored i allbynnau anniogel neu lle y gallai effaith allbwn o'r fath fod yn fwy sylweddol.
Er hynny, nid oes modd osgoi sefyllfa lle gallai rhywfaint o'r allbwn fod yn anniogel. Fel y soniwyd amdano uchod dan 'Cywirdeb', gofynnir i hyfforddwyr adolygu'r allbwn, sy'n gallu helpu i leihau'r risg o gael allbwn anniogel.
Fel rhan o'u cyfathrebiadau ynglŷn â'r Cynorthwyydd Testun Amgen AI, dylai cleientiaid roi gwybod i'w hyfforddwyr am y cyfyngiad posibl hwn.
Dylai cleientiaid roi gwybod i ni am unrhyw allbwn anniogel gan ddefnyddio'r sianeli cysylltu a restrir yn y cyflwyniad.

Cael bodau dynol mewn rheolaeth

Er mwyn lleihau'r risg sy'n gysylltiedig â defnyddio AI cynhyrchiol ar gyfer ein cleientiaid a'u defnyddwyr, rydym yn rhoi rheolaeth dros swyddogaethau'r Cynorthwyydd Testun Amgen AI i gleientiaid yn fwriadol. Felly, mae'r Cynorthwyydd Testun Amgen AI yn nodwedd optio i mewn. Gall gweinyddwyr weithredu neu ddadweithredu'r Cynorthwyydd Testun Amgen AI ar unrhyw adeg.
Ar ben hynny, mae hyfforddwyr yn rheoli'r allbwn, sy'n golygu y gofynnir iddynt adolygu yr allbwn testun a gallant olygu'r allbwn testun, yn ôl yr angen.
Nid yw'r Cynorthwyydd Testun Amgen AI yn cynnwys gwneud unrhyw benderfyniadau'n awtomatig a allai gael effaith gyfreithiol neu effaith sylweddol fel arall ar ddysgwyr neu unigolion eraill.
Rydym yn annog cleientiaid i adolygu'r ddogfen hon yn ofalus gan gynnwys y dolenni gwybodaeth a ddarperir yma i sicrhau eu bod yn deall galluoedd a chyfyngiadau'r Cynorthwyydd Testun Amgen AI a'r Gwasanaeth Azure Vision sylfaenol cyn iddynt weithredu'r Cynorthwyydd Testun Amgen AI.

Alinio â gwerthoedd

Mae gan fodelau iaith mawr risgiau cynhenid o ran allbwn sydd â rhagfarn, sy'n amhriodol neu nad yw'n alinio â gwerthoedd Anthology neu werthoedd ein cleientiaid a'n dysgwyr fel arall. Mae Microsoft yn disgrifio'r risgiau hyn yn ei adran Cyfyngiadau yn Nodyn Tryloywder y Gwasanaeth Azure Vision.
Yn ogystal, mae gan fodelau iaith mawr (fel pob technoleg sy'n gwasanaethu dibenion eang) risg o gael eu camddefnyddio'n gyffredinol ar gyfer achosion defnydd nad ydynt yn alinio â gwerthoedd Anthology, ein cleientiaid neu eu defnyddwyr a gwerthoedd cymdeithas yn fwy cyffredinol (e. e., ar gyfer gweithgareddau troseddol, i greu allbwn niweidiol neu amhriodol fel arall).
O ystyried y risgiau hyn, rydym wedi cynllunio a gweithredu swyddogaethau ein Cynorthwyydd Testun Amgen AIt yn ofalus mewn modd i leihau'r risg o greu allbwn nad yw'n alinio â'n gwerthoedd. Er enghraifft, rydym wedi canolbwyntio ar swyddogaethau ar gyfer hyfforddwyr yn hytrach nag ar gyfer dysgwyr. Rydym hefyd wedi penderfynu peidio â chynnwys swyddogaethau a allai gael effaith fawr yn fwriadol. ·

Eiddo deallusol

Mae gan fodelau iaith mawr risgiau cynhenid o ran y posibilrwydd o dorri hawliau eiddo deallusol. Nid yw'r rhan fwyaf o gyfreithiau eiddo deallusol ledled y byd wedi rhagweld nac wedi addasu i fodelau iaith mawr a chymhlethdod y materion sy'n codi drwy eu defnyddio. O ganlyniad, nid oes fframwaith cyfreithiol na chanllawiau clir ar hyn o bryd sy'n mynd i'r afael â materion na risgiau eiddo deallusol sy'n deillio o ddefnyddio'r modelau hyn.
Yn y bôn, cyfrifoldeb ein cleient yw adolygu'r allbwn a gynhyrchir gan y Cynorthwyydd Testun Amgen AI hwnnw ar gyfer unrhyw achosion posibl o dorri rheolau eiddo deallusol.

Hygyrchedd

Gwnaethom ddylunio a datblygu'r Cynorthwyydd Testun Amgen AI gan ystyried hygyrchedd fel y gwnawn drwy gydol Learn a'n cynhyrchion eraill. Cyn rhyddhau'r Cynorthwyydd Testun Amgen AI, rydym wedi gwella hygyrchedd y strwythur semantig, llywio, rheolyddion bysellfwrdd, labeli, cydrannau personol, a llifoedd gwaith delweddau yn bwrpasol, i enwi dim ond rhai meysydd. Byddwn yn parhau i flaenoriaethu hygyrchedd wrth i ni fanteisio ar AI yn y dyfodol.

Atebolrwydd

Mae gan Anthology raglen AI Dibynadwy sydd wedi'i chynllunio i sicrhau defnyddio AI yn gyfreithiol, yn foesegol ac yn gyfrifol. Mae atebolrwydd mewnol clir ac adolygu swyddogaethau AI fel y rhai a ddarperir gan y Cynorthwyydd Testun Amgen AI yn foesegol ac yn systematig yn elfennau allweddol o'r rhaglen.
I gyflwyno'r Cynorthwyydd Testun Amgen AI, gweithion ar y cyd gyda Microsoft i ddefnyddio'r Gwasanaeth Azure Vision sy'n pweru'r Cynorthwyydd Testun Amgen AI. Roedd gan Microsoft ymrwymiad hirsefydlog i ddefnyddio AI yn foesegol.
Dylai cleientiaid ystyried gweithredu polisïau, gweithdrefnau ac adolygiadau mewnol o raglenni AI trydydd parti er mwyn sicrhau eu bod yn defnyddio AI yn cyfreithiol, yn foesegol ac yn gyfrifol. Darperir y wybodaeth hon i gefnogi ein cleientiaid i adolygu'r Cynorthwyydd Testun Amgen AI.