השימוש החוקי, האתי והאחראי בבינה מלאכותית (AI) נמצא בראש סדר העדיפויות של Anthology. לכן, פיתחנו ויישמנו תוכנית בינה מלאכותית אמינה. תוכל למצוא מידע על התוכנית שלנו ועל הגישה הכללית שלנו לבינה מלאכותית אמינה במרכז יחסי האמון שלנו ומידע נוסף על תכונות בינה מלאכותית גנרטיבית ברשימה של תכונות בינה מלאכותית גנרטיבית.

כחלק מעקרונות הבינה המלאכותית המהימנה שלנו, אנו מתחייבים לשקיפות, יכולת הסברה ונשיאה באחריות. דף זה נועד לספק את השקיפות וההסברים הדרושים כדי לסייע ללקוחותינו ביישום AI Alt Text Assistant. אנו ממליצים למנהלי מערכת לעיין בדף זה בקפידה ולוודא שהמדריכים מודעים לשיקולים ולהמלצות שלהלן לפני שתפעיל את הפונקציות של AI Alt Text Assistant עבור מוסד הלימודים שלך.

כיצד ליצור איתנו קשר:

  • לשאלות או משוב על הגישה הכללית שלנו לבינה מלאכותית אמינה או כיצד אנו יכולים להפוך דף זה למועיל יותר עבור לקוחותינו, שלח לנו דוא"ל לכתובת [email protected].
  • לשאלות או משוב על הפונקציונליות או הפלט של AI Alt Text Assistant, שלח כרטיס תמיכת לקוחות דרך Behind the Blackboard.

פונקציות המבוססות על בינה מלאכותית

AI Alt Text Assistant מספק למרצים הצעות לטקסט חלופי עבור תמונות המשמשות בקורסים המקוונים שלהם באמצעות זרימת העבודה 'משוב המרצה של Ally'. הוא נועד לעורר השראה במרצים ולייעל את תיקוני הנגישות. Anthology שיתפה פעולה עם Microsoft כדי לספק פונקציונליות זו, בין היתר משום של-Microsoft יש מחויבות ארוכת שנים לשימוש אתי בבינה מלאכותית.

AI Alt Text Assistant מספק את הפונקציות הבאות המבוססות על בינה מלאכותית גנרטיבית:

  • יצירת טקסט חלופי לתמונות.  מציע טקסט חלופי בתוך משוב מהמרצה של Ally כאשר מרצים מתקנים תמונות ללא טקסט חלופי.

פונקציות אלה כפופות למגבלות ולזמינות של Azure AI Vision Service וכפופות לשינויים. בדוק את הערות המוצר הרלוונטיות לקבלת פרטים.

עובדות מרכזיות

טבלה לדוגמה
שאלהתשובה
אילו פונקציות של Ally משתמשות במערכות בינה מלאכותית?הצעת טקסט חלופי באמצעות בינה מלאכותית (AI) בלוח המשוב למרצה של Ally, כאשר תמונה סומנה על-ידי Ally משום שאין בה טקסט חלופי.
האם זוהי מערכת בינה מלאכותית הנתמכת על ידי צד שלישי?כן – AI Alt Text Assistant מופעל על ידי Azure Vision Service של Microsoft. 
כיצד פועלת מערכת הבינה המלאכותית?

AI Alt Text Assistant ממנף את Azure Vision Service של Microsoft כדי ליצור פלט באופן אוטומטי. הדבר מושג על-ידי שימוש בתמונה כדי ליצור טקסט חלופי שנשלח דרך ה-API של Azure Vision. לא נעשה שימוש במידע נוסף (למשל, כותרת הקורס, תיאור הקורס). תמונות אינן משמשות לאימון המודלים של Microsoft Azure Vision ו-Azure Vision Service מפיק את הפלט בהתבסס על כל תמונה שמועלית ל-AI Alt Text Assistant. לא נעשה שימוש בהנחיות.

שים לב שעבור משתמשי קצה שמופעי LMS שלהם מוגדרים בשפות שאינן אנגלית, הפלט של הטקסט החלופי של בינה מלאכותית יתורגם באמצעות AWS Translate.

לקבלת הסבר מפורט על אופן הפעולה של מודלי השפה של Azure AI Vision, עיין בסעיף 'מבוא' של הערת השקיפות של Microsoft ובקישורים הכלולים בו.  

היכן מתארחת מערכת הבינה המלאכותית?Anthology משתמשת כעת במופעים גלובליים מרובים של Azure Vision Service. המופע הראשי מתארח בארצות הברית, אך לעתים אנו עשויים להשתמש במשאבים במקומות אחרים כגון צרפת, APAC כדי לספק את אפשרות הזמינות הטובה ביותר עבור Azure AI Vision עבור הלקוחות שלנו.

כל פלט הלקוח שנוצר על ידי AI Alt Text Assistant מאוחסן במסד הנתונים הקיים של Ally של כל לקוח המנוהל על-ידי Anthology.
האם זוהי פונקציונליות בהצטרפות?כן. מנהלי מערכת צריכים להפעיל את AI Alt Text Assistant באפשרויות התצורה של LMS Ally. בחר יצירת בינה מלאכותית של תיאורים חלופיים עבור תמונות תחת הכרטיסייה 'תכונות'. מנהלי מערכת יכולים להפעיל או לבטל פונקציונליות זו בכל עת.
כיצד מאומנת מערכת הבינה המלאכותית?

Anthology אינה מעורבת באימון של מודלים המפעילים את פונקציות AI Alt Text Assistant. מודלים אלה מאומנים על ידי Microsoft כחלק מ-Azure Vision Service. Microsoft מספקת מידע על אופן האימון של מודלי השפה הגדולים בסעיף 'מבוא' של הערת השקיפות של Microsoft והקישורים המסופקים בו.

Anthology אינה ממשיכה לכוונן את Azure Vision Service באמצעות הנתונים שלנו או של לקוחותינו.

האם נתוני הלקוח משמשים לאימון (מחדש) של מערכת הבינה המלאכותית?לא. Microsoft מתחייבת בחוזה בתנאי Azure Vision שלה עם Anthology לא להשתמש בשום קלט או פלט של Azure Vision לצורך אימון (מחדש) של מודל השפה הגדול. אותה התחייבות מופיעה בתיעוד של Microsoft בנושא נתונים, פרטיות ואבטחה עבור Azure Vision Service. רק דגמים בנויים מראש נמצאים בשימוש.
כיצד Anthology Ally משתמשת במידע אישי בנוגע לאספקת מערכת AI Al Text Assistant?

Anthology Ally משתמשת רק בתמונות שנאספו בקשר ל-AI Alt Text Assistant כדי לספק, לתחזק ולתמוך ב-AI Alt Text Assistant. תוכל למצוא מידע נוסף על הגישה של Anthology לפרטיות נתונים במרכז יחסי האמון של Anthology.

רק תמונות משמשות להפעלת תכונה זו. לא שותף מידע נוסף עם Microsoft Azure Vision Service.  

Microsoft אינה משתמשת בנתוני Anthology או בנתוני לקוח Anthology שיש לה גישה אליהם (כחלק מ-Azure Vision Service) כדי לשפר את מודלי Vision, לשפר את שירותי המוצרים שלה או של צד שלישי, או כדי לשפר באופן אוטומטי את המודלים של Azure Vision לשימוש של Anthology במשאב של Anthology (המודלים הם חסרי מצב).

תוכל למצוא מידע נוסף אודות נהלי פרטיות הנתונים בנוגע ל-Azure Vision Service בתיעוד של Microsoft בנושא נתונים, פרטיות ואבטחה עבור Azure Vision Service.

האם נלקחה בחשבון נגישות בעיצוב מערכת הטקסט החלופי של בינה מלאכותית?כן, מהנדסי הנגישות שלנו שיתפו פעולה עם צוותי מוצר כדי לסקור עיצובים, למסור שיקולי נגישות חשובים ולבדוק את התכונות החדשות במיוחד עבור נגישות. אנו נמשיך להתייחס לנגישות כחלק בלתי נפרד מגישת הבינה המלאכותית האמינה שלנו.

שיקולים והמלצות למוסדות לימודים

תרחישי שימוש מיועדים

AI Alt Text Assistant נועד לתמוך רק בפונקציות המפורטות לעיל. פונקציות אלה מסופקות למרצים של הלקוחות שלנו ומיועדות להם כדי לתמוך בהם בתיקון בעיות נגישות של תמונות שסומנו על-ידי Ally.

מקרי שימוש מחוץ לתחום

AI Alt Text Assistant לא נועד להפוך כל תמונה לנגישה עם טקסט חלופי מושלם ולא מבטיח זאת מכיוון שזה עדיין תלוי בכך שהמרצה יתאים או יאשר את הטקסט החלופי בהתבסס על ההקשר של התוכן בקורס. 

עקרונות בינה מלאכותית אמינה הלכה למעשה

Anthology ו-Microsoft מאמינות שהשימוש החוקי, האתי והאחראי בבינה מלאכותית נמצא בראש סדר העדיפויות. סעיף זה מסביר כיצד Anthology ו-Microsoft פעלו כדי לטפל בסיכון החל על השימוש החוקי, האתי והאחראי בבינה מלאכותית וליישם את עקרונות בינה מלאכותית אמינה של Anthology. הוא גם מציע צעדים שלקוחותינו יכולים לשקול בעת ביצוע בינה מלאכותית משלהם וסקירות משפטיות של סיכוני בינה מלאכותית אתיים הנלווים ליישום.

שקיפות ויכולת הסבר

  • אנו מבהירים באפשרויות התצורה של ניהול Ally שזוהי פונקציונליות המבוססת על בינה מלאכותית
  • בממשק המשתמש למרצים, הפונקציות של AI Alt Text Assistant מסומנות בבירור כפונקציות 'גנרטיביות'. המרצים מתבקשים גם לעיין בפלט הטקסט לפני השימוש. · המטה-נתונים של הפלט שנוצר על ידי פונקציות AI Alt Text Assistant נחשפים בדוח השימוש של Ally של כל לקוח עם שדה עבור תוכן שנוצר באופן אוטומטי. זה גם מראה אם הפלט נערך לאחר מכן על ידי המרצה.
  • בנוסף למידע המסופק במסמך זה על אופן הפעולה של AI Alt Text Assistant והמודלים של Azure Vision Service‏, Microsoft מספקת מידע נוסף אודות Azure Vision Service בהערת השקיפות שלה.
  • אנו ממליצים ללקוחות להתנהל בשקיפות לגבי השימוש בבינה מלאכותית בתוך AI Alt Text Assistant ולספק למרצים שלהם ולבעלי עניין אחרים בהתאם לצורך את המידע הרלוונטי ממסמך זה ומהתיעוד המקושר בזאת.

אמינות ודיוק

  • אנו מבהירים באפשרויות התצורה ובתנאי השימוש של הניהול של Ally כי זוהי פונקציונליות המבוססת על בינה מלאכותית שעשויה להפיק פלט לא מדויק או לא רצוי וכי פלט כזה צריך תמיד להיבדק על ידי המרצה.
  • בממשק המשתמש, המרצים מתבקשים לבדוק את פלט הטקסט לדיוק.
  • כמפורט בסעיף 'מגבלות' של הערת השקיפות של Azure Vision Service, קיים סיכון לפלט לא מדויק. בעוד שהאופי הספציפי של AI Alt Text Assistant והיישום שלנו נועד למזער את אי הדיוק, באחריות הלקוח שלנו לסקור את הפלט ולבדוק דיוק, הטיות ובעיות פוטנציאליות אחרות.
  • כחלק מהתקשורת שלהם בנוגע ל-AI Alt Text Assistant, הלקוחות צריכים ליידע את המרצים שלהם לגבי מגבלה פוטנציאלית זו.
  • מרצים יכולים להשתמש בממשק הקיים של Ally כדי לערוך באופן ידני את הפלט של AI Alt Text Assistant לפני פרסום הפלט לתלמידים.
  • לקוחות יכולים לדווח לנו על כל פלט לא מדויק באמצעות הערוצים המפורטים במבוא.

הגינות

  • מודלי שפה גדולים מציגים מטבעם סיכונים הקשורים לסטריאוטיפים, ייצוג יתר/תת-ייצוג וצורות אחרות של הטיה מזיקה. Microsoft מתארת סיכונים אלה בסעיף 'מגבלות' שלה בהערת השקיפות של Azure Vision Service.
  • בהתחשב בסיכונים אלה, בחרנו בקפידה את פונקציות AI Alt Text Assistant כדי להימנע ממקרי שימוש שעשויים להיות מועדים יותר להטיה מזיקה או שבהם ההשפעה של הטיה כזו עשויה להיות משמעותית יותר.
  • עם זאת, לא ניתן להוציא מכלל אפשרות שחלק מהפלט יושפע מהטיה מזיקה. כפי שמוזכר לעיל תחת 'דיוק', המרצים מתבקשים לבדוק את הפלט, דבר אשר יכול לעזור להפחית כל הטיה מזיקה.
  • כחלק מהתקשורת שלהם בנוגע ל-AI Alt Text Assistant, הלקוחות צריכים ליידע את המרצים שלהם לגבי מגבלה פוטנציאלית זו.
  • לקוחות יכולים לדווח לנו על כל הטיה שעלולה להזיק לנו באמצעות ערוצי הקשר המפורטים במבוא.

פרטיות ואבטחה

  • כפי שמתואר בסעיף 'עובדות עיקריות' לעיל, רק התמונה משמשת עבור AI Alt Text Assistant ונגישה ל-Microsoft. הסעיף מתאר גם את המחויבות שלנו ושל Microsoft בנוגע לשימוש במידע אישי כלשהו.  
  • Ally מאושרת לפי תקן ISO 27001/27017/27018/27701. אישורים אלה יכללו את הפלט הקשור ל-AI Alt Text Assistant המנוהל על ידי Anthology. תוכל למצוא מידע נוסף על הגישה של Anthology לפרטיות ואבטחת נתונים במרכז יחסי האמון שלנו.
  • Microsoft מתארת את נוהלי הפרטיות והאבטחה של הנתונים ואת ההתחייבויות שלה בתיעוד בנושא נתונים, פרטיות ואבטחה עבור Azure Vision Service.
  • ללא קשר למחויבות של Anthology ו-Microsoft בנוגע לפרטיות נתונים ואי שימוש בקלט כדי לאמן (מחדש) את המודלים, ייתכן שלקוחות ירצו לייעץ למרצים שלהם לא לכלול מידע אישי או מידע סודי אחר בתמונות.

בטיחות

  • מודלי שפה גדולים מהווים מטבעם סיכון לפלט שעשוי להיות בלתי הולם, פוגעני או לא בטוח בכל דרך אחרת. Microsoft מתארת סיכונים אלה בסעיף 'מגבלות' שלה בהערת השקיפות של Azure Vision Service.
  • בהתחשב בסיכונים אלה, בחרנו בקפידה את פונקציות AI Alt Text Assistant כדי להימנע ממקרי שימוש שעשויים להיות מועדים יותר לפלט לא בטוח או שבהם ההשפעה של פלט כזה עשויה להיות משמעותית יותר.
  • עם זאת, לא ניתן להוציא מכלל אפשרות שחלק מהפלט לא יהיה בטוח. כפי שמוזכר לעיל תחת 'דיוק', המרצים מתבקשים לבדוק את הפלט, דבר שיכול לעזור להפחית עוד יותר את הסיכון לפלט לא בטוח.
  • כחלק מהתקשורת שלהם בנוגע ל-AI Alt Text Assistant, הלקוחות צריכים ליידע את המרצים שלהם לגבי מגבלה פוטנציאלית זו.
  • לקוחות צריכים לדווח לנו על כל פלט לא בטוח באמצעות הערוצים המפורטים במבוא.

בני אדם בשליטה

  • כדי למזער את הסיכון הקשור לשימוש בבינה מלאכותית גנרטיבית עבור לקוחותינו והמשתמשים שלהם, אנו מעניקים ללקוחות במכוון שליטה בפונקציות של AI Alt Text Assistant. לפיכך, AI Alt Text Assistant היא תכונה הכרוכה בהצטרפות. מנהלי מערכת יכולים להפעיל או להשבית את AI Alt Text Assistant בכל עת.  
  • בנוסף, המרצים שולטים בפלט, כלומר הם מתבקשים לסקור את פלט הטקסט ויכולים לערוך את פלט הטקסט, לפי הצורך.
  • AI Alt Text Assistant אינו כולל קבלת החלטות אוטומטית שיכולה להיות לה השפעה משפטית או משמעותית אחרת על תלמידים או אנשים אחרים.
  • אנו ממליצים ללקוחות לעיין בקפידה במסמך זה, כולל הקישורים למידע המופיעים בו, כדי לוודא שהם מבינים את היכולות והמגבלות של AI Alt Text Assistant ושל Azure Vision Service המשמש כבסיס, לפני שהם מפעילים את AI Alt Text Assistant.

יישור קו לגבי ערכים

  • מודלי שפה גדולים טומנים בחובם מטבעם סיכונים בנוגע לפלט מוטה, בלתי הולם או שאינו עולה בקנה אחד עם ערכי Anthology או עם הערכים או עם הלקוחות והתלמידים שלנו. Microsoft מתארת סיכונים אלה בסעיף 'מגבלות' שלה בהערת השקיפות של Azure Vision Service.
  • בנוסף, מודלי שפה גדולים (כמו כל טכנולוגיה המשרתת מטרות רחבות), טומנים בחובם את הסיכון שבדרך כלל ניתן יהיה להשתמש בהם לרעה למקרי שימוש שאינם עולים בקנה אחד עם ערכי Anthology, הלקוחות שלנו או משתמשי הקצה שלהם ואלה של החברה באופן רחב יותר (למשל, עבור פעילויות פליליות, כדי ליצור פלט מזיק או בלתי הולם בדרך אחרת).
  • בהתחשב בסיכונים אלה, תכננו ויישמנו בקפידה את פונקציות AI Alt Text Assistant שלנו באופן שממזער את הסיכון לפלט שאינו תואם. לדוגמה, התמקדנו בפונקציות עבור מרצים ולא עבור תלמידים. כמו כן, השמטנו בכוונה פונקציות בעלות פוטנציאל סיכון גבוה. ·

קניין רוחני

  • מודלי שפה גדולים טומנים בחובם מטבעם סיכונים הנוגעים להפרה פוטנציאלית של זכויות קניין רוחני. רוב חוקי הקניין הרוחני ברחבי העולם לא צפו ולא הותאמו באופן מלא להופעתם של מודלי שפה גדולים ולמורכבות הסוגיות המתעוררות מהשימוש בהם. כתוצאה מכך, אין כיום מסגרת משפטית ברורה או הנחיות המתייחסות לסוגיות הקניין הרוחני ולסיכונים הנובעים משימוש במודלים אלה.
  • בסופו של דבר, באחריות הלקוח שלנו לסקור פלט שנוצר על-ידי AI Alt Text Assistant עבור כל הפרה פוטנציאלית של זכויות קניין רוחני.  

נגישות

  • עיצבנו ופיתחנו את AI Alt Text Assistant מתוך מחשבה על נגישות, כפי שאנו עושים ב-Learn ובמוצרים האחרים שלנו. לפני ההשקה של AI Alt Text Assistant, שיפרנו בכוונה את הנגישות של המבנה הסמנטי, הניווט, פקדי לוח המקשים, התוויות, הרכיבים המותאמים אישית ותהליכי העבודה של התמונות, אם לציין מספר תחומים. נמשיך לתעדף את הנגישות ככל שנמנף את הבינה המלאכותית בעתיד.

נשיאה באחריות

  • ל-Anthology יש תוכנית בינה מלאכותית אמינה שנועדה להבטיח שימוש חוקי, אתי ואחראי בבינה מלאכותית. נשיאה באחריות פנימית ברורה וסקירה שיטתית של בינה מלאכותית אתית או פונקציות כגון אלה המסופקות על ידי AI Alt Text Assistant הן עמודי התווך העיקריים של התוכנית.
  • כדי לספק את AI Alt Text Assistant, שיתפנו פעולה עם Microsoft כדי למנף את Azure Vision Service שמפעיל את AI Alt Text Assistant. ל-Microsoft הייתה מחויבות ארוכת שנים לשימוש אתי בבינה מלאכותית.
  • לקוחות צריכים לשקול יישום מדיניות פנימית, נהלים וסקירה של יישומי בינה מלאכותית של צד שלישי כדי להבטיח שימוש חוקי, אתי ואחראי משלהם בבינה מלאכותית. מידע זה מסופק כדי לתמוך בסקירה של לקוחותינו של AI Alt Text Assistant.

מידע נוסף