Illuminate Data Q&A – KI-Transparenzhinweis

Illuminate Data Q&A – KI-Transparenzhinweis 

Der rechtmäßige, ethische und verantwortungsvolle Einsatz von künstlicher Intelligenz (KI) hat für Anthology höchste Priorität. Aus diesem Grund haben wir ein Programm für vertrauenswürdige KI entwickelt und implementiert. Informationen zu unserem Programm und dem allgemeinen Ansatz für vertrauenswürdige KI finden Sie in unserem Trust Center und der Liste generativer KI-Funktionen. 

Im Rahmen unserer Prinzipien für vertrauenswürdige KI verpflichten wir uns zu Transparenz, Erklärbarkeit und Rechenschaftspflicht. Diese Seite soll die notwendige Transparenz und Erklärungen bereitstellen, um unseren Kunden bei der Implementierung von Illuminate Data Q&A zu helfen. Wir empfehlen Administratoren, diese Seite sorgfältig zu lesen und sicherzustellen, dass die entsprechenden Benutzer die folgenden Überlegungen und Empfehlungen kennen, bevor sie die Funktionen von Illuminate Data Q&A für ihre Institution aktivieren. 

So erreichen Sie uns: 

• Wenn Sie Fragen oder Feedback zu unserem allgemeinen Ansatz für vertrauenswürdige KI haben oder vorschlagen möchten, wie wir diese Seite für unsere Kunden hilfreicher gestalten können, senden Sie uns bitte eine E-Mail an [email protected]. 
• Wenn Sie Fragen oder Feedback zur Funktionalität oder der Ausgabe von Illuminate Data Q&A haben, senden Sie ein Kundensupport-Ticket über „Behind the Blackboard“.

KI-gestützte Funktionalitäten 

Die Illuminate Data Q&A-Funktion bietet eine KI-generierte Textzusammenfassung der Daten, die im Dashboard von Data Q&A dargestellt werden, das aus der Eingabeaufforderung des Benutzers generiert wird. Anthology hat sich mit AWS zusammengetan, um diese Funktionalität bereitzustellen, zum Teil, weil AWS sich für einen verantwortungsvollen Umgang mit KI einsetzt.

Die Illuminate Data Q&A-Funktion bietet die folgenden generativen, KI-gestützten Funktionen: 

Datenzusammenfassung und Vorschläge generieren: Eine KI-generierte Textzusammenfassung der auf dem Dashboard angezeigten Daten wird automatisch basierend auf der Eingabeaufforderung des Benutzers erstellt. Die Funktion schlägt auch alternative Eingabeaufforderungen zur Verfeinerung der Datenanforderung vor.  

Diese Funktionen unterliegen den Einschränkungen und der Verfügbarkeit von Amazon Q / Amazon Bedrock und können Änderungen unterliegen. Weitere Informationen finden Sie in den entsprechenden Versionshinweisen.

Wichtige Fakten

Überlegungen und Empfehlungen für Institutionen 

Vorgesehene Anwendungsfälle 

Illuminate Data Q&A ist nur dazu gedacht, die oben aufgeführten Funktionalitäten zu unterstützen. Diese Funktionen werden den Kursleitern unserer Kunden zur Verfügung gestellt und sind dafür vorgesehen, um sie bei der Analyse und Verbesserung von Data Q&A-Berichten zu unterstützen. 

Anwendungsfälle außerhalb des Anwendungsbereichs 

Illuminate Data Q&A stellt derzeit keine Eingabeaufforderungsfunktion oder ähnliche Funktionalität bereit, die die generativen KI-Modelle direkt anweisen kann. Aus diesem Grund erwarten wir keine unbeabsichtigten (außerhalb des Geltungsbereichs liegenden) Anwendungsfälle.

Prinzipien für vertrauenswürdige KI in der Praxis 

Anthology und Amazon gehen davon aus, dass der rechtmäßige, ethische und verantwortungsvolle Einsatz von KI eine der wichtigsten Prioritäten ist. In diesem Abschnitt wird erläutert, wie Anthology und Amazon daran gearbeitet haben, das entsprechende Risiko für die rechtliche, ethische und verantwortungsvolle Nutzung von KI zu handhaben und die Prinzipien für vertrauenswürdige KI von Anthology umzusetzen. Außerdem werden Schritte vorgeschlagen, die unsere Kunden bei der Durchführung ihrer eigenen KI in Betracht ziehen können, sowie rechtliche Überprüfungen der ethischen KI-Risiken ihrer Implementierung. 

Transparenz und Erklärbarkeit 

• Wir machen in den Konfigurationsoptionen der Illuminate-Administration deutlich, dass es sich um eine KI-gestützte Funktionalität handelt. 
• In der Benutzeroberfläche für Kursleiter sind die Funktionen von Illuminate Data Q&A eindeutig als „generative“ Funktionen gekennzeichnet. Die Kursleiter werden außerdem gebeten, die Textausgabe vor der Verwendung zu überprüfen. Die Metadaten der Ausgabe, die von der Illuminate Data Q&A-Funktionalität wird im Illuminate-Nutzungsbericht jedes Kunden mit einem Feld für automatisch generierte Inhalte angezeigt. Außerdem wird angezeigt, ob die Ausgabe nachträglich vom Kursleiter bearbeitet wurde. 
• Zusätzlich zu den in diesem Dokument bereitgestellten Informationen darüber, wie die Illuminate Data Q&A-Funktion mit Amazon Q in QuickSight funktioniert, stellt Amazon zusätzliche Informationen zu Amazon Q und Amazon Bedrock in den Links im Abschnitt „Weitere Informationen“ unten bereit. 
• Wir fordern unsere Kunden auf, den Einsatz von KI innerhalb von Illuminate Data Q&A transparent zu machen und ihren Kursleitern und anderen Interessengruppen gegebenenfalls die relevanten Informationen aus diesem Dokument und der hierin verlinkten Dokumentation zur Verfügung zu stellen.

Zuverlässigkeit und Genauigkeit 

• Wir weisen auf der Einstellungsseite von Illuminate darauf hin, dass es sich um eine KI-gestützte Funktionalität handelt, die zu ungenauen oder unerwünschten Ausgaben führen kann, und dass diese Ausgaben immer vom Endnutzer überprüft werden sollten. 
• In der Benutzeroberfläche werden die Nutzer aufgefordert, die Textausgabe auf Richtigkeit zu überprüfen. 
• Wie in den häufig gestellten Fragen zu Amazon Bedrock beschrieben, besteht das Risiko einer ungenauen Ausgabe. Während die Besonderheit von Illuminate Data Q&A und unserer Implementierung darauf abzielt, Ungenauigkeiten zu minimieren, liegt es in der Verantwortung unseres Kunden, die Ausgabe auf Genauigkeit, Unvoreingenommenheit und andere potenzielle Probleme zu überprüfen. 
• Benutzer können ungenaue Ausgaben ganz einfach neu generieren, indem sie die Frage oder den Satz, der in der Data Q&A-Eingabeaufforderung verwendet wird, umformulieren. 
• Im Rahmen ihrer Kommunikation in Bezug auf Illuminate Data Q&A sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen.
• Kunden können uns jede unzutreffende Ausgabe über die in der Einleitung aufgeführten Kanäle melden.

Fairness

• Große Sprachmodelle bergen von Natur aus Risiken in Bezug auf Stereotypisierung, Über-/Unterrepräsentation und andere Formen unerwünschter Voreingenommenheit.
• Angesichts dieser Risiken haben wir die Funktionen von Illuminate Data Q&A sorgfältig ausgewählt, um Anwendungsfälle zu vermeiden, die anfälliger für unerwünschte Voreingenommenheit sind oder bei denen die Auswirkungen einer solchen Voreingenommenheit signifikanter sein könnten. 
• Dennoch kann nicht ausgeschlossen werden, dass ein Teil der Ausgabe durch unerwünschte Voreingenommenheit beeinträchtigt wird. Wie oben unter „Genauigkeit“ erwähnt, werden die Kursleiter gebeten, die Ergebnisse zu überprüfen, was dazu beitragen kann, unerwünschte Voreingenommenheit zu reduzieren. 
• Im Rahmen ihrer Kommunikation in Bezug auf Illuminate Data Q&A sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen. 
• Kunden können uns potenziell schädigende Voreingenommenheit über die in der Einleitung aufgeführten Kontaktkanäle melden.

Datenschutz und Sicherheit

• Wie oben im Abschnitt „Wichtige Fakten“ beschrieben, werden nur begrenzte Benutzeraufforderungen und Zusammenfassungsdaten für Illuminate Data Q&A verwendet und für Amazon zugänglich gemacht. Der Abschnitt beschreibt auch unsere und Amazons Verpflichtung in Bezug auf die Verwendung personenbezogener Daten. 
• Amazon beschreibt seine Datenschutz- und Sicherheitspraktiken und -verpflichtungen in der Dokumentation Amazon Bedrock Security and Privacy.

Sicherheit 

• Große Sprachmodelle bergen naturgemäß das Risiko von Ausgaben, die unangemessen, anstößig oder anderweitig unerwünscht sein können. Amazon beschreibt diese Risiken im Abschnitt „Einschränkungen“ auf der Amazon-Seite „Verantwortungsvolle KI“. 
• Angesichts dieser Risiken haben wir die Funktionen von Illuminate Data Q&A sorgfältig ausgewählt, um Anwendungsfälle zu vermeiden, die anfälliger für unerwünschte Ausgaben sind oder bei denen die Auswirkungen solcher Ausgaben erheblicher sein könnten. 
• Dennoch kann nicht ausgeschlossen werden, dass ein Teil der Ausgabe unerwünscht sein kann. Wie oben im Abschnitt „Genauigkeit“ erwähnt, werden die Kursleiter gebeten, die Ausgabe zu überprüfen, was dazu beitragen kann, das Risiko unerwünschter Ausgaben weiter zu verringern. 
• Im Rahmen ihrer Kommunikation in Bezug auf Illuminate Data Q&A sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen. 
• Kunden sollten uns jede potenziell unerwünschte Ausgabe über die in der Einleitung aufgeführten Kanäle melden.

Persönliche Kontrolle

• Um das Risiko im Zusammenhang mit dem Einsatz generativer KI für unsere Kunden und deren Nutzer zu minimieren, geben wir unseren Kunden bewusst die Kontrolle über die Funktionalitäten von Illuminate Data Q&A. Illuminate Data Q&A ist also eine Opt-in-Funktion. Administratoren können Illuminate Data Q&A jederzeit aktivieren oder deaktivieren. 
• Darüber hinaus haben Kursleiter die Kontrolle über die Ausgabe. Dies bedeutet, dass sie aufgefordert werden, die Ausgabe zu überprüfen und die Ausgabe nach Bedarf neu generieren können.
• Illuminate Data Q&A enthält keine automatisierte Entscheidungsfindung, die rechtliche oder anderweitig erhebliche Auswirkungen auf Lernende oder andere Personen haben könnte. 
• Wir empfehlen Kunden, dieses Dokument, einschließlich der hierin enthaltenen Informationslinks, sorgfältig zu lesen, um sicherzustellen, dass sie die Funktionen und Einschränkungen von Illuminate Data Q&A und des zugrunde liegenden Amazon Q in QuickSight verstehen, bevor sie Illuminate Data Q&A aktivieren.

Werteausrichtung 

• Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf Ergebnisse, die voreingenommen oder unangemessen sind oder anderweitig nicht mit den Werten von Anthology oder den Werten unserer Kunden und Lernenden übereinstimmen. Amazon beschreibt diese Risiken auf den verlinkten Websites im Abschnitt „Weitere Informationen“ weiter unten. 
• Darüber hinaus bergen große Sprachmodelle (wie jede Technologie, die breit gefächerten Zwecken dient) das Risiko, dass sie für Anwendungsfälle missbraucht werden können, die nicht mit den Werten der Anthology, unserer Kunden oder ihrer Endnutzer und denen der Gesellschaft im Allgemeinen übereinstimmen (z. B. für kriminelle Aktivitäten, um schädliche oder anderweitig unangemessene Ergebnisse zu erzeugen). 
• Angesichts dieser Risiken haben wir unsere Funktionen von Illuminate Data Q&A sorgfältig so konzipiert und implementiert, dass das Risiko einer falsch ausgerichteten Ausgabe minimiert wird. Wir haben auch bewusst auf potenziell risikoreiche Funktionalitäten verzichtet.

Geistiges Eigentum 

• Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf eine mögliche Verletzung von geistigen Eigentumsrechten. Die meisten Gesetze zum Schutz des geistigen Eigentums rund um den Globus haben das Aufkommen großer Sprachmodelle und die Komplexität der Probleme, die sich aus ihrer Verwendung ergeben, nicht vollständig antizipiert oder sich daran angepasst. Infolgedessen gibt es derzeit keinen klaren Rechtsrahmen oder Leitfaden, der sich mit den Fragen des geistigen Eigentums und den Risiken befasst, die sich aus der Verwendung dieser Modelle ergeben. 
• Letztendlich liegt es in der Verantwortung unseres Kunden, die von Illuminate Data Q&A generierten Ergebnisse auf mögliche Verletzungen von geistigen Eigentumsrechten zu überprüfen.

Barrierefreiheit 

• Bei der Konzeption und Entwicklung von Illuminate Data Q&A stand die Barrierefreiheit im Vordergrund, wie wir es auch bei Learn und unseren anderen Produkten tun. Vor der Veröffentlichung von Illuminate Data Q&A haben wir gezielt die Barrierefreiheit der semantischen Struktur, der Navigation, der Tastatursteuerelemente, der Beschriftungen, der benutzerdefinierten Komponenten und der Bild-Workflows verbessert, um nur einige Bereiche zu nennen. Wir werden der Barrierefreiheit auch in Zukunft Priorität einräumen, wenn wir KI nutzen. 
• Die Illuminate Data Q&A-Funktion nutzt Amazon QuickSight. AWS stellt Berichte zur Konformität mit der Barrierefreiheit über die AWS-Seiten zur Barrierefreiheit zur Verfügung.

Rechenschaftspflicht 

• Anthology verfügt über ein vertrauenswürdiges KI-Programm, das den rechtlichen, ethischen und verantwortungsvollen Einsatz von KI sicherstellen soll. Eine klare interne Verantwortlichkeit und die systematische ethische Überprüfung der KI oder Funktionalitäten, wie sie Illuminate Data Q&A bietet, sind wichtige Säulen des Programms. 
• Um Illuminate Data Q&A bereitzustellen, haben wir uns mit Amazon zusammengetan und nutzen Amazon Q in QuickSight. AWS setzt sich für einen verantwortungsvollen Umgang mit KI ein. 
• Kunden sollten die Implementierung interner Richtlinien, Verfahren und die Überprüfung von KI-Anwendungen von Drittanbietern in Betracht ziehen, um ihre eigene rechtliche, ethische und verantwortungsvolle Nutzung von KI sicherzustellen. Diese Informationen werden zur Verfügung gestellt, um unsere Kunden bei der Überprüfung der generativen KI-Funktionen von Illuminate Data Q&A zu unterstützen.

Weitere Informationen 

• Der Ansatz für vertrauenswürdige KI von Anthology 
• Amazons Seite für verantwortungsvolle KI 
• Häufig gestellte Fragen zu Amazon Bedrock 
• Amazons Seite zu Bedrock Security and Privacy 
• Amazons KI-Sicherheitsseite
• Amazons Machine-Learning-Blog 
• Amazons Übersicht über Q in QuickSight
• AWS kündigt Amazon Q in QuickSight an (Blogartikel)