Illuminate Data Q&A - Yapay Zeka Şeffaflık Notu
Yapay zekanın (AI) yasal, etik ve sorumlu şekilde kullanımı, Anthology için önemli bir önceliktir. Bu nedenle, Güvenilir Yapay Zeka programını geliştirdik ve uygulamaya geçirdik. Programımız ve Güvenilir Yapay Zeka konusundaki genel yaklaşımımızla ilgili bilgileri Güven Merkezimizde ve Üretken Yapay Zeka Özellikleri Listemizde bulabilirsiniz.
Güvenilir Yapay Zeka ilkelerimizin bir parçası olarak şeffaflık, açıklanabilirlik ve sorumluluk taahhüt ediyoruz. Bu sayfada, müşterilerimize Illuminate Data Q&A'nın uygulanmasında yardımcı olmak için gerekli şeffaflığın ve açıklamaların sağlanması amaçlanmıştır. Yöneticilerin bu sayfayı dikkatle incelemesini ve ilgili kullanıcıların kurumlarında Illuminate Data Q&A işlevlerini etkinleştirmeden önce aşağıdaki dikkate alınması gereken hususlardan ve önerilerden haberdar olduğuna emin olmasını öneririz.
Bizimle nasıl iletişime geçeceksiniz?
- Güvenilir Yapay Zeka konusundaki genel yaklaşımımıza ya da bu sayfayı müşterilerimiz için nasıl daha yararlı hâle getirebileceğimize ilişki sorularınız veya geri bildirimleriniz için lütfen [email protected] adresini kullanarak bize e-posta gönderin.
- Illuminate Data Q&A'nın işlevselliği veya çıktılarıyla ilgili sorularınız veya geri bildirimleriniz için lütfen Behind the Blackboard aracılığıyla bir müşteri destek bileti gönderin.
Yapay zeka destekli işlevler
Illuminate Data Q&A özelliği, kullanıcının sorusuna karşılık Data Q&A panosunda sunulan verilerin yapay zeka tarafından oluşturulan metin özetini sağlar. Anthology'nin, bu işlevi sağlamak için AWS ile ortaklık kurmasının bir nedeni de AWS'nin yapay zekanın sorumlu kullanımını taahhüt etmesidir.
Illuminate Data Q&A özelliği, aşağıdaki üretken yapay zeka destekli işlevleri sağlar:
Veri özeti ve öneri oluşturma: Panoda görüntülenen verilerin yapay zeka tarafından oluşturulan metin özeti, kullanıcının sorusuna göre otomatik olarak oluşturulur. Bu özellik, veri isteğini iyileştirecek alternatif soruları da önerir.
Bu işlevler, Amazon Q/Amazon Bedrock'ın sınırlamalarına ve kullanılabilirliğine tabi olup, değişebilir. Ayrıntılar için ilgili sürüm notlarını inceleyin.
Temel Bilgiler
| Soru | Yanıt |
|---|---|
| Yapay zeka sistemleri hangi Illuminate işlevlerinde kullanılır? | Data Q&A özelliği yukarıda listelenmiştir. |
| Bu, üçüncü taraflarca desteklenen bir yapay zeka sistemi mi? | Evet. Illuminate Data Q&A, kendisi de Amazon Bedrock'tan yararlanan QuickSight'ta Amazon Q tarafından desteklenen bir özelliktir. QuickSight'ta Amazon Q, Amazon Bedrock aracılığıyla Anthropic Claude'u ve Amazon Titan'ı (yanı sıra da AWS tarafından geliştirilen makine öğrenimi modellerinin bir karışımını) kullanır. |
| Yapay zeka sistemi nasıl çalışır? | Illuminate Data Q&A, doğal dil işleme özelliklerine sahip bir iş zekası aracı olan Amazon QuickSight'a her zaman güvenmiştir. Illuminate, yeni üretken yapay zeka özellikleri için ayrıca QuickSight İçin Amazon Q'ya güvenmektedir. Illuminate Data Q&A, QuickSight İçin Amazon Q'nun yardımıyla Data Q&A panosunda görüntülenen verilerin özetini otomatik olarak oluşturur. Bu özellik, veri isteğini iyileştirecek alternatif soruları da önerir. Amazon Q, bu özellikleri sağlamak için Amazon Bedrock'taki Anthropic Claude ve Amazon Titan'dan (yanı sıra da AWS makine öğrenimi modellerinden) yararlanır. QuickSight'ta Amazon Q, özetleri oluşturmak ve soruları önermek için pano görsellerindeki kullanıcı sorularını ve özet verilerini bir API aracılığıyla ilgili AWS Bedrock modeline iletir. |
| Yapay zeka sistemi nerede barındırılıyor? | Amazon QuickSight'ın ve Amazon Bedrock'ın barındırıldığı yer, Amazon tarafından belirlenir. Amazon QuickSight, genel olarak Illuminate ile aynı bölgelerde kullanıma sunulmaktadır. Amazon Bedrock şu anda AB'de ve ABD'de kullanılabildiğinden, AB'deki ve ABD'deki müşterilerimiz için sırasıyla bu bölgelerden yararlanılmaktadır. Üretken yapay zeka modelinin çıktısı, Illuminate'te veya QuickSight'ta Amazon Q'da/Amazon Bedrock'ta kalıcı olarak depolanmayan geçici özetlerden ve alternatif sorulardan oluşur. |
| Bu isteğe bağlı bir işlev mi? | Evet. Yöneticilerin, Illuminate'in Ayarlar sayfasında kurumları adına kaydolmaları gerekir. Ayrıntılar için "Anthology Illuminate Ayarları" konusunu ziyaret edin. |
| Yapay zeka sistemi nasıl eğitilir? | Anthology, Illuminate Data Q&A'nın işlevlerini Amazon Bedrock aracılığıyla destekleyen Anthropic Claude ve Amazon Titan modellerinin eğitiminde yer almaz. Bu modeller, sırasıyla Anthropic (Anthropic Claude) ve Amazon (Amazon Titan) tarafından eğitilir. Anthology, kendisine veya müşterilerine ait verileri kullanarak bu modelleri iyileştirmez. |
| Müşteri verileri yapay zeka sistemini eğitmek/yeniden eğitmek için kullanılıyor mu? | Hayır. Amazon, Amazon Bedrock'taki büyük dil modellerinin yeniden eğitilmesi için herhangi bir girişi veya çıktıyı kullanmamayı herkese açık belgelerinde taahhüt eder. Amazon, aşağıdaki "Daha fazla bilgi" bölümünde yer alan bağlantılarda büyük dil modellerinin nasıl eğitildiği hakkında bilgi sağlamaktadır. Veri girişleri ve çıkışları, aktarım ve bekleme sırasında şifrelenir. |
| Anthology, Illuminate Data Q&A'nın sağlanmasıyla ilgili olarak kişisel bilgileri nasıl kullanıyor? | Anthology, Illuminate Data Q&A'yı sağlamak, sürdürmek ve desteklemek için yalnızca Illuminate Data Q&A ile bağlantılı olarak ve bunu yapmak için sözleşmeye dayalı izne sahip olduğumuz durumlarda toplanan bilgileri kullanır. Anthology'nin veri gizliliğine yaklaşımı hakkında daha fazla bilgiyi Güven Merkezimizde bulabilirsiniz. |
| Üçüncü taraf destekli bir yapay zeka sistemi söz konusu olduğunda, üçüncü taraf kişisel bilgileri nasıl kullanacak? | Özelliğin sağlanması için, yalnızca sınırlı kullanıcı soruları ve pano görsellerindeki özet veriler QuickSight İçin Amazon Q'dan Amazon Bedrock'a aktarılır. Ne Amazon ne de herhangi bir Amazon Bedrock modeli sağlayıcısı, Amazon Bedrock modellerini iyileştirmek için herhangi bir Anthology verisini veya Anthology müşteri verisini kullanmaz. Amazon Bedrock Güvenliği ve Gizliliği ile ilgili veri gizliliği uygulamaları hakkında daha fazla bilgiyi AWS Yapay Zeka Güvenliği Sayfası, AWS Makine Öğrenimi Blogu, QuickSight'ta Amazon Q'ya genel bakış, AWS, QuickSight'ta Amazon Q'yu duyurdu (blog makalesi) ve Amazon Bedrock Güvenliği ve Gizliliği sayfalarındaki Amazon belgelerinde bulabilirsiniz. |
| Illuminate Data Q&A tasarımında erişilebilirlik dikkate alındı mı? | Illuminate Data Q&A özelliği, Amazon QuickSight'tan yararlanır. Bu bir üçüncü taraf özelliği olduğundan, erişilebilirlik Anthology yerine Amazon tarafından değerlendirilmiştir. Amazon, erişilebilirlik uyumluluk raporlarını AWS Erişilebilirlik sayfaları aracılığıyla kullanıma sunar. |
Kurumlar için dikkat edilmesi gereken hususlar ve öneriler
Amaçlanan kullanım biçimleri
Illuminate Data Q&A'nın yalnızca yukarıda listelenen işlevleri desteklemesi amaçlanmıştır. Bu işlevler, müşterilerimizin eğitmenlerini Data Q&A raporlarını analiz etme ve geliştirme konularında desteklemek amacıyla sağlanmıştır.
Kapsam dışı kullanım biçimleri
Illuminate Data Q&A, şu anda üretken yapay zeka modellerine doğrudan talimat verebilecek soru sorma veya benzeri bir işlev sağlamamaktadır. Bu nedenle, istenmeyen (kapsam dışı) kullanım biçimleri öngörmüyoruz.
Güvenilir Yapay Zeka ilkelerinin kullanımı
Anthology ve Amazon, yapay zekanın yasal, etik ve sorumlu şekilde kullanımının temel bir öncelik olduğuna inanmaktadır. Bu bölümde; yapay zekanın yasal, etik ve sorumlu şekilde kullanımıyla ilgili riski ele almak ve Anthology Güvenilir Yapay Zeka ilkelerini uygulamak için Anthology ile Amazon'un birlikte nasıl çalıştığı açıklanmaktadır. Ayrıca, müşterilerimizin yapay zekayı uygularken etikle ilgili risklerinin yasal olarak ele alınması konusunda göz önünde bulundurabilecekleri adımlar da önerilmektedir.
Şeffaflık ve Açıklanabilirlik
- Illuminate yönetim yapılandırma seçeneklerinde, bunun yapay zeka destekli bir işlevsellik olduğu açıkça belirtilmektedir.
- Eğitmenlere yönelik kullanıcı arayüzünde, Illuminate Data Q&A işlevleri açıkça "Üretken" işlevler olarak belirtilmiştir. Eğitmenlerin, kullanmadan önce metin çıktısını gözden geçirmeleri de talep edilmektedir. Illuminate Data Q&A işlevleri tarafından oluşturulan çıktının meta verileri, her müşterinin Illuminate kullanım raporunda, otomatik olarak oluşturulan içeriğe özgü bir alanda gösterilir. Ayrıca, çıktının daha sonra eğitmen tarafından düzenlenip düzenlenmediği de belirtilir.
- Bu belgede Illuminate Data Q&A özelliğinin QuickSight'ta Amazon Q ile nasıl çalıştığına ilişkin verilen bilgilere ek olarak, Amazon da aşağıdaki "Daha fazla bilgi" bölümündeki bağlantılarda Amazon Q ve Amazon Bedrock hakkında daha fazla bilgi sağlamaktadır.
- Müşterilerimizi, Illuminate Data Q&A içinde yapay zekanın kullanımı konusunda şeffaf olmaya, ayrıca eğitmenleri ile diğer paydaşlarına bu belgedeki ve burada bağlantısı verilen belgelerdeki ilgili bilgileri uygun şekilde sağlamaya teşvik ediyoruz.
Güvenilirlik ve doğruluk
- Illuminate'in Illuminate Ayarları sayfasında, bunun yanlış veya istenmeyen çıktılar üretebilecek yapay zeka destekli bir işlevsellik olduğunu ve bu tür çıktıların mutlaka son kullanıcı tarafından gözden geçirilmesi gerektiğini açıkça belirtiyoruz.
- Kullanıcı arayüzünde, kullanıcılardan metin çıktısının doğruluğunu gözden geçirmeleri istenir.
- Amazon Bedrock SSS'lerinde ayrıntılı olarak açıklandığı gibi, hatalı çıktı riski vardır. Illuminate Data Q&A işlevinin kendine özgü yapısı ve uygulamalarımız yanlışlıkları en aza indirmeyi amaçlasa da, çıktıyı doğruluk, ön yargı ve diğer olası sorunlar açısından gözden geçirmekten müşterilerimiz sorumludur.
- Kullanıcılar, Q&A'da kullanılan soruyu veya ifadeyi yeniden düzenleyerek hatalı çıktıları kolaylıkla yeniden oluşturabilir.
- Müşteriler, Illuminate Data Q&A ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
- Müşteriler, giriş bölümünde listelenen kanalları kullanarak herhangi bir yanlış çıktıyı bize bildirebilir.
Tarafsızlık
- Büyük dil modelleri, doğası gereği genelleme, aşırı veya eksik temsil ve diğer zararlı ön yargı biçimleri ile ilgili riskler taşır.
- Bu riskler göz önüne alınmış ve zararlı ön yargıya daha yatkın olabilecek veya bu tür ön yargıların etkisinin daha önemli olabileceği kullanım biçimlerinden kaçınmak için Illuminate Data Q&A işlevleri tarafımızdan dikkatlice seçilmiştir.
- Bununla birlikte, çıktının bir kısmının zararlı önyargıdan etkilenebileceği göz ardı edilemez. Yukarıda "Doğruluk" başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenmektedir. Bu, zararlı ön yargıları azaltmaya yardımcı olabilir.
- Müşteriler, Illuminate Data Q&A ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
- Müşteriler, giriş bölümünde listelenen iletişim kanallarını kullanarak potansiyel olarak zararlı önyargıları bize bildirebilir.
Gizlilik ve Güvenlik
- Yukarıdaki "Temel bilgiler" bölümünde açıklandığı gibi, yalnızca sınırlı kullanıcı soruları ve özet veriler Illuminate Data Q&A'da kullanılır ve Amazon'un erişimine sunulur. Bu bölümde, kişisel bilgilerin kullanımı konusunda bizim ve Amazon'un taahhüdü de açıklanmaktadır.
- Amazon, verilerle ilgili gizlilik/güvenlik uygulamalarını ve taahhütlerini Amazon Bedrock Güvenliği ve Gizliliği hakkındaki belgelerde açıklamaktadır.
Güvenlik
- Büyük dil modelleri, yapıları gereği uygunsuz, saldırgan veya başka bir şekilde güvensiz olabilecek çıktılar üretme riski taşır. Amazon, bu riskleri Amazon'un Sorumlu Yapay Zeka sayfasının Sınırlamalar bölümünde açıklamaktadır.
- Bu riskler göz önüne alınmış ve güvensiz çıktılara daha yatkın olabilecek veya bu tür çıktıların ön yargıların etkisinin daha önemli olabileceği kullanım biçimlerinden kaçınmak için Illuminate Data Q&A işlevleri tarafımızdan dikkatlice seçilmiştir.
- Bununla birlikte, çıktının bir kısmının güvensiz olabileceği göz ardı edilemez. Yukarıda "Doğruluk" bölümünde belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenmektedir. Bu, güvenli olmayan çıktı riskini daha da azaltmaya yardımcı olabilir.
- Müşteriler, Illuminate Data Q&A ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
- Müşteriler, giriş bölümünde listelenen kanalları kullanarak potansiyel olarak güvenli olmayan çıktıları bize bildirmelidir.
Kontrolün insanlarda olması
- Müşterilerimiz ve kullanıcıları için üretken yapay zeka kullanımıyla ilgili riski en aza indirmek amacıyla, Illuminate Data Q&A işlevlerinin denetimini bilerek müşterilere veririz. Illuminate Data Q&A, bu nedenle isteğe bağlı bir özelliktir. Yöneticiler, Illuminate Data Q&A'yı istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir.
- Buna ek olarak, çıktının denetimi de eğitmenlerin elindedir. Yani, kendilerinden metin çıktısını gözden geçirmeleri istenir ve gerektiğinde çıktıyı yeniden oluşturabilirler.
- Illuminate Data Q&A, öğrenciler veya diğer bireyler üzerinde yasal ya da başka bir şekilde önemli etkisi olabilecek herhangi bir otomatik karar verme mekanizması içermez.
- Müşterilerimizi, Illuminate Data Q&A üretken yapay zeka özelliğini etkinleştirmeden önce, Illuminate Data Q&A'nın ve temel aldığı QuickSight'ta Amazon Q'nun yeteneklerini ve sınırlamalarını anladıklarına emin olmak için bu belgeyi ve içinde sağlanan bilgi bağlantılarını dikkatle incelemeye teşvik ediyoruz.
Değer eşleştirme
- Büyük dil modelleri, yapıları gereği önyargılı, uygunsuz veya Anthology'nin ya da müşterilerimizin ve öğrencilerimizin değerleriyle uyumlu olmayan çıktılar üretme riski taşır. Amazon, aşağıdaki "Daha Fazla Bilgi" bölümünde bağlantıları verilen web sitelerinde bu riskleri açıklamaktadır.
- Büyük dil modelleri (kapsamlı amaçlara hizmet eden her teknoloji gibi) ek olarak; Anthology'nin, müşterilerimizin veya onların son kullanıcılarının ve daha geniş anlamda toplumun değerleriyle uyumlu olmayan kullanım biçimleri yoluyla kötüye kullanılma riski taşır (örneğin; suç faaliyetleri için ya da zararlı veya başka bir şekilde uygunsuz çıktılar oluşturmak için).
- Bu riskleri göz önüne alınmış ve Illuminate Data Q&A işlevleri, uygun olmayan çıktı üretme riskini en aza indirecek şekilde dikkatlice tasarlanmış ve uygulanmıştır. Potansiyel olarak yüksek risk taşıyan işlevlere de özellikle yer verilmemiştir.
Fikri mülkiyet
- Büyük dil modelleri, yapıları gereği fikri mülkiyet haklarının ihlali gibi olası riskler sunar. Dünya genelinde çoğu fikri mülkiyet yasası hazırlanırken, büyük dil modellerinin ortaya çıkışı ve bunların kullanımından kaynaklanacak sorunların karmaşıklığı tam olarak öngörülememiş veya gereken uyarlamalar yapılmamıştır. Sonuç olarak, şu anda bu modellerin kullanımından kaynaklanan fikri mülkiyet sorunlarını ve risklerini ele alan net bir yasal çerçeve veya yönerge bulunmamaktadır.
- Dolayısıyla, Illuminate Data Q&A tarafından oluşturulan çıktılarda fikri mülkiyet hakları açısından herhangi bir ihlal durumu olup olmadığını incelemekten müşterilerimiz sorumludur.
Erişilebilirlik
- Illuminate Data Q&A'yı, tıpkı Learn'de ve diğer ürünlerimizde olduğu gibi erişilebilirliği göz önünde bulundurarak tasarladık ve geliştirdik. Illuminate Data Q&A'nın piyasaya sürülmesinden önce; anlamsal yapı, gezinme, klavye kontrolleri, etiketler, özel bileşenler ve görüntü iş akışları gibi alanların erişilebilirliğini özel olarak iyileştirdik. Gelecekte yapay zekadan yararlanırken erişilebilirliğe öncelik vermeye devam edeceğiz.
- Illuminate Data Q&A özelliği, Amazon QuickSight'tan yararlanır. AWS, erişilebilirlik uyumluluk raporlarını AWS Erişilebilirlik sayfaları aracılığıyla kullanıma sunar.
Hesap verebilirlik
- Anthology, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için tasarlanmış bir Güvenilir Yapay Zeka programına sahiptir. Şirket içinde sorumlulukların net şekilde paylaşılması ve Illuminate Data Q&A tarafından sağlananlar gibi yapay zeka işlevlerinin sistematik olarak ve etik açıdan incelenmesi programın temel direkleridir.
- Illuminate Data Q&A'yı hizmete sunarken, QuickSight'ta Amazon Q'dan yararlanmak için Amazon Q ile ortaklık kurduk. AWS, yapay zekanın sorumlu kullanımını taahhüt etmektedir.
- Müşteriler, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için dâhilî politikaları, prosedürleri uygulamayı ve üçüncü taraf yapay zeka uygulamalarını gözden geçirmeyi düşünmelidir. Bu bilgiler, müşterilerimizin Illuminate Data Q&A üretken yapay zeka özelliklerini incelemesini desteklemek amacıyla sağlanmıştır.
Daha fazla bilgi
- Anthology'nin Güvenilir yapay zeka yaklaşımı
- Amazon'un Sorumlu yapay zeka sayfası
- Amazon'un Bedrock SSS'leri
- Amazon'un Bedrock Güvenliği ve Gizliliği sayfası
- Amazon'un Yapay Zeka Güvenliği Sayfası
- Amazon'un Makine Öğrenimi Blogu
- Amazon'un QuickSight'ta Q genel özeti
- AWS, QuickSight'ta Amazon Q'yu duyurdu (blog makalesi)
