Yapay Zeka Alternatif Metin Yardımcısı - Şeffaflık Notu

Yapay zekanın (AI) yasal, etik ve sorumlu şekilde kullanımı, Anthology için önemli bir önceliktir. Bu nedenle, Güvenilir bir yapay zeka programı geliştirdik ve uyguladık. Programımız ve Güvenilir Yapay Zeka konusundaki genel yaklaşımımızla ilgili bilgileri Güven Merkezimizde, üretken yapay zeka özellikleri hakkında daha fazla bilgiyi ise Üretken yapay zeka özellikleri listemizde bulabilirsiniz.

Güvenilir Yapay Zeka ilkelerimizin bir parçası olarak şeffaflık, açıklanabilirlik ve sorumluluk taahhüt ediyoruz. Bu sayfada, müşterilerimize Yapay Zeka Alternatif Metin Yardımcısı'nın uygulanmasında yardımcı olmak için gerekli şeffaflığın ve açıklamaların sağlanması amaçlanmaktadır. Kurumunuz için Yapay Zeka Alternatif Metin Yardımcısı işlevlerini etkinleştirmeden önce yöneticilerin bu sayfayı dikkatle incelemesini ve eğitmenlerin aşağıdaki önemli noktalardan ve önerilerden haberdar olduğundan emin olmasını öneririz.

Bizimle nasıl iletişime geçeceksiniz:

• Güvenilir Yapay Zeka konusundaki genel yaklaşımımız veya bu sayfayı müşterilerimiz için nasıl daha yararlı hale getirebileceğimizle ilgili sorularınız veya geri bildirimleriniz için lütfen [email protected] adresinden bize e-posta gönderin.
• Yapay Zeka Alternatif Metin Yardımcısı'nın işlevselliği veya çıktılarıyla ilgili sorularınız veya geri bildirimleriniz için lütfen Behind the Blackboard aracılığıyla bir müşteri destek bileti gönderin.

Yapay zeka destekli işlevler

Yapay Zeka Alternatif Metin Yardımcısı, Ally Eğitmen Geri Bildirimi iş akışı aracılığıyla eğitmenlere çevrim içi kurslarında kullanılan görüntüler için alternatif metin önerileri sunar. Eğitmenlere ilham vermek ve erişilebilirlik düzeltmelerini daha etkili hâle getirmek için tasarlanmıştır. Anthology bu işlevselliği sağlamak için Microsoft ile ortaklık kurmuştur, bunun nedeni Microsoft'in yapay zekanın etik şekilde kullanımı konusunda uzun süredir devam eden bir taahhüdü olmasıdır.

Yapay Zeka Alternatif Metin Yardımcısı, yapay zeka tarafından kolaylaştırılan aşağıdaki üretken işlevleri sağlar:

• Görüntüler için alternatif metin oluşturun.  Eğitmenler alternatif metin bulunmayan görüntüleri düzeltirken Ally Eğitmen Geri Bildirimi içinde alternatif bir metin önerir.

Bu işlevler, Azure Yapay Zeka Görüntü İşleme Hizmeti'nin sınırlamalarına ve kullanılabilirliğine tâbidir ve değiştirilebilir. Ayrıntılar için lütfen ilgili sürüm notlarını kontrol edin.

Temel bilgiler

Dikkat edilmesi gerekenler ve kurumlar için öneriler

Amaçlanan kullanım örnekleri

Yapay Zeka Alternatif Metin Yardımcısı'nın yalnızca yukarıda listelenen işlevleri desteklemesi amaçlanmıştır. Bu işlevler, müşterilerimizin eğitmenlerine, Ally tarafından işaretlenen görüntülerin erişilebilirlik sorunlarının düzeltilmesinde onları desteklemek için sağlanır.

Kapsam dışı kullanım örnekleri

Yapay Zeka Alternatif Metin Yardımcısı, kurstaki içeriğin bağlamına göre alternatif metni ayarlamak veya onaylamak yine eğitmene bağlı olduğundan, her görüntüyü mükemmel alternatif metinle sunmak için tasarlanmamıştır ve böyle bir garanti vermez. 

Güvenilir yapay zeka ilkelerinin kullanımı

Anthology ve Microsoft, yapay zekanın yasal, etik ve sorumlu şekilde kullanımının temel bir öncelik olduğuna inanmaktadır. Bu bölümde; yapay zekanın yasal, etik ve sorumlu şekilde kullanımıyla ilgili riski ele almak ve Anthology Güvenilir Yapay Zeka ilkelerini uygulamak için Anthology ile Microsoft'un birlikte nasıl çalıştığı açıklanmaktadır. Ayrıca müşterilerimizin yapay zekayı kullanırken etikle ilgili risklerinin yasal olarak ele alınması konusunda göz önünde bulundurabilecekleri adımlar önerilmektedir.

Şeffaflık ve Açıklanabilirlik

• Ally yönetim yapılandırma seçeneklerinde bunun yapay zeka destekli bir işlevsellik olduğu açıkça belirtilmektedir
• Eğitmenlere yönelik kullanıcı arayüzünde, Yapay Zeka Alternatif Metin Yardımcısı işlevleri açıkça "Üretken" işlevler olarak belirtilmiştir. Eğitmenlerin ayrıca kullanmadan önce metin çıktısını gözden geçirmeleri beklenir. · Yapay Zeka Alternatif Metin Yardımcısı işlevleri tarafından oluşturulan çıktının meta verileri, her müşterinin Ally kullanım raporunda, otomatik olarak oluşturulan içeriklerle ilgili bir alanda gösterilir. Ayrıca, çıktının daha sonra eğitmen tarafından düzenlenip düzenlenmediği de belirtilir.
• Microsoft, Yapay Zeka Alternatif Metin Yardımcısı ve Azure Görüntü İşleme Hizmeti modellerinin nasıl çalıştığı hakkında bu belgede sağlanan bilgilere ek olarak, Şeffaflık Notu'nda Azure Görüntü İşleme Hizmeti hakkında ek bilgiler de sağlar.
• Müşterilerimizi, Yapay Zeka Alternatif Metin Yardımcısı'nda yapay zekanın kullanımı konusunda şeffaf olmaya, ayrıca eğitmenleri ile diğer paydaşlarına bu belgedeki ve burada bağlantısı verilen belgelerdeki ilgili bilgileri uygun şekilde sağlamaya teşvik ederiz.

Güvenilirlik ve doğruluk

• Ally yönetim yapılandırma seçeneklerinde ve kullanım koşullarında, bunun yanlış veya istenmeyen çıktılar üretebilecek yapay zeka destekli bir işlevsellik olduğunu ve bu tür çıktıların her zaman eğitmen tarafından gözden geçirilmesi gerektiğini açıkça belirtiriz.
• Kullanıcı arayüzünde, eğitmenlerden metin çıktısının doğruluğunu gözden geçirmeleri istenir.
• Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde ayrıntılı olarak açıklandığı gibi, hatalı çıkış riski vardır. Yapay Zeka Alternatif Metin Yardımcısı'nın kendine özgü yapısı ve uygulamalarımız yanlışlıkları en aza indirmeyi amaçlasa da, çıktıyı doğruluk, önyargı ve diğer olası sorunlar açısından gözden geçirmekten müşterilerimiz sorumludur.
• Müşteriler, Yapay Zeka Alternatif Metin Yardımcısı ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
• Eğitmenler, çıktıyı öğrencilere yayımlamadan önce Yapay Zeka Alternatif Metin Yardımcısı'nın çıktılarını manuel olarak düzenlemek için mevcut Ally arayüzünü kullanabilir.
• Müşteriler, giriş bölümünde listelenen kanalları kullanarak herhangi bir yanlış çıktıyı bize bildirebilir.

Tarafsızlık

• Büyük dil modelleri, doğası gereği genelleme, aşırı/eksik temsil ve diğer zararlı önyargı biçimleri gibi riskler sunar. Microsoft, bu riskleri Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde açıklar.
• Bu riskler göz önüne alındığında, zararlı önyargıya daha yatkın olabilecek veya bu tür önyargıların etkisinin daha önemli olabileceği kullanım durumlarından kaçınmak için Yapay Zeka Alternatif Metin Yardımcısı işlevleri tarafımızdan dikkatlice seçilmiştir.
• Bununla birlikte, çıktının bir kısmının zararlı önyargıdan etkilenebileceği göz ardı edilemez. Yukarıda "Doğruluk" başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da zararlı önyargıları azaltmaya yardımcı olabilir.
• Müşteriler, Yapay Zeka Alternatif Metin Yardımcısı ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
• Müşteriler, giriş bölümünde listelenen iletişim kanallarını kullanarak potansiyel olarak zararlı önyargıları bize bildirebilir.

Gizlilik ve Güvenlik

• Yukarıdaki 'Temel bilgiler' bölümünde açıklandığı gibi, Yapay Zeka Alternatif Metin Yardımcısı için yalnızca görüntü kullanılır ve Microsoft tarafından erişilebilir. Bu bölümde ayrıca herhangi bir kişisel bilginin kullanımı konusunda bizim ve Microsoft'un taahhüdü de açıklamaktadır.  
• Ally ISO 27001/27017/27018/27701 sertifikalıdır. Bu sertifikalar, Anthology tarafından yönetilen Yapay Zeka Alternatif Metin Yardımcısı ile ilgili çıktıyı içerecektir. Anthology'nin veri gizliliği ve güvenliğine yaklaşımı hakkında daha fazla bilgiyi Güven Merkezimizde bulabilirsiniz.
• Microsoft, verilerle ilgili gizlilik/güvenlik uygulamalarını ve taahhütlerini Azure Görüntü İşleme Hizmeti için veri, gizlilik ve güvenlik belgelerinde açıklar.
• Veri gizliliği ve modelleri (yeniden) eğitmek için girdi kullanmama konusunda Anthology ve Microsoft'un taahhütlerinden bağımsız olarak, müşteriler eğitmenlerine görüntülere herhangi bir kişisel bilgi veya diğer gizli bilgileri eklememelerini tavsiye edebilir.

Emniyet

• Büyük dil modelleri yapıları gereği uygunsuz, saldırgan veya başka bir şekilde güvensiz olabilecek çıktılar gibi riskler taşır. Microsoft, bu riskleri Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde açıklar.
• Bu riskler göz önüne alındığında, güvenli olmayan çıktılara daha yatkın olabilecek veya bu tür çıktıların etkisinin daha önemli olabileceği kullanım durumlarından kaçınmak için Yapay Zeka Alternatif Metin Yardımcısı işlevleri tarafımızdan dikkatlice seçilmiştir.
• Bununla birlikte, çıktının bir kısmının güvensiz olabileceği göz ardı edilemez. Yukarıda "Doğruluk" başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da güvenli olmayan çıktı riskini azaltmaya daha fazla yardımcı olabilir.
• Müşteriler, Yapay Zeka Alternatif Metin Yardımcısı ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
• Müşteriler, giriş bölümünde listelenen kanalları kullanarak potansiyel olarak güvenli olmayan çıktıları bize bildirmelidir.

Kontrolün insanlarda olması

• Müşterilerimiz ve kullanıcıları için üretken yapay zeka kullanımıyla ilgili riski en aza indirmek amacıyla, Yapay Zeka Alternatif Metin Yardımcısı'nın işlevlerinin kontrolünü bilerek müşterilere veririz. Yapay Zeka Alternatif Metin Yardımcısı bu nedenle isteğe bağlı bir özelliktir. Yöneticiler, AI Alt Metin Yardımcısı'nı istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir.  
• Buna ek olarak, çıktının kontrolü eğitmenlerin elindedir, yani kendilerinden metin çıktısını gözden geçirmeleri istenir ve gerektiğinde çıktıda düzenleme yapabilirler.
• Yapay Zeka Alternatif Metin Yardımcısı, öğrenciler veya diğer bireyler üzerinde yasal veya başka bir şekilde önemli bir etkisi olabilecek herhangi bir otomatik karar verme sürecini içermez.
• Müşterilerimizi, Yapay Zeka Alternatif Metin Yardımcısı'nı etkinleştirmeden önce bu uygulamanın ve temel alınan Azure Görüntü İşleme Hizmeti'nin özelliklerini ve sınırlamalarını anladıklarından emin olmak için burada sağlanan bilgi bağlantıları da dahil olmak üzere bu belgeyi dikkatle incelemeye teşvik ederiz.

Değer hizalaması

• Büyük dil modellerinin yapısı gereği; önyargılı, uygunsuz veya Anthology'nin ya da müşterilerimizin ve öğrencilerimizin değerleriyle uyumlu olmayan çıktılar üretilme riski vardır. Microsoft, bu riskleri Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde açıklar.
• Ek olarak, büyük dil modelleri (kapsamlı amaçlara hizmet eden her teknoloji gibi), genellikle Anthology'nin, müşterilerimizin veya onların son kullanıcılarının ve daha geniş anlamda toplumun değerleriyle uyumlu olmayan kullanım durumları gibi kötüye kullanılma riski taşır (örneğin, suç faaliyetleri için, zararlı veya başka bir şekilde uygunsuz çıktılar oluşturmak için).
• Bu riskleri göz önüne alarak, Yapay Zeka Alternatif Metin Yardımcısı işlevleri, uygun olmayan çıktı üretme riskini en aza indirecek şekilde dikkatlice tasarlanmış ve uygulanmıştır. Örneğin, öğrencilere yönelik işlevlerden ziyade eğitmenlere yönelik işlevlere odaklanılmıştır. Ayrıca, potansiyel olarak yüksek riskli işlevlere özellikle yer verilmemiştir.

Fikri mülkiyet

• Büyük dil modelleri, yapıları gereği fikri mülkiyet haklarının ihlali gibi olası riskler sunar. Dünya genelinde çoğu fikri mülkiyet yasası hazırlanırken, büyük dil modellerinin ortaya çıkışı ve bunların kullanımından kaynaklanan sorunların karmaşıklığı tam olarak öngörülememiş veya gereken uyarlamalar yapılmamıştır. Sonuç olarak, şu anda bu modellerin kullanımından kaynaklanan fikri mülkiyet sorunlarını ve risklerini ele alan net bir yasal çerçeve veya kılavuz bulunmamaktadır.
• Dolayısıyla, Yapay Zeka Alternatif Metin Yardımcısı tarafından oluşturulan çıktılarda fikri mülkiyet hakları açısından herhangi bir ihlal durumu olup olmadığını incelemekten müşterilerimiz sorumludur.  

Erişilebilirlik

• Yapay Zeka Alternatif Metin Yardımcısı'nı, Learn ve diğer ürünlerimizde olduğu gibi erişilebilirliği göz önünde bulundurarak tasarladık ve geliştirdik. Yapay Zeka Alternatif Metin Yardımcısı'nın piyasaya sürülmesinden önce; anlamsal yapı, gezinme, klavye kontrolleri, etiketler, özel bileşenler ve görüntü iş akışları gibi alanların erişilebilirliğini özel olarak iyileştirdik. Gelecekte yapay zekadan yararlanırken erişilebilirliğe öncelik vermeye devam edeceğiz.

Sorumluluk

• Anthology, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için tasarlanmış bir Güvenilir Yapay Zeka programına sahiptir. Şirket içinde sorumlulukların net şekilde paylaşılması ve Yapay Zeka Alternatif Metin Yardımcısı tarafından sağlananlar gibi işlevler veya sistematik ve etik Yapay Zeka incelemesi programın temel direkleridir.
• Yapay Zeka Alternatif Metin Yardımcısı'nı sunmak için Microsoft ile iş ortaklığı yaparak Yapay Zeka Alternatif Metin Yardımcısı'nı destekleyen Azure Görüntü İşleme Hizmeti'nden yararlandık. Bunun başlıca nedeni, Microsoft'un yapay zekanın etik şekilde kullanımına ilişkin uzun süredir devam eden bir bağlılığı olmasıdır.
• Müşteriler, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için dâhili politikaları, prosedürleri uygulamayı ve üçüncü taraf yapay zeka uygulamalarını gözden geçirmeyi düşünmelidir. Bu bilgiler, müşterilerimizin Yapay Zeka Alternatif Metin Yardımcısı incelemesini desteklemek için sağlanmıştır.

Daha fazla bilgi

• Anthology'nin Güvenilir Yapay Zeka yaklaşımı
• Anthology'nin Üretken yapay zeka özellikleri listesi
• Microsoft'un Sorumlu Yapay Zeka sayfası
• Microsoft'un Azure Görüntü İşleme Hizmeti İçin Şeffaflık Notu
• Microsoft'un Azure Görüntü İşleme Hizmeti için veri, gizlilik ve güvenlik sayfası