Bu tür teknolojilerin kullanımına yönelik korumalar sağlanana kadar Avustralya İnsan Hakları Komisyon, yüz tanıma da dahil olmak üzere biyometrinin kullanımına ilişkin bir moratoryum talep etti. 'yüksek riskli' alanlar. Aynı zamanda bir Yapay Zeka Güvenlik Komiserinin oluşturulmasını da tavsiye etti.
Avustralya İnsan Hakları Komisyonu (AHRC), yüz tanıma ve diğer biyometrik teknolojilerin kullanımıyla ilgili daha güçlü yasalar çağrısında bulunarak bunların "yüksek riskli" alanlarda kullanımının yasaklanmasını istedi.
Çağrı 240 sayfalık bir bildiriyle yapıldı rapor [PDF] AHRC'den, görevden ayrılan İnsan Hakları Komiseri Edward Santow, Avustralyalıların güvenli, adil ve güvenilir teknoloji istediklerini ve Hukuk, politika, eğitim ve finansman konularında doğru ayarlarla hükümet, özel sektörle birlikte "yeni teknolojilere yönelik sağlam bir kamu güveni temeli oluşturabilir" teknoloji".
Raporda "Yapay zekanın biyometrik teknolojide ve özellikle de bazı yüz tanıma türlerinde kullanılması, kamuoyunun ve uzmanların endişelerinin artmasına neden oldu" deniyor.
Okumalısınız: Yüz tanıma teknolojisi toplu gözetimi destekliyor. Gizlilik savunucuları, yasağın zamanının geldiğini söylüyor
Sonuç olarak Komisyon, "biyometrik teknolojiyle ilişkili en ciddi zararlara" karşı koruma sağlamak için gizlilik yasası reformu yapılmasını tavsiye ediyor.
"Avustralya yasaları, yüz tanıma da dahil olmak üzere biyometrik teknolojilerin geliştirilmesi ve kullanımına ilişkin daha güçlü, daha net ve daha hedefe yönelik insan hakları korumaları sağlamalıdır" diye yazdı.
"Bu korumalar sağlanana kadar Komisyon, yüksek riskli bölgelerde yüz tanıma da dahil olmak üzere biyometrik teknolojilerin kullanımına ilişkin bir moratoryum öneriyor."
Rapor, AHRC'nin biyometri kullanımına ilişkin istişareleri sırasında ortaya çıkan profil oluşturma riski gibi bir dizi endişeyi detaylandırıyor ve siyahi insanlara karşı önyargının yanı sıra kitlesel endişeler de dahil olmak üzere ayrımcılık riskine yol açan hatalar ve gözetim.
AHRC sonuç olarak bir dizi tavsiyede bulundu; ilk olarak federal, eyalet ve bölge bölgelerini talep etti. hükümetler, yüz tanıma ve diğer biyometrik teknolojilerin kullanımını düzenleyen mevzuat çıkaracak teknoloji.
Mevzuatın insan haklarını açıkça koruması gerektiği söylendi; Yasal veya benzer şekilde önemli olan karar vermede bu teknolojinin kullanılmasına uygulanır, bireyler için etkili olan veya polislik ve hukuk gibi insan hakları açısından yüksek risk bulunan yerlerde icra; ve topluluk, endüstri ve AHRC ve Avustralya Bilgi Komiserliği Ofisi (OAIC) gibi uzman kuruluşlarla derinlemesine istişare yoluyla geliştirilecektir.
Raporda "Mevcut mevzuatın bugüne kadar yüz teknolojisi ve diğer biyometrik teknolojilerin uygunsuz kullanımı konusunda etkili bir fren olduğu kanıtlanmadı" ifadesine yer veriliyor. "Bu alanda etkili bir düzenleme olmazsa, toplumun temel teknolojiye olan güveni bozulacak gibi görünüyor."
Ülkedeki tüm hükümetleri birlikte çalışmaya çağırdı.
AHRC, yüz tanıma ve diğer biyometrik teknolojilerin karar vermede kullanılmasına ilişkin moratoryumun kaldırılmasını istedi. bireylere yönelik etkinin olduğu veya polislik ve kolluk kuvvetleri gibi insan hakları açısından yüksek risk bulunan yerlerde, mevzuat çıkana kadar devam edilecektir. yer.
Ancak moratoryum, yüz teknolojisi ve biyometrik teknolojinin tüm kullanımları için geçerli olmayacak.
"Yüz tanımanın kullanımı gibi yüksek riskli bağlamlara özellikle dikkat edilmelidir." polislik, okullarda ve insan hakları ihlallerinin meydana gelme ihtimalinin daha yüksek olduğu diğer alanlarda" ekler.
Ayrıca biyometri söz konusu olduğunda mahremiyetin ciddi şekilde ihlal edilmesi durumunda hükümetin yasal bir dava nedeni sunması gerektiğini de belirtti.
Yapay zekayla bilgilendirilmiş karar vermenin "yasal, şeffaf, açıklanabilir, sorumlu ve uygun insani değerlendirmelere tabi olmasını" sağlamak için modernleştirilmiş bir düzenleyici sistem çağrısında bulunulması AHRC ayrıca Avustralya'nın "Yapay Zeka destekli" bir yapıya geçişine yardımcı olmak için yeni bir Yapay Zeka Güvenlik Komiseri oluşturulmasını da talep etti. dünya".
Tercihen bağımsız bir yasal ofis olarak faaliyet gösteren Yapay Zeka Güvenliği Komiseri, güvenliği teşvik etmeye ve insanları korumaya odaklanmalıdır. Avustralya'da yapay zekanın geliştirilmesi ve kullanılmasıyla ilgili teknik kapasite oluşturmak için düzenleyicilerle birlikte çalışmak gibi haklar Yapay zekanın kendi alanlarında geliştirilmesi ve kullanılmasının yanı sıra, yapay zeka alanındaki gelişmeleri ve eğilimleri izlemek ve araştırmaktan da sorumlu olacaklardır. AI kullanımı.
Ayrıca bakınız: Yapay Zeka Etiği: Yapay Zekanın Faydaları ve Riskleri
Ayrıca hükümetten, yapay zekayla bilgilendirilmiş karar alma konusunda, belki de Yapay Zeka Güvenlik Komiseri tarafından yönetilebilecek çok disiplinli bir görev gücü toplamasını istedi.
"Görev gücü, insan haklarının yapay zeka destekli karar alma sürecinden önemli ölçüde etkilenmesi muhtemel olanlar da dahil olmak üzere kamu ve özel sektörle geniş çapta istişarede bulunmalıdır" dedi.
Rapor ayrıca hükümetten AHRC'ye kaynak üretebilmesini de talep etti. Yapay zekayla bilgilendirilmiş kararların kullanımında federal ayrımcılık karşıtı yasalara nasıl uyulacağına ilişkin yönergeler yapımı.
Bu amaçla bir diğer öneri ise hükümetin insan hakları etki değerlendirmesi yapılmasını zorunlu kılacak bir yasa çıkarmasıdır. (HRIA), herhangi bir departman veya kurum idari kararlar almak için yapay zeka bilgisine sahip bir karar verme sistemi kullanmadan önce üstlenilmelidir; Yapay zekanın idari bir eylemde maddi olarak kullanıldığı durumlarda etkilenen herhangi bir bireyin bilgilendirilmesini gerektiren diğer mevzuat karar.
Ayrıca mevcut veya önerilen yapay zeka bilgisine dayalı karar alma süreçlerinin de denetlenmesini talep etti.
Toplamda 38 tavsiyede bulunan AHRC, özel sektör kullanımının hukuki sorumluluğuna da değiniyor Yapay zeka konusunda hükümet tarafından yapay zeka kullanımı için işaretlenen mevzuatın aynı zamanda sivil toplum kuruluşlarını da kapsayacak şekilde genişletilmesini talep ediyoruz.
Başka bir yerde, Başsavcı'dan, Kanunun 31. bölümü uyarınca bir Dijital İletişim Teknolojisi Standardı geliştirmesini talep etti. Engelli Ayrımcılığı Yasası 1992 erişilebilirlik yükümlülüklerinin tamamının uygulanması için diğer yasa ve politika reformlarının değerlendirilmesi Kişilerin Haklarına İlişkin Sözleşme kapsamında Dijital İletişim Teknolojilerine ilişkin Engelliler.
Ek olarak federal, eyalet, bölge ve yerel yönetimlerin tanınmış erişilebilirlik standartlarına tamamen uygun dijital iletişim teknolojisini kullanma taahhüdünde bulunmalarını istiyor.
"Çok önemli bir soruyu sormamız gerekiyor: İstediğimiz ve ihtiyaç duyduğumuz geleceği sağlamak için teknolojinin olumlu potansiyelini kullanabilir miyiz, yoksa toplumun en kötü sorunlarını daha da artıracak mı? Santow, "Şimdi vereceğimiz kararlar bu sorunun yanıtını sağlayacaktır" dedi.
Raporun bu hedefe ulaşmak için bir yol haritası oluşturduğunu belirtti.
AYRICA BAKINIZ
- İnsan Hakları Komisyonu, gizlilik yasalarının yapay zekanın geleceği için ayarlanmasını istiyor
- İnsan Hakları Komisyonu, yapay zeka önyargısının tanınması ve önlenmesine yönelik bir kılavuz yayınladı
- Genevieve Bell ve yapay zekanın geleceği nasıl görünebilir?
- 'Booyaaa': Avustralya Federal Polisinin Clearview AI kullanımı ayrıntılı olarak açıklandı
- Sorumlu yapay zekadan kim sorumlu?
- Yapay zekalar hızla daha akıllı hale geliyor. Bu, cevaplayamayacağımız zor sorular yaratıyor
- Yapay zeka ve etik: Yöneticilerin üçte biri potansiyel yapay zeka önyargısının farkında değil (TechRepublic)