Büyük kötü veriler: İyi kararlar vermesi için yapay zekaya güvenmiyoruz

Birleşik Krallık hükümetinin son zamanlardaki teknolojik aksilikleri pek çok İngiliz vatandaşının ağzında acı bir tat bırakmış gibi görünüyor. Chartered IT Enstitüsü olan İngiliz Bilgisayar Topluluğu'nun (BCS) yeni bir raporu şunu ortaya çıkardı: Birleşik Krallık'taki yetişkinlerin yarısından fazlası (%53) karar alırken algoritma kullanan kuruluşlara güvenmiyor onlara.

Anket, 2.000'den fazla katılımcıyla yürütülen, sınav düzenleyicisi Ofqual'in ortaya çıkmasının ardından öğrenci kargaşasıyla sarsılan çalkantılı bir yaz döneminin ardından geldi. adil olmayan bir algoritma kullandı COVID-19 salgını sınavların yapılmasını engelledikten sonra A seviyesi ve GCSE sonuçlarını tahmin etmek için.

Ofqual'ın algoritması, tahminleri okulların önceki performanslarına etkili bir şekilde dayandırdı ve özel okulları tercih ederken, özellikle devlet okullarını etkileyen sonuçlarda önemli düşüşler okullar.

GÖRMEK: Kuruluşta yapay zeka ve makine öğrenimi yönetimi 2020: Teknoloji liderleri proje geliştirme ve uygulamayı artırıyor (TechRepublic Premium)

Hükümet derhal geri adım attı ve öğrencilerin algoritmaya dayalı sonuçlar yerine öğretmenlerin tahmin ettiği notları benimsemelerine izin verdi. Çok az veya çok geç kalmış olabilir: BCS'nin anketine katılanların yalnızca %7'si, özellikle eğitim sektöründe kullanılan algoritmalara güvendiklerini söyledi.

Yüzde, sosyal hizmetler ve silahlı kuvvetler tarafından kullanılan algoritmalara duyulan güven düzeyiyle birlikte en düşük seviyededir; İçerik sunmak ve kullanıcı deneyimini yönlendirmek için sosyal medya şirketlerinin algoritmalarına güvendiklerini belirten katılımcılarınkinden bile daha düşük bir seviyede (%8).

BCS'nin politika direktörü Bill Mitchell, ZDNet'e son olayların insanların moralini "ciddi şekilde" bozduğunu söyledi. algoritmaların kendileri hakkında karar vermek için kullanılma şekline güvenin ve bunun uzun vadeli olacağına sonuçlar.

Mitchell, "Fakat aynı zamanda insanların zihninde algoritmaların her yerde olduğu gerçeğini de uyandırdı" diye ekledi. "Algoritmalar her zaman oradadır; insanlar durumun böyle olduğunu fark ediyor ve şunu soruyorlar: 'Algoritmanıza neden güvenmeliyim?'"

"Bu tam yerinde, insanların sorması gereken şey bu ve geri kalanımız da bunların tasarlanması ve dağıtılmasında yer alıyor Algoritmalar, belirli bir algoritmanın neden insanların yararına çalışacağını ve bunun için kullanılmayacağını açıklamaya hazır olmalıdır. zarar."

Kritik kamu hizmetlerinin sağlanmasında gizli yapay zeka sistemlerinin yaygınlığı, geçtiğimiz Şubat ayında Birleşik Krallık'ın kamusal yaşam standartları komitesi tarafından şu şekilde bir raporda işaret edildi: açıklık ve şeffaflığın eksikliğini vurguladı teknolojiyi kullanma konusunda hükümetten.

O dönemde raporda belirlenen ana sorunlardan biri, hükümetin şu anda yapay zekayı tam olarak nerede kullandığını kimsenin bilmemesiydi. Aynı zamanda kamu hizmetleri, polislik, eğitim, sosyal bakım ve sağlık gibi sektörlerdeki yüksek etkili karar alma süreçlerinde yapay zekayı giderek daha fazla kullanmaya çalışıyor.

Vatandaşların yaşamları üzerinde büyük etkiler yaratabilecek alanlarda algoritmaların kullanımına ilişkin netlik eksikliği nedeniyle, halkın bazı algoritmalara olan güvensizliği Devlet hizmetlerinde kullanılan teknolojiler sürpriz olmamalı ve önyargılı bir algoritmanın zararlı etkilerini tersine çevirme girişimleri de şaşırtıcı olmamalıdır. görmezden gelindi.

Mitchell, "Okullarda gördüklerimiz, halk istediğinde açıkça sahiplenebileceğini gösteriyor" dedi. "Fakat algoritmada herhangi bir sorun olduğunda isyanlarla sonuçlanabilecek bir durumda olmak istediğimizden emin değilim." sokaklar."

Bunun yerine, Mitchell, algoritmalar başlatılmadan önce tam olarak kimin kim olduğunu açıklığa kavuşturmak için halkla etkileşime geçmenin sistematik bir yolu olması gerektiğini savundu. teknolojinin etkileyeceği, hangi verilerin kullanılacağı, sonuçlardan kimin sorumlu olacağı ve herhangi bir sorun olması durumunda sistemin nasıl düzeltilebileceği yanlış.

Başka bir deyişle, bu sadece vatandaşların kararların bir yapay zeka sistemi tarafından ne zaman alındığını bilmesini sağlamakla ilgili değil, aynı zamanda algoritmanın fiili yapımında katı standartların uygulanmasıyla da ilgili.

Mitchell, "Benden algoritmama güvenebileceğinizi kanıtlamamı isterseniz," dedi, "bir profesyonel olarak Bu algoritmanın etkilediği kişiye, evet, bana güvenebileceğinizi gösterebilirim. profesyonel."

GÖRMEK: Programlama dilleri: Julia kullanıcılarının büyük olasılıkla veri bilimi için Python'a yönelmesi

Bu standartları yapay zeka sistemlerinin tasarım ve geliştirme aşamalarına dahil etmek zor bir iştir çünkü Bir canlının yaşam döngüsü boyunca farklı zamanlarda farklı insanlar tarafından yapılan birçok seçim katmanıdır. algoritma. Ancak Mitchell, halkın güvenini yeniden kazanmak için veri bilimini, doktorluk veya avukatlık mesleği kadar güvenilir bir meslek haline getirmenin gerekli olduğunu savundu.

BCS'nin son raporu, algoritmalar tarafından oluşturulan kararlar söz konusu olduğunda vatandaşların en çok güvendiği kuruluşun NHS olduğunu gösterdi. Ankete katılanların yüzde 17'ye varan oranı NHS'de otomatik karar alma sürecine inandıklarını söyledi ve bu oran 18-24 yaş arası kişilerde yüzde 30'a yükseldi.

"İnsanlar NHS'e güveniyor çünkü doktorlara ve hemşirelere güveniyorlar. Onlar doğru standartlara uyması gereken profesyoneller ve eğer uymazlarsa atılıyorlar" dedi Mitchell. "BT mesleğinde aynı şeye sahip değiliz, ancak artık algoritmaların inanılmaz derecede riskli durumlarda kullanıldığını görüyoruz."

Halk, doktorlarına güvendiği gibi veri bilimcilerine de güvenebilecek mi? Bu fikir uyumsuz görünebilir. Ancak yapay zekanın her geçen gün vatandaşların hayatlarının daha fazla alanına nüfuz etmesiyle birlikte, halkın katılımını sağlamak bir bütün olarak veri bilimi mesleği için bir öncelik haline gelecek.