Çevrimiçi yaşamlarımız, diğerlerinin yanı sıra pazarlama şirketleri ve derecelendirme kuruluşları tarafından hevesle tüketilen, analiz edilen ve ticareti yapılan bir veri izi oluşturur. Bu kitap, özellikle Silikon Vadisi ve Wall Street'e odaklanarak veri odaklı toplumun tehlikelerini araştırıyor.
Kara Kutu Topluluğu: Parayı ve Bilgiyi Kontrol Eden Gizli Algoritmalar • Frank Pasquale tarafından • Harvard University Press • 311 sayfa • ISBN: 978-0-674-36827-9 • $25,95
1993 yılında Electronic Frontier Foundation kurucu ortağı John Gilmore şu meşhur gözlemi var: "İnternet sansürü bir zarar olarak algılıyor ve onun etrafından dolaşıyor." Şimdi yıl 2015 ve Maryland Üniversitesi hukuk profesörü Frank Pasquale bir ekleme yaptı: "Aynı şey mahremiyet için de söylenebilir."
İçinde Kara Kutu Topluluğu: Parayı ve Bilgiyi Kontrol Eden Gizli AlgoritmalarPasquale, her birimizin çoğu zaman farkında olmadığımız sistemler tarafından bir veri yığınına dönüştürüldüğümüz, profillendirildiğimiz ve puanlandığımız sayısız yolu araştırıyor. Amerikalılar kadar Britanyalılar için de geçerli olan en bariz olanı, çok iyi bilinen kredi puanlama sistemidir. Bankalardan telefon şirketlerine kadar herkesin, onların hizmetlerine layık olup olmadığınıza karar verirken kullandığı yöntem. Ancak Pasquale'nin belgelerine göre puanlama algoritmaları, uçuşa yasak listelere kimin yerleştirilmesi gerektiğine karar vermek gibi birçok başka bağlamda da kullanılıyor.
Pasquale'nin "itibar sistemleri" olarak adlandırdığı sistemin en eskisi ve en yaygın olanı olduğundan, kredi puanlama aynı zamanda en çok düzenlenen sistemdir. Ancak bunun onları iyileştirmediğini söylüyor. TV reklamları ve deneyimler, çoğu zaman başarıdan çok başarısızlıktan kazanç sağlayan finans sektörünün standartlarını hepimizin içselleştirmesiyle sonuçlanıyor. Yani, kredi kartı borcunun tamamını her ay ödeyen kişi, faiz tahakkuk eden bir bakiyeye sahip olan kişiden çok daha az kârlıdır. Peki, her birimize bir "vücut puanı" veren bu tür teknikler sağlığa uygulandığında ne olur?
Çoğu Kara Kutu Topluluğu Pasquale'nin ABD'sinin çok ötesine tercüme ediliyor. Ulusal sağlık hizmetlerine sahip ülkelerde kredi, sağlık ve istihdam arasındaki bağlantıların biraz daha az kötü olduğu kabul edilir: dışarıda ABD'de diyabet için pozitif bir testin kişinin kredi puanı veya bunun sonucunda istihdam edilebilirliği üzerinde daha az olumsuz etkisi olması muhtemeldir, çünkü örnek. Bununla birlikte, gizli servis teşkilatlarının ticari veritabanlarından bilgi toplama ve kullanma şeklini belgeleyen materyal, herhangi bir yerdeki herkesi alarma geçirmek için yeterli olmalıdır. Daha da kötüsü, güvenlik kurumları kendi başlarına toplamayı göze alamayacakları veriler için veri odaklı büyük işletmelere güvenmeye başladıkça, düzenleyicilerin müdahale etme gücü giderek azalacak. Pasquale, bazı bankaların "batamayacak kadar büyük" olması gibi, bazı veri şirketlerinin de hükümetlerin onları yabancılaştırma riskini alamayacak kadar "gözetim açısından çok önemli" hale geleceğini öne sürüyor. Politikacıların yeniden seçim kampanyalarını finanse etmek için büyük kurumsal bağışçılara bağımlı olduğu ülkelerde bu iki kat doğru olabilir.
Algoritmik başarısızlık
Pasquale, tüm bu veri odaklı sistemleri çevreleyen gizliliği özellikle hedefliyor. Ona göre toplum giderek daha az şeffaf ve daha az hesap verebilir hale geliyor. Satıcılar, büyük veri sistemlerinin insan yargısına göre daha objektif ve önyargıya daha az eğilimli olduğunu öne sürerken Pasquale, bunları, ayrımcılığın aklanmasının vektörleri olarak görüyor: Örneğin geçmiş mali önyargıların kurbanları, çok daha yüksek faiz oranlarına sahip kredilere sahip olabilir ve bu da daha geç ödeme anlamına gelebilir ve bu da daha düşük kredi puanlarına yansır. Şimdi. Bu bireyler için yeterince kötü, ancak Pasquale toplumsal düzeyde bunun bir tür "algoritmik başarısızlık" ve ardından 2008'de gördüğümüz kamu kurtarma operasyonları anlamına geldiğini savunuyor.
Pasquale, bu kitabın özellikle Silikon Vadisi ve Wall Street'e odaklandığını söylüyor. Piyasa ile devlet arasındaki geleneksel ayrımın bulanıklaşması "kara kutunun" merkezinde yer alır. toplum". Birleşik Krallık'ta Mayıs 2015 seçimleri yaklaşırken, bu ayrımın korunması oy verilmesi gereken bir konu olabilir.