डच अदालत का नियम है कि एआई लाभ धोखाधड़ी का पता लगाने वाली प्रणाली यूरोपीय संघ के मानवाधिकारों का उल्लंघन करती है

एक डच अदालत ने मांग की है कि संभावित आवास और लाभ धोखाधड़ी की पहचान करने और उनका पता लगाने के लिए सरकार द्वारा उपयोग की जाने वाली एल्गोरिदम-आधारित प्रणाली को तत्काल प्रभाव से हटा दिया जाए।

जैसा डचन्यूज़ द्वारा रिपोर्ट की गईबुधवार को, हेग के जिला न्यायालय ने फैसला सुनाया कि यह प्रणाली यूरोपीय संघ के मानवाधिकारों और गोपनीयता सुरक्षा के साथ टकराव करती है।

डब्ड सिस्टम रिस्क इंडिकेशन (SyRI), स्वचालित, मशीन-लर्निंग (ML) टूल का उपयोग स्थानीय डच द्वारा किया गया था अधिकारियों को ऐसे व्यक्तियों की प्रोफ़ाइल और सूचियाँ तैयार करनी होंगी जिन पर लाभ उठाने का उच्च जोखिम होने का संदेह हो धोखा।

यह सभी देखें: फेसबुक चेहरे की पहचान तकनीक मुकदमे को खत्म करने के लिए $550 मिलियन का भुगतान करने पर सहमत हुआ

प्रकाशन के अनुसार, SyRI उन व्यक्तियों से जोखिम प्रोफ़ाइल बनाता है जिन्होंने अतीत में सामाजिक सुरक्षा धोखाधड़ी की है और फिर "समान" के लिए स्कैन करता है नागरिक प्रोफाइल, अन्य लोगों के बारे में संभावित जांच के लिए सुराग तैयार करना जो धोखाधड़ी कर रहे हों, या ऐसा करने का उच्च जोखिम हो सकता है भविष्य।

SyRI द्वारा नागरिक डेटा की पूलिंग, जिसे अन्यथा अलग-अलग साइलो में रखा जाता था, ने अधिकारियों को व्यापक शक्तियां प्रदान कीं और "विशेष रूप से संयुक्त राष्ट्र मानवाधिकार और गरीबी रिपोर्टर फिलिप के अनुसार, "ज्यादातर कम आय वाले और अल्पसंख्यक निवासियों वाले पड़ोस पर लक्षित" एल्स्टन।

"SyRI के माध्यम से, पूरे गरीब पड़ोस और उनके निवासियों को लक्षित किया गया और व्यक्तिगत गलत काम के किसी भी ठोस संदेह के बिना, डिजिटल रूप से जासूसी की गई।" मानवाधिकार अधिवक्ता ने कहा.

सिस्टम के आलोचकों ने तर्क दिया कि इस तरह से एल्गोरिदम के उपयोग से निर्दोष लोगों में से संदिग्ध पैदा हो गए लोग, जिसके परिणामस्वरूप 2018 में अधिकार समूहों और एफएनवी ट्रेड यूनियन द्वारा एक कानूनी चुनौती सामने लाई गई।

भेदभावपूर्ण प्रथाओं को अदालत द्वारा स्वीकार कर लिया गया, जिसने टूल की अपर्याप्त गोपनीयता सुरक्षा उपायों और पारदर्शिता की कमी पर भी चिंता जताई।

सीएनईटी: क्लीयरव्यू एआई को चेहरे की पहचान संग्रह पर गूगल, फेसबुक से रोक लग गई है

एल्स्टन ने फैसले की सराहना करते हुए टिप्पणी की: "सार्वभौमिक मानवाधिकार मानकों को लागू करके, यह डच अदालत एक मानक स्थापित कर रही है जिसे अन्य जगहों की अदालतों द्वारा भी लागू किया जा सकता है। मुकदमेबाजी और इसके नतीजे अन्य देशों में कार्यकर्ताओं को उभरती डिजिटल कल्याण प्रणालियों के जोखिमों को संबोधित करने के लिए इसी तरह की कानूनी चुनौतियां दायर करने के लिए प्रेरित करने की संभावना है।"

डच राज्य इस फैसले के खिलाफ अपील करने में सक्षम है।

मनुष्य अधिकार देख - भाल फैसले को अपनी जीत माना और कहा कि इस आदेश ने "स्वचालन के युग में गरीबों के अधिकारों की रक्षा के लिए एक महत्वपूर्ण मिसाल कायम की है।"

"जिन सरकारों ने सामाजिक सुरक्षा तक पुलिस की पहुंच के लिए डेटा एनालिटिक्स पर भरोसा किया है - जैसे कि अमेरिका, ब्रिटेन और ऑस्ट्रेलिया में - उन्हें इस पर ध्यान देना चाहिए नागरिक अधिकार समूह ने सामाजिक सुरक्षा लाभार्थियों के साथ सतत संदिग्धों के रूप में व्यवहार करने में शामिल मानवाधिकार जोखिमों के बारे में अदालत की चेतावनी दी जोड़ा गया.

टेक रिपब्लिक: कोड सुरक्षा जोखिमों के रूप में अपने संगठन को बुनियादी ढांचे से कैसे बचाएं

पिछला और संबंधित कवरेज

• अमेरिकी सेना एआई को प्रशिक्षित करने के लिए चेहरे की पहचान का उपयोग करती है। अब इसकी सुरक्षा की जरूरत है
  
• यूरोपीय संघ सार्वजनिक स्थानों पर चेहरे की पहचान तकनीक पर प्रतिबंध लगाने पर विचार कर रहा है
  
• पुलिस पूरे लंदन में 'गोपनीयता नष्ट करने वाले' चेहरे की पहचान करने वाले कैमरे तैनात करने वाली है
  

---

क्या आपके पास कोई टिप है? व्हाट्सएप के माध्यम से सुरक्षित रूप से संपर्क करें | +447713 025 499 पर सिग्नल, या कीबेस पर: चार्ली0

---