Google Gmail: لهذا السبب لن ترى الضمائر المرتبطة بالجنس في Smart Compose

تتخذ Google نهجًا محافظًا تجاه الضمائر القائمة على الجنس في ميزة Smart Compose، وهي ميزة Gmail التي تتنبأ بالكيفية التي ينوي بها الشخص إكمال الجملة.

بدلاً من المخاطرة بإساءة معاملة المستخدمين من خلال توقع Smart Compose للضمير الجنساني الخاطئ، قررت Google ببساطة منع خوارزميتها من اقتراح ضمائر مثل "هو" و"هي".

مدير منتج Gmail بول لامبرت وقال لرويترز تم التعرف على المشكلة في يناير عندما كتب أحد علماء الشركة "سأقابل مستثمرًا الأسبوع المقبل".

يبدو أن Smart Compose اقترح "هل تريد مقابلته؟"، وهو افتراض قد يكون خاطئًا ويسبب الإساءة ويثير انتقادات بأن Google لا تدير التحيز في خوارزمياتها.

وقال لامبرت إن مهندسي جوجل جربوا عدة حلول للاحتفاظ باقتراحات الضمائر المرتبطة بالجنس، ولكن لم يكن أي منها خاليًا من التحيز، لذلك قرروا حظر الضمائر المرتبطة بالجنس.

تؤثر السياسة على أقل من واحد بالمائة من اقتراحات الكتابة الذكية. يتم استخدام ميزة الكتابة الذكية في 11 بالمائة من رسائل Gmail.com حول العالم.

أطلقت Google ميزة Smart Compose في شهر مايو، لذا ظلت السياسة سارية طوال الوقت الذي كانت فيه الميزة متاحة للعامة. ومع ذلك، تم أيضًا تطبيق القائمة السوداء للضمائر المرتبطة بالنوع الاجتماعي على الردود في الرد الذكي من Google.

يرى: التعلم العميق: دليل من الداخل (بي دي إف مجاني)

جوجل الإنصاف يعرض قسم ممارسات الذكاء الاصطناعي المسؤولة تفاصيل الصعوبات في إنشاء أنظمة ذكاء اصطناعي عادلة وشاملة. وبما أن نماذج التعلم الآلي تتعلم من البيانات الموجودة في العالم الحقيقي، فإن النماذج الدقيقة يمكن أن تتعلم التحيزات وتضخمها.

وفي حالة شركة Smart Compose، فقد تم تدريب نموذجها اللغوي على مليارات العبارات والجمل، والتي تحمل تحيزاً بشرياً مفاده أن المستثمر سيكون رجلاً.

ومع ذلك، فإن مشكلة التحيز يمكن أن تكون أكثر ضررًا في سياقات أخرى غير إكمال رسالة بريد إلكتروني، مثل كما هو الحال في الخوارزميات المستخدمة في نظام العدالة الجنائية.

قامت LinkedIn المملوكة لشركة Microsoft أيضًا بإدراج الضمائر المرتبطة بالجنس في القائمة السوداء في ميزة الردود الذكية.

ولمساعدة الآخرين على تجنب التحيز البشري في نماذجهم، قامت جوجل الشهر الماضي أصدرت وحدة تدريبية يعلمنا ما هي أنواع التحيزات البشرية التي يمكن أن تنتهي في نماذج التعلم الآلي، بالإضافة إلى تحديد مناطق التحيز البشري في البيانات قبل تدريب النموذج.

التغطية السابقة وذات الصلة

Google لمستخدمي Gmail: إليك كيفية تشغيل ميزة Smart Compose الجديدة التي تعمل دون اتصال بالإنترنت

تطرح Google الدعم في وضع عدم الاتصال في Gmail وميزة Smart Compose الجديدة التي تكمل جملك.

تضيف Google عمليات تكامل Compose لتشغيل الإجراءات داخل Gmail

عند الإطلاق، تتكامل إجراءات الإنشاء مع Dropbox وAtlassian وBox وEgnyte.

تصميم Gmail الجديد: سواء أحببته أو كرهته، يبدو أنك ستضطر إلى استخدامه قريبًا

سيكون Gmail الجديد هو Gmail بعد وقت قصير من وصوله إلى التوفر العام.

إعادة تصميم Gmail: قامت Google بإصلاح G Suite بمزيد من الذكاء الاصطناعي وفوضى أقل

يهدف تغيير G Suite من Google إلى توفير ساعات البريد الإلكتروني للشركات وعمليات الفتح والوقت المستغرق في تلقي الإشعارات.

كيفية تحقيق أقصى استفادة من Gmail الجديد

تقدم إعادة كتابة Gmail الرئيسية من Google العديد من الميزات الجديدة والمفيدة. إليك كيفية استخدام تحسينات Gmail، وهي جاهزة الآن.

سر البريد العشوائي في Gmail: لماذا بدأت الحسابات الآمنة في إرسال رسائل غير مرغوب فيها إلى نفسها؟

تظهر الرسائل غير المرغوب فيها في المجلدات المرسلة للمستخدمين حتى من الحسابات التي لم يتم اختراقها.

دوبلكس وAndroid P والمساعد: كل ما هو مهم من Google I/Oسي نت

بدءًا من Gmail الذي يكتب نفسه إلى مساعد قد يجتاز اختبار Turing، قدم لنا Google I/O عددًا كبيرًا من التحسينات على منتجاته، وكل ذلك تقريبًا بفضل جهود الذكاء الاصطناعي والتعلم الآلي.

لماذا يجب على مشرفي G Suite تمكين إعدادات مكافحة التصيد الاحتيالي والبرامج الضارة المتقدمة في GmailTechRepublic

أضافت Google مؤخرًا إعدادات أمان جديدة في G Suite لمنح مستخدمي Gmail طبقة إضافية من الحماية. تعرف على كيفية تحذير المستخدمين من رسائل البريد الإلكتروني الضارة، أو أرسلهم ببساطة إلى البريد العشوائي باستخدام هذه الخيارات.