قام فريق من الباحثين الأميركيين بتطوير أداة ذكاء اصطناعي (AI) لاكتشاف التمييز غير العادل، على أساس العرق أو الجنس، داخل أماكن العمل، حيث يتم تدريب أنظمة الذكاء الاصطناعي المسؤولة عن اختيار المرشحين لشغل وظيفة أو للقبول في الجامعة على كميات كبيرة من البيانات.
وابتكر فريق جامعة ولاية بنسلفانيا وجامعة كولومبيا أداة الذكاء الاصطناعي لاكتشاف التمييز في ما يتعلق بسمة محمية، مثل العرق أو الجنس، فعلى سبيل المثال "هل هناك تمييز قائم على النوع الاجتماعي في الرواتب؟"، يمكن إعادة صياغة على النحو التالي: "هل للجنس تأثير سلبي على الراتب؟"، أو بعبارة أخرى، "هل ستحصل المرأة على دخل أكثر إذا كانت رجلاً؟".
وقد اختبر الباحثون طريقتهم باستخدام أنواع مختلفة من البيانات المتاحة، مثل بيانات الدخل من مكتب الإحصاء الأميركي لتحديد ما إذا كان هناك تمييز قائم على النوع الاجتماعي في الرواتب، كما قاموا باختبار طريقتهم باستخدام بيانات برنامج الإيقاف والتهذيب بإدارة شرطة مدينة نيويورك لتحديد ما إذا كان هناك تمييز ضد الأشخاص ذوى اللون في عمليات التوقيف من قبل الشرطة.
وقال الأستاذ في جامعة ولاية بنسلفانيا فاسانت هونافار: "لقد وجدنا أدلة على وجود تمييز على أساس نوع الجنس في الراتب، وعلى وجه التحديد، وجدنا أن احتمالات حصول المرأة على راتب يزيد على 50 ألف دولار في السنة هي الثلث فقط بالنسبة للرجل، وهذا يشير إلى أنه يجب على أرباب العمل البحث عن وتصحيح، عند الاقتضاء، التحيز بين الجنسين في الرواتب". وتابع: "إن أداتنا، يمكن أن تساعد في ضمان ألا تصبح مثل هذه الأنظمة أدوات للتمييز، والحواجز أمام المساواة، والتهديدات للعدالة الاجتماعية ومصادر الظلم".
