أعلنت منظمة الاتحاد الأميركي للحريات المدنية "ACLU"، أنها قامت باختبار لنظام التعرف على الوجه التابع لشركة "​أمازون​" المعروف باسم "Amazon Rekognition"، وجاءت النتائج صادمة حيث حدد النظام بشكل خاطئ 28 عضو في ​الكونغرس​ الأميركي كأشخاص آخرين تم اعتقالهم بسبب جريمة، ما أثار مخاوف جدية لدى المشرعين حول هذه ​التقنية​ حيث أن شركة "أمازون" ​تسوق​ بشكل نشط هذا النظام إلى وكالات إنفاذ القانون في جميع أنحاء ​الولايات المتحدة​، وهو ببساطة ليس جيدًا بما فيه الكفاية.

وأشار محامي منظمة اتحاد الحريات المدنية جاك سنو الى أن المنظمة قامت بتحميل نظام "أمازون" بقاعدة بيانات تحتوي على 25 ألف سجل جنائي للمجرمين ومرتكبي مخالفات قانونية تم تنزيلها من مصدر عام، وبعد ذلك قام الاتحاد الأميركي للحريات المدنية بتمرير ​الصور​ الرسمية لكل أعضاء الكونغرس البالغ عددهم 535 عضوًا خلال برنامج "Rekognition"، مطالبين إياها بمضاهاة أي من هذه الصور قد يتطابق مع قاعدة البيانات وانتهى الأمر بمطابقة صور 28 عضو، من بين هؤلاء الـ28 فشل النظام في التعرف على 6 أعضاء لأنهم من ذوي البشرة السمراء، بما في ذلك النائب جون لويس ديموقراطي من جورجيا، وهو ناشط أميركي من أصل أفريقي في مجال ​الحقوق المدنية​.

وأوضحت "أمازون" في ردها أن الأمر يتعلق بإعدادات أداة تعريف الوجوه خلال الاختبار، ومع ذلك تسلط هذه النتائج الضوء على المخاطر التي يمكن أن يواجهها الأفراد إذا استخدمت الشرطة هذه التكنولوجيا بطرق معينة للقبض على المجرمين.

كما أظهرت دراسة الاتحاد الأميركي للحريات المدنية مشكلة التحيز العنصري التي يعاني منها نظام "أمازون" الآن، حيث أن النظام فشل في التعرف على الأعضاء بنسبة 39% لأنهم هم ذوي البشرة السمراء، رغم أنهم لم يشكلوا سوى 20% من الكونغرس، لذلك سيتعرض الأشخاص ذوي البشرة السمراء للأذى بشكل غير مناسب.