يخضع هذا الطالب لبرنامج اختبار “متحيز”

لا تزال قضية بوكورني القانونية قيد النظر. في ديسمبر ، أصدر المعهد الهولندي لحقوق الإنسان حكمًا مؤقتًا قال فيه إنه يشتبه بشدة في أن البرنامج الذي تستخدمه VU Amsterdam كان تمييزيًا ويمنح الجامعة 10 أسابيع لتقديم دفاعها. لم يتم الإعلان عن هذا الدفاع بعد ، لكن VU Amsterdam جادلت سابقًا بأن بيانات سجل Pocornie – التي توضح المدة التي استغرقتها لتسجيل الدخول إلى الاختبار وعدد المرات التي اضطرت فيها إلى إعادة تشغيل البرنامج – تشير إلى أن مشكلاتها كانت بسبب الإنترنت غير المستقر الاتصال ، على عكس المشكلات المتعلقة بتقنية اكتشاف الوجه. ومن المتوقع صدور حكم في وقت لاحق من هذا العام.

تم تعزيز منتجي برامج مكافحة الغش مثل برنامج Proctorio بسبب الوباء ، حيث تم استبدال قاعات الامتحانات بمنازل الطلاب. كان الهدف من المراقبة الرقمية هو مساعدة المدارس والجامعات على الحفاظ على العمل كالمعتاد طوال فترة الإغلاق – دون خلق فرصة للغش للطلاب غير الخاضعين للإشراف. لكن الوباء انتهى ولا يزال البرنامج قيد الاستخدام ، حتى مع عودة الطلاب في جميع أنحاء العالم إلى التدريس الشخصي. قال جيسون كيلي ، الذي يركز على مراقبة الطلاب في مؤسسة Electronic Frontier Foundation ومقرها الولايات المتحدة ، في مراجعة 2022 لحالة خصوصية الطلاب في ديسمبر: “لا نعتقد أنها ستختفي”.

تقول أمايا روس في الولايات المتحدة إن كليتها في أوهايو لا تزال تستخدم برامج مكافحة الغش. ولكن في كل مرة تقوم بتسجيل الدخول ، تشعر بالقلق من أن تجربتها أثناء الوباء ستتكرر. تقول روس ، وهي بلاك ، إنها لم تتمكن من الوصول إلى الاختبار الخاص بها عندما واجهت البرنامج لأول مرة في عام 2021. يقول روس ، الذي كان يبلغ من العمر 20 عامًا في ذلك الوقت: “ظل الأمر يقول: لا يمكننا إعادة تحديد وجهك”. بعد تلقي هذه الرسالة ثلاث أو أربع مرات ، بدأت في اللعب بالمصابيح القريبة وستائر النوافذ. حتى أنها حاولت إجراء اختبار وهي واقفة ، مباشرة تحت ضوء السقف.

اكتشفت أخيرًا أنها إذا قامت بموازنة مصباح يدوي LED على رف بالقرب من مكتبها ووجهته مباشرة إلى وجهها ، فإنها كانت قادرة على إجراء اختبارها العلمي – على الرغم من أن الضوء كان يكاد يعمى. تقارن التجربة بالقيادة ليلاً بسيارة تقترب من الاتجاه الآخر بمصابيحها الأمامية على الضوء الكامل. تقول: “كان عليك فقط الاستمرار في السلطة حتى يتم ذلك”.

ترفض روس تسمية الشركة التي صنعت البرنامج الذي لا تزال تستخدمه (رفعت شركة Proctorio دعوى قضائية ضد أحد منتقديها على الأقل). ولكن بعد والدتها جانيس وايت روس ، نشر حول ما حدث على Twitter ، قال روس إن ممثلًا من الشركة تواصل معها ونصحها بالتوقف عن إجراء الاختبارات أمام الجدران البيضاء. الآن تجري اختبارات مع جدار متعدد الألوان معلق خلفها ، والذي يبدو أنه يعمل حتى الآن. عندما سألت روس بعض أصدقائها ذوي البشرة السمراء أو ذوي البشرة الداكنة عن البرنامج ، واجه الكثير منهم مشكلات مماثلة. “ولكن بعد ذلك سألت أصدقائي البيض وقالوا ،” أنا أقوم بإجراء الاختبارات في الظلام “، كما تقول.

عادةً ما تفشل تقنية التعرف على الوجوه والكشف عنها في التعرف على الأشخاص ذوي البشرة الداكنة عندما تستخدم الشركات نماذج لم يتم تدريبها على مجموعات بيانات متنوعة ، كما تقول ديبورا راجي ، الزميلة في مؤسسة موزيلا. في عام 2019 ، شارك راجي في نشر مراجعة لمنتجات التعرف على الوجه المنتشرة تجاريًا ، والتي وجدت أن بعضها كان أسوأ بنسبة تصل إلى 30 في المائة في التعرف على النساء ذوات البشرة الداكنة مقارنة بالرجال البيض. “الكثير من مجموعات البيانات التي كانت شائعة الاستخدام في مساحة التعرف على الوجه من قبل [2019] تحتوي على أكثر من 90 في المائة من الأشخاص ذوي البشرة الفاتحة ، و 70 في المائة من الذكور “، كما تقول ، مضيفة أنه تم إحراز تقدم منذ ذلك الحين ، لكن هذه ليست مشكلة” تم حلها “.