تبدأ مدينة نيويورك في فرض قانون جديد يستهدف التحيز في أدوات التوظيف بالذكاء الاصطناعي

سيتم الآن تطبيق قانون أداة قرار التوظيف الآلي (AEDT) في مدينة نيويورك ، والذي يُعتقد أنه أول قانون في الولايات المتحدة يهدف إلى الحد من التحيز في قرارات التوظيف والتوظيف المدفوعة بالذكاء الاصطناعي – بعد أن دخل القانون حيز التنفيذ في يناير وتم تطبيق القواعد النهائية. المعتمد في أبريل.

بموجب قانون AEDT ، سيكون من غير القانوني لصاحب العمل أو وكالة التوظيف استخدام الذكاء الاصطناعي والتقنيات القائمة على الخوارزمية لتقييم المرشحين للوظائف والموظفين في مدينة نيويورك – ما لم يُجر تدقيقًا مستقلًا للتحيز قبل استخدام أدوات توظيف الذكاء الاصطناعي. خلاصة القول: سيكون أرباب العمل في مدينة نيويورك هم من يتحملون التزامات الامتثال المتعلقة بأدوات الذكاء الاصطناعي هذه ، بدلاً من بائعي البرامج الذين ينشئونها.

من الناحية الفنية ، دخل القانون حيز التنفيذ في 1 يناير ، ولكن من الناحية العملية ، لا يمكن للشركات أن تمتثل بسهولة لأن القانون لم يقدم تفاصيل كافية حول كيفية الامتثال لتدقيق التحيز. ولكن الآن قامت إدارة حماية المستهلك والعمال في المدينة بنشر أسئلة وأجوبة تهدف إلى تقديم مزيد من التفاصيل.

يجب على الشركات إكمال تدقيق التحيز السنوي للذكاء الاصطناعي

وفقًا للأسئلة الشائعة ، يجب إجراء تدقيق التحيز كل عام ، ويكون “تقييمًا محايدًا بواسطة مدقق حسابات مستقل” ، وكحد أدنى ، “يتضمن حسابات معدلات الاختيار أو التسجيل ونسبة التأثير عبر فئات الجنس والعرق / الإثنية ، والفئات المتقاطعة. ”

يُلزم القانون أصحاب العمل ووكالات التوظيف بالامتثال “لجميع قوانين وقواعد مكافحة التمييز ذات الصلة لتحديد أي إجراءات ضرورية بناءً على نتائج تدقيق التحيز” ، ونشر ملخص لنتائج أحدث تدقيق للتحيز.

وفقًا لنيلوي راي ، المساهم في شركة Littler القانونية للعمل والتوظيف ، في معظم الحالات ، لا ينبغي أن يكون الامتثال للقانون صعبًا بشكل خاص ، لكنه يتطلب التعاون بين البائعين الخارجيين الذين ينشئون أدوات توظيف للذكاء الاصطناعي والشركات التي تستخدم هم.

قال روي: “يحتوي القانون على وصف كثيف جدًا للتقنيات التي ينطبق عليها ، لذا يتطلب ذلك فهم كيفية عمل الأداة”. سيتعين عليهم شرح ذلك بما يكفي لمساعدة الشركات [do the bias audit]، لذلك فهذه نتيجة جيدة “.

ومع ذلك ، هناك حالات متطرفة حيث قد يكون من الصعب تحديد ما إذا كان القانون ينطبق. على سبيل المثال ، ماذا يحدث إذا كانت الوظيفة عبارة عن وظيفة عن بُعد بالكامل؟ هل مدينة نيويورك لها ولاية قضائية على هذا الدور؟

قال روي: “هذه الحالات الحادة تصبح أكثر إرباكًا بعض الشيء ، لكنني أعتقد أن الأمر لا يزال سهلاً بشكل عام طالما يمكنك فهم التكنولوجيا”. “ثم الأمر يتعلق فقط بجمع البيانات وإجراء العمليات الحسابية البسيطة على البيانات.”

وأشار روي إلى أن نيويورك ليست الولاية الوحيدة أو الولاية القضائية الوحيدة التي تنظر في هذا النوع من القانون الذي يحكم تحيز الذكاء الاصطناعي في أدوات التوظيف. قال: “في كاليفورنيا ونيوجيرسي وفيرمونت وواشنطن العاصمة وماساتشوستس ، لديهم جميعًا نسخًا من اللوائح التي تعمل في طريقهم عبر النظام”.

ناقش متطلبات تدقيق التحيز مع البائعين والمستشار القانوني

لكنه أضاف أنه في مدينة نيويورك ، من المرجح أن تكون أي شركة كبيرة تقوم بالتوظيف جاهزة لتلبية ما تحتاجه للامتثال. بالنسبة للشركات الأصغر ، ربما يكون البائعون الذين حصلوا على الأدوات منهم قد قاموا بالفعل بمراجعة التحيز.

قال: “إذا كنت تعمل بأداة لم تطورها ولكنك تشتريها من طرف ثالث ، فانتقل إليهم على الفور وناقش ما يمكنهم فعله لمساعدتك على الامتثال”. “على الجانب الداخلي ، قد تضطر إلى التواصل مع مستشارك القانوني ، أي شخص يقوم بذلك لعدة أو مئات من الشركات ، وسيكون بمقدوره منحك بداية سريعة بإطار عمل”.

حتى بالنسبة لأولئك الذين لم يلتزموا بالموعد النهائي في 5 يوليو ، من المهم الاستمرار في العمل من أجل إنجاز الامتثال بأكبر قدر ممكن من الكفاءة وتوثيق جهودك لطلب المشورة القانونية والمساعدة من البائعين.

وأوضح روي: “سيحدث فرقًا كبيرًا إذا قلت إنني علقت رأسي في الرمال مقابل أنني رأيت القطار قادمًا ، ولم أستطع الوصول إلى المحطة ، لكنني ما زلت أحاول إنجازه”. “إذا كنت تعمل بحسن نية ، [they’re] لن أعاقبك ، [they’re] لن تتخذ إجراءات إنفاذ ، بالنظر إلى حداثة القانون وتعقيده “.