قضية تنظيم تصميم المنصة

في الصيف في عام 2017 ، قُتل ثلاثة مراهقين من ولاية ويسكونسن في حادث سيارة عالي السرعة. في وقت التصادم ، كان الأولاد يسجلون سرعتهم باستخدام Snapchat’s Speed ​​Filter — 123 ميلاً في الساعة. لم يكن هذا هو الحادث الأول من نوعه: تم ربط الفلتر نفسه بعدة حوادث أخرى بين عامي 2015 و 2017.

رفع آباء المراهقين من ولاية ويسكونسن دعوى قضائية ضد Snapchat ، بدعوى أن منتجها ، الذي منح “الجوائز ، والشرائط ، والاعتراف الاجتماعي” للمستخدمين الذين تجاوزوا 100 ميل في الساعة ، تم تصميمه بإهمال لتشجيع القيادة الخطرة عالية السرعة. وجدت محكمة أدنى في البداية أن المادة 230 من قانون آداب الاتصالات تحصين Snapchat من المسؤولية ، مدعيةً أن التطبيق لم يكن مسؤولاً عن محتوى الطرف الثالث الذي أنشأه أشخاص يستخدمون عامل تصفية السرعة الخاص به. لكن في عام 2021 ، نقضت الدائرة التاسعة حكم المحكمة الأدنى.

المنصات محصنة إلى حد كبير من تحمل المسؤولية عن هذا النوع من المحتوى بسبب القسم 230. ولكن في هذه الحالة المهمة-ليمون ضد سناب– قامت الدائرة التاسعة بتمييز حاسم بين تصميم المنتج الضار للمنصة واستضافتها لمحتوى ضار تابع لجهة خارجية. لم تكن الحجة أن Snapchat قد أنشأت أو استضافت محتوى ضارًا ، بل إنها صممت بإهمال ميزة ، Speed ​​Filter ، التي حفزت السلوك الخطير. وجدت الدائرة التاسعة بشكل صحيح أن المحكمة الابتدائية أخطأت في الاحتجاج بالقسم 230 كدفاع. لقد كان الصك القانوني الخاطئ. وبدلاً من ذلك ، حولت المحكمة تركيزها إلى تصميم Snapchat المهمل لمرشح السرعة – وهو ضرر شائع لمسؤولية المنتج.

بشكل محبط ، في السنوات الفاصلة ، ومؤخرا في المرافعات الشفوية للمحكمة العليا الأمريكية الشهر الماضي Gonzalez v. Google، فشلت المحاكم في فهم أو التمييز بين المحتوى الضار وخيارات التصميم الضارة. يجب على القضاة الذين يسمعون هذه القضايا ، والمشرعون الذين يعملون على كبح جماح الانتهاكات والأنشطة الضارة عبر الإنترنت ، أن يضعوا هذا التمييز في الاعتبار وأن يركزوا على تصميم المنتج المهمل للمنصات بدلاً من تشتيت انتباههم بسبب الادعاءات الواسعة بشأن الحصانة من القسم 230 على المحتوى الضار.

في قلب .. أو في الوسط جونزاليس هي مسألة ما إذا كان القسم 230 يحمي YouTube ليس فقط عندما يستضيف محتوى طرفًا ثالثًا ، ولكن أيضًا عندما يقدم توصيات مستهدفة لما يجب على المستخدمين مشاهدته. جادل محامي غونزاليس بأن YouTube يجب ألا يحصل على حصانة المادة 230 للتوصية بمقاطع الفيديو ، مدعيا أن عملية التنسيق والتوصية بما يعرضه من مواد تابعة لجهة خارجية هو إنشاء محتوى في حد ذاته. رد محامي Google بأن خوارزمية توصياتها محايدة وتعامل كل المحتوى الذي توصي به المستخدمين بنفس الطريقة. لكن هذه الحجج تخطئ الهدف. ليست هناك حاجة لاستدعاء القسم 230 على الإطلاق لمنع الأضرار التي يتم النظر فيها في هذه الحالة. لا يرجع الأمر إلى أن ميزة التوصية في YouTube خلقت محتوى جديدًا ، ولكن خوارزميات التوصية “المحايدة” مصممة بإهمال لعدم التمييز بين مقاطع فيديو داعش ومقاطع فيديو القطط ، على سبيل المثال. في الواقع ، تفضل التوصيات المحتوى الضار والخطير.

ميزات التوصية مثل “مشاهدة التالي” و “موصى به لك” على YouTube – والتي تكمن في صميم جونزاليس– تساهم ماديًا في إحداث ضرر لأنها تعطي الأولوية للمواد الفاحشة والإثارة ، وتشجع المستخدمين وتكافئهم ماليًا على إنشاء مثل هذا المحتوى. صمم YouTube ميزات توصياته لزيادة تفاعل المستخدمين وعائدات الإعلانات. كان من المفترض أن يعرف مبتكرو هذا النظام أنه يشجع ويعزز السلوك الضار.

على الرغم من أن معظم المحاكم قد قبلت تفسيرًا شاملًا للقسم 230 يتجاوز مجرد تحصين المنصات من كونها مسؤولة عن محتوى طرف ثالث خطير ، إلا أن بعض القضاة ذهبوا إلى أبعد من ذلك وبدأوا في فرض تدقيق أكثر صرامة على التصميم المهمل من خلال التذرع بمسؤولية المنتج. في عام 2014 ، على سبيل المثال ، قامت خدمة الدردشة المرئية Omegle ، وهي خدمة دردشة بالفيديو تجمع بين مستخدمين عشوائيين ، بمطابقة فتاة تبلغ من العمر 11 عامًا مع رجل يبلغ من العمر 30 عامًا كان يذهب إلى العريس والاعتداء عليها جنسياً لسنوات. في عام 2022 ، القاضي الذي ينظر في هذه القضية ، AM ضد Omegle، وجدت أن القسم 230 يحمي إلى حد كبير المواد الفعلية التي أرسلها كلا الطرفين. لكن المنصة كانت لا تزال مسؤولة عن اختيار تصميمها الإهمال لربط المتحرشين الجنسيين بضحايا دون السن القانونية. في الأسبوع الماضي فقط تم رفع قضية مماثلة ضد Grindr. قام شاب من كندا يبلغ من العمر 19 عامًا بمقاضاة التطبيق لأنه ربطه برجال بالغين اغتصبوه على مدار أربعة أيام عندما كان قاصرًا. مرة أخرى ، تدعي الدعوى أن Grindr كانت مهملة في عملية التحقق من العمر وأنها سعت بنشاط إلى انضمام مستخدمين دون السن القانونية إلى التطبيق من خلال استهداف إعلاناتها على TikTok للقصر. هذه الحالات ، مثل ليمون ضد سناب، أكد على أهمية التركيز على ميزات تصميم المنتج الضارة بدلاً من المحتوى الضار.

شكلت هذه الحالات سابقة واعدة لكيفية جعل المنصات أكثر أمانًا. عندما تركز محاولات كبح الإساءات عبر الإنترنت على محتوى الطرف الثالث والقسم 230 ، فإنهم يغوصون في قضايا شائكة تتعلق بحرية التعبير تجعل من الصعب إحداث تغيير ذي مغزى. ولكن إذا قام المتقاضون والقضاة والمنظمون بالتخلي عن قضايا المحتوى هذه جانبًا وركزوا بدلاً من ذلك على مسؤولية المنتج ، فسيكونون هم من يصلون إلى جذور المشكلة. إن تحميل المنصات المسؤولية عن اختيارات التصميم المهملة التي تشجع على إنشاء المحتوى الضار وانتشاره وتكسب المال منه هو المفتاح لمعالجة العديد من المخاطر التي لا تزال قائمة على الإنترنت.

رأي سلكي تنشر مقالات من قبل مساهمين خارجيين يمثلون مجموعة واسعة من وجهات النظر. اقرأ المزيد من الآراء هنا، واطلع على إرشادات الإرسال الخاصة بنا هنا. إرسال افتتاحية في رأيwired.com.