يقول الخبراء إن لوائح منظمة العفو الدولية الجديدة في الصين تهدد حقوق الإنسان

أعلى رقم رقمي في الصين المنظم اقترح مبادئ توجيهية جديدة جريئة هذا الأسبوع أن يحظر أسلوب الدردشة GPT نماذج لغوية كبيرة من بث محتوى يُعتقد أنه يقوض سلطة الدولة أو يدعو إلى الإطاحة بالنظام السياسي الشيوعي في البلاد. قال الخبراء الذين تحدثوا مع Gizmodo إن المبادئ التوجيهية الجديدة تمثل أوضح علامات حتى الآن على حرص السلطات الصينية على توسيع جهاز الرقابة المتشدد على الإنترنت ليشمل العالم الناشئ للذكاء الاصطناعي التوليدي.. جدار الحماية الصيني العظيم يطوق الآن منظمة العفو الدولية.

“يجب ألا نكون تحت أوهام. سيطبق الحزب المبادئ التوجيهية الجديدة للذكاء الاصطناعي لتنفيذ نفس وظيفة الرقابة والمراقبة والتلاعب بالمعلومات التي سعى إلى تبريرها بموجب قوانين ولوائح أخرى “، مايكل كاستر ، مدير برنامج آسيا الرقمي للمادة 19 ، وهي منظمة لحقوق الإنسان تركز على الإنترنت حرية التعبيرو قال جيزمودو.

المسودة القواعد الارشادية، الذي نشرته إدارة الفضاء الإلكتروني في الصين ، جاء ساخنًا في أعقاب منتجات الذكاء الاصطناعي التوليدية الجديدة من بايدوو علي بابا، وغيرها من عمالقة التكنولوجيا الصينيين. سيُطلب من مطوري الذكاء الاصطناعي الذين يتطلعون إلى العمل في الصين للمضي قدمًا تقديم منتجاتهم إلى مراجعة أمنية حكومية قبل إصدارها للجمهور والتأكد من تسمية جميع المحتويات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل واضح. روبوتات المحادثة سوف تضطر إلى التحقق هويات المستخدمين ، وصانعيها سيكونون ملزمين التأكد من أن المحتوى الذي تقدمه منظمة العفو الدولية واقعي –حتى الآن مشكلة كبيرة لنظرائهم الأمريكيين–ولا يميز ضد عرق المستخدمين أو عرقهم أو معتقدهم أو بلدهم أو منطقتهم أو جنسهم.

بينما تظهر معظم تلك الضمانات في الخط مع مكالمات من خبراء السلامة بالذكاء الاصطناعي في البلدان الأخرى ، تختلف المبادئ التوجيهية بشكل حاد حول قضايا المحتوى السياسي التخريبي المحتمل. فيما يتعلق بهذا السؤال ، تريد الصين فرض إجراءات صارمة تتماشى إلى حد كبير مع سياساتها الحالية التي تعدل الخطاب على وسائل التواصل الاجتماعي. إليك جزء مترجم من الإرشادات المقترحة من إدارة الفضاء الإلكتروني.

“يجب أن يعكس المحتوى الناتج عن الذكاء الاصطناعي التوليدي القيم الأساسية للاشتراكية ، ويجب ألا يحتوي على تقويض لسلطة الدولة ، والإطاحة بالنظام الاشتراكي ، والتحريض على تقسيم البلاد ، وتقويض الوحدة الوطنية ، وتشجيع الإرهاب ، والتطرف ، وتعزيز الكراهية العرقية والتمييز العرقي والعنف والمعلومات الفاحشة والإباحية والمعلومات الكاذبة والمحتوى الذي قد يعطل النظام الاقتصادي والاجتماعي “.

يخشى كاستر أن تؤدي المبادئ التوجيهية الجديدة لبكين بشأن الذكاء الاصطناعي التوليدي إلى تضييق الخناق على المقالات الأجنبية المترجمة بواسطة روبوتات المحادثة أو اقتراحات حول كيفية استخدام مستخدمي الإنترنت للشبكات الافتراضية الخاصة أو غيرها من الأدوات لتجاوز ما يسمى بفلتر محتوى جدار الحماية العظيم في البلاد. أبرز الكاستر ملف الاعتقال الأخير لمدون يدعى روان شياوهوان ، سُجن لمدة سبع سنوات بتهمة التحريض على تقويض سلطة الدولة. قد تواجه نماذج الذكاء الاصطناعي التي تعيد نشر أي من كتاباته ، بموجب هذه الإرشادات ، الانتقام.

“هذه هي أنواع المعلومات المستقلة التي تعتبر تخريبية في الصين وما قد يتعارض مع الإرشادات الجديدة في حالة سحب مجموعة بيانات عن غير قصد من [Xiaohuan’s] موقع على شبكة الإنترنت في تقديم المحتوى التوليدي “، قال كاستر.

قال كبير الباحثين الصينيين في هيومن رايتس ووتش ، ياكيو وانغ ، لـ Gizmodo تلك القواعد الصارمة، على الرغم من أنها جديدة ، كانت “متوقعة تمامًا”. حتى بدون هذه الإرشادات ، قالت وانغ إنها تعتقد أن مسؤولي الحكومة الصينية لا يزال بإمكانهم معاقبة الشركات بشكل فعال لنشر المحتوى تعتبر منتقدة للنظام السياسي. وجود قواعد مكتوبة مع ذكر الذكاء الاصطناعي التوليدي على وجه التحديد يجعل من الأسهل إداريًا على المسؤولين الاستشهاد بقوانين دقيقة عند استهداف شركات التكنولوجيا التي يحتمل أن تنتهك.

قال وانغ: “حتى بدون المبادئ التوجيهية ، يمكنهم فعل الشيء نفسه”. “الإرشادات هي مجرد أداة ملائمة يمكنهم الإشارة إليها”. هي يتفق مع تقييم كاستر، قائلاً إنه يبدو أنه من الممكن أن تستخدم السلطات الصينية نص مسودة قواعد منظمة العفو الدولية الجديدة للقضاء على الكلام السلمي و “الشرعي تمامًا”.

إلمن المحتمل أن تكون شركات التكنولوجيا الكبيرة مثل Baidu قد قامت بالفعل ببناء وتدريب نماذجها وهي تعلم شيئًا مشابهًا لهذه القيود يمر. سابق التقارير من وول ستريت جورنال أظهر كيف أن الإصدارات السابقة من برامج الدردشة الصينية اختنقت عند طرح أسئلة نقدية حول الرئيس الصيني شي جين بينغ أو عندما طُلب منهم مناقشة السياسة الصينية. وبحسب ما ورد يطلق بعض المستخدمين المحبطين على مستخدمي ChatGPT الخاضعين للرقابة اسم “ChatCCP”.

“إذا كنت تعمل في النظام الصيني ، قال وانغ: “أنت تعلم أن هناك أشياء لا يمكنك التحدث عنها”. “المبادئ التوجيهية هي مجرد تحذير آخر.”

ما هي إدارة الفضاء الإلكتروني في الصين وما الذي تريده باستخدام الذكاء الاصطناعي؟

إدارة الفضاء السيبراني في الصين (CAC) ، شكلت في عام 2013 ، لديها تطورت بسرعة في السنوات الأخيرة وتولى دور الرقابة الأولى على الإنترنت في البلاد وخادم للكوابيس التنظيمية لشركات التكنولوجيا الصينية سريعة النمو. كانت CAC مسؤولة عن ضرب العملاق الصيني فجأة ديدي خارج من متاجر التطبيقات في عام 2021 بعد أيام فقط من إصدارها الاكتتاب العام الضخم 4.4 مليار دولار، ولعبت دورًا رائدًا في صياغة اثنين من الصين أكثر دقة وشديد قوانين خصوصية البيانات. منتقدو CAC ، مثل Caster of Article 19 ، قل الوكالة العلاقات الوثيقة مع الرئيس شي جين بينغ تعني إنها متورطة بشكل مباشر في مطالب الرقابة الصادرة عن أعلى مستويات السلطة.

وحذر كاستر من أن الحظر الذي اقترحته هيئة مكافحة الفساد على المحتوى الذي يروج للإرهاب أو التطرف ، على الرغم من أنه جدير بالثناء من الناحية النظرية ، يمكن أيضًا استخدامه كسلاح لقمع المعارضين السياسيين أو الجماعات المهمشة مثل الأقلية المسلمة الأويغورية في البلاد. في هذه الحالة ، سلطات الحكومة الصينية لديها يصنف الأويغور على أنهم متطرفون لتبرير الإجراءات التي وصفتها العديد من جماعات حقوق الإنسان بالاضطهاد الذي تقره الدولة. المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي يعترف ببساطة الأويغور وقال كاستر إن التاريخ أو الثقافة ، بموجب المبادئ التوجيهية الجديدة ، يمكن أن يُنظر إليهما على أنهما يشجعان التطرف.

يمكن أن توجد روبوتات المحادثة في الولايات المتحدة والصين في واقع بديل

لم يخجل المنظمون الصينيون من مخاوفهم بشأن التدخل السياسي المحتمل المنسوب إلى روبوتات الدردشة الآلية الأمريكية الصنع. في فبراير / شباط ، ورد أن Tencent و Ant Group قد فرضتا قيودًا على المستخدمين الذين يحاولون الوصول إلى ChatGPT من OpenAI ، والذي قيل إن المنظمين حذروا من أنه يمكن استخدامه ، “لنشر معلومات كاذبة”. على الرغم من حظر ChatGPT في الصين ، يُقال إن المستخدمين على WeChat والتطبيقات الأخرى يشاركون التبادلات مع النموذج بعد الوصول عبر الشبكات الافتراضية الخاصة. تم تقديم بعض الإجابات بواسطة ChatGPT ، وفق صحيفة الغارديان ، اعتبرت السلطات الصينية أنها “متوافقة مع الدعاية السياسية لحكومة الولايات المتحدة.”

على الجانب الآخر من المحيط الهادئ ، يعبر المشرعون الأمريكيون عن مخاوف مماثلة بشأن نماذج الذكاء الاصطناعي الصينية الصنع. يتحدث في حدث أكسيوس الشهر الماضي، رئيس لجنة اختيار مجلس النواب الصيني ، النائب الجمهوري مايك غالاغر ، وصف نماذج الذكاء الاصطناعي الصينية بأنها أسلحة يمكن أن يستخدمها المسؤولون الحكوميون لإتقان “دولة أورويلية للتكنولوجيا الشمولية”. قد يبدو هذا غبيًا ، وهو كذلك ، لكن صقور الصين الآخرين الأكثر احترامًا ، مثل الرئيس التنفيذي السابق لشركة Google ، إريك شميدت ، يجب على الولايات المتحدة أيضًا أن تفعل “مهما اخذت – مهما كلفت، “للفوز بسباق الذكاء الاصطناعي ضد الصين.

قالت غالاغر: “أعتقد أن التحدي الذي نواجهه هو ضمان استخدام الذكاء الاصطناعي كأداة لازدهار الإنسان وحريته”.

تأتي القيود المفروضة على برامج الدردشة الأجنبية في الوقت الذي تتسابق فيه العلامات التجارية المحلية مثل Baidu و Alibaba لإطلاق بدائل مماثلة خاصة بها. عرضت بايدو بديلها الخاص ، يطلق عليها اسم إرني بوت، خلال عرض توضيحي تم تسجيله مسبقًا الشهر الماضي. تشترك في بعض أوجه التشابه مع نماذج OpenAI ، لكن النقاد لاحظوا أن منافس Baidu يبدو أنه يعاني من المنطق الأساسي. داخليا ، صحيفة وول ستريت جورنال ملحوظات، عمل بايدو على مدار الساعة ، جاهدًا لضمان قدرة إرني على إكمال الوظائف الأساسية. صدر مؤخرا علي بابا نموذج Tongyi Qianwenيقال إن الشركة ، التي فتحت أبوابها للعملاء من الشركات ، تتفوق في كتابة القصائد بلغات متعددة وحل مشكلات الرياضيات الأساسية ، ولكنها تكافح بالمثل مع مشكلات المنطق الأساسية.

إن الريادة الواضحة لشركات التكنولوجيا الأمريكية في النماذج اللغوية الكبيرة ، على الأقل في الوقت الحالي ، يرجع جزئيًا إلى لوائح الذكاء الاصطناعي الأكثر صرامة نسبيًا في الصين وتدفق الاستثمارات من قبل الشركات الأمريكية. العام الماضي، وفق في تحليل حديث أجراه باحثون في جامعة ستانفورد ، استثمرت الشركات الأمريكية 47.4 مليار دولار في مشاريع الذكاء الاصطناعي ، وهو رقم يزيد 3.5 مرة عن الصين. تتناقض هذه الأرقام مع ادعاءات بعض المتحمسين للذكاء الاصطناعي في الولايات المتحدة الذين اقترحوا أن الشركات الأمريكية قد تفقد ميزتها بسبب البيئة غير التنظيمية وغير التنظيمية في الصين.

قال أمبا كاك ، المدير التنفيذي لمعهد AI Now لـ Gizmodo: “من الواضح أن الصين تتحرك بخطى حثيثة مع الزخم العالمي بشأن تنظيم الذكاء الاصطناعي”. “هذه التحركات التنظيمية وغيرها من التحركات التنظيمية من الحكومة الصينية ، مثل إنفاذ المنافسة ، تتناقض بشكل مباشر مع الادعاءات بأن شركات التكنولوجيا الصينية لديها ميزة في ‘سباق الذكاء الاصطناعي بين الولايات المتحدة والصين’ لأنها تُركت دون تنظيم. ”

“هذه الادعاءات المدعومة بشكل فضفاض تعتبر خطيرة لأنها تستخدم للرد على تنظيم شركات التكنولوجيا الكبرى في الولايات المتحدة ، مما يروج للسباق إلى الحضيض عندما يتعلق الأمر بمعايير الخصوصية والمنافسة وحماية المستهلك ،وأضاف كاك.