في هذه المدرسة ، يشمل فصل علوم الكمبيوتر الآن نقد روبوتات المحادثة

بدأ فصل علوم الكمبيوتر لماريسا شومان في مدرسة القيادات الشابة في برونكس كالمعتاد في صباح أحد أيام شهر يناير الماضي.

بعد الساعة 11:30 مباشرة ، دخل طلاب الصفين الحادي عشر والثاني عشر النشطين إلى حجرة الدراسة ، واستقروا على طاولات الدراسة المشتركة وسحبوا أجهزة الكمبيوتر المحمولة الخاصة بهم. ثم التفتوا إلى مقدمة الغرفة ، متطلعين إلى السبورة البيضاء حيث نشرت السيدة شومان سؤالاً عن التكنولوجيا القابلة للارتداء ، وهو موضوع فصل ذلك اليوم.

لأول مرة في مسيرتها التدريسية التي استمرت عقدًا من الزمان ، لم تكن الآنسة شومان قد كتبت أيًا من خطة الدرس. لقد أنشأت مادة الفصل باستخدام ChatGPT ، وهو روبوت محادثة جديد يعتمد على الذكاء الاصطناعي لتقديم ردود مكتوبة على الأسئلة بنثر واضح. كانت السيدة شومان تستخدم الدرس الذي تم إنشاؤه بواسطة الخوارزمية لفحص الفائدة المحتملة لروبوت الدردشة ومخاطره مع طلابها.

قالت السيدة شومان لطلابها: “لا أهتم إذا تعلمت أي شيء عن التكنولوجيا القابلة للارتداء اليوم”. “نحن نقوم بتقييم ChatGPT. هدفك هو تحديد ما إذا كان الدرس فعالاً أم غير فعال “.

في جميع أنحاء الولايات المتحدة ، تتدافع الجامعات والمناطق التعليمية للحصول على التعامل مع روبوتات الدردشة الجديدة التي يمكنها إنشاء نصوص وصور شبيهة بالبشر. ولكن بينما يسارع الكثيرون إلى حظر ChatGPT لمحاولة منع استخدامه كوسيلة مساعدة في الغش ، يستفيد المعلمون مثل السيدة شومان من الابتكارات لتحفيز المزيد من التفكير النقدي في الفصل الدراسي. إنهم يشجعون طلابهم على التشكيك في الضجة حول أدوات الذكاء الاصطناعي سريعة التطور والنظر في الآثار الجانبية المحتملة للتقنيات.

يقول هؤلاء المعلمون إن الهدف هو تدريب الجيل القادم من مبدعي التكنولوجيا والمستهلكين على “الحوسبة الحاسمة”. هذا نهج تحليلي يكون فيه فهم كيفية نقد خوارزميات الكمبيوتر بنفس أهمية – أو أكثر أهمية من – معرفة كيفية برمجة أجهزة الكمبيوتر.

تقوم المدارس العامة في مدينة نيويورك ، وهي أكبر منطقة في البلاد ، وتخدم حوالي 900000 طالب ، بتدريب مجموعة من معلمي علوم الكمبيوتر لمساعدة طلابهم على تحديد تحيزات الذكاء الاصطناعي والمخاطر المحتملة. تتضمن الدروس مناقشات حول خوارزميات التعرف على الوجه المعيبة التي يمكن أن تكون أكثر دقة في تحديد الوجوه البيضاء من الوجوه ذات البشرة الداكنة.

في إلينوي وفلوريدا ونيويورك وفيرجينيا ، يستخدم بعض معلمي العلوم والعلوم الإنسانية في المدارس الإعدادية منهجًا لمحو الأمية بالذكاء الاصطناعي طوره باحثون في برنامج شيلر لتعليم المعلمين في معهد ماساتشوستس للتكنولوجيا. يطلب أحد الدروس من الطلاب التفكير في أخلاقيات أنظمة الذكاء الاصطناعي القوية ، والمعروفة باسم “شبكات الخصومة التوليدية” ، والتي يمكن استخدامها لإنتاج محتوى وسائط مزيف ، مثل مقاطع الفيديو الواقعية التي يتكلم فيها السياسيون المشهورون بعبارات لم يقلوها في الواقع.

مع انتشار تقنيات الذكاء الاصطناعي التوليدية ، يقول المعلمون والباحثون إن فهم خوارزميات الكمبيوتر هذه هو مهارة حاسمة سيحتاجها الطلاب للتنقل في الحياة اليومية والمشاركة في التربية المدنية والمجتمع.

قالت كيت مور ، الباحثة التعليمية في معهد ماساتشوستس للتكنولوجيا التي ساعدت في إنشاء دروس الذكاء الاصطناعي للمدارس: “من المهم أن يعرف الطلاب كيفية عمل الذكاء الاصطناعي لأن بياناتهم يتم كشطها ، ويتم استخدام نشاط المستخدم لتدريب هذه الأدوات”. “يتم اتخاذ القرارات بشأن استخدام الشباب للذكاء الاصطناعي ، سواء كانوا يعرفون ذلك أم لا.”

لملاحظة كيف يشجع بعض المعلمين طلابهم على التدقيق في تقنيات الذكاء الاصطناعي ، قضيت مؤخرًا يومين في زيارة الفصول الدراسية في مدرسة قيادة الشابات في برونكس ، وهي مدرسة متوسطة وثانوية عامة للفتيات في طليعة هذا الاتجاه.

تتخصص المدرسة الضخمة المبنية من الطوب البيج في الرياضيات والعلوم والتكنولوجيا. يخدم ما يقرب من 550 طالبًا ، معظمهم من اللاتينيين أو السود.

إنها ليست بأي حال من الأحوال مدرسة عامة نموذجية. يتم تشجيع المعلمين على مساعدة طلابهم ، كما يوضح موقع المدرسة على الويب ، على أن يصبحوا شابات “مبتكرات” يتمتعن بالمهارات اللازمة لإكمال الدراسة الجامعية و “التأثير على المواقف العامة والسياسات والقوانين لخلق مجتمع أكثر عدالة اجتماعيًا”. تتمتع المدرسة أيضًا بمعدل التخرج من المدرسة الثانوية لمدة أربع سنوات يحسد عليه بنسبة 98 في المائة ، وهو أعلى بكثير من متوسط ​​المدارس الثانوية في مدينة نيويورك.

في صباح أحد أيام شهر يناير ، دخل حوالي 30 طالبًا في الصفين التاسع والعاشر ، العديد منهم يرتدون سترات مدرسية زرقاء داكنة وسراويل رمادية ، في فصل دراسي يسمى هندسة البرمجيات 1. تقدم الدورة العملية للطلاب البرمجة وحل مشكلات الكمبيوتر و الانعكاسات الاجتماعية للابتكارات التقنية.

إنها واحدة من العديد من دورات علوم الكمبيوتر في المدرسة التي تطلب من الطلاب التفكير في مدى تأثير خوارزميات الكمبيوتر الشائعة – التي طورتها غالبًا فرق شركات التكنولوجيا المكونة من رجال أبيض وآسيويين – على مجموعات مثل المهاجرين والمجتمعات منخفضة الدخل. موضوع ذلك الصباح: أنظمة مطابقة الوجوه التي قد تجد صعوبة في التعرف على الوجوه ذات البشرة الداكنة ، مثل تلك الخاصة ببعض الطلاب في الغرفة وعائلاتهم.

كانت آبي هان ، وهي تقف أمام فصلها الدراسي ، تعلم أن طلابها قد يصابون بالصدمة من هذا الموضوع. ساعدت تقنية المطابقة الخاطئة للوجه على الاعتقالات الزائفة للرجال السود.

لذلك نبهت السيدة هان تلاميذها إلى أن الفصل سيناقش مواضيع حساسة مثل العنصرية والتمييز على أساس الجنس. ثم شغلت مقطع فيديو على YouTube ، تم إنشاؤه عام 2018 بواسطة جوي بولامويني ، عالمة كمبيوتر، يوضح كيف حددت بعض أنظمة تحليل الوجه الشائعة عن طريق الخطأ النساء السود الأيقونات على أنهن رجال.

وبينما كان الفصل يشاهد الفيديو ، شهق بعض الطلاب. أوبرا وينفري “تبدو كذكر” ، قالت تكنولوجيا أمازون بثقة 76.5 في المائة ، وفقًا للفيديو. قالت أقسام أخرى من الفيديو إن نظام مايكروسوفت قد أخطأ في ميشيل أوباما على أنها “شاب يرتدي قميصًا أسود” ، وأن نظام IBM قد ربط سيرينا ويليامز بـ “الذكور” بثقة 89 بالمائة.

(أعلنت Microsoft و Amazon لاحقًا عن تحسينات في الدقة في أنظمتهما ، وتوقفت شركة IBM عن بيع هذه الأدوات. وقالت أمازون إنها ملتزمة بالتحسين المستمر لتقنية تحليل الوجه من خلال ملاحظات العملاء والتعاون مع الباحثين ، وقالت Microsoft و IBM إنهما ملتزمان بالمسؤولية تطوير الذكاء الاصطناعي)

قالت نادية زدين ، طالبة تبلغ من العمر 14 عاماً ، “لقد صدمت من الطريقة التي يُنظر بها إلى النساء الملونات على أنهن رجال ، على الرغم من أنهن لا يشبهن الرجال”. “هل يعرف جو بايدن بهذا؟”

قالت السيدة هان إن الهدف من درس التحيز في الذكاء الاصطناعي هو إظهار الطلاب للمبرمجين أن خوارزميات الكمبيوتر يمكن أن تكون معيبة ، تمامًا مثل السيارات والمنتجات الأخرى التي صممها البشر ، وتشجيعهم على تحدي التقنيات التي تنطوي على مشاكل.

“أنتم الجيل القادم” ، قالت السيدة هان للشابات مع انتهاء فترة الدراسة. “عندما تكون في الخارج ، هل ستدع هذا يحدث؟”

“لا!” ردت جوقة من الطلاب.

على بعد بضعة أبواب أسفل القاعة ، في فصل دراسي ملون مليء برقائق الثلج المصنوعة يدويًا ورافعات الأوريغامي ، كانت السيدة شومان تستعد لتدريس دورة برمجة أكثر تقدمًا ، هندسة البرمجيات 3 ، تركز على الحوسبة الإبداعية مثل تصميم الألعاب والفن. في وقت سابق من ذلك الأسبوع ، ناقش طلابها المبرمجون كيف يمكن للأنظمة الجديدة التي تعمل بالذكاء الاصطناعي مثل ChatGPT تحليل مخازن ضخمة من المعلومات ومن ثم إنتاج مقالات وصور شبيهة بالبشر استجابة لمطالبات قصيرة.

كجزء من الدرس ، قرأ طلاب الصف الحادي عشر والثاني عشر مقالات إخبارية حول كيف يمكن أن يكون ChatGPT مفيدًا ومعرضًا للخطأ. كما قرأوا منشورات على وسائل التواصل الاجتماعي حول كيفية حث روبوت المحادثة على إنشاء نصوص تروج للكراهية والعنف.

لكن الطلاب لم يتمكنوا من تجربة ChatGPT في الفصل بأنفسهم. قامت منطقة المدرسة بحظره بسبب مخاوف من إمكانية استخدامه للغش. لذا طلب الطلاب من الآنسة شومان استخدام روبوت المحادثة لإنشاء درس للفصل كتجربة.

أمضت السيدة شومان ساعات في المنزل تحث النظام على إنشاء درس حول التكنولوجيا القابلة للارتداء مثل الساعات الذكية. استجابة لطلباتها المحددة ، أنتجت ChatGPT خطة درس مفصلة بشكل ملحوظ مدتها 30 دقيقة – كاملة مع مناقشة تحمية ، وقراءات عن التكنولوجيا القابلة للارتداء ، وتمارين في الفصل ومناقشة ختامية.

مع بدء الفصل الدراسي ، طلبت الأستاذة سلمى من الطلاب قضاء 20 دقيقة لمتابعة الدرس المكتوب ، كما لو كان فصلًا حقيقيًا عن التكنولوجيا القابلة للارتداء. ثم يقومون بتحليل فعالية ChatGPT كمعلم محاكاة.

يتجمع الطلاب في مجموعات صغيرة ، ويقرؤون بصوت عالٍ المعلومات التي أنشأها الروبوت حول وسائل الراحة والفوائد الصحية والأسماء التجارية والقيمة السوقية للساعات الذكية وأجهزة تتبع اللياقة البدنية. كانت هناك آهات عندما قرأ الطلاب جمل ChatGPT المهدئة – “أمثلة على النظارات الذكية تشمل Google Glass Enterprise 2” – قالوا إنها تبدو وكأنها نسخة تسويقية أو مراجعات رائعة للمنتج.

قالت جيدة أرياس ، 18 عاماً ، “لقد ذكرني ذلك بالصف الرابع”. “كان لطيفًا جدًا.”

وجد الفصل الدرس مثيرًا للسخرية مقارنةً بالدرس الذي قدمته السيدة شومان ، وهي معلمة جذابة تقوم بإنشاء مواد الدورة لطلابها المحددين ، وتطرح عليهم أسئلة استفزازية وتخرج بأمثلة واقعية ذات صلة على الفور.

قالت Alexania Echevarria ، 17 عامًا ، عن مادة ChatGPT: “الجزء الوحيد الفعال من هذا الدرس هو أنه واضح ومباشر”.

“يبدو أن ChatGPT تحب التكنولوجيا التي يمكن ارتداؤها” ، قالت علياء جوديس بورك ، 17 عامًا ، وهي طالبة أخرى. “إنه منحاز!”

كانت السيدة شومان تقدم درسًا يتجاوز تعلم تحديد التحيز في الذكاء الاصطناعي. كانت تستخدم ChatGPT لإعطاء تلاميذها رسالة مفادها أن الذكاء الاصطناعي ليس حتميًا وأن الشابات لديهن أفكار لتحديه.

“هل يجب على معلميك استخدام ChatGPT؟” سألت الأستاذة شومان في نهاية الدرس.

كانت إجابة الطلاب مدوية “لا!” على الأقل لغاية الآن.