بالنسبة لبعض الناس ، فإن مصطلح “الصندوق الأسود” يعيد إلى الأذهان أجهزة التسجيل في الطائرات التي تعتبر ذات قيمة لتحليلات ما بعد الوفاة إذا حدث ما لا يمكن تصوره. بالنسبة للآخرين ، فإنه يستحضر المسارح الصغيرة المجهزة بأدنى حد من التجهيز. لكن الصندوق الأسود هو أيضًا مصطلح مهم في عالم الذكاء الاصطناعي.
منظمة العفو الدولية الصناديق السوداء تشير إلى أنظمة الذكاء الاصطناعي ذات الأعمال الداخلية غير المرئية للمستخدم. يمكنك إطعامهم المدخلات والحصول على المخرجات ، لكن لا يمكنك فحص كود النظام أو المنطق الذي أنتج المخرجات.
التعلم الآلي هو المجموعة الفرعية المهيمنة للذكاء الاصطناعي. إنه أساس أنظمة الذكاء الاصطناعي التوليدية مثل الدردشة و DALL-E 2. هناك ثلاثة مكونات للتعلم الآلي: خوارزمية أو مجموعة من الخوارزميات وبيانات التدريب ونموذج. الخوارزمية هي مجموعة من الإجراءات. في التعلم الآلي ، تتعلم الخوارزمية تحديد الأنماط بعد تدريبها على مجموعة كبيرة من الأمثلة – بيانات التدريب. بمجرد تدريب خوارزمية التعلم الآلي ، تكون النتيجة نموذجًا للتعلم الآلي. النموذج هو ما يستخدمه الناس.
على سبيل المثال ، يمكن تصميم خوارزمية التعلم الآلي لتحديد الأنماط في الصور ، ويمكن أن تكون بيانات التدريب صورًا للكلاب. سيكون نموذج التعلم الآلي الناتج هو نصاب الكلاب. يمكنك إطعامها صورة كمدخلات والحصول على مخرجات سواء كانت مجموعة من البكسلات تمثل كلبًا وأين في الصورة.
يمكن إخفاء أي من المكونات الثلاثة لنظام التعلم الآلي ، أو وضعه في صندوق أسود. كما هو الحال غالبًا ، فإن الخوارزمية معروفة للجمهور ، مما يجعل وضعها في الصندوق الأسود أقل فعالية. لذلك لحماية ملكيتهم الفكرية ، غالبًا ما يضع مطورو الذكاء الاصطناعي النموذج في صندوق أسود. نهج آخر يتبعه مطورو البرامج هو إخفاء البيانات المستخدمة لتدريب النموذج – بمعنى آخر ، وضع بيانات التدريب في صندوق أسود.
https://www.youtube.com/watch؟v=Q6JbmGQstDM
تجعل خوارزميات الصندوق الأسود من الصعب للغاية فهم كيفية عمل الذكاء الاصطناعي ، لكن الموقف ليس أبيض وأسود تمامًا.
يشار أحيانًا إلى عكس الصندوق الأسود باسم a صندوق زجاجي. الصندوق الزجاجي بالذكاء الاصطناعي هو نظام تتوفر فيه جميع الخوارزميات وبيانات التدريب والنموذج ليراها أي شخص. لكن الباحثين في بعض الأحيان يصفون جوانب منها بأنها الصندوق الأسود.
هذا بسبب الباحثين لا أفهم تماما كيف خوارزميات التعلم الآلي ، على وجه الخصوص تعلم عميق الخوارزميات تعمل. في مجال منظمة العفو الدولية قابلة للتفسير تعمل على تطوير خوارزميات يمكن أن يفهمها البشر بشكل أفضل ، رغم أنها ليست بالضرورة علبة زجاجية.
لماذا الصناديق السوداء للذكاء الاصطناعي مهمة
في كثير من الحالات ، هناك سبب وجيه للقلق من خوارزميات ونماذج التعلم الآلي في الصندوق الأسود. افترض أن أحد نماذج التعلم الآلي قد قام بتشخيص صحتك. هل تريد أن يكون النموذج عبارة عن صندوق أسود أم صندوق زجاجي؟ ماذا عن الطبيب الذي يصف لك مسار العلاج؟ ربما تود أن تعرف كيف وصل النموذج إلى قراره.
ماذا لو رفض نموذج التعلم الآلي الذي يحدد ما إذا كنت مؤهلاً للحصول على قرض تجاري من أحد البنوك؟ ألا تريد أن تعرف لماذا؟ إذا فعلت ذلك ، يمكنك استئناف القرار بشكل أكثر فعالية ، أو تغيير وضعك لزيادة فرصك في الحصول على قرض في المرة القادمة.
الصناديق السوداء لها أيضًا آثار مهمة على أمان نظام البرامج. لسنوات ، اعتقد العديد من الأشخاص في مجال الحوسبة أن الاحتفاظ بالبرامج في صندوق أسود سيمنع المتسللين من فحصها وبالتالي سيكون آمنًا. لقد ثبت خطأ هذا الافتراض إلى حد كبير لأن المتسللين يمكنهم ذلك مهندس عكسي البرمجيات – أي إنشاء نسخة طبق الأصل من خلال المراقبة الدقيقة لكيفية عمل جزء من البرنامج – واكتشاف نقاط الضعف التي يجب استغلالها.
إذا كان البرنامج في صندوق زجاجي ، فيمكن لمختبري البرامج والمتسللين ذوي النوايا الحسنة فحصه وإبلاغ منشئي البرامج بنقاط الضعف ، وبالتالي تقليل الهجمات الإلكترونية.
هل تريد معرفة المزيد عن الذكاء الاصطناعي وروبوتات المحادثة ومستقبل التعلم الآلي؟ تحقق من تغطيتنا الكاملة لـ الذكاء الاصطناعي، أو تصفح أدلةنا إلى أفضل مولدات فنية مجانية لمنظمة العفو الدولية و كل ما نعرفه عن ChatGPT الخاص بـ OpenAI.
سوراب باجشي، أستاذ الهندسة الكهربائية وهندسة الحاسبات ، جامعة بوردو
تم إعادة نشر هذه المقالة من المحادثة بموجب رخصة المشاع الإبداعي. إقرأ ال المقالة الأصلية.
اكتشاف المزيد من نص كم
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
