تحمل المسؤولية مع الذكاء الاصطناعي القابل للتفسير

القابلية للتفسير ليست مسألة تقنية – إنها قضية إنسانية.

قال Madhu Narasimhan ، نائب الرئيس التنفيذي ورئيس قسم الابتكار والاستراتيجية والرقمية والابتكار في Wells Fargo ، إنه يتعين على البشر أن يكونوا قادرين على شرح وفهم كيفية وصول نماذج الذكاء الاصطناعي إلى الاستنتاجات التي يقومون بها.

وأكدت للجمهور خلال محادثة في حدث VentureBeat Transform 2023 اليوم: “هذا جزء أساسي من سبب أهمية الذكاء الاصطناعي القابل للتفسير”.

أوضح Narasimhan للجمهور والمشرف Jana Eggers ، الشريك المؤسس والرئيس التنفيذي لمنصة الذكاء المشبكي Nara Logics ، أن Wells Fargo قام بـ “قدر هائل” من الاختبارات اللاحقة على مساعد Fargo الافتراضي الخاص به لفهم سبب تفسير النموذج للغة بالطريقة التي كان.

في بناء النماذج ، تبني الشركة بشكل متزامن إمكانية الشرح ولديها مجموعة مستقلة من علماء البيانات الذين يقومون بالتحقق من صحة هذه النماذج بشكل منفصل.

>> اتبع جميع تغطية VentureBeat Transform 2023 الخاصة بنا <<

قال Narasimhan: “نستخدم ذلك كجزء من اختباراتنا للتأكد من أنه عندما يبدأ العميل في استخدام المساعد الافتراضي ، فإنه يتصرف بالطريقة التي يتوقعها بالضبط”. “نظرًا لأن المساعدين الافتراضيين شائعون جدًا ، فلن يتم قبول أي تجربة أخرى.”

تتصرف بالطريقة التي يتصرف بها الإنسان

قال ناراسيمهان إن الهدف الأساسي هو امتلاك نماذج تتصرف بالطريقة التي يتصرف بها الإنسان ، “لأن هذه هي الفرضية الكاملة للذكاء الاصطناعي.”

يتمثل أحد التحديات الرئيسية في أن البشر متحيزون ، ومن الأهمية بمكان ضمان عدم تحيز النماذج. قالت “علينا حماية وإدارة التحيز في البيانات”.

كجزء من عملية تطوير النموذج ، تنظر Wells Fargo في جميع عناصر البيانات من أجل التحيز ، سواء على مستوى السمات أو على مستوى مجموعة البيانات ، كما أوضحت.

من جانبها ، أشارت إيجرز إلى أنه في حين أن إزالة التحيز أمر مهم ، فإن التنظيف الكامل للبيانات ليس كذلك.

قالت: “أقول دائمًا للناس ،” لا تنظف بياناتك ، لأن الكثير من البيانات قذرة وفوضوية “. “وهذه هي الحياة فقط ، وعلينا أن تكون لدينا نماذج تتكيف مع ذلك.”

وأشارت إلى أنه إذا تمكنت الآلة من إخبار الأشخاص بما تراه في البيانات ، فيمكنهم بعد ذلك الدخول وإخبارها بالتوقف عن رؤية تحيز معين.

قال إيجرز: “ليس الأمر أنني أريد إخراج البيانات”. “إنني أريد الضبط والتعديل ، تمامًا كما هو الحال مع الإنسان حيث نريد نشر الوعي:” مرحبًا ، لديك بعض التحيز. “

العمل معًا نحو القابلية للتفسير

قال ناراسيمهان إنه في النهاية ، من المهم فهم ما يمكن أن يفعله الذكاء الاصطناعي التوليدي ، بالإضافة إلى حدوده. ستعمل القوة الاقتصادية الرائدة على بناء نماذج أكثر وأكثر تعقيدًا ، لذلك ستستمر الحاجة إلى التفسير لدعم الاستنتاجات غير المتوقعة.

للمساعدة في دعم ذلك في جميع المجالات ، أنشأ علماء بيانات Wells Fargo مجموعة أدوات الوصول المفتوح القابلة للتفسير بلغة Python والتي شاركتها الشركة مع المؤسسات المالية الأخرى.

قال Narasimhan: “هذا ما أنا متحمس بشأنه: القدرة على تطوير أداة متاحة بطريقة الوصول المفتوح التي تتيح للجميع النظر في كيفية شرح النماذج بطبيعتها”. “كلما تمكنت من شرح كيفية وصولنا إلى قابلية شرح النموذج ، أعتقد أنه من الأفضل لنا في كل مكان.”