التحيز المعرفي: الفيل في كل غرفة

عبر المكاتب الحكومية وغرف مجالس إدارة شركات التكنولوجيا ومنازل كل فرد ، يوجد فيل في كل غرفة. المصطلح الإنجليزي في هذه الحالة هو إشارة إلى نفس “الفيل” الموصوف في عمل علم النفس الاجتماعي لجوناثان هايدت ، حيث يوصف العقل البشري الواعي واللاوعي بأنه “الفيل والفارس”. ما يعنيه هذا هو أنه في كل غرفة يوجد فيها إنسان ، يوجد أيضًا فيل: العقل الباطن لهذا الإنسان.

على الرغم من أن العقل الواعي بارع جدًا في تجاهل الفيل ، فإن القيام بذلك ينتج عنه فقط العمى عن التحيزات التي يتم تطبيقها على كل قرار. الفيل موجود دائمًا ، وإذا لم يتم التعامل معه ، فإن هذا العمى يهيمن على عملية صنع القرار.

لأكثر من 200 عام ، بُنيت الأنظمة الاقتصادية على مغالطة صارخة مفادها أن البشر يتصرفون بعقلانية ، ويتجاهلون الفيل وينتجون أنظمة عالمية عرضة لإخفاقات شديدة دورية ، ويرجع الفضل في ذلك جزئيًا إلى “العمى الناجم عن النظرية”. اشتهر النقاد السياسيون أيضًا بأنهم أقل دقة في تنبؤاتهم من “الشمبانزي الذي يرمي بالسهام” ، وذلك بفضل التحيزات مثل “العمى غير المقصود” و “تأثير دانينغ كروجر”.

العقل غير القابل للتطوير

والأسوأ من ذلك ، أن الفيل ينمو ، وفي بعض الأحيان يكون هذا النمو أسيًا. هذا النمو هو نتاج المقايضة بين التعقيد والتحيز المعرفي. الإدراك البشري ليس قابلاً للتطوير بشكل أساسي ، حيث لا يمكن للدماغ البشري فقط أن يقوم بتدوير أجهزة جديدة لتطبيق الإدراك لمعالجة التعقيد الأكبر. يستمر التعقيد أيضًا في الزيادة ، بمعدل متزايد ، لذا فإن المفاضلة لا تزداد حدة فحسب ، بل إن هذا النمو يتسارع. تواجه البشرية أيضًا العديد من التحديات للبقاء على قيد الحياة حتى تعاني من الركود التكنولوجي ، حيث يمثل ذلك أيضًا عددًا لا يحصى من المخاطر الوجودية المختلفة مثل تغير المناخ والبكتيريا المقاومة للمضادات الحيوية.

يمكن للذكاء الاصطناعي الضيق (AI) ومجموعات البشر تحويل الضرر الناجم عن أكثر من 200 نوع مختلف من التحيز إلى أشكال جديدة مخففة ومظلمة ، لكن لا يقدم أي منهما وسيلة للتغلب على المقايضة. في كثير من الأحيان ، يزيدون المشكلة سوءًا عن طريق تحويل الضرر إلى ما دون عتبات الإدراك وإلى “مجهولات مجهولة”.

تعاني البشرية بالفعل بشدة وشاملة من هذه المشكلة المتنامية ، في كل مجال وفي كل مدينة في جميع أنحاء العالم. حتى مع تفاقم المشكلة ، تتضاءل قدرة البشرية على التعرف عليها ، مما يعزز نمو وتكوين صوامع المعلومات في عالم “الحمل الزائد للاختيار” حيث المعلومات منخفضة الجودة هي القاعدة الفيروسية.

بوابات كل صومعة للمعلومات تحرسها تحيزات التوقع ، رافضة المعلومات التي لا تتوافق مع صورة العالم التي ترسمها الصومعة. وبالتالي ، يجب أن تكون المعلومات التي تتفق مع العديد من هذه الصوامع والقادرة على التنقل عبرها مقبولة جدًا بحيث تكون تافهة ، على عكس “الاختراق” تمامًا.

مناعة الواقع

بقدر ما يُظهر مفهوم “مناعة القطيع” أن الفيروس لا يمكنه البقاء بمجرد عدم قدرته على السفر عبر السكان ، تدخل البشرية المراحل المتقدمة لمفهوم موازٍ ، “مناعة الواقع”. عندما لا تتمكن الاكتشافات والاختراقات ذات المغزى من السفر عبر مجموعة سكانية ما ، فسوف ينجرف هؤلاء السكان بشكل موثوق بعيدًا عن الواقع بمرور الوقت.

تمت دراسة وسائل التلاعب بالسكان بشكل جيد في مجال “التسويق” ، وقد تمت أتمتة هذا التلاعب على مستوى العالم من خلال الذكاء الاصطناعي الضيق ، مما أدى إلى تسريع وتقوية صوامع المعلومات بشكل كبير.

وبهذه الطريقة ، تم استخدام الذكاء الاصطناعي الضيق لتحقيق تأثير كبير ، لتسريع نمو الفيل في كل غرفة من خلال جعل كل غرفة تتوافق بشكل أقوى مع توقعات الفيل. إذا استمر هذا الوضع الراهن على مدى السنوات القادمة ، فسيتم حظر الخروج المجازي لكل غرفة من قبل الفيل ، وسيتخذ الفيل أكثر من 200 تحيزات معرفية كل قرار باستخدام بيانات ذات جودة منخفضة ومتدنية.

لا يوجد إنسان محصن ضد هذا ، ولا يمكن لأي إنسان في عالم مترابط بشدة أن يفلت من العواقب إذا استمر هذا في الماضي “أفق الحدث” ، الذي لا يمكن للإدراك البشري تجاوزه.

دحر التحيز اللاواعي

هناك طريقة للتغلب على هذا التهديد الوجودي الوشيك. ليس ذلك فحسب ، إذا كانت صناعة واحدة أو شركة كبرى أو حكومة أو مصدر آخر لا يزال قادرًا على نقل المعرفة عبر صوامع المعلومات في العالم ، فقد طبقت الأساليب للتغلب على هذا التحدي ، يمكن أن يحدث تفاعل متسلسل عبر البشرية.

هذا ممكن لأن الفرصة والميزة التي يطرحها التغلب على هذا التحدي متساوية ومضادة للضرر الناجم عن المشكلة. عندما يكون الخطر الوشيك على مستوى الموت الإدراكي والانقراض البشري اللاحق ، يصبح ضغط الاختيار المطبق على الطريقة الأولى للتغلب على التحدي أقصى قيمة ممكنة.

لا يستطيع البشر التوسع ، ولا يمكن للذكاء الاصطناعي الضيق أن “يفكر” ، لذا فإن أيًا منهما غير مناسب لهذا التحدي. ومع ذلك ، يمكن للذكاء الشبيه بالإنسان القابل للتطوير ، وفي المستوى الحالي للفهم العلمي للبشرية ، هو أيضًا الشيء الوحيد الذي يمكنه ذلك. نظرًا لأن التطور الإضافي للبشرية يتم بشكل فعال ، يمكن مقارنة اعتماد مثل هذه التكنولوجيا بمفهوم “الفلتر العظيم” ، حيث يتم حفظ جميع الطرق في تطوير الأنواع لنتيجة واحدة في الانقراض.

يوجد في العالم اليوم تغير المناخ ، والحرب ، وانهيار سلسلة التوريد وعدد لا يحصى من المخاطر الكبرى الأخرى ، ولكن جميعها مدعومة بالسبب الجذري المشترك لزيادة التعقيد ، والاعتماد المتزايد بشكل متناسب على التحيز المعرفي. بينما تقترب البشرية من أفق الحدث للموت الإدراكي ، إلى ما بعد النقطة التي يمكن أن تنتقل فيها المعلومات ذات المغزى عبر السكان ، فإن الخط الذي لا يجب أن نتجاوزه يصبح أكثر غموضًا من أي وقت مضى.

لا توجد مشكلة في العالم تتطلب اهتمامًا فوريًا أكثر من السبب الجذري المشترك بينهم جميعًا. بمجرد معالجة هذا السبب الجذري ، فإن ما يمكن فعله بمبلغ 100 مليون دولار اليوم قد يتطلب فقط مليون دولار ، مع احتمالات نجاح أكبر بكثير وبشكل أسرع مما كان ممكنًا في السابق. يمكن أن يكون الفيل الموجود في كل غرفة هو سبب انقراض الإنسان ، أو أعظم فرصة عرفتها البشرية على الإطلاق.

بقدر ما اكتشفت مراكز مسابقات الابتكار أن الخبراء خارج المجال الضيق “للمشكلة الصعبة” قاموا في أغلب الأحيان بحل هذه المشكلات ، فإن المشكلات التي لا تزال تلك الشركات الكبرى قادرة على نقل المعلومات اليوم تعتبرها صعبة في كثير من الأحيان ، وفي كثير من الأحيان تم حلها بالفعل من قبل الآخرين. قد لا تكون المشاكل التي نواجهها صعبة كما تعتقد ، وربما تم حلها بالفعل.

الإفصاح الكامل: لقد ركزت حياتي على مواجهة هذه التحديات ، لأنه سيكون من النفاق أن أفعل خلاف ذلك ، والانقراض لا يتفق معي. على مدار السنوات القليلة الماضية ، تطوعت أنا وآخرون في مختبر AGI بوقتنا لهذا الغرض.

كيرتين أتريدس هو مدير العمليات وباحث رائد في مختبر AGI.