يلتقي الأمن السيبراني مع الذكاء الاصطناعي: زيادة وتسريع البشر

~ “قد نعيش في أوقات مثيرة للاهتمام“~

بعد الحصول على نعمة ولعنة العمل في مجال الأمن السيبراني ، غالبًا ما يُسأل عن أفكاري حول كيفية تقاطع ذلك مع موضوع شائع آخر – الذكاء الاصطناعي (AI). بالنظر إلى أحدث التطورات التي احتلت العناوين الرئيسية في أدوات الذكاء الاصطناعي التوليدية ، مثل ChatGPT من OpenAI ، و Microsoft Sydney ، وأدوات إنشاء الصور مثل Dall-E و Midjourney ، فليس من المستغرب أن يكون الذكاء الاصطناعي قد انطلق في وعي الجمهور.

كما هو الحال في كثير من الأحيان مع العديد من التقنيات الجديدة والمثيرة ، ربما يكون هناك مبالغة في تقدير التأثير قصير المدى لأحدث تطورات صناعة الأخبار. على الأقل هذا هو رأيي المباشر في النطاق الضيق لأمان التطبيق. وعلى العكس من ذلك ، فإن التأثير طويل المدى للذكاء الاصطناعي على الأمن ضخم وربما لا يحظى بالتقدير الكافي ، حتى من قبل الكثير منا في هذا المجال.

إنجازات رائعة. فشل مأساوي

بالعودة للوراء للحظة ، فإن التعلم الآلي (ML) له تاريخ طويل وعميق. ربما تكون قد استحوذت على انتباه الجمهور لأول مرة من خلال برامج لعب الشطرنج قبل 50 عامًا ، حيث تقدمت بمرور الوقت إلى IBM Watson للفوز ببطولة Jeopardy إلى روبوتات الدردشة اليوم التي اقتربت من اجتياز اختبار Turing الأسطوري.

ما يذهلني هو كيف أن كل من هذه المعالم كان إنجازًا رائعًا على مستوى وفشل مأساوي على مستوى آخر. من ناحية أخرى ، تمكن باحثو الذكاء الاصطناعي من بناء أنظمة اقتربت من أفضل البشر في العالم وتجاوزتهم في كثير من الأحيان مشكلة محددة.

من ناحية أخرى ، كشفت تلك النجاحات نفسها مدى الاختلاف المتبقي بين الذكاء الاصطناعي والإنسان. عادةً ما تتفوق قصص نجاح الذكاء الاصطناعي ليس من خلال التفوق على الإنسان أو كونه أكثر إبداعًا ولكن من خلال القيام بشيء أساسي أكبر من حيث الحجم بشكل أسرع أو على نطاق أوسع بشكل كبير.

زيادة وتسريع الإنسان

لذلك ، عندما سئل ، “كيف تعتقد أن الذكاء الاصطناعي أو تعلم الآلة سيؤثران على الأمن السيبراني في المستقبل؟” جوابي هو أن التأثير الأكبر على المدى القصير لن يأتي من استبدال البشر ، ولكن من خلال زيادة البشر وتسريعهم.

تعد الآلات الحاسبة وأجهزة الكمبيوتر أحد المقارنات الجيدة – لم يتم استبدال البشر ، ولكن بدلاً من ذلك ، سمحت بإلغاء تحميل المهام المحددة – العمليات الحسابية والمحاكاة الرقمية والبحث في المستندات – وتنفيذها بشكل أكثر كفاءة.

قدم استخدام هذه الأدوات نقلة نوعية في الأداء الكمي ، مما سمح بتنفيذ هذه المهام على نطاق أوسع. أتاح ذلك طرقًا جديدة تمامًا للعمل ، مثل الأنماط الجديدة للتحليل التي تستخدم جداول البيانات مثل VisiCalc و Excel لاحقًا ، لصالح البشر والمجتمع ككل. تم لعب قصة مماثلة مع شطرنج الكمبيوتر ، حيث يتم الآن لعب أفضل شطرنج في العالم عندما يتعاون البشر وأجهزة الكمبيوتر ، كل منها يساهم في المجال الذي يتفوقون فيه.

تم بالفعل رؤية التأثيرات الفورية للذكاء الاصطناعي على الأمن السيبراني استنادًا إلى أحدث روبوتات محادثة منظمة للذكاء الاصطناعي “طفل جديد في الكتلة”. أحد الأمثلة التي يمكن التنبؤ بها ، وهو النمط الذي يحدث غالبًا في أي وقت تتوفر فيه خدمة حديثة مكشوفة للإنترنت ، سواء كانت تذاكر ChatGPT أو Taylor Swift ، هو عدد كبير من مواقع ChatGPT الزائفة التي أنشأها المجرمون لجمع معلومات حساسة من المستهلكين بطريقة احتيالية.

وبطبيعة الحال ، فإن عالم الشركات سريع أيضًا في تبني الفوائد. على سبيل المثال ، يعمل مهندسو البرمجيات على زيادة كفاءة التطوير باستخدام مسرعات إنشاء التعليمات البرمجية القائمة على الذكاء الاصطناعي مثل Copilot. بالطبع ، يمكن لهذه الأدوات نفسها أيضًا تسريع تطوير البرامج للمهاجمين السيبرانيين ، مما يقلل من الوقت المطلوب من اكتشاف الثغرة حتى وجود التعليمات البرمجية التي تستغلها.

كما هو الحال دائمًا تقريبًا ، عادة ما يكون المجتمع أسرع في تبني تقنية جديدة مما هو عليه الحال في النظر في الآثار المترتبة عليها. بالاستمرار مع مثال Copilot ، فإن استخدام أدوات إنشاء كود الذكاء الاصطناعي يفتح تهديدات جديدة.

أحد هذه التهديدات هو تسرب البيانات – قد يتم الكشف عن الملكية الفكرية الرئيسية لشركة المطوِّر عندما “يتعلم” الذكاء الاصطناعي من الكود الذي يكتبه المطور ويشاركه مع المطورين الآخرين الذين يساعدهم. في الواقع ، لدينا بالفعل أمثلة على كلمات المرور التي يتم تسريبها عبر برنامج Copilot.

هناك تهديد آخر يتمثل في الثقة غير المبررة في الكود الذي تم إنشاؤه والذي ربما لم يكن لديه إشراف بشري ذي خبرة كافية ، مما يعرضك لخطر نشر التعليمات البرمجية الضعيفة وفتح المزيد من الثغرات الأمنية. في الواقع ، وجدت دراسة حديثة في جامعة نيويورك أن حوالي 40٪ من مجموعة تمثيلية من التعليمات البرمجية التي تم إنشاؤها بواسطة مساعد الطيارين بها نقاط ضعف مشتركة.

روبوتات محادثة أكثر تطوراً

بالنظر إلى الأمام قليلاً ، ولكن ليس كثيرًا ، أتوقع أن يختار الفاعلون السيئون أحدث تقنيات الذكاء الاصطناعي للقيام بأفضل ما فعله الذكاء الاصطناعي: السماح للبشر ، بما في ذلك المجرمين ، بالتوسع بشكل كبير. على وجه التحديد ، يتمتع أحدث جيل من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي بالقدرة على انتحال شخصية البشر على نطاق واسع وبجودة عالية.

يعد هذا مكسبًا مفاجئًا كبيرًا (من منظور مجرمي الإنترنت) ، لأنهم في الماضي كانوا مجبرين على اختيار إما أن يكونوا “واسعًا وغير عميق” أو “ضيقًا وعميقًا” في اختيارهم للأهداف. بمعنى ، يمكنهم إما استهداف العديد من الضحايا المحتملين ، ولكن بطريقة عامة وسهلة التمييز (التصيد الاحتيالي) ، أو يمكنهم القيام بعمل أفضل بكثير ، وأصعب بكثير للكشف عن وظيفة انتحال الهوية لاستهداف عدد قليل فقط ، أو حتى مجرد واحد ، ضحية محتملة (التصيد بالرمح).

باستخدام أحدث روبوتات دردشة AI ، يمكن للمهاجم الوحيد انتحال شخصية البشر عن كثب وبسهولة – سواء في الدردشة أو في بريد إلكتروني مخصص – على نطاق هجوم متزايد. بالطبع ، ستتفاعل تدابير الحماية المضادة مع هذه الخطوة وتتطور ، من المحتمل أن تستخدم أشكالًا أخرى من الذكاء الاصطناعي ، مثل مصنفات التعلم العميق. في الواقع ، لدينا بالفعل أجهزة كشف تعمل بالذكاء الاصطناعي للصور المزيفة. ستستمر لعبة القط والفأر المستمرة ، فقط باستخدام أدوات تعمل بالذكاء الاصطناعي على كلا الجانبين.

الذكاء الاصطناعي كقوة مضاعفة للأمن السيبراني

بالنظر أعمق قليلاً في الكرة البلورية ، سيتم استخدام الذكاء الاصطناعي بشكل متزايد كمضاعف للقوة لخدمات الأمن والمحترفين الذين يستخدمونها. مرة أخرى ، يمكّن الذكاء الاصطناعي من تحقيق قفزات نوعية في النطاق – بفضل تسريع ما يفعله البشر بالفعل بشكل روتيني ولكن ببطء.

أتوقع أن تزيد الأدوات التي تعمل بالذكاء الاصطناعي من فعالية الحلول الأمنية بشكل كبير ، تمامًا كما سرعت الآلات الحاسبة عملية المحاسبة بشكل كبير. أحد الأمثلة الواقعية التي وضعت بالفعل هذا التفكير موضع التنفيذ في مجال الأمان لتقليل DDoS. في الحلول القديمة ، عندما تعرض أحد التطبيقات لهجوم DDoS ، كان على مهندسي الشبكات البشرية أولاً رفض الغالبية العظمى من حركة المرور الواردة ، الصالحة وغير الصالحة ، فقط لمنع حدوث حالات فشل متتالية في نهاية المطاف.

بعد ذلك ، بعد شراء بعض الوقت ، يمكن للبشر الانخراط في عملية أكثر كثافة لتحليل أنماط حركة المرور لتحديد سمات معينة لحركة المرور الضارة بحيث يمكن حظرها بشكل انتقائي. قد تستغرق هذه العملية من دقائق إلى ساعات ، حتى مع أفضل البشر وأكثرهم مهارة. ومع ذلك ، يتم استخدام الذكاء الاصطناعي اليوم للتحليل المستمر لحركة المرور الواردة ، وإنشاء توقيع لحركة المرور غير الصالحة تلقائيًا ، وحتى تطبيق عامل التصفية المستند إلى التوقيع تلقائيًا إذا كانت صحة التطبيق مهددة – كل ذلك في غضون ثوانٍ. هذا أيضًا مثال على عرض القيمة الأساسية للذكاء الاصطناعي: أداء المهام الروتينية بشكل أسرع.

الذكاء الاصطناعي في الأمن السيبراني: تعزيز كشف الاحتيال

هذا النمط نفسه من استخدام الذكاء الاصطناعي لتسريع البشر يمكن ، ولا يزال ، اعتماده لحلول أخرى من الجيل التالي للأمن السيبراني مثل اكتشاف الاحتيال. عندما تكون الاستجابة في الوقت الفعلي مطلوبة ، وخاصة في الحالات التي تكون فيها الثقة في تقييم الذكاء الاصطناعي عالية ، يتم تمكين الذكاء الاصطناعي للرد على الفور.

ومع ذلك ، لا تزال أنظمة الذكاء الاصطناعي لا تتخطى العقل البشري أو تفهم الفروق الدقيقة أو السياق. في مثل هذه الحالات التي يكون فيها احتمال أو تأثير الأعمال الإيجابية الزائفة كبيرًا جدًا ، لا يزال من الممكن استخدام الذكاء الاصطناعي في الوضع المساعد – وضع علامة على الأحداث الأمنية التي تهم الإنسان وإعطاء الأولوية لها.

والنتيجة النهائية هي تعاون بين البشر والذكاء الاصطناعي ، كل منهم يفعل ما يجيد القيام به ، ويحسن الكفاءة والفعالية على ما يمكن أن يفعله أي منهما بشكل مستقل ، ومرة ​​أخرى تتناغم مع تشبيه الشطرنج الحاسوبي.

لدي قدر كبير من الإيمان بالتقدم حتى الآن. بالنظر إلى الكرة الكريستالية بشكل أعمق ، أشعر أن القول المأثور “نادرًا ما يتكرر التاريخ ، لكنه غالبًا ما يتناغم”. التأثير طويل المدى للتعاون بين الإنسان والذكاء الاصطناعي ، أي نتائج الذكاء الاصطناعي كمضاعف للقوة بالنسبة للبشر ، يصعب علي التنبؤ به كما قد يكون بالنسبة لمصمم الآلة الحاسبة الإلكترونية للتنبؤ بجدول البيانات.

بشكل عام ، أتخيل أنه سيسمح للبشر بتحديد النوايا والأولويات وحواجز الحماية لسياسة الأمن بشكل أكبر ، مع مساعدة الذكاء الاصطناعي ورسم خرائط ديناميكية لتلك النية على المستوى التالي من الإجراءات التفصيلية.

كين أرورا هو مهندس متميز في F5.