تطلق Perception Point نموذجًا للذكاء الاصطناعي لمكافحة هجمات BEC التوليدية القائمة على الذكاء الاصطناعي

كشفت Perception Point ، وهي منصة لأمن الإنترنت ، عن أحدث ابتكاراتها لمواجهة المد المتصاعد لتهديدات البريد الإلكتروني الناتجة عن الذكاء الاصطناعي. تستخدم تقنية الكشف الجديدة للشركة نماذج لغة كبيرة مدعومة بالذكاء الاصطناعي (LLMs) وبنية تعلم عميق لتحديد وإحباط هجمات البريد الإلكتروني التجارية (BEC) التي تسهلها تقنيات الذكاء الاصطناعي التوليدية.

يستغل المجرمون تقنية الذكاء الاصطناعي المولدة لتنفيذ هجمات متطورة وموجهة بدقة ضد المنظمات من جميع الأحجام. ظهرت هذه التقنية كأداة فعالة جديدة للجرائم الإلكترونية ، لا سيما في الهندسة الاجتماعية وهجمات BEC ، لأنها تتيح إنشاء رسائل بريد إلكتروني عالية الجودة وشخصية تشبه المخرجات البشرية.

وفقًا لتقرير التحقيق الأخير بشأن خرق البيانات من Verizon ، يمكن أن تُعزى أكثر من 50٪ من حوادث الهندسة الاجتماعية إلى BEC. كما يكشف التقرير السنوي لـ Perception Point لعام 2023 عن زيادة بنسبة 83٪ في محاولات BEC.

لمواجهة هذا التهديد المتصاعد ، طورت الشركة نموذج اكتشاف مبتكرًا يعتمد على LLMs ، والتي تستخدم المحولات – نماذج الذكاء الاصطناعي القادرة على فهم السياق الدلالي للنص ، على غرار LLMs الشهيرة مثل OpenAI’s ChatGPT و Google’s Bard.

وبالتالي يمكن للحل تحديد أنماط مميزة في النص الذي تم إنشاؤه بواسطة LLM ، وهو عامل حاسم في اكتشاف وإحباط التهديدات العامة القائمة على الذكاء الاصطناعي.

ما وراء الحلول الأمنية القديمة

تؤكد Perception Point أن موردي الأمن التقليديين غالبًا ما يفشلون في تحقيق المستوى المطلوب من دقة الكشف من خلال التحليل السياقي والسلوكي.

تذكر الشركة أنه على الرغم من أن أنظمة أمان البريد الإلكتروني المتقدمة تستخدم الكشف السياقي والسلوكي ، إلا أنها لا تزال تكافح لتحديد الهجمات المحسّنة حديثًا التي يسهلها الذكاء الاصطناعي التوليدي. وذلك لأن هذه الهجمات تتحايل على الأنماط النموذجية التي صممت طرق الكشف في الأصل للتعرف عليها.

علاوة على ذلك ، تدعي الشركة أن الحلول المتاحة حاليًا في السوق تعتمد فقط على اكتشاف ما بعد التسليم. هذا يعني أن البريد الإلكتروني الضار يمكن أن يظل في صندوق الوارد الخاص بالمستخدم لفترة طويلة قبل إزالته.

قال تال زامير ، كبير مسؤولي التكنولوجيا في Perception Point ، لـ VentureBeat: “تكافح حلول أمان البريد الإلكتروني القديمة التي تعتمد على التوقيعات وتحليل السمعة لإيقاف حتى أبسط هجمات BEC التي لا تحمل حمولة صافية”. “تكمن القوة الرئيسية لنموذجنا الجديد في التعرف على تكرار الأنماط التي يمكن تحديدها في النص الذي تم إنشاؤه بواسطة LLM. يستخدم النموذج بنية فريدة من ثلاث مراحل تكتشف BEC بأعلى معدلات الكشف وتقلل الإيجابيات الزائفة. “

قال زمير إن تمييز الحل يكمن في الفحص الشامل لجميع رسائل البريد الإلكتروني ، وفرض الحجر الصحي على تلك التي تم تحديدها على أنها ضارة قبل وصولها إلى صندوق الوارد الخاص بالمستخدم. وأوضح أن هذا النهج الاستباقي يقضي على المخاطر والأضرار المحتملة المرتبطة بالطرق القائمة على الاكتشاف التي تعتمد على تحديد ومعالجة التهديدات بمجرد اختراقها للنظام.

بالإضافة إلى ذلك ، يشتمل الحل على خدمة الاستجابة المدارة للحوادث ، مما يخفف من مسؤولية فرق مركز عمليات الأمن الخاصة بالعملاء عن الاستجابة السريعة للحوادث ونشر خوارزميات جديدة في الوقت الفعلي لمواجهة التهديدات الجديدة والناشئة.

تدعي Perception Point أن طرازها يُظهر سرعة استثنائية في معالجة رسائل البريد الإلكتروني الواردة بمتوسط ​​وقت يبلغ 0.06 ثانية. تم تدريب النموذج في البداية على مئات الآلاف من العينات الضارة التي تم التقاطها من قبل الشركة ويتم تحديثه باستمرار ببيانات جديدة لتحسين فعاليته.

الاستفادة من الذكاء الاصطناعي التوليدي لتقليل الهجمات المستندة إلى البريد الإلكتروني

وقال زامير من Perception Point ، إن الهجمات الجديدة تشمل مجرمي الإنترنت الذين يستغلون رسائل البريد الإلكتروني المزيفة لانتحال شخصية المنظمات الموثوقة. باستخدام تقنيات الهندسة الاجتماعية ، يخدع المهاجمون الموظفين لتحويل مبالغ كبيرة من المال أو الكشف عن بيانات سرية.

قال زامير لموقع VentureBeat: “يستغل المهاجمون حقيقة أن الموظفين في المؤسسة الحديثة هم الحلقة الأضعف في المنظمة فيما يتعلق بالأمن”. “إنهم يستفيدون من الهجمات المستندة إلى نصوص BEC ، والتي لا تحتوي عادةً على حمولات ضارة مثل عناوين URL أو الملفات الضارة ، وبالتالي تتجاوز أنظمة أمان البريد الإلكتروني التقليدية ، لتصل إلى صناديق البريد الوارد الخاصة بالمستخدمين.”

وذكر كذلك أن ظهور الذكاء الاصطناعي التوليدي ، وتحديداً LLMs ، قد أعطى دفعة لانتحال الهوية ، والتصيد الاحتيالي وهجمات BEC. يمكّن هذا التقدم مجرمي الإنترنت من العمل بسرعة وحجم أكبر من أي وقت مضى.

قال زمير: “يمكن الآن إنجاز المهام التي كانت تتطلب وقتًا وجهدًا مكثفًا ، مثل البحث المستهدف والاستطلاع وكتابة الإعلانات والتصميم ، في غضون دقائق باستخدام مطالبات مصممة بعناية”. “يؤدي هذا إلى تضخيم التهديد من خلال توسيع مجموعة الضحايا المحتملين وزيادة فرص نجاح الهجمات بشكل كبير”.

لتقليل الإيجابيات الكاذبة التي تنشأ من الاستخدام المكثف للذكاء الاصطناعي التوليدي لرسائل البريد الإلكتروني المشروعة ، تستخدم Perception Point بنية مميزة ثلاثية المراحل في نموذجها.

بعد عملية التسجيل الأولية ، يستخدم النموذج المحولات وخوارزميات التجميع لتصنيف محتوى البريد الإلكتروني. من خلال دمج الرؤى من هذه المراحل مع البيانات التكميلية ، مثل سمعة المرسل ومعلومات بروتوكول المصادقة ، يتنبأ النموذج بما إذا كان البريد الإلكتروني تم إنشاؤه بواسطة الذكاء الاصطناعي ويحدد ما إذا كان يمثل تهديدًا محتملاً.

“يقوم نموذجنا بمسح كل بريد إلكتروني ديناميكيًا ، بما في ذلك عناوين URL والملفات المضمنة ، باستخدام طبقة اكتشاف HAP (النظام الأساسي بمساعدة الأجهزة) الحاصلة على براءة اختراع. هذا هو وضع الحماية الخاص بنا من الجيل التالي والذي يقوم بمسح المحتوى ديناميكيًا على مستوى وحدة المعالجة المركزية / الذاكرة “، قال زامير.

ما التالي بالنسبة إلى Perception Point؟

قال زامير إن شركته تهدف إلى تطوير قدرات الذكاء الاصطناعي لفحص كميات هائلة من البيانات ، وتحديد التهديدات المحتملة وتزويد العملاء بذكاء عملي.

وأكد أن دمج روبوتات الذكاء الاصطناعي التوليدية في تطبيقات التعاون مثل Slack أو Teams والمتصفحات مثل Edge وخدمات التخزين السحابية مثل Google Drive أو OneDrive قد خلق طرقًا جديدة للهجمات المحتملة.

قال زمير: “تدرك Perception Point هذه التهديدات الناشئة ، ونحن نعمل على تطوير حلول أمان الذكاء الاصطناعي المصممة لمنع واكتشاف والاستجابة لتعقيد مشهد التهديد المتزايد باستمرار”. “سنستمر في ضمان قدرة عملائنا على الاستفادة من قوة الذكاء الاصطناعي التوليدي دون المساس بوضعهم الأمني.”