كل يوم ، تخنق الرسائل الواردة من الأمراء النيجيريين ، وباعة الأدوية العجيبة والمروجين للاستثمارات التي لا يمكن تفويتها ، صناديق البريد الإلكتروني. يبدو أن التحسينات على عوامل تصفية البريد العشوائي تلهم تقنيات جديدة لاختراق وسائل الحماية.
الآن ، سباق التسلح بين مانعي البريد العشوائي ومرسلي البريد العشوائي على وشك التصعيد مع ظهور سلاح جديد: الذكاء الاصطناعي التوليدي. مع التطورات الحديثة في الذكاء الاصطناعي اشتهرت بواسطة ChatGPT، يمكن أن يكون لدى مرسلي البريد العشوائي أدوات جديدة للتهرب من عوامل التصفية وجذب انتباه الأشخاص وإقناعهم بالنقر فوق المعلومات الشخصية أو شرائها أو التخلي عنها.
كمدير لمختبر تطوير التفكير البشري والآلي في جامعة جنوب فلوريدا ، بحثت تقاطع الذكاء الاصطناعي ومعالجة اللغة الطبيعية والتفكير البشري. لقد درست كيف يمكن للذكاء الاصطناعي تعلم التفضيلات الفردية والمعتقدات والمراوغات الشخصية للناس.
يمكن استخدام هذا لفهم كيفية التفاعل مع الأشخاص بشكل أفضل أو مساعدتهم على التعلم أو تقديم اقتراحات مفيدة لهم. ولكن هذا يعني أيضًا أنه يجب عليك الاستعداد لبريد عشوائي أكثر ذكاءً يعرف نقاط ضعفك – ويمكن استخدامه ضدك.
البريد العشوائي والذكاء الاصطناعي البريد العشوائي ، AI ، البريد العشوائي ، AI
إذن ، ما هو البريد العشوائي؟
يتم تعريف البريد العشوائي على أنه رسائل بريد إلكتروني تجارية غير مرغوب فيها أرسلها كيان غير معروف. يمتد المصطلح أحيانًا إلى الرسائل النصية والرسائل المباشرة على وسائل التواصل الاجتماعي و مراجعات زائفة على المنتجات. يريد مرسلو البريد العشوائي حثك على اتخاذ إجراء: شراء شيء ما ، أو النقر فوق روابط التصيد ، أو تثبيت برامج ضارة أو تغيير طرق العرض.
البريد العشوائي مربح. يمكن أن يربح انفجار بريد إلكتروني واحد 1000 دولار أمريكي في غضون ساعات قليلة، تكلف مرسلي الرسائل غير المرغوب فيها بضعة دولارات فقط – باستثناء الإعداد الأولي. قد يتم إنشاء حملة بريد إلكتروني عشوائي عبر الإنترنت حوالي 7000 دولار في اليوم.
يرغب المعلنون الشرعيون أيضًا في حثك على اتخاذ إجراء – شراء منتجاتهم ، وإجراء استطلاعات الرأي الخاصة بهم ، والاشتراك في النشرات الإخبارية – ولكن في حين أن البريد الإلكتروني للمسوق قد يرتبط بموقع شركة على شبكة الإنترنت ويحتوي على خيار إلغاء الاشتراك وفقًا لـ الأنظمة الاتحادية، البريد الإلكتروني العشوائي قد لا.
يفتقر مرسلو البريد العشوائي أيضًا إلى الوصول إلى القوائم البريدية التي اشترك فيها المستخدمون. بدلاً من ذلك ، يستخدم مرسلو البريد العشوائي استراتيجيات غير بديهية مثل عملية احتيال “الأمير النيجيري”، حيث يدعي أمير نيجيري أنه بحاجة إلى مساعدتك لفتح مبلغ سخيف من المال ، ويعد بمكافأتك بلطف. المواطنون الرقميون الأذكياء يرفضون على الفور مثل هذه المناشدات ، لكن هذا الطلب عبثي قد يختار في الواقع للسذاجة أو العمر المتقدم، التصفية لأولئك الذين من المرجح أن يقعوا في عمليات الاحتيال.
ومع ذلك ، فإن التقدم في مجال الذكاء الاصطناعي يعني أن مرسلي البريد العشوائي قد لا يضطرون إلى الاعتماد على أساليب الضرب أو الخطأ هذه. يمكن أن يسمح لهم الذكاء الاصطناعي باستهداف الأفراد وجعل رسائلهم أكثر إقناعًا بناءً على المعلومات التي يسهل الوصول إليها ، مثل منشورات وسائل التواصل الاجتماعي.
تم تجهيز fاستخدام البريد العشوائي
من المحتمل أنك سمعت عن التطورات في نماذج اللغة الكبيرة التوليدية مثل الدردشة. المهمة التي تؤديها LLMs التوليدية بسيطة بشكل مخادع: بالنظر إلى تسلسل نصي ، توقع الرمز المميز – فكر في هذا كجزء من كلمة – يأتي بعد ذلك. ثم توقع الرمز المميز الذي يأتي بعد ذلك. وهكذا ، مرارا وتكرارا.
بطريقة ما ، يبدو أن التدريب على هذه المهمة وحدها ، عند الانتهاء من نص كافٍ على LLM كبير بما يكفي ، كافٍ لإضفاء القدرة على أداء هذه النماذج بشكل جيد بشكل مدهش. الكثير من المهام الأخرى.
ظهرت بالفعل طرق متعددة لاستخدام التكنولوجيا ، مما يُظهر قدرة التكنولوجيا على التكيف بسرعة مع الأفراد والتعرف عليهم. على سبيل المثال ، يمكن لـ LLM كتابة رسائل بريد إلكتروني كاملة بأسلوب كتابتك ، مع إعطاء أمثلة قليلة فقط عن كيفية كتابتك. وهناك المثال الكلاسيكي – الآن أكثر من عقد من الزمان – من Target اكتشاف أن الزبون كان حاملاً قبل أن يعرف والدها.
مرسلي البريد العشوائي و المسوقين على حد سواء قد يستفيد من القدرة على توقع المزيد عن الأفراد الذين لديهم بيانات أقل. بالنظر إلى صفحتك على LinkedIn ، وعدد قليل من المنشورات وصورة ملف شخصي أو اثنتين ، قد يقوم مرسلو البريد العشوائي المدعومون من LLM بتخمينات دقيقة بشكل معقول حول ميولك السياسية أو حالتك الاجتماعية أو أولويات حياتك.
أظهر بحثنا أنه يمكن استخدام LLMs للتنبؤ بالكلمة التي سيقولها الفرد بعد ذلك بدرجة من الدقة تفوق بكثير أساليب الذكاء الاصطناعي الأخرى، في مهمة لتوليد الكلمات تسمى مهمة الطلاقة الدلالية. أظهرنا أيضًا أن LLM يمكن أن تأخذ أنواعًا معينة من الأسئلة من اختبارات قدرات التفكير و توقع كيف سيستجيب الناس لهذا السؤال. يشير هذا إلى أن LLM لديها بالفعل بعض المعرفة حول شكل قدرة التفكير البشري النموذجية.
إذا تجاوز مرسلو الرسائل غير المرغوب فيها عوامل التصفية الأولية وجعلوك تقرأ بريدًا إلكترونيًا أو انقر فوق ارتباط أو حتى تشارك في محادثة ، تزداد قدرتهم على تطبيق الإقناع المخصص بشكل كبير. هنا مرة أخرى ، يمكن لـ LLMs تغيير اللعبة. تشير النتائج المبكرة إلى أنه يمكن استخدام LLM للمناقشة بشكل مقنع في موضوعات تتراوح من سياسة ل سياسة الصحة العامة.
جيد للرجل
ومع ذلك ، فإن الذكاء الاصطناعي لا يحبذ جانبًا أو آخرًا. يجب أن تستفيد عوامل تصفية البريد العشوائي أيضًا من التطورات في الذكاء الاصطناعي ، مما يسمح لها بإقامة حواجز جديدة أمام رسائل البريد الإلكتروني غير المرغوب فيها.
غالبًا ما يحاول مرسلو البريد العشوائي خداع المرشحات باستخدام أحرف خاصة أو كلمات بها أخطاء إملائية أو نص مخفي، بالاعتماد على نزوع الإنسان إلى مسامحة النصوص الصغيرة الشاذة – على سبيل المثال ، “c1îck h.ere n0w.” ولكن مع تحسن الذكاء الاصطناعي في فهم الرسائل غير المرغوب فيها ، يمكن أن تتحسن عوامل التصفية في تحديد البريد العشوائي غير المرغوب فيه وحظره – وربما حتى السماح بمرور البريد العشوائي المطلوب ، مثل البريد الإلكتروني التسويقي الذي اشتركت فيه صراحةً. تخيل مرشحًا يتنبأ بما إذا كنت تريد قراءة بريد إلكتروني قبل قراءته.
على الرغم من المخاوف المتزايدة بشأن الذكاء الاصطناعي – كما يتضح من إيلون ماسك ، الرئيس التنفيذي لشركة Tesla و SpaceX و Twitter ، ومؤسس Apple Steve Wozniak وقادة التكنولوجيا الآخرين يدعو إلى وقفة في تطوير الذكاء الاصطناعي – يمكن أن يأتي الكثير من الخير من التقدم في التكنولوجيا. منظمة العفو الدولية يمكن أن تساعدنا على الفهم كيف يمكن للأطراف السيئة استغلال نقاط الضعف في التفكير البشري والتوصل إلى طرق لمواجهة الأنشطة الحاقدة.
يمكن أن تؤدي جميع التقنيات الجديدة إلى الدهشة والخطر. يكمن الاختلاف في من ينشئ الأدوات ويتحكم فيها وكيفية استخدامها.
هل تريد معرفة المزيد عن الذكاء الاصطناعي وروبوتات المحادثة ومستقبل التعلم الآلي؟ تحقق من تغطيتنا الكاملة لـ الذكاء الاصطناعي، أو تصفح أدلةنا إلى أفضل مولدات فنية مجانية لمنظمة العفو الدولية و كل ما نعرفه عن ChatGPT الخاص بـ OpenAI.
جون ليكاتو، أستاذ مساعد في علوم الكمبيوتر ومدير مختبر AMHR ، جامعة جنوب فلوريدا
تم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقالة الأصلية.
