لقد عدت لتوك إلى المنزل بعد يوم طويل في العمل وأنت على وشك الجلوس لتناول العشاء عندما يبدأ هاتفك فجأة بالرنين. على الطرف الآخر ، هناك شخص محبوب ، ربما أحد الوالدين أو الطفل أو صديق الطفولة ، يتوسل إليك لإرسال الأموال إليه على الفور.
أنت تسألهم أسئلة وتحاول أن تفهم. هناك شيء غريب في إجاباتهم ، سواء كانت غامضة أو خارجة عن الشخصية ، وأحيانًا يكون هناك تأخير غريب ، كما لو كانوا يفكرون ببطء شديد. ومع ذلك ، فأنت على يقين من أن من تحب بالتأكيد هو المتحدث: هذا هو صوتهم الذي تسمعه ، ومعرف المتصل يظهر رقمه. لإثارة الغرابة في ذعرهم ، فأنت ترسل الأموال بإخلاص إلى الحساب المصرفي الذي يقدمونه لك.
في اليوم التالي ، تعاود الاتصال بهم للتأكد من أن كل شيء على ما يرام. ليس لدى من تحب أي فكرة عما تتحدث عنه. هذا لأنهم لم يتصلوا بك مطلقًا – لقد خدعتك التكنولوجيا: ذكاء اصطناعي صوت عميق. كان الآلاف من الناس خدع بهذه الطريقة في عام 2022.
https://www.youtube.com/watch؟v=tmFFd8fMqxk
قد تحصل G / O Media على عمولة
أصبحت القدرة على استنساخ صوت أي شخص في متناول أي شخص لديه جهاز كمبيوتر بشكل متزايد.
مثل حماية الحاسوب الباحثين، نرى أن التطورات المستمرة في خوارزميات التعلم العميق ، وتحرير الصوت والهندسة ، وتوليد الصوت الاصطناعي تعني أنه من الممكن بشكل متزايد محاكاة صوت الشخص بشكل مقنع.
والأسوأ من ذلك ، أن روبوتات الدردشة مثل ChatGPT بدأت في إنشاء نصوص واقعية باستجابات تكيفية في الوقت الفعلي. بواسطة الجمع بين هذه التقنيات مع توليد الصوت، ينتقل التزييف العميق من كونه تسجيلًا ثابتًا إلى صورة رمزية حية نابضة بالحياة يمكنها إجراء محادثة هاتفية بشكل مقنع.
استنساخ الصوت باستخدام الذكاء الاصطناعي
لا يعد إنشاء فيديو مزيف عالي الجودة مقنعًا ، سواء كان فيديو أو صوتًا ، أسهل ما يمكنك فعله. يتطلب ثروة من المهارات الفنية والتقنية ، وأجهزة قوية وعينة ضخمة إلى حد ما من الصوت المستهدف.
هناك عدد متزايد من الخدمات التي تقدم إلى إنتاج نسخ صوتية متوسطة إلى عالية الجودة مقابل رسوم، وبعض أدوات التزييف العميق للصوت تحتاج إلى عينة من مدته دقيقة واحدة فقط، او حتى بضع ثوان فقط، لإنتاج استنساخ صوت يمكن أن يكون مقنعًا بدرجة كافية لخداع شخص ما. ومع ذلك ، لإقناع شخص عزيز – على سبيل المثال ، لاستخدامها في عملية احتيال انتحال الهوية – فمن المحتمل أن يستغرق الأمر عينة أكبر بكثير.
https://www.youtube.com/watch؟v=0sR1rU3gLzQ
تمكن الباحثون من استنساخ الأصوات في أقل من خمس ثوانٍ من التسجيل.
الحماية من التزييف العميق الحيل والتضليل
مع كل ما قيل ، نحن في مشروع DeFake من معهد روتشستر للتكنولوجيا ، وجامعة ميسيسيبي وجامعة ولاية ميتشيغان ، وباحثون آخرون يعملون بجد ليكونوا قادرين على اكتشاف مقاطع الفيديو والصوت والتزييف العميق والحد من الضرر الذي تسببه. هناك أيضًا إجراءات مباشرة ويومية يمكنك اتخاذها لحماية نفسك.
للمبتدئين، التصيد الصوتي، أو “التصيّد الصوتي” ، مثل تلك الموصوفة أعلاه ، هي الأكثر احتمالية للتزوير الصوتي العميق الذي قد تصادفه في الحياة اليومية ، سواء في العمل أو في المنزل. في عام 2019 ، أ تم خداع شركة الطاقة من 243000 دولار أمريكي عندما يحاكي المجرمون صوت رئيس الشركة الأم ليأمر موظفًا بتحويل الأموال إلى مورد. في عام 2022 ، كان الناس تم خداع ما يقدر بـ 11 مليون دولار من خلال أصوات محاكاة ، بما في ذلك الاتصالات الشخصية الوثيقة.
ماذا يمكنك أن تفعل حيال الأصوات المزيفة بواسطة الذكاء الاصطناعي؟
انتبه للمكالمات غير المتوقعة ، حتى من الأشخاص الذين تعرفهم جيدًا. هذا لا يعني أنك بحاجة إلى جدولة كل مكالمة ، ولكنه يساعد على الأقل في إرسال بريد إلكتروني أو رسالة نصية في المستقبل. أيضًا ، لا تعتمد على معرف المتصل ، منذ ذلك الحين يمكن تزويرها أيضًا. على سبيل المثال ، إذا تلقيت مكالمة من شخص يدعي أنه يمثل البنك الذي تتعامل معه ، فقم بإنهاء المكالمة واتصل بالبنك مباشرة لتأكيد شرعية المكالمة. تأكد من استخدام الرقم الذي كتبته أو حفظه في قائمة جهات الاتصال الخاصة بك أو الذي يمكنك العثور عليه على Google.
بالإضافة إلى ذلك ، كن حذرًا بشأن معلومات التعريف الشخصية الخاصة بك ، مثل رقم الضمان الاجتماعي وعنوان المنزل وتاريخ الميلاد ورقم الهاتف والاسم الأوسط وحتى أسماء أطفالك وحيواناتك الأليفة. يمكن للمحتالين استخدام هذه المعلومات لانتحال شخصيتك للبنوك وأصحاب العقارات وغيرهم ، لإثراء أنفسهم أثناء إفلاسك أو تدمير ائتمانك.
إليك نصيحة أخرى: اعرف نفسك. على وجه التحديد ، تعرف على تحيزاتك ونقاط ضعفك الفكرية والعاطفية. هذه نصيحة جيدة للحياة بشكل عام ، لكنها أساسية لحماية نفسك من التلاعب. يسعى المحتالون عادةً إلى التملص من مخاوفك المالية أو ارتباطاتك السياسية أو ميولك الأخرى ، مهما كانت.
هذا اليقظة هو أيضًا دفاع لائق ضد التضليل باستخدام الصوت العميق. يمكن استخدام تقنية التزييف العميق للاستفادة من ملفات تأكيد التحيز، أو ما تميل إلى تصديقه تجاه شخص ما.
إذا سمعت شخصًا مهمًا ، سواء من مجتمعك أو من الحكومة ، يقول شيئًا يبدو أنه غير معهود تمامًا بالنسبة له أو يؤكد أسوأ شكوكك بشأنه ، فمن الحكمة أن تكون حذرًا.
هل تريد معرفة المزيد عن الذكاء الاصطناعي وروبوتات المحادثة ومستقبل التعلم الآلي؟ تحقق من تغطيتنا الكاملة لـ الذكاء الاصطناعي، أو تصفح أدلةنا إلى أفضل مولدات فنية مجانية لمنظمة العفو الدولية و كل ما نعرفه عن ChatGPT الخاص بـ OpenAI.
ماثيو رايت، أستاذ أمن الحوسبة ، معهد روتشستر للتكنولوجيا و كريستوفر شوارتز، باحث ما بعد الدكتوراه في أمن الحوسبة ، معهد روتشستر للتكنولوجيا
تم إعادة نشر هذه المقالة من المحادثة بموجب رخصة المشاع الإبداعي. إقرأ ال المقالة الأصلية.
اكتشاف المزيد من نص كم
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
