Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
أداوت وتكنولوجيا

جينيفر ديستيفانو تحكي عن عملية احتيال اختطاف Deepfake في الكونغرس


بدأ يوم 20 يناير مثل معظم فترات بعد الظهر المعتادة يوم الجمعة في سكوتسديل بولاية أريزونا جينيفر ديستيفانو. كانت أم لطفلين قد التقطت للتو ابنتها الصغرى من تدريب الرقص عندما تلقت مكالمة من رقم غير معروف. كادت أن تترك الرقم يذهب إلى البريد الصوتي لكنها قررت أن تلتقطه في الحلقة الأخيرة. تقول DeStefano إن ما حدث خلال اللحظات القليلة المقبلة من المرجح أن يطاردها لبقية حياتها. لم تكن تعرف ذلك بعد ، لكن ساكن أريزونا كان على وشك أن يصبح شخصية رئيسية في الاتجاه الصاعد بسرعة منظمة العفو الدولية الحيل الخطف deepfake.

روت ديستيفانو تجربتها في استيعاب التفاصيل خلال اللجنة القضائية في مجلس الشيوخ سمع يوم الثلاثاء يناقش التأثيرات الواقعية للذكاء الاصطناعي التوليدي على حقوق الإنسان. تتذكر صوت البكاء على الطرف الآخر من المكالمة الذي يبدو متطابقًا تقريبًا مع ابنتها بري البالغة من العمر 15 عامًا ، والتي كانت بعيدًا في رحلة تزلج مع والدها.

قال الصوت بين اندفاعات من البكاء: “أمي ، لقد أخطأت”. “أمي هؤلاء الرجال السيئين ، ساعدني ، ساعدني.”

ظهر صوت رجل فجأة في المكالمة وطالب بفدية قدرها مليون دولار تم تسليمها يدويًا لعودة بري الآمنة. هدد الرجل ديستيفانو بعدم طلب المساعدة وقال إنه سوف يخدر ابنتها المراهقة “ويشق طريقه معها” ويقتلها إذا اتصلت بإنفاذ القانون. سمعت أخت بري الصغرى كل هذا عبر مكبر الصوت. لا شيء من ذلك ، اتضح أنه كان صحيحًا. كان صوت “بري” في الواقع التزييف العميق الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. كان الخاطف محتالًا يبحث عن ربح سهل.

قال ديستيفانو وهو يقاوم دموعه: “لن أتمكن أبدًا من هز هذا الصوت والصرخات اليائسة طلباً للمساعدة من ذهني”. “إنه أسوأ كابوس بالنسبة لكل والد أن تسمع طفلهما يتوسل خوفًا وألمًا ، وهو يعلم أنه يتعرض للأذى وأنهم لا حول لهم ولا قوة.”

تشير قصة الأم إلى مجالات جديدة مثيرة للقلق من إساءة استخدام الذكاء الاصطناعي ونقص هائل في القوانين اللازمة لمحاسبة الأطراف السيئة. عندما اتصلت DeStefano بالشرطة بشأن عملية احتيال deepfake ، صُدمت عندما علمت أن تطبيق القانون كان بالفعل على دراية تامة بالقضية الناشئة. على الرغم من الصدمة والرعب اللذين تسببت فيهما التجربة ، قالت الشرطة إنها لا تعدو كونها “مكالمة مزحة” لأنه لم يتم ارتكاب جريمة فعلية ولم يتم تبادل الأموال على الإطلاق.

ديستيفانو ، التي تقول إنها سهرت ليالٍ “مشلولة خوفًا” بعد الحادث ، اكتشفت سريعًا أن آخرين في مجتمعها عانوا من أنواع مماثلة من عمليات الاحتيال. قالت والدتها ، ديستيفانو ، في شهادتها ، إنها تلقت مكالمة هاتفية مما بدا وكأنه صوت شقيقها يقول إنه تعرض لحادث ويحتاج إلى نقود لدفع فاتورة المستشفى. وقالت ديستيفانو للمشرعين إنها سافرت إلى العاصمة هذا الأسبوع ، جزئيًا ، لأنها تخشى أن يؤدي ظهور مثل هذه الحيل إلى تهديد الفكرة المشتركة أو الواقع نفسه.

قال ديستيفانو: “لم يعد بإمكاننا الوثوق في أن الرؤية هي تصديق أو” سمعتها بأذني “. “لا يوجد حد لعمق الشر الذي يمكن أن يمكّنه الذكاء الاصطناعي.”

يحذر الخبراء من أن الذكاء الاصطناعي يشوش على الحقيقة الجماعية

شاركت لجنة من الشهود الخبراء الذين تحدثوا أمام اللجنة الفرعية للجنة القضائية المعنية بحقوق الإنسان والقانون مخاوف DeStefano ووجهوا المشرعين نحو المجالات التي يعتقدون أنها ستستفيد من تشريعات الذكاء الاصطناعي الجديدة. قال ألكسندر مادري ، أستاذ علوم الكمبيوتر المتميز ومدير مركز MIT للتعلم الآلي القابل للنشر ، إن الموجة الأخيرة من التطورات في الذكاء الاصطناعي بقيادة أوبن إيه آي الدردشة و DALL-E “على استعداد لتغيير جذري في صنع المعنى الجماعي لدينا.” يمكن للمحتالين الآن إنشاء محتوى واقعي ومقنع وشخصي وقابل للنشر على نطاق واسع حتى لو كان مزيفًا تمامًا. قال مادري إن هذا يخلق مجالات كبيرة من إساءة استخدام عمليات الاحتيال ، لكنه يهدد أيضًا الثقة العامة في الواقع المشترك نفسه.

شاركت ألكسندرا ريف جيفنز ، الرئيس التنفيذي لمركز الديمقراطية والتكنولوجيا ، تلك المخاوف وأخبرت المشرعين أن التزييف العميق مثل النوع المستخدم ضد DeStefano يمثل بالفعل مخاطر واضحة وموجودة على الانتخابات الأمريكية المقبلة. واجه مستخدمو Twitter صورة مصغرة موجزة لهذا الاحتمال في وقت سابق من هذا الشهر عندما تم إنشاء صورة بواسطة الذكاء الاصطناعي لملف يفترض تفجير قنبلة خارج البنتاغون اكتسبت قوة الجر. قال جيفري كاين ، المؤلف والمؤسسة الأمريكية للابتكار ، زميله الكبير في عمله تغطي استخدام الصين لأنظمة الذكاء الاصطناعي المتقدمة من أجل مراقبة الأقلية المسلمة من الأويغور ، قدمت لمحة عن المخاطر الشمولية التي تشكلها هذه الأنظمة في النهاية المتطرفة. اتفق الشهود بشكل جماعي على أن عقارب الساعة تدق لسن “معايير أمان قوية” لمنع الولايات المتحدة من اتباع مسار مماثل.

“هل هذا هو طبيعتنا الجديدة؟” سأل ديستيفانو اللجنة.

يمكن للمشرعين تعزيز القوانين الحالية وتحفيز اكتشاف التزييف العميق

وقالت مارشا بلاكبيرن ، عضو مجلس الشيوخ عن ولاية تينيسي ، في حديثها خلال جلسة الاستماع ، إن قصة ديستيفانو أثبتت الحاجة إلى توسيع القوانين الحالية التي تحكم المطاردة والمضايقات لتطبيقها على المساحات الرقمية عبر الإنترنت أيضًا. وبالمثل ، نصح ريف جيفنز الكونجرس بالتحقيق في السبل التي يمكنه بها تعزيز القوانين الحالية بشأن قضايا مثل التمييز والاحتيال لحساب خوارزميات الذكاء الاصطناعي. قالت لجنة التجارة الفيدرالية ، التي تقود إجراءات إنفاذ سلامة المستهلك ضد شركات التكنولوجيا ، مؤخرًا إنها تنظر أيضًا طرق محاسبة المحتالين بالذكاء الاصطناعي باستخدام القوانين الموجودة بالفعل في الكتاب.

خارج الإصلاحات القانونية ، قال ريف جيفنز ومادري إن الكونجرس يمكنه ويجب عليه اتخاذ خطوات لتحفيز الشركات الخاصة على تطوير قدرات أفضل لاكتشاف التزييف العميق. بينما لا يوجد نقص في الشركات التي تقدم بالفعل خدمات تدعي اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، وصف مادري هذه بأنها لعبة “القط والفأر” حيث يكون المهاجمون دائمًا على بعد خطوات قليلة. وقال إن مطوري الذكاء الاصطناعي يمكن أن يلعبوا دورًا في تخفيف المخاطر من خلال تطوير أنظمة العلامات المائية للكشف عن أي محتوى يتم إنشاؤه بواسطة نماذج الذكاء الاصطناعي الخاصة بهم. وأشار ريف جيفنز إلى أن وكالات إنفاذ القانون يجب أن تكون مجهزة جيدًا بقدرات الكشف عن الذكاء الاصطناعي حتى يكون لديها القدرة على الاستجابة لقضايا مثل ديستيفانو.

حتى بعد تعرضه لـ “صدمة مرعبة ودائمة” على يد أدوات الذكاء الاصطناعي ، أعرب DeStefanos عن تفاؤله بشأن الجانب الصعودي المحتمل لنماذج الذكاء الاصطناعي التوليدية المحكومة جيدًا.

قال ديستيفانو: “ما حدث لي ولابنتي كان الجانب المأساوي للذكاء الاصطناعي ، ولكن هناك أيضًا تطورات مبشرة في الطريقة التي يمكن بها للذكاء الاصطناعي تحسين الحياة أيضًا”.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى