انظر كيف أصبحت الصور الحقيقية التي تم إنشاؤها بواسطة الذكاء الاصطناعي

لم تكن الرؤية مؤمنة لفترة طويلة جدًا. تم تزوير الصور والتلاعب بها منذ فترة طويلة من وجود التصوير الفوتوغرافي.

الآن ، ليست هناك حاجة حتى للواقع حتى تبدو الصور أصلية – فقط ذكاء اصطناعي يستجيب للموجه. حتى الخبراء يكافحون أحيانًا لمعرفة ما إذا كان أحدهم حقيقيًا أم لا. هل تستطيع؟

أدى التقدم السريع للذكاء الاصطناعي إلى إطلاق إنذارات بأن التكنولوجيا المستخدمة لخداع الناس تتقدم بشكل أسرع بكثير من التكنولوجيا التي يمكنها تحديد الحيل. تتدافع شركات التكنولوجيا والباحثون ووكالات الصور والمؤسسات الإخبارية للحاق بالركب ، في محاولة لوضع معايير لمصدر المحتوى وملكيته.

هذا التقدم يؤجج بالفعل المعلومات المضللة ويستخدم لتأجيج الانقسامات السياسية. أنشأت الحكومات الاستبدادية مذيعات أخبار تبدو واقعية لتعزيز أهدافها السياسية. في الشهر الماضي ، وقع بعض الأشخاص لالتقاط صور تظهر البابا فرانسيس وهو يرتدي سترة منتفخة من Balenciaga وزلزال دمر شمال غرب المحيط الهادئ ، على الرغم من عدم وقوع أي من هذين الحدثين. تم إنشاء الصور باستخدام Midjourney ، وهو منشئ صور شهير.

يوم الثلاثاء ، عندما سلم الرئيس السابق دونالد جيه ترامب نفسه في مكتب المدعي العام في مانهاتن لمواجهة تهم جنائية ، ظهرت صور تم إنشاؤها بواسطة الذكاء الاصطناعي على موقع Reddit تظهر الممثل بيل موراي كرئيس للبيت الأبيض. وسرعان ما تمت إعادة نشر صورة أخرى تظهر السيد ترامب وهو يسير أمام حشد كبير مع الأعلام الأمريكية في الخلفية على تويتر دون الإفصاح الذي صاحب المنشور الأصلي ، مشيرًا إلى أنه لم يكن في الواقع صورة فوتوغرافية.

يخشى الخبراء من أن التكنولوجيا يمكن أن تسرع تآكل الثقة في وسائل الإعلام والحكومة والمجتمع. إذا كان من الممكن تصنيع أي صورة – والتلاعب بها – فكيف نصدق أي شيء نراه؟

قال وسيم خالد ، الرئيس التنفيذي لشركة Blackbird.AI ، وهي شركة تساعد يحارب العملاء المعلومات المضللة.

يسمح الذكاء الاصطناعي لأي شخص تقريبًا بإنشاء أعمال فنية معقدة ، مثل تلك المعروضة الآن في معرض Gagosian للفنون في نيويورك ، أو صور واقعية تطمس الخط الفاصل بين ما هو حقيقي وما هو خيالي. أدخل وصفًا نصيًا ، ويمكن للتقنية إنتاج صورة ذات صلة – لا تتطلب مهارات خاصة.

في كثير من الأحيان ، هناك تلميحات إلى أن الصور الفيروسية تم إنشاؤها بواسطة جهاز كمبيوتر بدلاً من التقاطها في الحياة الواقعية: على سبيل المثال ، كان للبابا المطلي الفاخر نظارات بدت وكأنها تذوب في خده وأصابعه غير الواضحة. غالبًا ما تنتج أدوات فن الذكاء الاصطناعي نصًا لا معنى له. وهنا بعض الأمثلة:

ومع ذلك ، فإن التطورات السريعة في التكنولوجيا تقضي على العديد من تلك العيوب. أحدث نسخة من Midjourney ، التي تم إصدارها الشهر الماضي ، قادرة على تصوير أيدي واقعية ، وهو إنجاز استعصى ، بشكل واضح ، على أدوات التصوير المبكرة.

قبل أيام من تسليم السيد ترامب نفسه لمواجهة تهم جنائية في مدينة نيويورك ، تم التقاط صور لـ “اعتقاله” حول وسائل التواصل الاجتماعي بواسطة إليوت هيغينز ، صحفي بريطاني ومؤسس Bellingcat ، وهي منظمة تحقيق مفتوحة المصدر. لقد استخدم Midjourney لتخيل اعتقال الرئيس السابق ومحاكمته وسجنه في بذلة برتقالية والهروب عبر المجاري. نشر الصور على تويتر ، واصفا إياها بوضوح على أنها إبداعات. منذ ذلك الحين تم تقاسمها على نطاق واسع.

لم يكن الغرض من الصور خداع أي شخص. بدلاً من ذلك ، أراد السيد هيغينز لفت الانتباه إلى قوة الأداة – حتى في مهدها.

قال إن صور Midjourney كانت قادرة على اجتياز برامج التعرف على الوجه التي يستخدمها Bellingcat للتحقق من الهويات ، عادةً من الروس الذين ارتكبوا جرائم أو انتهاكات أخرى. ليس من الصعب تخيل الحكومات أو الجهات الفاعلة الشائنة الأخرى التي تصنع صورًا لمضايقة أعدائها أو تشويه سمعتهم.

في الوقت نفسه ، قال السيد هيغينز ، كافحت الأداة أيضًا لإنشاء صور مقنعة مع أشخاص لم يتم تصويرهم على نطاق واسع مثل السيد ترامب ، مثل رئيس الوزراء البريطاني الجديد ، ريشي سوناك ، أو الممثل الكوميدي هاري هيل ، “الذي ربما لا يكون معروفًا خارج المملكة المتحدة كثيرًا “.

لم يكن ميدجورني مسليًا بأي حال من الأحوال. وعلقت حساب السيد هيغينز دون تفسير بعد انتشار الصور. ولم ترد الشركة على طلبات التعليق.

إن حدود الصور التوليفية تجعل من السهل نسبيًا اكتشافها من قبل المؤسسات الإخبارية أو غيرها من الأشخاص المهتمين بالمخاطر – على الأقل في الوقت الحالي.

ومع ذلك ، تحركت شركات الصور الفوتوغرافية والهيئات التنظيمية الحكومية ومجموعة تجارية لصناعة الموسيقى لحماية محتواها من الاستخدام غير المصرح به ، لكن القدرة القوية للتكنولوجيا على التقليد والتكيف تعقد تلك الجهود.

بل إن بعض مولدات الصور التي تعمل بالذكاء الاصطناعي قد أعادت إنتاج الصور – وهي تكريم مرهف لـ “قمم التوأم”. ويل سميث يأكل حفنة من المعكرونة – مع نسخ مشوهة من العلامات المائية التي تستخدمها شركات مثل Getty Images أو Shutterstock.

في فبراير ، اتهم Getty Stability AI بنسخ أكثر من 12 مليون صورة Getty بشكل غير قانوني ، إلى جانب التعليقات والبيانات الوصفية ، لتدريب البرنامج وراء أداة Stable Diffusion. جادل جيتي في الدعوى القضائية التي رفعتها بأن Stable Diffusion قلل من قيمة علامة Getty المائية من خلال دمجها في صور تتراوح “من الغريب إلى البشع”.

قال جيتي إن “السرقة الوقحة والحرية” تمت “على نطاق مذهل”. الاستقرار لم تستجب منظمة العفو الدولية لطلب التعليق.

تعكس دعوى Getty القضائية المخاوف التي أثارها العديد من الفنانين الأفراد – من أن شركات الذكاء الاصطناعي أصبحت تهديدًا تنافسيًا من خلال نسخ المحتوى الذي ليس لديهم إذن باستخدامه.

أصبحت انتهاكات العلامات التجارية أيضًا مصدر قلق: فقد قامت الصور التي تم إنشاؤها بشكل مصطنع بتكرار شعار الطاووس الخاص بشركة NBC ، على الرغم من وجود أحرف غير مفهومة ، وأظهرت شعار Coca-Cola المتعرج المألوف مع وجود حرف O الإضافي في الاسم.

في شباط (فبراير) ، ركز مكتب حقوق الطبع والنشر الأمريكي على الصور التي تم إنشاؤها بشكل مصطنع عندما قام بتقييم حالة “Zarya of the Dawn” ، وهو كتاب هزلي مؤلف من 18 صفحة كتبته كريستينا كاشتانوفا مع فن من إنتاج Midjourney. قرر المسؤول الحكومي توفير حماية حقوق التأليف والنشر لنص الكتاب الهزلي ، ولكن ليس فنه.

وأوضح المكتب في قراره: “نظرًا للمسافة الكبيرة بين ما قد يوجه المستخدم Midjourney لإنشائه والمواد المرئية التي تنتجها Midjourney فعليًا ، يفتقر مستخدمو Midjourney إلى التحكم الكافي في الصور التي تم إنشاؤها ليتم معاملتهم على أنهم” العقل الرئيسي “وراءهم”. .

قال ميكي أوستريشر ، المستشار العام للجمعية الوطنية لمصوري الصحافة ، إن التهديد الذي يتعرض له المصورون يفوق بسرعة تطور الحماية القانونية. ستكافح غرف الأخبار بشكل متزايد لمصادقة المحتوى. وقال إن مستخدمي وسائل التواصل الاجتماعي يتجاهلون العلامات التي تحدد بوضوح الصور على أنها مصطنعة ، ويختارون الاعتقاد بأنها صور حقيقية.

يمكن للذكاء الاصطناعي التوليدي أيضًا أن يجعل إنتاج مقاطع الفيديو المزيفة أسهل. هذا الأسبوع ، ظهر مقطع فيديو على الإنترنت يبدو أنه يُظهر نينا شيك ، مؤلفة وخبيرة في الذكاء الاصطناعي ، تشرح كيف كانت التكنولوجيا تخلق “عالمًا يتم فيه الخلط بين الظلال والشيء الحقيقي”. ثم تعثر وجه السيدة شيك عندما تراجعت الكاميرا للخلف ، لتظهر جسدًا مزدوجًا في مكانها.

أوضح الفيديو أن التزييف العميق تم إنشاؤه ، بموافقة السيدة شيك ، من قبل الشركة الهولندية Revel.ai و Truepic ، وهي شركة في كاليفورنيا تستكشف التحقق من المحتوى الرقمي على نطاق أوسع.

وصفت الشركات مقطع الفيديو الخاص بها ، والذي يتميز بطابع يحدده على أنه تم إنشاؤه بواسطة الكمبيوتر ، بأنه “أول فيديو مزيف رقمي شفاف”. البيانات مختومة بشكل مشفر في الملف ؛ يؤدي التلاعب بالصورة إلى كسر التوقيع الرقمي ويمنع ظهور بيانات الاعتماد عند استخدام برنامج موثوق به.

تأمل الشركات أن يتم اعتماد الشارة ، التي ستأتي برسوم للعملاء التجاريين ، من قبل منشئي المحتوى الآخرين للمساعدة في إنشاء معيار ثقة يشمل صور الذكاء الاصطناعي.

قال جيف مكجريجور ، الرئيس التنفيذي لشركة تروبيك: “إن حجم هذه المشكلة سوف يتسارع بسرعة كبيرة بحيث أنه سيدفع تعليم المستهلك بسرعة كبيرة”.

Truepic هو جزء من Coalition for Content Proviance and Authenticity ، وهو مشروع تم إنشاؤه من خلال تحالف مع شركات مثل Adobe و Intel و Microsoft لتتبع أصول الوسائط الرقمية بشكل أفضل. قالت شركة Nvidia المصنعة للرقائق الشهر الماضي إنها تعمل مع Getty للمساعدة في تدريب نماذج الذكاء الاصطناعي “المسؤولة” باستخدام محتوى Getty المرخص ، مع دفع الإتاوات للفنانين.

في نفس اليوم ، كشفت Adobe عن منتجها الخاص لتوليد الصور ، Firefly ، والذي سيتم تدريبه باستخدام الصور المرخصة فقط أو من مخزونها الخاص أو التي لم تعد محمية بحقوق النشر. قالت دانا راو ، كبيرة مسؤولي الثقة في الشركة ، على موقعها على الإنترنت إن الأداة ستضيف تلقائيًا بيانات اعتماد المحتوى – “مثل ملصق التغذية للتصوير” – التي تحدد كيفية صنع الصورة. قالت Adobe إنها تخطط أيضًا لتعويض المساهمين.

في الشهر الماضي ، عارضة الأزياء كريسي تيجن كتب على تويتر أنه تم خداعها من قبل سترة البابا المنتفخة ، مضيفة أنه “من المستحيل أن أنجو من مستقبل التكنولوجيا.”

الأسبوع الماضي ، أ سلسلة من صور الذكاء الاصطناعي الجديدة أظهر البابا ، في رداءه المعتاد ، مستمتعًا بكوب طويل من البيرة. بدت الأيدي طبيعية في الغالب – باستثناء خاتم الزواج على إصبع خاتم البابا.

إنتاج إضافي لـ Jeanne Noonan DelMundo ، آرون كروليك ومايكل اندريه.