يقول بالاسوبرامانيان إن خدمات الذكاء الاصطناعي الصوتي تحتاج إلى توفير الأمان على قدم المساواة مع الشركات الأخرى التي تخزن البيانات الشخصية ، مثل المعلومات المالية أو الطبية.
“عليك أن تسأل الشركة ،” كيف سيتم تخزين صوت الذكاء الاصطناعي الخاص بي؟ هل تقومون بالفعل بتخزين تسجيلاتي؟ هل تقوم بتخزينه بشكل مشفر؟ من لديه حق الوصول إليه؟ ” “إنها جزء مني. إنها ذاتي الحميمية. أحتاج إلى حمايته أيضًا “.
يقول Podcastle إن النماذج الصوتية مشفرة من طرف إلى طرف وأن الشركة لا تحتفظ بأي تسجيلات بعد إنشاء النموذج. يمكن فقط لصاحب الحساب الذي سجل المقاطع الصوتية الوصول إليها. لا يسمح Podcastle أيضًا بتحميل ملفات صوتية أخرى أو تحليلها على Revoice. في الواقع ، يجب على الشخص الذي ينشئ نسخة من صوته أن يسجل سطور النص المكتوب مسبقًا مباشرة في تطبيق Revoice. لا يمكنهم فقط تحميل ملف تم تسجيله مسبقًا.
يقول Yeritsyan من Podcastle: “أنت من تمنح الإذن وتقوم بإنشاء المحتوى”. “سواء كان ذلك مصطنعًا أو أصليًا ، إذا لم يكن هذا صوتًا عميق التزييف ، فهو صوت هذا الشخص وقد طرحه هناك. لا أرى مشاكل “.
يأمل Podcastle أن تكون القدرة على تقديم الصوت بصوت مستنسخ لشخص موافق فقط من شأنه أن يثني الناس عن جعل أنفسهم يقولون أي شيء فظيع للغاية. في الوقت الحالي ، لا تحتوي الخدمة على أي تعديل للمحتوى أو قيود على كلمات أو عبارات محددة. يقول Yeritsyan إن الأمر متروك لأي خدمة أو منفذ ينشر الصوت – مثل Spotify أو Apple Podcasts أو YouTube – لمراقبة المحتوى الذي يتم دفعه إلى منصاتهم.
يقول يريتسيان: “هناك فرق إشراف ضخمة على أي منصات اجتماعية أو أي منصة بث”. “لذا فهذه وظيفتهم هي عدم السماح لأي شخص آخر باستخدام الصوت المزيف وإنشاء شيء غبي أو شيء غير أخلاقي ونشره هناك.”
حتى إذا تمت معالجة المشكلة الشائكة للغاية المتمثلة في التزييف العميق واستنساخ الذكاء الاصطناعي غير المتوافق ، فلا يزال من غير الواضح ما إذا كان الناس سيقبلون الاستنساخ المحوسب كبديل مقبول للإنسان.
في نهاية شهر مارس ، استخدم الممثل الكوميدي درو كاري خدمة الذكاء الاصطناعي الصوتية الأخرى ، ElevenLabs ، لإصدار حلقة كاملة من برنامج إذاعي تمت قراءته بواسطة استنساخ صوته. بالنسبة للجزء الأكبر ، كره الناس ذلك. يعد البث الصوتي وسيلة حميمة ، كما أن الاتصال البشري المميز الذي تشعر به عند الاستماع إلى الأشخاص الذين يجرون محادثة أو يروون القصص يتم فقده بسهولة عندما تتحرك الروبوتات إلى الميكروفون.
ولكن ماذا يحدث عندما تتقدم التكنولوجيا لدرجة أنك لا تستطيع معرفة الفرق؟ هل يهم أنه ليس حقاً بودكاستر المفضل لديك في أذنك؟ خطاب الذكاء الاصطناعي المستنسخ لديه طرق للذهاب قبل أن يتعذر تمييزه عن كلام الإنسان ، لكنه بالتأكيد يلحق بالركب بسرعة. قبل عام واحد فقط ، بدت الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي كرتونية ، والآن أصبحت واقعية بما يكفي لخداع الملايين في التفكير في أن البابا يرتدي ملابس خارجية جديدة. من السهل تخيل أن الصوت الذي تم إنشاؤه بواسطة الذكاء الاصطناعي سيكون له مسار مماثل.
هناك أيضًا سمة بشرية أخرى تثير الاهتمام بهذه الأدوات التي تعمل بالذكاء الاصطناعي: الكسل. تقنية الذكاء الاصطناعي الصوتية – بافتراض وصولها إلى النقطة التي يمكنها فيها محاكاة الأصوات الحقيقية بدقة – ستجعل من السهل إجراء تعديلات سريعة أو إعادة الالتقاط دون الحاجة إلى إعادة المضيف إلى الاستوديو.
يقول بالاسوبرامانيان: “في النهاية ، سينتصر الاقتصاد المبدع”. “بغض النظر عن مدى تفكيرنا في التداعيات الأخلاقية ، ستنتصر لأنك جعلت حياة الناس بسيطة.”
