Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
اخبار

تم وضع أدوات الكشف عن المحتوى التي تم إنشاؤها بواسطة الذكاء الاصطناعي على المحك


تحقق من جميع الجلسات عند الطلب من قمة الأمن الذكي هنا.


كان محول OpenAI Generative Pre-Trainer (ChatGPT) حديث المدينة منذ إطلاقه في نوفمبر 2022. كان لدى chatbot AI أكثر من مليون مستخدم في 4 أيام فقط وتجاوز 100 مليون مستخدم نشط في شهرين فقط – وهي علامة بارزة استغرق الوصول إلى TikTok أكثر من 9 أشهر.

ومع ذلك ، فقد تسببت قدرتها على فهم معنى وسياق مدخلات النص وتقديم استجابات شبه بشرية تقريبًا في إثارة الذعر في عدد من المجالات والصناعات التي يتم فيها تقييم المحتوى الأصلي الذي تم إنشاؤه بواسطة الإنسان. وهذا يشمل التعليم وتسويق المحتوى والنشر والصحافة والقانون.

أكبر أسئلةهم هي “كيف نميز بين الذكاء الاصطناعي والنص المكتوب بواسطة الإنسان؟” و “كيف يمكننا اكتشاف المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي؟”

لكن أولاً ، كيف يعمل ChatGPT؟

للتمييز بين الذكاء الاصطناعي والنص المكتوب من قبل الإنسان ، يجب على المرء أن يتعمق في كيفية بناء منصات مثل ChatGPT.

حدث

قمة الأمن الذكي عند الطلب

تعرف على الدور الحاسم للذكاء الاصطناعي وتعلم الآلة في الأمن السيبراني ودراسات الحالة الخاصة بالصناعة. شاهد الجلسات عند الطلب اليوم.

مشاهدة هنا

يعمل ChatGPT باستخدام خوارزمية تعلم عميق تسمى المحول ، وهو نوع من بنية الشبكة العصبية التي تكون فعالة بشكل خاص في مهام معالجة اللغة الطبيعية (NLP). تم تدريب النموذج على مجموعة ضخمة من البيانات النصية من الإنترنت ، بما في ذلك الكتب والمقالات والمواقع الإلكترونية.

تمت معالجة بيانات التدريب هذه مسبقًا وإدخالها في ChatGPT بطريقة تسمح لها بتعلم الأنماط والعلاقات بين الكلمات والعبارات.

عندما يقوم المستخدم بإدخال سؤال أو بيان في ChatGPT ، يقوم النموذج بمعالجة النص ويولد استجابة بناءً على بيانات التدريب الخاصة به وفهمه لسياق المدخلات ومعناها.

خمس خصائص عينة

يستخدم ChatGPT تقنية تسمى “التعلم غير الخاضع للإشراف” ، مما يعني أنه لا يتطلب تعليمات أو تسميات صريحة لمعرفة كيفية إنشاء الردود. كنموذج لغوي ، يمكن لـ ChatGPT أداء مجموعة متنوعة من مهام البرمجة اللغوية العصبية ، بما في ذلك إكمال النص والإجابة على الأسئلة وترجمة اللغة وحتى إنشاء النصوص.

لقد جعلته قدرته على إنشاء استجابات متماسكة وواقعية للمطالبات المعقدة أداة قيمة لمجموعة واسعة من التطبيقات ، بما في ذلك روبوتات الدردشة والمساعدين الظاهريين والألعاب والخدمات القائمة على اللغة.

وغني عن القول ، أنه لا يزال من الصعب للغاية اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. تتمثل إحدى طرق القيام بذلك يدويًا في فحص خمس خصائص رئيسية للعينة:

  • الاتساق: عادةً ما يكون النص الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي متسقًا في أسلوبه ونغمته ومفرداته ، بينما قد يُظهر النص المكتوب بواسطة الإنسان مزيدًا من التباين والفروق الدقيقة.
  • التماسك: قد يفتقر المحتوى أحيانًا إلى الاتساق ، لا سيما عند الاستجابة للمطالبات المعقدة أو الدقيقة. من ناحية أخرى ، يكون النص المكتوب من قبل الإنسان أكثر تماسكًا ويتبع بنية منطقية.
  • الأصالة: قد يحتوي النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في بعض الأحيان على عبارات أو أنماط متكررة أو ذات صيغة معينة ، بينما يُرجح أن يكون النص المكتوب بشريًا أصليًا ومبدعًا.
  • الأخطاء: المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي أكثر عرضة للخطأ من النص المكتوب من قبل الإنسان ، لا سيما في المناطق التي لم يتم فيها تدريب النموذج على نطاق واسع.
  • السياق: قد تكافح المنصة أحيانًا لفهم سياق موجه معين ، مما يؤدي إلى ردود غير مناسبة أو غير ذات صلة ، بينما يُرجح أن يكون النص المكتوب من قبل الإنسان مصممًا وفقًا للسياق والجمهور المحددين.

لماذا لا تقوم بأتمتة ذلك؟ منذ أن ظهرت ChatGPT في الأخبار ، أطلقت العديد من شركات البرمجيات – بما في ذلك OpenAI – أدوات المصادقة التي تساعد المستخدمين على تحديد النص المكتوب بواسطة برنامج AI. في هذه المقالة ، ندرس بعضًا من أفضل أدوات الكشف التلقائي عن محتوى الذكاء الاصطناعي ونختبرها.

لقطة من المحتوى على مقياس AI Detector تشير إلى أن بعض العبارات المأخوذة من مسرحية شكسبير A Midsummer Nights Dream قد تم إنشاؤها بواسطة AI.

في منشور مدونة حديث ، شارك OpenAI رابطًا لأداة تصنيف جديدة يمكنها التمييز بين النص الذي تم إنشاؤه بواسطة البشر والنص الذي تم إنشاؤه بواسطة أنظمة الذكاء الاصطناعي المختلفة. ومع ذلك ، فقد أقروا بأن الأداة ليست موثوقة بالكامل في هذه المرحلة.

في حين أنه قد يكون من المستحيل اكتشاف كل النصوص المكتوبة بواسطة الذكاء الاصطناعي ، يعتقد الباحثون أن المصنفات الجيدة يمكنها تحديد المؤشرات التي تشير إلى إنشاء الذكاء الاصطناعي. قد تكون الأداة مفيدة في حالات الخداع الأكاديمي وعندما تتظاهر روبوتات الدردشة بالذكاء الاصطناعي بأنها بشر ، وفقًا للمنشور.

حدد المصنف الجديد بشكل صحيح 26٪ من النصوص الإنجليزية المكتوبة بواسطة الذكاء الاصطناعي ، ولكن 9٪ من الوقت ، حدد أيضًا بشكل خاطئ النص المكتوب بواسطة الإنسان على أنه من المحتمل أن يكون ناتجًا عن أدوات الذكاء الاصطناعي. لاحظت OpenAI أن موثوقية الأداة تزداد عمومًا مع طول نص الإدخال. إنه غير موثوق به على نصوص أقصر من 1000 حرف وقد يحدد عن طريق الخطأ بعض النصوص التي كتبها الإنسان على أنها مكتوبة بالذكاء الاصطناعي.

يوصى باستخدام الأداة مع النص الإنجليزي فقط وهي غير مناسبة للتحقق من الكود. يحذر OpenAI من أن الأداة لا ينبغي أن تكون الأداة الأساسية لصنع القرار ، ولكن بدلاً من ذلك تستخدم بالاقتران مع طرق أخرى لتحديد مصدر جزء من النص. يتم تصنيف كل مستند على أنه “مستبعد جدًا” أو “غير محتمل” أو “غير واضح” إذا تم إنشاؤه بواسطة الذكاء الاصطناعي.

بكل صدق ، لم يكن لدينا الكثير من الأمل للمنصة التي نظرت ماكبث لتكون “مُنشأة بواسطة الذكاء الاصطناعي” ، لكن النتائج كانت في محلها. للبدء ، قمنا بتشغيل وليام شكسبير العاصفة من خلال المنصة واعتبر المصنف أنه “غير محتمل للغاية” من إنشاء الذكاء الاصطناعي ، والذي يتم إنشاؤه بشكل أساسي بواسطة الإنسان.

في الجولة الثانية ، زودنا النظام الأساسي بمقال كتبه ChatGPT وأشار بدقة إلى أن الاختبار “من المحتمل” أن يتم إنشاؤه بواسطة الذكاء الاصطناعي.

في الاختبار الأخير ، حاولنا خداع النظام الأساسي باستخدام أداتين من أدوات الذكاء الاصطناعي في وقت واحد. ChatGPT لكتابته و Quillbot لإعادة صياغته. مرة أخرى ، كانت النتائج دقيقة إلى حد ما. هذه المرة ، اعتبر المصنف أن النص قد تم إنشاؤه بواسطة الذكاء الاصطناعي ، وهو أمر جيد حيث كان هناك تدخل بشري.

محتوى على نطاق واسع

تم تأسيس Content at Scale في عام 2021 ، وأطلق Content at Scale برنامج “AI Detector” ، مدعياً ​​أنه “يعمل على مستوى أعمق من مصنف AI العام ويكتشف محتوى الصوت الآلي.”

الأمر المثير للاهتمام هو الطريقة التي تضع بها الشركة هذه الأداة. على عكس نظرائه ، يتم وضع كاشف الذكاء الاصطناعي المتاح مجانًا كخطوة أولى نحو شراء المحتوى في منشئ المحتوى الرائد في Scale ، والذي يدعي أنه ينتج محتوى تم إنشاؤه بواسطة AI “غير قابل للكشف” عن طريق النقر على طبقات متعددة مع ثلاثة مكونات AI: NLP ، التحليل الدلالي الخوارزميات وقدرات تحليل SERP. في كلماتهم ، “إنه يشبه الإنسان لدرجة أنه يتجاوز اكتشاف محتوى الذكاء الاصطناعي!”

لما يستحق ، جرب هذا المراسل أداة AI Detector ووجد أن النتائج غير مرضية. اختبرناها أولاً مع شكسبير حلم ليلة في منتصف الصيف (والتي كما نعلم جميعًا مكتوبة بشريًا) والمنصة حصلت عليها بشكل صحيح (في معظمها). ومن الغريب أنها أشارت إلى عدة حالات يمكن أن تكون ناتجة عن الذكاء الاصطناعي ، والتي لم تكن كذلك في هذه الحالة.

بالنسبة للاختبار الثاني ، زودنا النظام الأساسي بمقال كتبه ChatGPT ، ولكنه فشل. على الرغم من عدم وجود تدخل بشري في كتابة هذا المقال ، إلا أن المنصة أعطتها نسبة 83٪ من المحتوى البشري.

على الرغم من عدم وجود حاجة لإجراء اختبار ثالث ، فقد قمنا بإعادة صياغة نفس المقالة باستخدام برنامج آخر يعمل بالذكاء الاصطناعي (QuillBot) وأعطينا كاشف الذكاء الاصطناعي طلقة أخرى ؛ لم تكن النتائج مختلفة. على الجانب الإيجابي ، انخفضت درجة المحتوى البشري إلى 75٪ ، مما يشير إلى تدخل الذكاء الاصطناعي.

Copyleaks AI

ستامفورد ، كونيتيكت ، شركة برامج مكافحة السرقة الأدبية Copyleaks وسعت مؤخرًا مجموعة منتجاتها من خلال حل مؤسسي مصمم لاكتشاف ما إذا كان المحتوى الرقمي قد كتبه إنسان أو تم إنشاؤه بواسطة AI ، بما في ذلك ChatGPT.

يزعم النظام الأساسي معدل دقة يبلغ 99.12٪ ، جنبًا إلى جنب مع إمكانات تكامل LMS و API على مستوى المؤسسة التي تمكن المؤسسات التعليمية أو الشركات من إضافة كاشف محتوى AI إلى منصاتهم الأصلية. يعد الكشف عن اللغات المتعددة أيضًا ميزة أساسية ، مع دعم اللغة الإنجليزية والألمانية والإسبانية والفرنسية والبرتغالية. تقدم الشركة أيضًا امتداد Chrome للكشف عن المحتوى بالذكاء الاصطناعي لمساعدة المستخدمين على التحقق من المحتوى عبر الإنترنت ، بما في ذلك وسائل التواصل الاجتماعي والمقالات الإخبارية ومراجعات المستهلكين.

من بين المرشحين للاختبار لدينا ، أظهرت المنصة أعلى دقة. بالنسبة لاختبار المحتوى البشري ، اكتشف بدقة أن النص قد كتبه إنسان. وبالمثل ، أظهر النظام الأساسي نسبة 99.7٪ على الأرجح للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي عندما قدمناه بنص من ChatGPT. حتى في الاختبار الأخير الذي تضمن إعادة صياغة النص الذي تم إنشاؤه بواسطة AI ، أشارت المنصة إلى أن المحتوى لديه فرصة بنسبة 99.9٪ للكتابة بواسطة الذكاء الاصطناعي.

مع تقدم التكنولوجيا ، لا بد أن يسير الإنتاج بمساعدة محتوى الذكاء الاصطناعي في الاتجاه السائد – ومع ذلك ، ستتحسن أجهزة الكشف عن المحتوى بالذكاء الاصطناعي.

كانت المنصات التي اختبرناها مجرد عدد قليل من العديد من المنصات الموجودة في السوق. تتضمن قائمة إدخالات أداة الكشف Writer.com و Corrector و Originality.ai.

لا تعطيهم فرصة!

مهمة VentureBeat هو أن تكون ساحة المدينة الرقمية لصناع القرار التقنيين لاكتساب المعرفة حول تكنولوجيا المؤسسات التحويلية والمعاملات. اكتشف إحاطاتنا.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى