حرب جوجل: تشدد الإجراءات لإزالة المحتوى المتطرف على يوتيوب
أعلنت منصة يوتيوب تشديد إجراءاتها لمواجهة المحتوى المخالف على المنصة، في محاولة لإثبات قدرتها على الحد من انتشار المحتوى المتطرف وخطاب الكراهية والمحتوى الذي قد يشجع على العنف.
وجاءت هذه الإجراءات في وقت كانت فيه شركات التواصل الاجتماعي، وعلى رأسها يوتيوب وفيسبوك، تواجه ضغوطًا متزايدة من الحكومات في الولايات المتحدة وأوروبا وآسيا لاتخاذ إجراءات أسرع ضد المحتوى المتطرف والمخالف لسياساتها.
يوتيوب تحذف ملايين مقاطع الفيديو والتعليقات
أعلنت يوتيوب أنها حذفت أكثر من 58 مليون مقطع فيديو و224 مليون تعليق خلال الربع الثالث من عام 2018، بسبب انتهاكات لسياسات المنصة.
وأوضحت الشركة أن نشر تقارير دورية حول عمليات الحذف يهدف إلى تقديم صورة أوضح عن جهودها في تطبيق سياسات المحتوى، خصوصًا مع تزايد الانتقادات الموجهة إلى منصات التواصل الاجتماعي بسبب انتشار المحتوى المتطرف وخطاب الكراهية.
ويمكن الاطلاع على بيانات إزالة المحتوى من خلال تقرير الشفافية الخاص بيوتيوب .
الضغوط الحكومية لإزالة المحتوى المتطرف
لم تقتصر الضغوط على الولايات المتحدة فقط، إذ طالبت جهات حكومية في أوروبا وآسيا شركات التكنولوجيا باتخاذ إجراءات أسرع تجاه المحتوى الذي يخالف القوانين أو سياسات المنصات.
واقترح الاتحاد الأوروبي في ذلك الوقت فرض غرامات كبيرة على الخدمات الإلكترونية التي لا تقوم بإزالة المواد المتطرفة خلال فترة زمنية محددة بعد تلقي أمر حكومي بإزالتها.
كما قال مسؤول في وزارة الشؤون الداخلية الهندية إن شركات التواصل الاجتماعي وافقت على التعامل مع طلبات السلطات لإزالة المحتوى غير المقبول خلال 36 ساعة.
حذف مئات الآلاف من مقاطع الفيديو لحماية الأطفال
أعلنت يوتيوب أيضًا عن حذف نحو 280 ألف مقطع فيديو في إطار جهودها للحفاظ على سلامة الأطفال، مشيرة إلى أن بعض هذه المقاطع لم تكن قد حصلت على عدد كبير من المشاهدات قبل إزالتها.
إلا أن المنصة كانت تواجه تحديًا أكبر مع المحتوى الذي يروج لخطاب الكراهية أو السلوك الخطير، خصوصًا أن تقنيات الكشف التلقائي عن بعض أنواع المحتوى كانت لا تزال في مراحل تطويرها الأولى.
ولهذا اعتمدت يوتيوب أيضًا على المستخدمين للإبلاغ عن مقاطع الفيديو والتعليقات التي قد تخالف سياسات المنصة. لكن هذا الأسلوب يعني أن بعض المحتويات المخالفة قد تصل إلى عدد كبير من المستخدمين قبل اكتشافها والإبلاغ عنها ثم إزالتها.
زيادة عدد المشرفين على المحتوى
لمواجهة هذه المشكلة، أضافت جوجل آلاف المشرفين إلى فريق مراجعة المحتوى، ليصل العدد إلى أكثر من 10 آلاف مشرف، بهدف تسريع عملية مراجعة البلاغات واتخاذ الإجراءات المناسبة ضد المحتوى المخالف.
وكشفت بيانات الإزالة في ذلك الوقت أيضًا عن عدد كبير من الحسابات التي عطلتها يوتيوب بسبب انتهاك سياسات المنصة، سواء من خلال تكرار المخالفات أو ارتكاب مخالفات خطيرة، مثل نشر مواد تتعلق باستغلال الأطفال.
إزالة ملايين القنوات ومقاطع الفيديو
خلال الفترة الممتدة من يوليو إلى سبتمبر، أزالت يوتيوب ما يقارب 1.67 مليون قناة، إلى جانب جميع مقاطع الفيديو التي كانت متاحة من خلالها، والتي بلغ عددها نحو 50.2 مليون مقطع فيديو.
وذكرت المنصة أن نحو 79.6% من عمليات إزالة القنوات كانت مرتبطة بالمحتوى المزعج أو الرسائل غير المرغوب فيها والمحتوى المضلل، بينما ارتبطت نحو 12.6% بالعري أو المحتوى الجنسي، وحوالي 4.5% بسلامة الأطفال.
ماذا عن التعليقات على يوتيوب؟
أشارت يوتيوب إلى أن مستخدميها ينشرون مليارات التعليقات كل ثلاثة أشهر، وهو ما يجعل مراقبة المحتوى النصي تحديًا كبيرًا للمنصة.
وفي الفترة نفسها، أزالت يوتيوب نحو 7.8 مليون مقطع فيديو بشكل فردي بسبب انتهاك سياسات المنصة، وهو رقم قالت الشركة إنه يتماشى تقريبًا مع نتائج الربع السابق.
هل تستطيع يوتيوب القضاء على المحتوى المتطرف؟
تكشف هذه الأرقام عن حجم التحدي الذي تواجهه منصات الفيديو والتواصل الاجتماعي في مراقبة مليارات المنشورات والتعليقات ومقاطع الفيديو التي ينشرها المستخدمون باستمرار.
ورغم تطور أنظمة الذكاء الاصطناعي والكشف التلقائي، فإن الاعتماد على الخوارزميات وحدها لا يكفي دائمًا لفهم السياق الكامل للمحتوى، خصوصًا في الحالات التي يمكن أن تحمل فيها الكلمات أو الصور أكثر من معنى.
لذلك تجمع المنصات بين أنظمة الكشف الآلي وفرق المراجعة البشرية وبلاغات المستخدمين من أجل اكتشاف المحتوى المخالف واتخاذ الإجراءات المناسبة.
الخلاصة
تكشف حملة يوتيوب ضد المحتوى المتطرف والمخالف عن الصعوبة المتزايدة في إدارة منصات تضم مليارات المستخدمين وملايين عمليات النشر يوميًا.
وقد أصبحت إزالة المحتوى المخالف وتحسين أنظمة المراجعة جزءًا أساسيًا من استراتيجية شركات التكنولوجيا، خصوصًا مع استمرار الضغوط الحكومية والمجتمعية لفرض رقابة أكثر فاعلية على المحتوى الذي يحرض على الكراهية أو العنف أو يعرض المستخدمين للخطر.