(SeaPRwire) –   عندما نقرأ عن حادثة إطلاق نار أخرى مرتبطة بالكراهية عبر الإنترنت، أو شبكة عنيفة أخرى تنتشر عبر وسائل التواصل الاجتماعي، فإن العبارة الشائعة هي أن “منصات التواصل الاجتماعي يجب أن تفعل المزيد”.

في الواقع، يظهر بحثي الخاص في التطرف عبر الإنترنت والإشراف على المحتوى أنه في حين أن عمليات إزالة المحتوى قد ارتفعت في المواقع الرئيسية على مدى السنوات العديدة الماضية، لا يزال المتطرفون يجدون الكثير من المساحات الرقمية لتجنيد الأعضاء وتنظيم صفوفهم والدعوة إلى العنف. ولذا، ربما السؤال الذي يجب أن نطرحه ليس ما إذا كانت المنصات تبذل قصارى جهدها بمعزل عن غيرها – بل هل نعالج مشكلة أكبر من أن تتعامل معها أي جهة بمفردها.

يركز نهجنا في مكافحة الكراهية والتطرف عبر الإنترنت غالبًا على المنصات الفردية – Facebook أو X أو YouTube أو TikTok – وقليل جدًا على تجزئة الإشراف على المحتوى عبر الإنترنت. تاريخيًا، عندما تقوم الحكومات بفحص “Big Tech” وتشديد المنصات لقواعد الإشراف الخاصة بها، تتشتت الحركات المتطرفة إلى منصات أصغر أو بديلة. عدد أقل من القواعد وفرق أصغر للثقة والسلامة يعني المزيد من الفرص لتطرف جمهور مخلص مع الاستمرار في اختبار طرق للتسلل مرة أخرى إلى المنصات الأكبر.

في الآونة الأخيرة، أصبح هذا أسهل، حيث قامت بعض المنصات الكبرى بتخفيف قواعد الإشراف على المحتوى الخاص بها تحت ستار حرية التعبير. ففي ظل ملكية Elon Musk، على سبيل المثال، قامت sharply reduced its trust-and-safety teams, وتقليل الثقة والسلامة بشكل حاد. وبالمثل، أنهت ، التي تمتلك Facebook و Instagram، برنامج التحقق من الحقائق التابع لجهات خارجية وأعادت تعريف سياسات خطاب الكراهية الخاصة بها بحيث يُسمح الآن ببعض الخطابات التي كانت ممنوعة في السابق. ولأن هذه المنصات توفر أوسع نطاق للوصول، فإن المتطرفين لا يستعيدون الوصول إلى الجماهير الرئيسية فحسب، بل يعودون أيضًا إلى دائرة التطرف والتجنيد والتعبئة التي تكافح المنصات الأصغر للحفاظ عليها.

يظهر بحثي ، بناءً على مجموعات بيانات متعددة المنصات ودراسات حالة للجهات الفاعلة عبر الطيف الأيديولوجي، كيف يبني المتطرفون المرونة في هذا المشهد غير المتكافئ. استراتيجيتهم متعمدة وديناميكية على حد سواء. إنهم يستخدمون المواقع الهامشية أو تطبيقات المراسلة المشفرة لنشر المواد الأكثر تحريضًا أو عنفًا، متجاوزين بذلك تطبيق القانون الأكثر صرامة. ثم يقومون بصياغة رسائل “مخففة” للمنصات الرئيسية – ربما تكون بغيضة، ولكن ليست بغيضة بما يكفي لإثارة عمليات إزالة جماعية. إنهم يسخرون استياء المستخدمين الذين يشعرون أنهم خضعوا للرقابة على وسائل التواصل الاجتماعي الرئيسية، ويحولون هذا التظلم إلى جزء من صرخة حشدهم. تزدهر هذه الدورة في ثنايا ما أود أن أسميه “نظام الإنفاذ غير المتسق” – وهو نظام بيئي، سواء عن غير قصد أم لا، يسمح للمتطرفين بالتكيف والتهرب من الحظر وإعادة البناء عبر المنصات.

لكن هذا النهج المجزأ يعني أيضًا أن الحركات المتطرفة لا يتم تفكيكها حقًا أبدًا – بل يتم إزاحتها مؤقتًا فقط. وبدلاً من إضعاف هذه الشبكات، فإنها تعلمها كيف تتطور، مما يجعل الإنفاذ المستقبلي أكثر صعوبة.

إذا قامت المنصات بتنسيق معاييرها (وليس فقط في بيانات غامضة ولكن في بروتوكولات إنفاذ محددة)، فإن هذا الاتساق يبدأ في إزالة “المراجحة” التي يعتمد عليها المتطرفون. تُظهر تحليلات 60 منصة أنه في الأماكن التي يوجد فيها تقارب حقيقي في السياسات، تجد الجماعات العنيفة عددًا أقل من الملاذات الآمنة لأنها لم تعد قادرة على استغلال الثغرات الموجودة في الإنفاذ للحفاظ على وجودها عبر الإنترنت. عندما تطبق المنصات قواعد مماثلة وتنسق الإنفاذ، يكون لدى المتطرفين عدد أقل من الأماكن لإعادة التجمع وفرصة أقل للانتقال من موقع إلى آخر عند دخول الحظر حيز التنفيذ.

التنسيق بهذه الطريقة ليس بالأمر المباشر – فالإشراف على المحتوى يثير مخاوف بشأن حرية التعبير والرقابة والاحتمالات المحتملة لإساءة الاستخدام من قبل الحكومات أو الشركات الخاصة. ومع ذلك، بالنسبة لشريحة المحتوى الضيقة التي يتفق معظمنا على أنها خارجة عن المألوف – الدعاية الإرهابية وخطاب الكراهية الذي يدعو إلى العنف – فإن مواءمة المعايير ستسد العديد من الثغرات الكبيرة.

إن بناء قدرات قوية للثقة والسلامة ليس رخيصًا أو بسيطًا – خاصة بالنسبة للمنصات الأصغر التي لا تستطيع توظيف المئات من المشرفين والخبراء القانونيين. إليكم موجة جديدة من المبادرات التابعة لجهات خارجية تهدف إلى القيام بذلك بالضبط: ROOST، على سبيل المثال، يتم by a coalition of philanthropic foundations and tech companies like Google, OpenAI, and Roblox. وهي توفر برامج مفتوحة المصدر وقواعد بيانات مشتركة حتى تتمكن المنصات، كبيرة كانت أم صغيرة، من تحديد وإزالة المواد المتطرفة المعروفة بتحريضها على إلحاق الأذى بالعالم الحقيقي بشكل أفضل. تعد مشاريع مثل هذه بمسار نحو مزيد من التقارب، دون إجبار الشركات على إعادة اختراع الإشراف من الصفر.

بالطبع، تظل بعض أكبر الحواجز سياسية. ما زلنا نفتقر إلى توافق في الآراء بشأن مكان رسم الخط الفاصل بين خطاب المتطرفين الضار والتعبير السياسي المشروع. أصبح الموضوع مستقطبًا بشدة، حيث يحمل مختلف الجهات الفاعلة وأصحاب المصلحة وجهات نظر متباينة بشدة حول ما ينبغي اعتباره ضارًا. لكن العنف المتطرف ليس قضية حزبية: من عمليات إطلاق النار في المعابد اليهودية إلى العنف الذي تم بثه مباشرة في كرايست تشيرش إلى سلسلة من الهجمات المستوحاة من الإسلاميين والمرتبطة بالتطرف عبر الإنترنت، فقد شهدنا بالفعل ما يكفي من الفظائع لكي نعرف أن الكراهية والإرهاب يزدهران في الفجوات بين المنصات.

نعم، سنواصل مناقشة حدود المحتوى الضار. ولكن يمكننا الاتفاق على أن الدعوات الصريحة إلى العنف والتحرش القائم على الكراهية والدعاية الإرهابية تستدعي تدخلًا سريعًا وجادًا. هذا هو الأساس المشترك الذي يمكن للمبادرات متعددة المنصات مثل ROOST أو قواعد البيانات التعاونية التي يقودها المنتدى العالمي للإنترنت لمكافحة الإرهاب أن تحقق فيه تقدمًا حقيقيًا.

إلى أن نعالج الحوافز المنهجية التي تمكن من هجرة المحتوى المتطرف وتنسيقه وظهوره مرة أخرى عبر المنصات، سنظل نتساءل، بعد كل هجوم مروع: لماذا يستمر هذا في الحدوث؟ الجواب هو أننا قمنا ببناء نظام مجزأ – حيث تخوض كل منصة معركتها الخاصة، بينما يستغل المتطرفون الثغرات.

لقد حان الوقت للمطالبة ليس فقط بأن “تفعل Big Tech المزيد”، ولكن بأن تلتزم جميع المساحات الإلكترونية بموقف أكثر توحيدًا ضد التطرف. عندها فقط يمكننا أن نبدأ في تجفيف التسريبات التي لا تحصى والتي تستمر في تغذية الكراهية الرقمية.