لقد رأينا جميعاً انتشار محتوى حساس ومثير للجدل وكاذب على الإنترنت يتعلق بالصراع بين إسرائيل وحماس. استجابة لذلك، دعت الصحفيون والمنظمون والسياسيون ومجموعات المجتمع المدني شركات وسائل التواصل الاجتماعي إلى زيادة جهود مراقبة المحتوى، والتي تتضمن العثور على ومعالجة حالات فردية من المحتوى الذي ينتهك سياسات المنصة. لقد عملت لأكثر من 4 سنوات في “ميتا” على تحسين تأثير المنصة على العديد من الصراعات. منذ مغادرتي، ركزت على تصميم المنصة، جزئياً لأن حدود مراقبة المحتوى أكثر حدة عندما تكون المخاطر عالية.
هنا مثال على محتوى من الصراع الحالي تم توضيح أنه كاذب في صحيفة نيويورك تايمز.
في الاستجابة لمنشورات مثل هذه، أصدرت الكنيسة بيانًا قائلاً إن “كنيسة القديس بورفيريوس في غزة سليمة”، لكن ذلك كان ممكنًا فقط لأن الادعاء كان محددًا وبأثر رجعي (بعد أيام قليلة، تعرضت الكنيسة حقًا لغارة جوية). أكثر شيوعًا في الخطاب الإلكتروني هي البيانات الأكثر عمومية مثل المنشورات التي تشير إلى استخدام واسع النطاق وعشوائي لقنابل الفوسفور أو الاعتداء الجنسي من قبل الطرف الآخر.
- لا يمكنك إثبات النفي العام. كيف ستقوم بإثبات أن شيئًا لم يحدث قط، عندما لا يتم تقديم أي ادعاء بحالة معينة؟ يمكن دحض الادعاءات المحددة أو استخدام الصور المعاد استخدامها، لكن الكثيرين لن يفعلوا ذلك.
- لا تريد الرقابة على المحتوى الهام. قد تكون هذه البيانات انتهاكات فعلية لحقوق الإنسان ومهمة لتوثيقها. يمكن للناس أيضًا استخدام مثل هذه المعلومات للبقاء آمنين – إذا استطاعوا الثقة بها.
- الناس مدفوعون لنشر مثل هذا المحتوى. في سياق الصراع، ستكون نشر المعلومات المؤججة حول الطرف الآخر تكتيكًا ستلجأ إليه جميع الأطراف طبيعيًا.
- الناس يتطلعون لأحدث المعلومات. هذه الرغبة في أحدث المعلومات تعني أن الأشخاص الذين ليس لديهم معلومات أو رأي حول الصراع سيكونون لا يزالون مدفوعين للحصول على انتباه ومتابعين وإيرادات الإعلانات من خلال المنافسة ليكونوا الأوائل بأحدث المعلومات الأكثر إثارة للاهتمام. لديهم حافز ضئيل للاهتمام بما إذا كانت المعلومات صحيحة أو خاطئة أو قد تكون سيئة للعالم.
ولكن الاعتماد على المراقبة في كثير من الأحيان يخلق مشاكل جديدة أيضًا. نعرف من التجربة السابقة أن زيادة التنفيذ في الصراع الإسرائيلي الفلسطيني قد أدت إلى تقارير موثوقة عن الرقابة والتحيز. عندما يتم تطبيقها بعناية على حالات واضحة محددة من المحتوى الضار (مثل صورة مضللة)، فإن المراقبة أداة مهمة. لكن معظم حالات المحتوى الضار ليست واضحة، وعندما يتم توسيع نطاق المراقبة كتدبير طارئ لمعالجة مجموعة أوسع من المحتوى الضار، حيث تتطلب الأحكام مزيدًا من الدقة والذاتية، فمن المرجح أن تقع الأخطاء.