الحقيقة وراء السوشال ميديا | لماذا يغلق فيسبوك حسابك بينما يمرر محتوى متطرفا؟ | س/ج في دقائق

الحقيقة وراء السوشال ميديا | لماذا يغلق فيسبوك حسابك بينما يمرر محتوى متطرفا؟ | س/ج في دقائق

29 Dec 2020
رابط مختصر
للمشاركة لـ فيسبوك
حجم الخط

القصة في دقيقة

عندما انطلقت منصات السوشال ميديا الرئيسية في العقدين الماضيين، لم يتنبأ مصمموها بالقوة الهائلة التي ستمارسها. كان من الصعب تخيل العالم الذي نحن فيه الآن، وطبيعة المحتوى الذي يشاركه المستخدمون من خلالها.. الأمر أعقد هنا في الشرق الأوسط.

منصات السوشال ميديا استخدمت مبكرًا جدًا في صراعات الشرق الأوسط.. وفرت مساحات لنشر وتضخيم المحتوى المتطرف، ومن خلالها أعيد توجيه مسار الاحتجاجات قبل وأثناء الربيع العربي.

بل إنها باتت مصدرًا أساسيا للميديا التقليدية في الوصول للمعلومة، ووفرت للمستخدمين ساحة لمشاركة المحتوى الذي يصعب نشره على المواقع التقليدية.

توسع المستخدمون أكثر. انظر في محيطك، نادرًا ما ستجد أحدهم لا يملك حسابًا على فيسبوك وغيره من منصات السوشال ميديا. لتظهر معضلة الخوارزميات وأزمة الإشراف على المحتوى، ومعها تساؤلات مشروعة:

لماذا يصل محتوى جهة ما أسرع من غيرها؟ ولماذا يحظر فيسبوك حسابي بينما يسمح لغيره بنشر محتوى مفرط في التطرف؟

س/ج في دقائق


على أي أساس تحدد منصات السوشال ميديا المحتوى المسموح بتداوله؟

في محاولة للتخفيف من انتشار المحتوى الضار عبر منصات السوشال ميديا، مثل منشورات التحريض على العنف والتطرف، أنشأت المنصات برامج ضخمة لإدارة المحتوى تعتمد على كل عاملين:

١- التقنيات الآلية:

زيادة اتساع المحتوى المنشور على منتصات السوشال ميديا وانتشار المحتوى غير الملائم وكثرة البلاغات عنه، بما يتطلب توسيع نطاق عمليات الإشراف على المحتوى، دفعت الشركات لتطوير برمجيات الذكاء الاصطناعي والأدوات القائمة على تعلم الآلة من أجل الإشراف على المحتوى اعتمادًا على الخوارزميات.

٢- المشرفون البشريون:

العاملون المتعاقدون مع منصات السوشال ميديا. يحصلون غالبا على أجور منخفضة وتدريب محدود. يعملون ضمن فرق ضخمة. ويقضون ساعات عمل طويلة يوميًا في مراجعة المحتوى الذي ينتهك سياسات وقواعد النشر عبر منصات السوشال ميديا وإبلاغ مستويات الإشراف الأعلى عنها.


هل حلت التقنيات الآلية معضلة الإشراف البشري؟

منصات السوشال ميديا غالبًا ما تروج للتقنيات الآلية المعتمدة على الخوارزميات غير المعلنة كحلول موثوقة لإدارة المحتوى؛ بحجة أنها توسع نطاق عمليات الإشراف وتحسينها بموثوقية ودقة.

لذلك توسع اعتماد المنصات على التقنيات الآلية في تنظيم المحتوى، لكنها واجهت معضلتين أخرىين:

1- محدودية القدرة على الحكم الدقيق في المواقف التي تكون فيها التعريفات المتعلقة بفئة المحتوى غامضة وغير واضحة، فضلًا عن المحدودية الأكبر في اكتشاف المحتوى الذي يتطلب حكمًا ذاتيًا أو سياقيًا “بشريًا – محليًا” لفهمه والإبلاغ عنه.

كمثال: إذا نشرت محتوى يسخر من فكرة متطرفة، أو يوثق فظائع، ستتعامل معه خوارزميات السوشال ميديا آليًا باعتباره دعاية متطرفة.

2- منصات السوشال ميديا ليست شفافة بما يكفي حول تفاصيل تطوير واستخدام وتنقيح ومدى دقة الخوازميات “التي يؤسسها بشر بالنهاية قبل تعليمها للآلة”.

مثلًا: في أحدث تقرير عن تطبيق المعايير، كشف فيسبوك أن خوارزمياته قادة على اكتشاف 94.5% من محتوى الكراهية استباقيًا دون الحاجة لتلقي بلاغات المستخدمين. مع ذلك، لم تنشر المنصة معدل نجاح خوارزميات كل لغة على حدة “كم النسبة بالعربية مثلًا” ما يصعب تمييز نسبة كل لغة من الرقم العام.

فيسبوك يقول إنه يصنف مفردات خطاب الكراهية بأكثر من 40 لغة، إحداها العربية. مع ذلك، تعليم الآلة يحتاج مجموعات بيانات ضخمة غالبًا ما لا تتوفر البيانات القوية في اللغات “وخصوصًا اللهجات” الأقل شيوعًا. بالنتيجة، تعتمد المنصة على تحديد قواعد المحتوى لهذه اللغات بشريًا، بنا يؤدي للإضرار بالفئات ذات الآراء المختلفة عن الثقافة المهيمنة بالفعل، وخصوصًا في الشرق الأوسط.

كوكاكولا تقاطع فيسبوك! لماذا؟! .. خير إن شاء الله!! | الحكاية في دقائق


لماذا محتوى السوشال ميديا أكثر تعقيدًا في الشرق الأوسط؟

العربية هي اللغة السائدة في الشرق الأوسط. لكن كونها لغة العبادة لمئات الملايين من مسلمي العالم يعني أنها تحتوى على العديد من حالات الاستخدام المعقدة التي تتجاوز الكلام اليومي.

تحدٍ آخر يراقب محاولات الإشراف العادل على محتوى السوشال ميديا بالعربية. ليست لغة واحدة.. الناطقين بالعربية لا يستخدمون الفصحى بل تنويعة ضخمة من اللهجات العامية المنطوقة. هذا يعني أن تعليم الآلة يحتاج، لكي يكون عادلًا، أن يشمل كل المفردات المكتوبة والمنطوقة.

من المهم أيضًا ملاحظة أن اللغة العربية، تستخدم لهجة مكتوبة موحدة هي الفصحى، جنبًا إلى جنب مع مجموعة كبيرة ومتنوعة من اللهجات العامية المنطوقة، مما يمثل تحديًا آخر من أجل الإشراف الفعال والعادل على المحتوى.

فيسبوك مثلًا وضع العربية الفصحى الحديثة كأحد خمس لغات يدرب أدواته عليها. لكن التساؤل قائم حول تعقد ازدواجية اللغة والذي على الأرجح لا تستطيع الخوارزميات التقاطه أو تحليله بدقة.

هذا يؤكد الحاجة إلى إبقاء العامل البشري، خاصة ممن يتمتع بمعرفة ثقافية قوية وخبرة تمكنه من التمييز بشكل مناسب بين الأنواع المختلفة لاستخدام اللغة.. وهنا تظهر معضلة جديدة.

معركة ترامب وتويتر كشفت المتحكمين في خيوط السوشال ميديا | س/ج في دقائق


هل الحل استخدام البشر فقط في مراجعة محتوى الشرق الأوسط؟

لسوء الحظ، فإن مخاوف الدقة والشفافية في الإشراف على المحتوى عبر مناطق مختلفة، خصوصًا الشرق الأوسط، تمتد أيضًا إلى المراجعة البشرية.

منصات مثل جوجل وفيسبوك تستثمر بشكل كبير في توظيف وتدريب الآلاف من وسطاء مراقبة المحتوى من داخل الشركة وخارجها، إلا أن هناك نقصا جوهريا في الشفافية حول كيفية تدريب هؤلاء الوسطاء، من ناحية كفاءتهم، حياديتهم، وفي أي مناطق وثقافات ولغات يعملون. هناك أيضًا القليل من البيانات العامة حول مدى سرعة معالجة المحتوى الذي يتم تمييزه بلغات مختلفة.

ومع استمرار توثيق عمليات الإزالة الخاطئة للمحتوى والحسابات الخاصة بالناشطين والصحفيين والمستخدمين العاديين على منصات مثل فيسبوك وتويتر، فمن الواضح أن الشركات لا تستثمر بما يكفي في غلق الثغرات في إجراءات نظامها الأساسي.

كما أن الطبيعة التنظيمية لجماعات نشر الكراهية باللغات المحلية تعني قدرتهم على الوصول إلى مراكز المراقبة. فيسبوك اختار مسؤولين عن مراقبة المحتوى العالمي حسب المناطق، وكان نصيب الشرق الأوسط توكل كرمان. مما يعني أنها من موقعها تستطيع التحكم في تعيينات القيادات الوسطى، وتلك في تعيينات الموظفين الأصغر.

هذا معلن من فيسبوك، لكنه قد يكون متكررا في أكثر من منصة لا نعلم شيئا عن جهاز العاملين بها.



إذن.. ما الحل لإدارة المحتوى الضار بالشرق الأوسط؟

تشير التعقيدات اللغوية في الشرق الأوسط، فضلاً عن حالات المراقبة الرقمية المتزايدة والحملات القمعية على حرية المعلومات، إلى أن العديد من البلدان في المنطقة تمر بنقطة انعطاف فيما يتعلق بتعديل المحتوى وحدود خطاب السوشال ميديا على نطاق أوسع.

كما هو موضح، يمكن أن يكون لسياسات وممارسات تعديل المحتوى التي تنشئها منصات الإنترنت الأمريكية الرئيسية عواقب وخيمة في الشرق الأوسط.

ونتيجة لذلك، فنهج الدراسات الإقليمية في إدارة المحتوى وإدارته، والذي يراعي الحساسيات الثقافية واللغوية المحلية، يعد أمرًا بالغ الأهمية لإدارة المنصات الإلكترونية، لا سيما مع توسع أدوارها كحراس للحديث عبر الإنترنت.

وعلى ذلك، تحتاج منصات السوشال ميديا لإنشاء معاجم لخطاب الكراهية خاصة بالمنطقة، متضمنة اللغات واللهجات الأقل استخدامًا، مما يعزز تجذير النهج الإقليمي في إدارة المحتوى.


هل هناك مصادر أخرى لزيادة المعرفة؟

عيوب نظام تعديل المحتوى: دراسة حالة الشرق الأوسط (معهد الشرق الأوسط)


رابط مختصر
للمشاركة لـ فيسبوك

موضوعات متعلقة

التعليقات (0)

يجب عليك .. تسجيل الدخول أو التسجيل لتتمكن من التعليق.

تعليقات الفيسبوك