فيسبوك يستخدم الذكاء الاصطناعي لإيقاف المنشورات الخطيرة و الكاذبة

تعرض موقع التواصل الاجتماعي الشهير فيسبوك Facebook لانتقادات شديدة في العام الماضي من أشخاص يقولون إن الشركة لا تفعل ما يكفي لوقف خطاب الكراهية و المضايقات عبر الإنترنت، و انتشار الأخبار الكاذبة.

و لكي نكون منصفين ، فإن مهمة مراقبة أنشطة ما يقرب من 1.62 مليار مستخدم يومياً يولدون 4 بيتابايت petabytes  من البيانات ، بما في ذلك 350 مليون صورة ، ليست بالمهمة السهلة أبداً .

كما أنه ليس من السهل أن تكون أكبر منصة اجتماعية في العالم.

و مع ذلك ، فقد تعرضت الشركة لانتقادات لأنها سمحت لعشرات الجماعات التي تغذيها الكراهية بنشر منشورات هجومية و تهديدية و لأنها سمحت لمجموعات نظرية المؤامرة اليمينية المتطرفة مثل QAnon بنشر ادعاءات سياسية كاذبة بحريّة.

كما كشفت التحليلات الأكاديمية و الحكومية للانتخابات الرئاسية لعام 2016 عن أدلة على التدخل الهائل من قبل الجهات الفاعلة المحلية و الأجنبية ، و يبدو أنه تم بذل جهود مماثلة في انتخابات 2020 أيضاً.

إجراءات فيسبوك لمراقبة المحتوى

تقوم فيسبوك بتوظيف ما يقرب 15,000 مشرف محتوى لمراجعة تقارير سوء السلوك التي تتراوح من الحيلة السياسية إلى المضايقات إلى التهديدات الإرهابية لاستغلال الأطفال.

لقد تعاملوا عموماً مع التقارير بالترتيب الزمني ، مما سمح في كثير من الأحيان بعدم معالجة الادعاءات الأكثر خطورة لأيام أثناء مراجعة المشكلات الأقل.

و قد أعلن موقع فيسبوك مؤخراً أنه سيُدخل التعلم الآلي في عملية الإشراف. و ستستخدم الخوارزميات لاكتشاف أكثر المشكلات خطورة و تعيينها لمشرفين بشريين.

و سيستمر مشرفو البرامج في التعامل مع إساءة الاستخدام ذات المستوى الأدنى مثل انتهاك حقوق النشر والبريد العشوائي.

و تقول شركة فيسبوك بأنها  ستقوم بتقييم المنشورات التي بها إشكالية وفقاً لثلاثة معايير :

1. مدى الانتشار
   
   
2. الخطورة
   
   
3. و احتمال انتهاك القواعد
   
   

حيث سيتم منح المنشور المليء بالفحش و الذي يهدد بالعنف في موقع الاضطرابات العرقية -على سبيل المثال- الأولوية القصوى، و ذلك إما من خلال إزالته تلقائياً بواسطة الجهاز أو تعيينه إلى وسيط للتقييم و للإجراءات الفورية.

يقول رايان بارنز Ryan Barnes ، مدير المنتج في فريق نزاهة المجتمع في شركة فيسبوك FACEBOOK :

"لا تزال جميع انتهاكات المحتوى ... تتلقى بعض المراجعة البشرية الجوهرية". و أضاف قائلاً :

" سنستخدم هذا النظام لتحديد أولويات المحتوى بشكل أفضل.

و نحن -في نفس الوقت- نتوقع استخدام المزيد من الأتمتة عندما يكون انتهاك المحتوى أقل خطورة ، خاصة إذا لم يكن المحتوى فيروسياً ، أو إذ تمت مشاركته بسرعة بواسطة عدد كبير من الأشخاص."

و يذكر أنه قد تم اتهام فيسبوك بإساءة التعامل مع الحسابات خلال الاضطرابات الأخيرة رفيعة المستوى.

حيث تم في إحدى الحالات ، رفع دعوى قضائية ضد الشركة بعد إطلاق النار المميت من قبل الحراس الذين نزلوا في كينوشا Kenosha ، ويسكونسن Wisconsin، و ذلك بعد احتجاجات ضد ضباط الشرطة الذين أصيبوا بجروح خطيرة لرجل أسود بعد إطلاق النار بأربع طلقات على ظهره أثناء اعتقاله. 

إذ  تزعم الدعوى أن فيسبوك فشل في إزالة صفحات مجموعات الكراهية المتورطة في إطلاق النار من قبل الحراس.

كما وجدت دراسة أجرتها منظمة غير ربحية خلال جائحة العام الماضي ،أن هناك ما يقرب من 3.8 مليار مشاهدة على صفحات الفيسبوك  لمحتوى مضلل يتعلق ب كوفيد19ـ COVID-19.

شكاوى من قبل وسطاء موق فيسبوك

في بعض الأحيان ، يتم توجيه الانتقادات من قبل وسطاء الفيسبوك المفرطين في الحذر.

ففي يونيو الماضي ، اشتكت صحيفة ذي غارديان The Guardian من أن القراء الذين يحاولون نشر صورة تاريخية نشرتها قد تم حظرهم و إصدار تحذيرات من فيسبوك .

حيث نُشرت صورة رجال من السكان الأصليين شبه عراة مقيدون بالسلاسل في غرب أستراليا ،كانت قد التقطت في تسعينيات القرن التاسع عشر ، و ذلك رداً على إنكار رئيس الوزراء الأسترالي سكوت موريسون Scott Morrison أن بلاده لم تنخرط أبداً في العبودية.

و يذكر أن موريسون تراجع  عن تعليقاته بعد نشر المقال و الصورة. كما اعتذر فيسبوك لاحقاً عن التصنيف غير الصحيح للصورة على أنها عُري غير لائق.

يقول مسؤولو فيسبوك إن تطبيق التعلم الآلي جزء من جهد مستمر لوقف انتشار المعلومات الخطيرة و المسيئة و المضللة مع ضمان عدم مراقبة المنشورات المشروعة.

 و قد كان الإنشاء الافتراضي -بين عشية و ضحاها- لمجموعة احتجاج ضخمة تنافس في إحصاء انتخابات 2020  مثالاً واضحاً على التحديات التي يواجهها الفيسبوك.

حيث جمعت مجموعة على الفيسبوك  تطالب بإعادة الفرز (لأصوات الانتخاب الأخيرة لعام 2020)، ما يقرب من 400,000 عضو في غضون أيام قليلة. و لم يقم الفيسبوك بحجب الصفحة.

و على الرغم من عدم وجود أي شيء غير قانوني في طلب إعادة الفرز ، إلا أن الموجة العارمة من المعلومات المضللة بشأن انتهاكات التصويت المزعومة - التهم التي تم رفضها بشكل قاطع من قبل المسؤولين في جميع الولايات الخمسين و الجمهوريين و كذلك الديمقراطيين في الأسبوع الماضي - تعتبر بمثابة تذكير مقلق باحتمالية وجود المعلومات الكاذبة لتشكيل وجهات النظر السياسية.

يقول كريس بالو Chris Palow ، عضو فريق النزاهة في فيسبوك :

"إن النظام يتعلق بتوحيد الذكاء الاصطناعي مع المراجعين البشريين لتقليل الأخطاء الكلية". و يختتم بالو قائلاً : "لن يكون الذكاء الاصطناعي مثالياً أبداً."