كيف يتحكم فيسبوك في مراقبة المحتوى الإلكتروني؟

ويعتمد فيسبوك بشكل كبير على تقنيات الذكاء الاصطناعي لتحليل ومراجعة المحتوى. يتم تدريب الأنظمة على اكتشاف الصور والنصوص ومقاطع الفيديو التي قد تنتهك سياسات النظام الأساسي. على سبيل المثال، ارتفع عدد المحتوى الذي اتخذت الشركة إجراءات ضده في فئة “العنف المصور” من 1.2 مليون مشاركة في الربع الأخير من عام 2017 إلى 3.4 مليون مشاركة في الربع الأول من عام 2018. ويرجع ذلك إلى تحسين أنظمة الكشف و استخدام تقنيات مطابقة الصور. تقوم الخوارزميات بمقارنة المحتوى الجديد الذي تم الإبلاغ عنه مسبقًا.

2. فرق المراجعة البشرية

بالإضافة إلى الذكاء الاصطناعي، يوظف فيسبوك آلاف المراجعين البشريين في جميع أنحاء العالم. وتتمثل مهمتهم في مراجعة تقارير المحتوى المخالف الذي يرسله المستخدمون وتقييم الحالات التي لا تستطيع الخوارزميات حلها بشكل صحيح.

3. نظام الإبلاغ المجتمعي

يسمح فيسبوك للمستخدمين بالإبلاغ عن المحتوى المثير للجدل أو المسيء. يتم إرسال هذه التقارير إلى فرق التدقيق أو أنظمة الذكاء الاصطناعي لتحليلها واتخاذ القرار المناسب. إلا أن هذه الآلية تعرضت لانتقادات بسبب استخدامها المفرط لإسكات بعض الأصوات، خاصة السياسية أو الثقافية.

الفيسبوك وحذف محتوى غزة

وقال العديد من الناشطين إن فيسبوك حذف المنشورات والصور ومقاطع الفيديو التي توثق العنف والانتهاكات في غزة. وفي كثير من الحالات، تلقى المستخدمون إشعارات بأن المحتوى الخاص بهم “ينتهك معايير المجتمع”، على الرغم من أنه لا يحتوي على خطاب كراهية أو تحريض. كما لاحظ بعض المستخدمين انخفاضًا في مدى وصول منشوراتهم المتعلقة بغزة، حيث لم تعد تظهر للعامة بنفس الرؤية التي كانت عليها من قبل.

واتهم الناشطون أطرافا إسرائيلية باستخدام وظيفة الإبلاغ بشكل منهجي لاستهداف المحتوى الذي يدعم فلسطين. يعتمد هذا النهج على إرسال أعداد كبيرة من التقارير لإجبار الخوارزميات على حذف المحتوى تلقائيًا أو عرضه على فرق المراجعة، التي يُزعم أنها يمكنها في بعض الأحيان اتخاذ قرارات متحيزة.

تم الإبلاغ أيضًا عن أن Facebook يعمل مع الحكومات لضمان الامتثال للقوانين المحلية. في حالة إسرائيل، يستجيب فيسبوك للضغوط الحكومية لإزالة محتوى معين، لكنه لا يتعامل مع المحتوى الإسرائيلي بنفس المعايير، وخاصة المنشورات التي يمكن أن تحرض على العنف أو الكراهية.

Facebook ermöglicht es Nutzern, kontroverse oder anstößige Inhalte zu melden. Diese Berichte werden zur Analyse und entsprechenden Entscheidungsfindung an Prüfteams oder künstliche Intelligenzsysteme gesendet. Allerdings wurde dieser Mechanismus wegen seines übermäßigen Einsatzes kritisiert, um einige Stimmen, insbesondere politische oder kulturelle, zum Schweigen zu bringen.

Facebook und das Löschen von Gaza-Inhalten

Mehrere Aktivisten gaben an, dass Facebook Beiträge, Fotos und Videos entfernt habe, die Gewalt und Verstöße in Gaza dokumentierten. In vielen Fällen erhielten Benutzer Benachrichtigungen, dass ihre Inhalte „gegen Gemeinschaftsstandards verstoßen“, obwohl sie keine Hassreden oder Volksverhetzung enthielten. Einige Nutzer bemerkten auch einen Rückgang der Reichweite ihrer Posts mit Gaza-Bezug, da sie der Öffentlichkeit nicht mehr mit der gleichen Präsenz erschienen wie zuvor.

Aktivisten warfen israelischen Parteien vor, die Meldefunktion systematisch gegen Inhalte zu nutzen, die Palästina unterstützen. Dieser Ansatz basiert auf der Übermittlung einer großen Anzahl von Berichten, um Algorithmen dazu zu zwingen, Inhalte automatisch zu löschen oder sie Prüfteams anzuzeigen, die angeblich manchmal voreingenommene Entscheidungen treffen können.

Es wurde auch berichtet, dass Facebook mit Regierungen zusammenarbeitet, um die Einhaltung lokaler Gesetze sicherzustellen. Im Fall Israels reagiert Facebook auf den Druck der Regierung, bestimmte Inhalte zu entfernen, behandelt israelische Inhalte jedoch nicht nach den gleichen Standards, insbesondere Beiträge, die zu Gewalt oder Hass schüren könnten.