[ad_1]
يتحدث Civicus مع Mercy Mutemi ، محامي التكنولوجيا الكيني في Nzili و Sumbi والمستشارين القانونيين لمقدمي الالتماسات التي تتحدى دور Facebook في الكراهية والعنف في إثيوبيا.
في 3 أبريل ، سمحت المحكمة العليا في كينيا بإجراء دعوى قانونية ضد ميتا للمضي قدماً. تم رفع الدعوى ، التي بلغت قيمتها 2.4 مليار دولار أمريكي ، في كينيا بسبب تنفيذ المعهد الإقليمي في Meta من قبل مقاول مقره هناك. تم إحضارها من قبل اثنين من المواطنين الإثيوبيين ومنظمة المجتمع المدني الكينيين الذين يتهمون Facebook بترويج الكراهية والتحريض خلال الحرب الأهلية لإثيوبيا. قُتل أحد آباء المطالبين بعد تعرضهم للانتهاك على المنصة. تسعى القضية إلى الحصول على صندوق لاسترداد ، وتحسين الاعتدال والإصلاح النظامية. تواصل Meta تحدي اختصاص المحكمة ، لكن مجموعات الحقوق الرقمية تعتقد أن الدعوى يمكن أن تنشئ سابقة عالمية للمساءلة المنصة عن العنف المُصمم عبر الإنترنت.
كيف أنشأت المحاكم الكينية اختصاصًا على META؟
طعنت ثلاث حالات منفصلة في Meta وشركائها الاستعانة بمصادر خارجية ، Samasource and Teleperformance (Majorel سابقًا) ، في محاكم كيني. حقيقة أن محاكم الكيني أكدت بنجاح أن الاختصاص يمثل تحولًا كبيرًا في المساءلة التكنولوجية العالمية.
تحدى Meta في البداية اختصاص المحاكم ، بحجة أنها لم توظف المشرفين مباشرة أو تعمل محليًا. ومع ذلك ، فشلت هذه الاستراتيجية في جميع الحالات الثلاث. في سبتمبر 2024 ، قضت محكمة الاستئناف بأن المحاكم الكينية لديها اختصاص لسماع مزاعم بانتهاكات حقوق الإنسان المرتبطة بالميتا. وبالمثل ، قضت محكمة الدستورية وحقوق الإنسان في أبريل أنه ، منذ اتخاذ قرارات الاعتدال في كينيا ، يمكن لمحاكم الكيني تقييم ما إذا كانت حقوق الإنسان قد تم تأييدها.
هذه الأحكام تفتح أرضية جديدة. على عكس الولايات القضائية الأخرى التي تمنح شركات التكنولوجيا حماية واسعة من الميناء الآمن ، اعتمدت محاكم كيني على الحقوق الدستورية لتربية تلك الحصانة والسماح للمطالبات بالمضي قدما. هذا يمكن أن يعيد تشكيل كيفية اعتبار المنصات العالمية حساب في جميع أنحاء العالم.
ما هي الحالات وتركيزها؟
تنقسم الحالات إلى فئتين: حقوق العمل والضرر الخوارزمي. تركز حالتي العمل على ظروف العمل الاستغلالية. يزعم المشرفون السابقون في محتوى Facebook أنهم تم الاتجار بهم في وظائف تضررت بشدة صحتهم العقلية. هذه هي الحالات الأولى التي تحمل شركة تكنولوجيا كبرى مسؤولة عن انتهاكات حقوق الإنسان المتعلقة بالعمال التي تحدث خارج الولايات المتحدة الأمريكية ، على الرغم من مشاركة شركات الاستعانة بمصادر خارجية. يمكنهم وضع معايير عالمية لكيفية تعامل شركات التكنولوجيا التي يجب أن تتعامل مع القوى العاملة عن بُعد وتوضيح مكان المسؤولية في سلاسل التوريد المعقدة.
الحالة الثالثة ، التي أمثل فيها أحد المدعين ، مشكلة مختلفة: تضخيم خوارزمية لخطاب الكراهية أثناء صراع إثيوبيا. على الرغم من ادعاء ميتا بأن التأثير كان يشعر في إثيوبيا ، وليس كينيا ، قضت المحكمة بأن اختصاص الكيني ينطبق لأن قرارات الاعتدال نشأت هناك.
ستحدد هذه القضية ما إذا كانت منصات وسائل التواصل الاجتماعي يمكن أن تكون مسؤولة عن انتهاكات حقوق الإنسان الناتجة عن الأنظمة التي تحركها الذكاء الاصطناعي ، وما إذا كانت خوارزميات Meta تُظهر التحيز أو التمييز ضد المستخدمين الأفارقة وما إذا كانت المحاكم الوطنية لها اختصاص على القرارات الرقمية ذات الآثار المتقاطعة.
كيف يمكن لخوارزمية الفيسبوك تضخيم العنف؟
الأدلة المقدمة تكشف عن نمط مزعج. تم تصميم خوارزمية Facebook ، التي تعرض الأولوية للتفاعلات الاجتماعية “ذات معنى” و “مجزية” ، لتضخيم المحتوى الذي يثير ردود فعل قوية ، بما في ذلك المحتوى الالتهابي والاستقطاب والبغيض. بدلاً من أن تكون خطأ ، يبدو أن هذا هو ميزة النظام.
العواقب في مناطق الصراع مدمرة. بدلاً من الحد من المحتوى الضار ، تزيد الخوارزمية من وصولها ، مما يثير التعرض وخطر الأذى في العالم الحقيقي. خلال الصراع الإثيوبي ، انتشر خطاب الكراهية ، ودعاية الحرب والتحريض على العنف دون رادع. من الأهمية بمكان أن التهديدات التي تم إجراؤها عبر الإنترنت لم تكن مجرد خطاب. تم تنفيذها في الحياة الحقيقية. قُتل والد أحد المدعيين بعد استهدافه على المنصة.
وفي الوقت نفسه ، فشل Facebook باستمرار في الاستثمار في اعتدال محتوى ذي معنى في إفريقيا. استخدمت المنصة عددًا قليلاً جدًا من المشرفين ، وتعرضوا لهم لظروف العمل الاستغلالية وفشلت في ضبط خوارزمياتها ومعايير المجتمع على السياقات المحلية. هذا خلق عاصفة مثالية للعنف.
ما هي التغييرات التي تطالب بها؟
تهدف مطالبنا على كل من الأضرار الفورية والمشاكل النظامية.
للإغاثة الفورية ، نسعى للحصول على صندوق لاسترداد لتعويض ضحايا التضخيم الخوارزمي والاعتدال في المحتوى ، بالإضافة إلى آليات شفافة ويمكن الوصول إليها لتصعيد معهد المحتوى الذي ينتهك حقوق الإنسان أو الحماية الدستورية.
من أجل التغيير على المدى الطويل ، نطالب بإعادة تصميم الخوارزميات لتعكس المخاطر والاحتياجات الفريدة للمجتمعات الأفريقية المختلفة ، مع وجود حقوق ملكية لغوية وثقافية تضمنها أنظمة التدريب ذات البيانات المتنوعة والمترجمة.
هناك فرصة أوسع هنا. تلعب إفريقيا دورًا رئيسيًا في النظام البيئي للتكنولوجيا العالمية ، وخاصة في خوارزميات التدريب. يعتمد العديد من عمال البيانات والمشرفين الذين يشكلون هذه الأنظمة على القارة ، وغالبًا ما يعملون من خلال شركات الاستعانة بمصادر خارجية. يجب على الحكومات الأفريقية والمجتمع المدني الاستفادة من هذا الموقف للدفع من أجل زيادة الأسهم في تدريب الخوارزمية والطلب على أنظمة الذكاء الاصطناعى أكثر شمولاً.
يتطلب النجاح تقوية حماية العمال وزيادة شفافية سلسلة التوريد. هذه خطوات أساسية نحو مساءلة التكنولوجيا الدائمة والبيئات الرقمية الأكثر أمانًا في جميع أنحاء إفريقيا.
تواصل على اتصال
LinkedIn
تغريد
انظر أيضا
Civicus Monitor Rating | إثيوبيا: مغلق
Civicus Monitor Rating | كينيا: مكبوتة
التكنولوجيا: مخاطر الإنسان من القوة الرقمية Civicus | 2025 تقرير الدولة للمجتمع المدني
“إن إغلاق برنامج Meta في الولايات المتحدة لتكيف الحقائق هو انتكاسة كبيرة في مكافحة المعلومات المضللة” Civicus Lens | مقابلة مع Olivia Sohr 24.Jan.2025
“من الأسهل وأرخص من أي وقت مضى نشر معلومات مضللة على نطاق واسع” عدسة Civicus | مقابلة مع عمران أحمد 21.Sep.2024
[ad_2]
المصدر