خوارزميةفيسبوكتصرفت، وكان مزعجا للغاية.لقد قام مؤخرًا بمقارنة الرجال الملونين بالقرود.حالة تدعو إلى التشكيك في موثوقية'يافي إدارة المحتوى الحساس.
خوارزمية محدودة
من أجل مكافحة نشر محتوى أNSFWأو متحيزة جنسيًا أو عنصرية أو مجرد صادمة، تستخدم المواقع والتطبيقات مشرفي المحتوى، مثل الخوارزميات.لكن هذه الدراسات لا يمكن الاعتماد عليها بنسبة 100%، وتظهر حدود الذكاء الاصطناعي.
يمكننا، على سبيل المثال، أن نذكر بعض الحالات المحرجة على أقل تقدير، مثل الحالة التي فرض فيها فيسبوك رقابة في عام 2018 على صورة إيمانويل ماكرون أثناء زيارته لسان مارتن بسبب "العري والأفعال الجنسية". في العام الماضي، أخطأت الخوارزمية في اعتبار سلة البصل البريئة زوجًا من الثديين.
قضية محرجة للغاية
واليوم، عاد إلى الظهور مقطع فيديو عمره عام. في هذا الوقت تقريبًا، نشرت صحيفة ديلي ميل، وهي صحيفة شعبية باللغة الإنجليزية، مقطع فيديو على الإنترنت بعنوان "الرجل الأبيض يستدعي رجال الشرطة للقبض على الرجال السود في مارينا". (أعيد) مشاهدتها مؤخرًا على فيسبوك، ورأى العديد من المستخدمين رسالة صادمة للغاية معروضة في نهاية الفيديو. بالفعل،سألت خوارزمية التوصية المستخدمين عما إذا كانوا يرغبون في مشاهدة "مقاطع فيديو رئيسية" أخرى، مع خياري "نعم/رفض".
قام دارسي غروفز، المصمم السابق في عملاق وسائل التواصل الاجتماعي، بالتقاط لقطة شاشة ونشرها على تويتر. "انها فضيحةوعلقت، ثم دعت زملاءها السابقين في فيسبوك إلى الإبلاغ عن الأمر.
أم. إن مطالبة "مواصلة المشاهدة" هذه غير مقبولة،@فيسبوك. وعلى الرغم من أن عمر الفيديو يزيد عن عام، فقد تلقى أحد الأصدقاء هذه المطالبة بالأمس. أيها الأصدقاء في الفيسبوك، يرجى التصعيد. هذا أمر فظيع.pic.twitter.com/vEHdnvF8ui
– دارسي جروفز (@tweetsbydarci)2 سبتمبر 2021
خطأ محرج جدا للفيسبوك منهوسرعان ما رد المتحدث الرسمي معتذراً:
ومن الواضح أن هذا خطأ غير مقبول (...)، ونعتذر لكل من رأى هذه التوصيات المهينة».
قامت مجموعة كاليفورنيا بإلغاء تفعيل أداة التوصية في هذا الموضوع "فور إدراكنا لما يحدث من أجل التحقيق في أسباب المشكلة ومنع حدوث ذلك مرة أخرى".
تم التعليق على المعلومات بسرعة على تويتر.
شيت كلاسيكي للأسف ولكن من المدهش عندما نعرف أحجام الذكاء الاصطناعي في الفيسبوك ومن ثم يصبح الأمر لا يغتفرhttps://t.co/U08YD7UbCS
— ديفيد لاروز \ud83d\udc27 (@ Pentar0o)4 سبتمبر 2021
ولا يزال هناك تقدم يتعين إحرازه..#IA #intelligenceArtificielle #أخلاق مهنية https://t.co/2WJpmHIWx7
— ماري لانج #jesuisvaccinée\ud83d\udc89 (@langemarie)4 سبتمبر 2021
لقد صدمت فقط !!!
- سابرينا بيودور (@ sbiodore)4 سبتمبر 2021
تعود الحقائق إلى يونيو 2020 وتظهر اليوم: بعد مقطع فيديو يظهر رجالاً سود، خوارزمية@فيسبوكاقترح الاستمرار في مشاهدة مقاطع الفيديو "الرئيسية". أن تساهم GAFA في نشر#عنصريةالأكثر دناءة غير مقبول.https://t.co/f5Si5f08bk pic.twitter.com/KCKSsqkt3H
— كولكتيف فان (@Collectif_VAN)4 سبتمبر 2021
إنه أمر مخز
– أونيفاد (@ كارينيوني)4 سبتمبر 2021
الفيسبوك في عين العاصفة
وهذا يوضح بالتالي حدود موثوقية'يا، على وجه الخصوص لتحديد وحظر الرسائل والصور الإشكالية قبل أن يتم عرضها. "كما قلنا، على الرغم من أننا قمنا بتحسين أنظمة الذكاء الاصطناعي لدينا،نحن نعلم أنهم ليسوا مثاليين وأن لدينا مجالًا للتحسين»، دافع عن الشبكة الاجتماعية.
ويُتهم فيسبوك أيضًا بعدم مكافحة العنصرية بشكل كافٍ وأشكال الكراهية والتمييز الأخرى. والأسوأ من ذلك أن العديد من الجمعيات والمنظمات تشير إلى حقيقة ذلكتساهم شبكة التواصل الاجتماعي وخوارزمياتها في تقسيم المجتمع الأمريكي، في سياق مظاهرات حركة حياة السود مهمة.
