هل تساعد تقنيات الذكاء الاصطناعي “فيسبوك” في اكتشاف “خطاب الكراهية”؟

تسعى “فيسبوك ” إلى الاعتماد على تقنيات الذكاء الاصطناعي في الكشف عن خطاب الكراهية والتعصب عبر محتوى المنشورات التي تبثها الجماعات أو الأفراد في هذا الشأن، لكن تظل هناك العديد من التحديات؛ لضمان الدقة وتحقيق النتائج المستهدفة، وفقا لتقارير صحفية.

ففي الوقت الذي تستطيع فيه تقنيات الذكاء الاصطناعي أن تكتشف الصور التي تتضمن عريا أو إباحية أو عنفا جسديا واضحا، إلا أن عملية تصفية بيانات لمنشورات عشوائية، لتحديد محتوى يتضمن خطاب كراهية أو تنمرا أو تحرشا، تتطلب في الأغلب فهما للسياق، وفهما إنسانيا لأبعاد المواقف على اختلافها.

لعل من أبرز التحديات التي تواجه “فيسبوك” هي كشف المحتوى الذي ينتهك المعايير والسياسات المجتمعية للموقع، قبل أن يدركها المستخدم، وعند النظر إلى ما يطلق عليه “المعدل الاستباقي” للأنواع المختلفة من الانتهاكات، تتضح لنا طبيعة التحدي الأكبر الذي تواجهه أوسع شبكة اجتماعية في العالم، بغرض الحفاظ على نظامها الأساسي.

ولا يزال “فيسبوك” يعتمد بشكل أساسي على التكنولوجيا، لتحديد المحتوى الضار المحتمل، بمشاركة بشرية في مراحل لاحقة من عملية المراجعة، لمحاولة تحديد خطاب الكراهية أو التنمر قبل مستخدميه. وعلى الرغم من أن معدل نجاح الشركة في كشف خطاب الكراهية قد تحسّن من 52% إلى 80% على مدار الـ 12 شهرا الماضية، إلا أن ذلك المعدل لا يزال أقل كثيرا من ذلك في محتويات أخرى تنتهك سياسات الشركة.

Leave a Reply

Your email address will not be published. Required fields are marked *