رحيل
11-03-2021, 02:15 PM
هل فشلت فيسبوك بتتبع خطابات الكراهية.. باللغة العربية؟
https://vid.alarabiya.net/images/2021/11/01/18050cee-3fe9-4464-b839-5a8ddc7eee50/18050cee-3fe9-4464-b839-5a8ddc7eee50_16x9_1200x676.jpg?width=1138
تمتلك شركة "فيسبوك" ما يصل إلى ثلاثة مليارات مستخدم على مختلف منصاتها. وبطبيعة الحال فإن كل هذا العدد من البشر لا يستخدم اللغة الإنجليزية كلغة رئيسية لاستخدام تلك المنصات. وهو ما أظهر مدى فشل المنصة في التعامل مع اللغات الأجنبية.
فالأبحاث الداخلية التي تم إجراؤها داخل "فيسبوك" نفسها، والتي انكشفت ضمن تسريبات "ملفات فيسبوك"، كشفت عن ظهور خطابات الكراهية والمحتويات المضللة بلغات مختلفة، دون أن يتم حظرها من طرف الشركة.
وتدعم منصة "فيسبوك" أكثر من 100 لغة عالمية، إلا أن فريق مراقبة المحتوى الخاص بها لا يعرف كل تلك اللغات بالضرورة.
وقد كشفت الملفات المسربة عن فشل المنصة في التعرف على خطابات الكراهية داخل دولة باكستان، وذلك نظراً للاعتماد على لغة الباشتو المحلية. وبشكل عام فإن الملفات قد أوضحت عدم قدرة المنصة على التصدي للمحتويات الضارة، التي يتم مشاركتها بالاعتماد على اللغات الأجنبية.
وحسبما أوضحت التسريبات فإن المنصة لا تكون مستعدة مسبقًا لتتبع خطابات الكراهية للغات معينة. وتبدأ في ذلك مباشرةً في حالة حدوث أي مشاكل متعلقة باللغة أو البلد التي تتحدث بها، ويتم تدريب تقنيات الذكاء الاصطناعي الخاصة بالتعرف على المحتوى المسيء في الوقت الحقيقي.
فيسبوك فشلت في التعامل مع اللغات
كشفت الملفات المسربة أيضًا عن تدريب قدرات الذكاء الاصطناعي للغات لها الأولوية. مثل لغات الأورومو والأمهرية التي يتم استخدامها في دولة إثيوبيا، وذلك نظرًا للحروب الأهلية القائمة في البلاد.
وقد استثمرت شركة "فيسبوك" مبلغا وصل إلى 13 مليار دولار أميركي في تحسين قدرات المنصة على التعامل مع اللغات لأغراض الحماية والأمان، وذلك منذ عام 2016 وحتى وقتنا الحالي. ولعل هذا المبلغ ضئيل مقارنة بما تحققه الشركة من إيرادات سنوية. وقد وصلت إيرادات "فيسبوك" في عام 2020 إلى 85 مليار دولار أميركي.
وقد ظهرت مشاكل التعامل مع اللغات في دولة مثل الهند، والتي تمتلك 800 مليون مستخدم متصل بالإنترنت. حيث إن الشركة فشلت بشكل متكرر في التعرف على المحتوى المثير للكراهية باللغات الهندية المحلية.
وتتكرر نفس المشكلات في منطقة الشرق الأوسط، وذلك أن "فيسبوك" تعتمد على فريق من مراجعي المحتوى يتمركز بشكل رئيسي في الدار البيضاء بالمغرب. وبالرغم من أن اللغة العربية هي لغة واحدة، إلا أن الاختلاف بين لهجاتها كبير جدًا.
وهو ما يعني أن الشخص المغربي قد لا يفهم اللهجة الخليجية بسهولة، أو اللهجة التونسية. وإلى جانب ذلك فإن "فيسبوك" قد اعتمدت أيضًا على فريق من الموظفين في مدينة إيسن بألمانيا، والذي يعمل أيضًا على مراجعة المحتوى العربي.
يُذكر أن كافة المعلومات السابق ذكرها قد خرجت من ملفات الشركة المسربة. وهي التي تم تسريبها من طرف مديرة المشاريع السابقة في فريق السلامة المدنية، فرانسيس هاوجن، وقد وصلت بالفعل لعدد من المنصات الإخبارية.
https://vid.alarabiya.net/images/2021/11/01/18050cee-3fe9-4464-b839-5a8ddc7eee50/18050cee-3fe9-4464-b839-5a8ddc7eee50_16x9_1200x676.jpg?width=1138
تمتلك شركة "فيسبوك" ما يصل إلى ثلاثة مليارات مستخدم على مختلف منصاتها. وبطبيعة الحال فإن كل هذا العدد من البشر لا يستخدم اللغة الإنجليزية كلغة رئيسية لاستخدام تلك المنصات. وهو ما أظهر مدى فشل المنصة في التعامل مع اللغات الأجنبية.
فالأبحاث الداخلية التي تم إجراؤها داخل "فيسبوك" نفسها، والتي انكشفت ضمن تسريبات "ملفات فيسبوك"، كشفت عن ظهور خطابات الكراهية والمحتويات المضللة بلغات مختلفة، دون أن يتم حظرها من طرف الشركة.
وتدعم منصة "فيسبوك" أكثر من 100 لغة عالمية، إلا أن فريق مراقبة المحتوى الخاص بها لا يعرف كل تلك اللغات بالضرورة.
وقد كشفت الملفات المسربة عن فشل المنصة في التعرف على خطابات الكراهية داخل دولة باكستان، وذلك نظراً للاعتماد على لغة الباشتو المحلية. وبشكل عام فإن الملفات قد أوضحت عدم قدرة المنصة على التصدي للمحتويات الضارة، التي يتم مشاركتها بالاعتماد على اللغات الأجنبية.
وحسبما أوضحت التسريبات فإن المنصة لا تكون مستعدة مسبقًا لتتبع خطابات الكراهية للغات معينة. وتبدأ في ذلك مباشرةً في حالة حدوث أي مشاكل متعلقة باللغة أو البلد التي تتحدث بها، ويتم تدريب تقنيات الذكاء الاصطناعي الخاصة بالتعرف على المحتوى المسيء في الوقت الحقيقي.
فيسبوك فشلت في التعامل مع اللغات
كشفت الملفات المسربة أيضًا عن تدريب قدرات الذكاء الاصطناعي للغات لها الأولوية. مثل لغات الأورومو والأمهرية التي يتم استخدامها في دولة إثيوبيا، وذلك نظرًا للحروب الأهلية القائمة في البلاد.
وقد استثمرت شركة "فيسبوك" مبلغا وصل إلى 13 مليار دولار أميركي في تحسين قدرات المنصة على التعامل مع اللغات لأغراض الحماية والأمان، وذلك منذ عام 2016 وحتى وقتنا الحالي. ولعل هذا المبلغ ضئيل مقارنة بما تحققه الشركة من إيرادات سنوية. وقد وصلت إيرادات "فيسبوك" في عام 2020 إلى 85 مليار دولار أميركي.
وقد ظهرت مشاكل التعامل مع اللغات في دولة مثل الهند، والتي تمتلك 800 مليون مستخدم متصل بالإنترنت. حيث إن الشركة فشلت بشكل متكرر في التعرف على المحتوى المثير للكراهية باللغات الهندية المحلية.
وتتكرر نفس المشكلات في منطقة الشرق الأوسط، وذلك أن "فيسبوك" تعتمد على فريق من مراجعي المحتوى يتمركز بشكل رئيسي في الدار البيضاء بالمغرب. وبالرغم من أن اللغة العربية هي لغة واحدة، إلا أن الاختلاف بين لهجاتها كبير جدًا.
وهو ما يعني أن الشخص المغربي قد لا يفهم اللهجة الخليجية بسهولة، أو اللهجة التونسية. وإلى جانب ذلك فإن "فيسبوك" قد اعتمدت أيضًا على فريق من الموظفين في مدينة إيسن بألمانيا، والذي يعمل أيضًا على مراجعة المحتوى العربي.
يُذكر أن كافة المعلومات السابق ذكرها قد خرجت من ملفات الشركة المسربة. وهي التي تم تسريبها من طرف مديرة المشاريع السابقة في فريق السلامة المدنية، فرانسيس هاوجن، وقد وصلت بالفعل لعدد من المنصات الإخبارية.