الذكاء الاصطناعي يوتوبيا إيه آي يحدّد حجم خطاب الكراهية على منصّات اجتماعيّة مختلفة

(بزنيس واير) – غالباً ما يظهر خطاب الكراهية عبر شبكة الإنترنت على منتديات النقاش، وذلك وفقاً لدراسة أجرتها "يوتوبيا أناليتيكس" لصالح وزارة العدل في فنلندا. وقد وجد التقرير أن منتديات النقاش هي موطن لـ 97 بالمائة من رسائل خطاب الكراهية التي جرى تحديدها. أما ثاني أكبر المنصّات لرسائل خطاب الكراهية فكانت "تويتر" بنسبة 2.5 بالمائة تلتها "إنستغرام" بنسبة 0.2 بالمائة. وتشكل المدوّنات والتعليقات الإخباريّة والرسائل العامة على "فيسبوك"  أقل من 0.02 بالمائة من جميع خطابات الكراهية المحدّدة. ولم تتضمّن مجموعة البيانات النقاشات الخاصّة، على سبيل المثال، مجموعات أو حسابات "فيسبوك".

وقد اختبر المشروع، وهو جزء من برنامج حقائق ضد الكراهية الذي أطلقته وزارة العدل، قدرة الذكاء الاصطناعي على التعرّف على خطاب الكراهية في بيئات الإنترنت. وجمع النهج بين التقييم البشري والتعلّم الآلي. وتمثّل الهدف الرئيسي في العثور على القنوات الرئيسيّة لخطاب الكراهية، وتحديد الاختلافات في الكلام الذي يحضّ على الكراهية بين منصّة وأخرى.

واستند تعريف خطاب الكراهية إلى بحث أكاديمي في العلوم الاجتماعيّة. وقد تمّ التعريف من خلال إنتاج فئات  الكلام الذي يحضّ على الكراهية، ثم استخدامه لتحديد نماذج من خطاب الكراهية يدوياً في مجموعة بيانات ضمّت رسائل متداولة عبر الإنترنت. وجرى لاحقاً استخدام هذه التعليقات التوضيحيّة كبيانات تدريب لـوسيط الذكاء الاصطناعي "يوتوبيا إيه آي موديرايتور"، وهي عبارة عن أداة مستقلة عن اللغة تستخدم تحليلات النصوص والتعلّم الآلي. وضمّت مجموعة البيانات 12 مليون تعليق ومنشور باللغة الفنلنديّة في الفترة  من سبتمبر إلى أكتوبر 2020.

وأظهرت النتائج أن حوالي 150,000 رسالة تحتوي على خطاب كراهية تظهر شهريّاً على منصّات وسائل التواصل الاجتماعي الفنلنديّة المتاحة للجمهور، وتمثّل حوالي 1.8 بالمائة من مجموع الرسائل.

ومن بين منصّات التواصل الاجتماعي العالميّة العامة، كان الأبرز هو "تويتر" حيث تم تحديد 7,450 رسالة بأنها كلام يحضّ على الكراهية، أي ما يوازي 0.14 بالمائة من إجمالي التغريدات. وتلعب إعادة تغريد الرسائل دوراً هامّاً في تداولها: إذ إن 39 بالمائة من مجموع تغريدات خطاب الكراهية مكرّرة.

وفي هذا السياق، قالت الدكتورة ماري-سانا باوكيري، الرئيسة التنفيذي لـ "يوتوبيا": "في حين أن مجموعة البيانات تكوّنت في الغالب من رسائل باللغة الفنلنديّة، إلا أن النتائج ستكون متشابهة جداً في لغات أخرى. فعلى سبيل المثال، تعدّ المنصّة الرئيسيّة لخطاب الكراهية الفنلندي، "أوليلاوتا‘، نظيرة لمنصّة "4 تشان" المعروفة. إلى ذلك، يمكننا بناء نموذج ذكاء اصطناعي مماثل لتحديد خطاب الكراهية في أي لغة في غضون أسبوعين فقط. ونحتاج فقط إلى شخص ماهر ليحدد طريقة تعريف خطاب الكراهية في ثقافتك ولغتك وإلى البيانات لتحليلها".

مكتبة الوسائط/الصور: https://utopiaanalytics.com/media-library

يمكنكم الاطلاع على النسخة الأصليّة للبيان الصحفي على businesswire.com على الرابط الإلكتروني التالي: /https://www.businesswire.com/news/home/20210422005039/en

إن نص اللغة الأصليّة لهذا البيان هو النسخة الرسميّة المعتمدة. أما الترجمة فقد قدمت للمساعدة فقط، ويجب الرجوع لنص اللغة الأصليّة الذي يمثل النسخة الوحيدة ذات التأثير القانوني.