تحتوي مقالات أخبار Yahoo على الكثير من التعليقات البغيضة ، مثلها مثل بقية الإنترنت ، لذلك قرر فريق Yahoo استخدام قسم التعليقات من أجل تطوير خوارزمية يمكنها تحديد أسوأ المخالفين بنجاح. هم خوارزمية جديدة للكشف عن إساءة الاستخدام يعمل بنسبة 90 في المائة من الوقت ، وهو ما يقولون إنه يجعله أكثر فعالية من محاولات المنظمات الأخرى للقيام بمآثر مماثلة ، ويوصف بأنه خطوة كبيرة إلى الأمام في هذا المجال. 90 بالمائة يفعل حسنًا ، أعترف بذلك.
سلكي تشير التقارير إلى أن 'ياهو' تقوم أيضًا بإصدار أول قاعدة بيانات منظمة ومتاحة للجمهور لخطاب الكراهية عبر الإنترنت كجزء من مشروعها لمكافحة إساءة الاستخدام. وهذا يعني أن المواقع الأخرى ستكون قادرة على استخدام قاعدة بيانات Yahoo للتعليقات من أجل تصميم الخوارزميات الخاصة بها. تم تطوير خوارزمية Yahoo بناءً على التعلم الآلي وأيضًا على البيانات التي أبلغ عنها المستخدم حول أقسام التعليقات الخاصة بهم.
الجزء الأصعب من أي خوارزمية للإشراف على التعليقات هو التعامل مع الإيجابيات الخاطئة. تبحث العديد من خوارزميات اكتشاف إساءة الاستخدام عن كلمات أو عبارات محددة ، مثل الإهانات أو الإهانات الشائعة ، وتقوم تلقائيًا بوضع علامة على التعليقات للإشراف عليها. ومع ذلك ، يؤدي هذا إلى وضع علامة على التعليقات حتى إذا كانت تشير إلى افتراء في سياق القول بأنه ليس مناسبًا ، على سبيل المثال ، أو إذا كان التعليق تقليدًا ساخرًا للقزم. يبدو أن خوارزمية Yahoo يمكنها اكتشاف أنماط كلام معينة ، وقد تم تصميمها لتكون قادرة على التمييز بين السخرية المزعجة والإساءة الفعلية. (بالطبع ، إذا كان تعليقك المضحك لا يمكن تمييزه عن الإساءة الفعلية ، فأنا متأكد من أن الخوارزمية ستستمر في وضع علامة عليه ، لكن لا يمكنني القول على وجه اليقين كيف يعمل هذا الجزء من الذكاء الاصطناعي.)
جندت Yahoo وسطاء تعليق مدربين للمساعدة في إتقان الخوارزمية ، ودفعوا أيضًا بعض الوسطاء غير المدربين ، ووجدوا أن الوسطاء المدربين كانوا أفضل كثيرًا في معرفة التعليقات المناسبة (نوع من عدم التفكير ، ولكن مهلا). خلال فترة إنشاء الذكاء الاصطناعي ، وجدت Yahoo أن عمل هؤلاء الوسطاء المدربين كان ضروريًا للحفاظ على فعالية الخوارزمية وإتقان تقنيات الكشف الخاصة بها.
بالتاكيد، الخوارزميات لا تزال لديها تحيزات ، الأمر الذي يتطلب فريقًا (متنوعًا) من الوسطاء البشريين لمواصلة تكرار المنهجيات المستخدمة لتصنيف التعليقات. تبدو مهمة صعبة ، لكن ياهو على الأقل تدرك الآن أهمية التدريب وتقييم أدوار كل من المشرفين البشريين المدربين جيدًا وزميلهم الجديد في مجال الذكاء الاصطناعي.
رجل عجوز يصيح في الغيوم
(عبر الويب التالي ، الصورة عبر مايكل كورديدا / فليكر )
