تطلق Google أداة مفتوحة المصدر لمكافحة المضايقات والتعليقات المسيئة

تقوم وحدة Jigsaw من Google بإصدار رمز لأداة مفتوحة المصدر لمكافحة الت*حر*ش تسمى Harassment Manager. تستخدم الأداة ، المخصصة للصحفيين وغيرهم من الشخصيات العامة ، واجهة برمجة تطبيقات Jigsaw’s Perspective للسماح للمستخدمين بتصفية التعليقات التي يُحتمل أن تكون مسيئة على منصات التواصل الاجتماعي بدءًا من Twitter. ظهر لأول مرة كرمز مصدر للمطورين للبناء عليه ، ثم تم إطلاقه كتطبيق وظيفي لصحفيي مؤسسة Thomson Reuters Foundation في يونيو. يمكن لـ Harassment Manager الآن العمل مع Twitter API للجمع بين خيارات الإشراف – مثل إخفاء الردود على التغريدات وكتم الحسابات أو حظرها – مع نظام تصفية شامل وإعداد التقارير ، حسبما أفادت The Verege. يقوم المنظور بالتحقق من لغة الرسائل بحثًا عن مستويات “السمية” بناءً على عناصر مثل التهديدات والإهانات والألفاظ النابية. يقوم بفرز الرسائل في قوائم انتظار على لوحة المعلومات ، حيث يمكن للمستخدمين معالجتها على دفعات بدلاً من معالجتها بشكل فردي من خلال أدوات الإشراف الافتراضية في Twitter. يمكنهم اختيار تعتيم نص الرسائل أثناء قيامهم بذلك ، بحيث لا يحتاجون إلى قراءة كل واحدة ، ويمكنهم البحث عن الكلمات الرئيسية وكذلك استخدام قوائم الانتظار التي تم إنشاؤها تلقائيًا. يسمح مدير المضايقات للمستخدمين أيضًا بتنزيل تقرير مستقل يحتوي على رسائل مسيئة ؛ يؤدي هذا إلى إنشاء مسار ورقي لصاحب العمل ، أو في حالة وجود محتوى غير قانوني مثل التهديدات المباشرة ، يتم تطبيق القانون. ومع ذلك ، في الوقت الحالي ، لا يوجد تطبيق مستقل يمكن للمستخدمين تنزيله. بدلاً من ذلك ، يمكن للمطورين إنشاء تطبيقات تدمج وظائفهم وخدماتهم التي سيتم إطلاقها من قبل شركاء مثل Thomson Reuters Foundation. عند الإعلان عن الأمر في اليوم العالمي للمرأة ، صاغت Jigsaw الأداة على أنها ذات صلة خاصة بالصحفيات اللواتي يواجهن انتهاكات على أساس الجنس ، وسلطت الضوء على المدخلات من “الصحفيين والناشطين ذوي التواجد الكبير على Twitter” وكذلك المنظمات غير الهادفة للربح مثل International مؤسسة إعلام المرأة ولجنة حماية الصحفيين. في منشور على موقع Medium ، قال الفريق إنهم يأملون في أن يتمكن المطورون من تخصيصه لمستخدمي الشبكات الاجتماعية الضعفاء الآخرين. وجاء في المنشور: “نأمل أن توفر هذه التكنولوجيا موردًا للأشخاص الذين يواجهون المضايقات عبر الإنترنت ، وخاصة الصحفيات والناشطات والسياسيون والشخصيات العامة الأخرى ، الذين يتعاملون مع سمية عالية على الإنترنت بشكل غير متناسب”. لقد استغل Google “المنظور” للإشراف الآلي من قبل. في عام 2019 ، أصدرت امتدادًا للمتصفح يسمى Tune يسمح لمستخدمي وسائل التواصل الاجتماعي بتجنب رؤية الرسائل ذات الاحتمالية العالية لكونها سامة ، وقد تم استخدامه من قبل العديد من منصات التعليق (بما في ذلك Vox Media’s Coral). ولكن كما لاحظنا بخصوص إصدار Perspective and Tune ، كان نموذج تحليل اللغة تاريخيًا بعيدًا عن الكمال. أحيانًا ما يخطئ المحتوى الساخر في التصنيف أو يفشل في اكتشاف الرسائل المسيئة ، ويمكن لمنظمة العفو الدولية مثل Jigsaw ربط مصطلحات مثل “أعمى” أو “أصم” – وهي ليست بالضرورة سلبية – بالسمية. كما تعرضت Jigsaw نفسها لانتقادات بسبب ثقافة مكان العمل السامة ، على الرغم من رفض Google لهذه الادعاءات. على عكس الإشراف بمساعدة الذكاء الاصطناعي على خدمات مثل Twitter و Instagram ، ومع ذلك ، فإن Harassment Manager ليس ميزة تحرير من جانب النظام الأساسي. يبدو أنها أداة فحص للمساعدة في إدارة النطاق الهائل لتعليقات وسائل التواصل الاجتماعي في بعض الأحيان ، وهو أمر قد يكون ذا صلة بأشخاص خارج الصحافة – حتى لو لم يتمكنوا من استخدامها في الوقت الحالي.