الواجهة الرئيسيةترجماتتكنولوجيا

الخوارزميات وصعود المجتمعات المتماثلة المتطرفة عبر الإنترنت

كيوبوست- ترجمات

إسحاق كفير♦

لقد كسرت وسائل التواصل الاجتماعي والتكنولوجيا القيودَ القديمة التي كانت تمنع الناس من التواصل في السابق، حيث كانت الجغرافيا وإمكانية الوصول تحدُّ من قدرة الناس على تشكيل مجتمعات متماثلة عبر وطنية. أما في الوقت الحاضر، فأصبح بإمكان الأفراد، بنقرة زرٍ واحدة، التضامن مع أولئك الذين يعيشون على الجانب الآخر من العالم، وهم يقومون “بعمليات بحثهم الخاصة لمعرفة الحقائق”. ومع ذلك، فقد ينتهي الأمر بهم إلى الدخول فيما يشبه جحر الأرانب؛ أي في متاهة يصعب الخروج منها.

هناك عناصر عدة تسهل تكوين المجتمعات المتماثلة عبر الإنترنت، وتكاثرها واستدامتها. تلعب الخوارزميات عنصرًا رئيسًا في هذه العملية. إذ تساعد في بروز المحتوى الذي يرغب فيه المستخدم؛ لأن الغرض المعلن من هذه الخوارزميات هو جعل حياة المستخدم أكثر سهولة من خلال تتبع مشاركته عبر الإنترنت، وتقديم خيارات من خلال محركات البحث. تجدر الإشارة إلى أنه قبل عام 2004، عندما كانت الشبكة العالمية لا تزال في مهدها، كان منشئو المحتوى محدودين، وكان المحتوى ثابتًا، وكان البحث عن المعلومات شاقًا وصعبًا، ولم يكن هناك ترتيب في كيفية تقديم المعلومات حسب رغبة المستخدم.

بناء على ما سبق ذكره، فهم العلاقة بين التطرف العنيف والخوارزميات يتطلب معرفة بالقوة التي تتمتع بها محركات البحث. في هذا الصدد، يشير البروفيسور جيمس جريملمان إلى أن الناس ينظرون إلى محركات البحث على أنها بمنزلة مستشارين موثوق بهم، يقومون بإجراء بحثٍ بطريقة متخصصة وموضوعية تقودهم إلى قائمة بالمواقع الإلكترونية الموصى بها التي ينبغي أن يطلع عليها المستخدم (وتلك التي ينبغي تجاهلها).

اقرأ أيضًا: عمالقة التكنولوجيا حققوا أرباحاً بالمليارات من الحرب على الإرهاب

مشكلة الخوارزميات

لكن الواقع مختلف تمامًا. محركات البحث مدعومة بخوارزميات، خاصة ما يعرف باسم زواحف الويب (crawlers) الموجودة على شبكة الإنترنت، تلك البرمجيات التي تزحف داخل شبكة الانترنت لتخزين صفحات الويب ومحتوياتها في فهارس محرك البحث. وعليه، تقوم برامج مثل “بيج رانك” (الذي يقوم بترتيب الصفحات) بعمليات مسح خلال شبكة الإنترنت بأكملها بحثًا عن المعلومات وفقًا للكلمات التي كتبها المستخدمون في البحث. ويعتبر برنامج بيج رانك -الخوارزمية التي أسهمت في صعود جوجل وهيمنتها- مثالًا على ذلك. بيج رانك يجوب المليارات من صفحات الويب لتلبية طلب المستخدم في الحصول على معلومات.

بعد ذلك، تحدد الخوارزمية كيفية تقديم وتصنيف المعلومات التي تعثر عليها اعتمادًا على عدد المستخدمين الذين نقروا على صفحة ويب محددة، وكلما زاد عدد النقرات، كانت فرصة ظهور صفحة الويب أعلى. لا يهتم البرنامج بمصداقة صفحة الويب، بل ما إذا كانت تلبي محددات البحث العامة ومدى شعبيتها؛ لأن الخوارزميات تهتم بالكمية، وليس الجودة.

يوفر يوتيوب، الذي تملكه جوجل، دراسة حالة ممتازة للقوة التي تتمتع بها الخوارزميات، وكيف يمكنها أن تقود الأشخاص إلى متاهة يصعب الخروج منها. السبب في نجاح يوتيوب هو خوارزمية نظام التوصية (recommender)، حيث اكتشف المطورون أنه من خلال فهم ما يريد المستخدمون مشاهدته، يمكن توسيع نطاق استخدامهم للمنصات. وفي عام 2018، اعترف نيل موهان؛ كبير مسؤولي المنتجات في يوتيوب، بأن أكثر من 70% من مقاطع الفيديو التي يشاهدها المستخدمون ترسلها إليهم خوارزمية نظام التوصية في المنصة.

يوفر يوتيوب، الذي تملكه جوجل، دراسة حالة ممتازة للقوة التي تتمتع بها الخوارزميات

 

التعرّض الانتقائي

ثمة عامل مهم آخر في تيسير صعود المجتمعات المتماثلة هو التعرّض الانتقائي للمعلومات. الخوارزميات مهمة لهذه العملية لأنها؛ من خلال خواص مثل “المجموعة” أو أزرار “الإعجاب/ عدم الإعجاب”، تمكّن منصات مثل فيسبوك من تتبع اهتمامات المستخدم وحفظها، ومن ثم إمداد المستخدمين بالمزيد من المحتوى الذي يرغبون في استهلاكه.

ثانيًا، من خلال حفظ عمليات البحث التي يقوم بها المستخدم واهتماماته، تقوم الخوارزميات بفلترة المعلومات التي تعلم أنها لا تهم المستخدم. يحدث هذا لأن الهدف هو تزويد المستخدم بالمعلومات ذات الصلة أو المفيدة له، على افتراض أنها ستقوده إلى الاستمرار في استخدام المنصة. في الوقت ذاته، ولأن المنصة توفر للفرد المعلومات التي يريدها، فإنه سيستمر في استخدامها والثقة بها. المثير للاهتمام هو أن دراسة داخلية لفيسبوك قد كشفت أن 64% من أولئك الذين انضموا إلى مجموعة متطرفة قد فعلوا ذلك فقط؛ لأن خوارزمية الشركة أوصتهم بها.

ثالثًا، يجب أن نتذكر أن المشاركة عبر الإنترنت تمثل تجربة شاملة. فهي تتطلع إلى تلبية سعي المرء لتحقيق السعادة، أمر يؤكد علم النفس الاجتماعي أنه ممكن من خلال التركيز الشديد. وبالتالي، تتطلع المنصات وصفحات الويب إلى غمر المستخدم بالكامل في هذه المشاركة، فهي تعرف أنه من خلال انغماس المرء بحواسه جميعًا، سيصل إلى حالة من التسامي، التي تمنحه بدورها سعادة يرغب في تكرارها.

اقرأ أيضًا: كيف ننقذ الديمقراطية من التكنولوجيا؟

الإشراف الآلي على المحتوى

نظرًا للكم الهائل من المحتوى، سواء كان في شكل فيديو أو صور أو نصوص أو مقاطع صوتية، اضطرت المنصات إلى التحول إلى الإشراف الآلي على المحتوى. وهنا، تجدر الإشارة إلى أنه في الأشهر الستة الأولى من عام 2021، أَنشأ سكان العالم، في المتوسط، قرابة 500 مليون تغريدة، وأكثر من 290 مليار رسالة بريد إلكتروني، و4 ملايين جيجابايت من مشاركات فيسبوك، و65 مليار رسالة واتساب. كل يوم نشاهد أكثر من مليار ساعة من المحتوى على يوتيوب. وهذا يصل إلى قرابة 59 زيتابايت. وبحلول عام 2025، من المتوقع أن نولد 175 زيتابايت.

في ظلِّ هذا القدر الكبير من البيانات التي يتم إنشاؤها وتحميلها، من المستحيل ببساطة على الأشخاص تقييم المحتوى وتحديد ما إذا كان ينتهك شروط الاستخدام ومعايير المجتمع، وهذا ما دفع المنصات للاعتماد على عملية الإشراف الآلي على المحتوى، التي تتم باستخدام الذكاء الاصطناعي، والتعلم الآلي، وما إلى ذلك من التقنيات. والهدف من هذه الأدوات هو تنظيم المحتوى أو ترتيبه أو فلترته أو تصنيفه أو إزالته أو حظره إذا لزم الأمر.

ومع ذلك، فهناك العديد من القضايا الواضحة التي تكتنف عملية الإشراف الآلي على المحتوى تتراوح بين الفنية والسياسية. علاوة على ذلك، فإن الطريقة التي يتكيّف بها المتطرفون العنيفون مع الإشراف الخوارزمي على المحتوى تُشكّل مصدر قلق أكبر. في أحد مقاطع الفيديو الدعائية لتنظيم داعش، تم عرض 30 ثانية من محتوى لقناة فرانس 24 الإخبارية على أمل تجنب الكشف عن المحتوى وإزالته (بلغ طول الفيديو 49 دقيقة). فعلى سبيل المثال، تكيّف أنصار تنظيم داعش مع جهود تلجرام للكشف عن المواد المتطرفة.

تعتمد الرجعية الجديدة على التكنولوجيا

لقد ركّز تلجرام على أشكال محددة للمحتوى، ولكن ليس على تقييم الخدمات التي تقدمها المنصة. وبالتالي، فإن خوارزميات الإشراف على المحتوى تبحث عن نوعٍ واحد من الملفات للمحتوى الضار بدلًا من البحث في العديد من الخدمات التي تقدمها المنصة.

الخلاصة

يمكن القول إن استجابات تلك المنصات للتطرف العنيف على الإنترنت كانت مجرد رد فعل، ومرتبكة أيضًا. والأمر هنا لا يتعلق بتقييم ما هو قادم، بل بالتعامل مع ما يحدث. لذا، فعندما يستخدم إرهابي البث المباشر في هجومه، فإن إحدى الاستجابات هي حمل “فيسبوك” وشرطة لندن على “ابتكار تكنولوجيا يمكن أن تساعد في تحديد الهجمات بالأسلحة النارية في مراحلها المبكرة، وربما تساعد الشرطة في جميع أنحاء العالم في الاستجابة”.

اقرأ أيضًا: دراسة حديثة: كيف تشكل القدرات السيبرانية موازين القوى محلياً ودولياً؟ (1)

إحدى الاستجابات الأخرى تتمثل في صياغة واعتماد “نداء كرايستشيرش” أو تغيير خوارزمية نظام التوصية كما فعل يوتيوب في عام 2019، على أمل ثني المستخدمين عن مشاهدة المحتوى المختلف عليه؛ أي المحتوى الذي قد يُعتبر ضارًا أو مضللًا، ولكنه ليس عنيفًا.

ومع ذلك، فإن مثل هذه المبادرات تفشل في ثني الأفراد عن الدخول في جحر الأرانب. لذا، فإننا بحاجةٍ ماسّة لفهم قوة الخوارزميات، والدور الذي تلعبه في محركات البحث، وكيف يمكن أن تؤدي محصلة عمليات البحث إلى رؤية منحرفة؛ لأن نتائج البحث تقدم نوعًا محددًا واحدًا من المعلومات.

وهكذا، ما لم نعالج قضية القوة التي تتمتع بها الخوارزميات في عمليات البحث، وعدم فهم الشخص العادي لحجم تأثيرها، والطريقة التي تقدم بها المعلومات لنا، فستظل قدرتنا على عرقلة عملية التطرف، بشكل فعّال، محدودة في أحسن الأحوال.

♦عضو المجلس الاستشاري، المعهد الدولي للعدالة وسيادة القانون، وأستاذ مساعد في جامعة تشارلز ستورت.

المصدر: عين أوروبية على التطرف

اتبعنا على تويتر من هنا

تعليقات عبر الفيس بوك

التعليقات

مقالات ذات صلة