تحليلات - قضايا ديمقراطية

الروبوتات: الأيدي الخفية في الفضاء السيبراني

طباعة

أضحت نظم المعلومات Information Systems  وإمكانات الفضاء السيبراني جزءاً لا يتجزأ من عمل جميع الشركات، والشخصيات العامة، وقد تحول الجزء الأكثر أهمية في الفضاء السيبراني بشكل أساسي من معدات حصرية تابعة للحكومات والمؤسسات الأكاديمية إلي جزء أساسي من مجتمعنا الافتراضي.

نشأت بداية الإنترنت internetبشكل أساسي من مشروع وكالة البحث المتقدم (ResearchProject Agency ARPA)، وهي وكالة تابعة لوزارة الدفاع الأمريكية، وتسمى اليوم وكالة الأبحاث الدفاعية المتقدمة (Defense Advanced Research Project Agency DARPA)، وتهدف إلي تطوير التقنيات الناشئة للاستخدامات العسكرية. ففي عام 1969، أنشأت هذه الوكالة شبكة وكالة مشاريع الأبحاث المتقدمة (Advanced Research Project Agency Network, ARPANET)، كان الهدف منها يتمثل في توفير بنية تحتية لشبكة الحاسب لكي تمكن الجامعات المختلفة من الاتصال بعضها بعضا، وتسهيل الاتصال فيما يتعلق بالأنشطة البحثية، وقد نجحت هذه الشبكة وانضم إليها المزيد من النقاط الشبكية nodesعلى مدار السنوات التالية. وفي عام 1973، بدأت الدول الأوروبية في الانضمام إلي تلك الشبكة، وكانت المملكة المتحدة والنرويج أولى دولتين منضمتين .

في عام2004، انتشر التكامل الشديد للمحتوى التفاعلي لصفحات الويب، وتم تدشين ويب web 2.0في مؤتمر أورلي ميديا ويب2.0، حيث عزز مفهوم ويب 2.0 التفاعل والتعاون بين المستخدمين، وجعل المحتوى الذي يولده المستخدم رائج الاستخدام، ولهذا تم تغيير فهم الأدوار؛ لأن مستخدمي  الإنترنت لم يعودوا مجرد مشاهدين للمحتوى، ولكن فاعلون في إنشاء المحتوى .

في عام 1989، تم تطوير التهديد السيبراني cyber threatالأول، وذلك قبل أن يقدم الإنترنت إمكانات وصول واسعة جديدة خارج نطاق الجامعات، كان مبتكر التهديد الإلكتروني الأول روبرت موريس Robert Morris، والذي تفهم جيدًا كيفية دمج آلية انتشار ذاتي لأول دودة حاسب. من خلال هذا التهديد، تم استغلال ثغرات برمجية ضارة للغاية في أنظمة يونيكس unix، بحيث تصبح هذه الأنظمة غير قابلة للاستخدام. ونتيجة لذلك، تم تنفيذ أو هجوم واسع النطاق؛ مما أدى إلي تعطل العديد من أجهزة الحاسب. في السنوات التالية، تم تطوير عدد كبير من الفيروسات والتهديدات السيبرانية الأخرى، وبمرور الوقت زاد عدد التهديدات بكثرة. على الرغم من أن الأرقام تتحرك صعوداً وهبوطاً من عام الي آخر .

لقد تم تشكيل الفضاء السيبراني cyber spaceعن طريق الترابط البيني بين أنظمة المعلومات وشبكات الحاسب، مثل الإنترنت، حيث يعزز قدرات أنظمة المعلومات على نطاق واسع، وتؤدي هذه الشبكات، وخاصة الإنترنت، إلي مجموعة متنوعة من الفوائد للاستخدامات الشخصية واستخدامات الشركات، حيث يمكن للشركات الوصول إلي عدد هائل من العملاء المحتملين، ويمكنهم تبادل المعلومات الحساسة في جميع أنحاء العالم في خلال ثوان، وصولاً باستخدامات الذكاء الاصطناعي والذي أصبح ينضوي ضمن استثمارات وأصول الشركات متعددة الجنسيات، والتي تقوم بدورها برقمنة وأتمتة التواصل مع الجمهور، وفقا لاستراتجيات متفق عليها، إلا أنه قد يسىء توظيفه في أحيان أخرى، علي سبيل المثال توظيفه في ترويج الأخبار الزائفة عبر الروبوتات  النافعة أو الضارة، والتي تسعى إلي  الجمهور بمختلف شرائحه .

في ورقة بحثية أصدرتها شركة جوجل في يناير 2022 حول برنامج "لامدا" حذرت الشركة من أن البعض قد يتحدث إلي ربوتات الدردشة دون أن يعلم ذلك، وأن الأشخاص قد يشاركون الأفكار الشخصية مع وكلاء الدردشة الذين ينتحلون صفة البشر، حتى عندما يعلم المستخدمون أنهم ليسوا بشرًا، وأقرت الورقة أيضًا أنه يمكن للخصوم استخدام هؤلاء العملاء "لزرع معلومات مضللة" عن طريق انتحال "أسلوب محادثة أفراد معينين".

وتصدرت فى الآونة الأخيرة أخبار روبوت الدردشة الذكي LaMDA)) بوسائل الإعلام المحلية والعالمية والذي طورته شركة جوجل العام الماضي، وصرح"بليك ليمون" المهندس في شركة جوجل أن برنامج الذكاء الاصطناعي "لامدا " أصبح حساساً من الناحية العاطفية، ما دفع الشركة على قيامه بأجازة مدفوعة الأجر، بدعوى أنه لا يوجد دليل على أن برنامج الذكاء الاصطناعي يتمتع بتلك القدرة .

في مقال نشرته مجلة الإيكونوميست  يعرض مقتطفات من المحادثات غير المسجلة مع LaMDA، جادل بأن الشبكات العصبية - نوع من الهندسة المعمارية التي تحاكي الدماغ البشري، وقال المتحدث باسمGoogle ، براين جابرييل: "لقد راجع فريقنا - بما في ذلك علماء الأخلاق والتقنيين - مخاوف "بليك" وفقًا لمبادئ الذكاء الاصطناعي الخاصة بنا، وأبلغه أن الأدلة لا تدعم مزاعمه."

تنتج الشبكات العصبية الكبيرة اليوم نتائج مبهرة تبدو قريبة من الكلام البشري والإبداع بسبب التطورات في الهندسة المعمارية والتقنية وحجم البيانات، لكن النماذج تعتمد على التعرف على الأنماط - وليس الذكاء أو الصراحة أو النية.

وأشارت الدراسة الي أن هذا النمو، البالغ 169%، سيكون مدفوعاً بالاعتماد المتزايد على استراتيجيات البيع بالتجزئة متعددة القنوات من قبل مشغلي التجارة الإلكترونية والتكامل المتزايد لربوتات الدردشة.

ويقول معظم الأكاديميين وممارسي الذكاء الاصطناعي إن الكلمات والصور التي تم إنشاؤها بواسطة أنظمة الذكاء الاصطناعي، مثل LaMDAتنتج ردودًا بناءً على ما نشره البشر بالفعل علىWikipedia  وReddit ولوحات الرسائل وكل ركن آخر من الإنترنت. وهذا لا يعني أن النموذج يفهم المعنى.

وسبق وتوقعت دراسة أجراها مركز جونيبر للأبحاث أن يرتفع العدد الإجمالي لتطبيقات الشات بوت chatbotالتي يتم الوصول إليها عالمياً من 3.5 مليار عام 2022 إلي 9.5 مليار بحلول عام 2026.

وقال كبير علماء مايكروسوفت والباحث في علوم الذكاء الاصطناعي (juan m Lavista Ferres) : أن LaMDAليس واعياً، وهو مجرد نموذج لغة كبير جدًا مع معلمات 137Bومدرب مسبقًا على كلمات 1.56Tمن بيانات الحوار العام ونص الويب. يبدو وكأنه إنسان، لأنه مدرب على البيانات البشرية.

في الخمسينيات، تنبأ عالم الرياضيات آلان تورنج في أنه بحلول القرن الحادي والعشرين ستتمكن الحواسيب من النجاح في الاختبار بنسبة 30% من الوقت، وقد فسره على أنه نسبة المحكمين الذين على الآلة خداعهم، وصولا إلي عناوين رئيسية صدرت عام 2014 تزعم أن "تشات بوت" في الجمعية الملكية بلندن نجح في الاختبار، فيما يرى آخرون أن نسبة 50% كافية للنجاح في الاختبار، ومع ذلك حتى إذا استطاع "تشات بوت" أن يخدع كل المحكمين، فإنه لن يخبر في الواقع أي شىء عن ذكائه، وهذا لأن  نتائج الاختبار تعتمد كذلك على مستوى فهم المحكمين التقني، واختيار الاسئلة مما سيؤثر فى تقييماتهم .

سلطة البيانات:

تحتاج الآلات الذكية لجمع البيانات- "غالباً بيانات شخصية" كي تعمل وغالباً ما تحولها الي أجهزة مراقبة، بهدف الاقناع، وهو نموذج الأعمال لكثير من شركات الذكاء الاصطناعي بهدف الدعاية.

لم تعد عمليات التشغيل الآلي ببساطة مجرد "أدوات"، إنها غالباً ما تتخذ القرارات بنفسها، والكثير منها مسجل الملكية وكلها معقدة، مما يصعب خضوعها للرقابة العامة، مما يستلزم من المتخصصين مراجعة الخوارزميات ومعرفة المستهدفين، وإزاحة الستار عن الأعمال الخفية، أو رصد التحيز.

حينما أطلقت مايكروسوفت ربوت "الدردة تاي" في عام 2016، لم يستغرق الأمر أكثر من عدة ساعات قبل أن يبدأ ترديد تعليقات عنصرية  على تويتر، ما أجبر مايكروسوفت على إيقافه. كذلك، فإن نطاق تأثير البرمجيات غير واضح في أغلب الاحوال.

في مايو 2022، علق أيلون ماسك  صفقة قيمتها 44 مليون دولار لشراء شركة "تويتر"بسبب وجود الكثير من الحسابات المزيفة على الموقع، والتي تصل إلى نحو 5% من إجمالي عدد مستخدمي الموقع وفقاً لبيان الشركة، وقال إيلون ماسك، أغنى رجل في العالم، إن استحواذه المقترح على موقع تويتر معلق بشكل مؤقت. وغرد ماسك أنه لا يزال ينتظر تفاصيل تفيد بأن الحسابات المزيفة على المنصة أقلمن خمسة في المئة.

الدعاية "الحاسبوية" وخاصية التنكر:

برغم الفوائد التي تجلبها  التكنولوجيا الرقمية إلا أنها تحوي تهديدات وأخطار متنوعة، فالعديد من المواقع والتطبيقات على شبكة الإنترنت، مثل فيسبوك وتويتر وغيرها، تواجه صراعاً محتدماً للحد من  استخدامتها في مجال التلاعب السياسي والدعاية، خاصة ما يرتبط بالروبوتات، والتلاعب بالخوارزميات، والأخبار الزائفة، والاستهداف المخصص وغيرها، ففد سبق واستخدمت الروبوتات في  الدعاية بما يقدر بـ20% من المحتوى السياسي المنشور على تويتر خلال حملة الرئاسة الأمريكية السابقة.

وتعرف الدعاية الحاسوبية أو دعاية البرمجيات كونها ممارسة اتصالية مقصودة، أو أنها الاستخدام المتعمد للخوارزميات والأتمتة، بالتوازي من الرعاية البشرية في نشر معلومات مضللة على مواقع الشبكات الاجتماعية كفيسبوك وتويتر وغيرها .

وتعتبر الأتمتة (التشغيل الآلي) والتدرجية (قابلية التوسع) والسرية (التخفي)، من الخصائص البارزة للدعاية الحاسوبية، فهي قادرة على توزيع عدد هائل من الرسائل بسرعة كبيرة، وبأسلوب متخفٍ يوحي بصدورها أو مجيئها عن مصدر أو جهة معلنة ومحددة داخل الشبكة، وهنا تنخرط في أكثر من اتجاه، وتعتمد الدعاية الحاسوبية على الروبوتات الاجتماعية في تأدية المهمة آلياً بموازاة توسيع الانتشار.لذا يتطلب الكشف عن مصدر الدعاية في البيئة الرقمية .

وتعرض الدعاية المتنكرة على أنها استخدام متعمد للمصادر المقنعة لتشكل المدركات، وتتلاعب بها من أجل تحقيق نتائج مرغوبة، ويستمد التعريف جذوره من نموذج تحليل الدعايا الخاص بــO Donnell & Jowett، كما يعتبر الفعل الدعائي المتخفي نوعا من التلاعب، يعتمد في أداء مهامه على تكتيكات الغموض ونسب الفعل الي مصدر آخر، وهي شكل من أشكال الخداع المستند إلى الهوية بعكس الخداع المستند على الرسالة.

ختاما،ً لا يجب إغفال عدد الأنماط التي صعدت بخطورة التنكر من خلال الدعاية الحاسوبية على الشبكات، لاسيما الدور الذي تلعبه الروبوتات الاجتماعية، والحسابات الوهمية، في تضليل مستخدمي شبكات التواصل الاجتماعي، بالتزامن مع حملات الدعاية التي تهدف إلي تبني انطباع مضلل داخل المجتمع المستهدف. وبحسب نتائج دراسة تناولت حملة الانتخابات الرئاسية الأمريكية 2016م، بلغت نسبة ما أنتجته الروبوتات الاجتماعية نحو 19% من مجموع المشاركات المنشورة خلال الحملة، كما بلغ عدد الحسابات الوهمية المدارة آلياً من قبل الروبوتات  خلال استفتاء خروج بريطانيا من الاتحاد الأوروبي نحو 13.493 حساب.

المصادر:

 

- ستيفن باسيل، ترجمة د محمد أمون شرابي، استثمارات الامن السيبراني، جامعة الملك سعود للنشر 2020

- نيوساينتست، الآلات التي تفكر، مكتبة جرير، 2019.

- حيدر إبراهيم، الدعاية على الشبكات الاجتماعية، مركز الدراسات الإقليمية، فلسطين.

-علي فرجاني، التقنيات الرقمية وتطبيقاتها في الإعلام، الدار المصرية اللبنانية 2022.

Nitasha Tiku, The Google engineer who thinks the company’s AI has come to life,The Washington Post,June 11, 2022

Blake Lemoine, Is LaMDA Sentient? — an Interview,cajundiscordian.medium.com,11Jun2022

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917

Toby Walsh, Labelling Google’s LaMDA chatbot as sentient is fanciful. But it’s very human to be taken in by machines, the guardian, 14 Jun 2022. 

Chris Vallance,Google engineer says Lamda AI system may have its own feelings, bbc.com,13 June 2022

OpenAI's GPT-3 may be the biggest thing since bitcoin, maraoz.com, Jul 18, 2020

- بسبب الحسابات الوهمية .. ماسك يعلّق صفقة الاستحواذ على تويتر، موقع دويتشه فيله، 13 مايو 2022. الرابط: https://bit.ly/3OtRwhb

 

طباعة

    تعريف الكاتب

    علي فرجاني

    علي فرجاني

    باحث في صحافة الذكاء الاصطناعي والفضاء السيبراني