رغم أن الحياة تحت سطوة حكومة مستبدة ذات سيطرة كاملة على العالم، لا يزال سيناريو مستبعدا، وقد لا يحدث سوى في المستقبل البعيد، فإن ذلك لا ينفي أن من شأن تقنيات الذكاء الاصطناعي، تعزيز الاستبداد في بعض الدول، وتدعيم البنى التحتية التي يمكن أن يستولي عليها طغاة انتهازيون في بُلدان أخرى.
بقلم: دي ميناردي-كاتبة صحفية
كيف كانت ستبدو أنظمة الحكم الاستبدادية التي شهدها العالم في الماضي، إذا لم تكن قد دُحِرَت وسقطت، وماذا لو بقيت بكل عنفوانها حتى اليوم؟
لعلنا نذكر أن النظام النازي مثلا، كان ينعم بالتقنيات المتطورة التي انتشرت في النصف الأول من القرن العشرين، وأن القضاء عليه تطلب شن حرب عالمية.
فماذا لو كان هذا النظام قد تمكن من الحصول على القنبلة الذرية قبل الولايات المتحدة؟ أي قوة كان سيحظى بها في تلك الحالة، وإلى أي مدى زمني كان سيتسنى له البقاء في السلطة؟ إذ إن قدرة النازيين على التحكم في هذا السلاح، الذي كان الأكثر فتكا في زمنه، كانت ستعزز قوة نظامهم الحاكم، بل وتغير مجرى التاريخ بالكامل.
اللافت أن تفكير المرء في المخاطر الوجودية التي يمكن أن تواجه كوكبنا، قد يحدو به غالبا إلى أن يتحسب لأحداث من قبيل نشوب حرب نووية أو اصطدام الأرض بكويكب أو مذنب، دون أن يتخوف من تهديد مستقبلي، لا يُسلط عليه الضوء كثيرا. ومع أن هذا التهديد، لا ينطوي على انقراض جنسنا البشري مثلا، فإنه قد لا يقل في سوئه عن ذلك المصير.
ويُطلق على السيناريو الذي يتضمن ذلك التهديد، اسم "عندما يُكبل العالم بالأغلال"، ويتمثل في ظهور حكومة استبدادية، تهيمن على مقدرات الكرة الأرضية، وتنتفع من تقنية متطورة ما، لجعل غالبية سكان المعمورة يكابدون معاناة دائمة، وذلك على غرار ما كان يطمح فيه النظام النازي في السابق، على ما يبدو.
إذا بدا لك ما سبق قاتما، فأنت على حق بطبيعة الحال. لكن هل هو سيناريو مرجح الوقوع؟ للإجابة عن هذا السؤال، بدأ الباحثون والفلاسفة في التفكير مليا في الكيفية التي يمكن أن يتجسد بها احتمال من هذا القبيل على أرض الواقع، كما يفكر هؤلاء -وهذا هو الأهم- في السبل التي تكفل لنا تحاشي مواجهة ذلك.
ربما تجدر بنا الإشارة في البداية، إلى أن المخاطر الوجودية تصطبغ بطابع كارثي، لأنها تجعل الإنسانية بصدد مواجهة مصير واحد لا غير، من قبيل الانهيار الكامل للحضارات أو انقراضنا كجنس بشري. وقد تعود هذه الكوارث إلى أسباب طبيعية، مثل ثوران بركان شديد الضخامة أو اصطدام الأرض بكويكب ما. وربما تنجم أيضا عن أسباب من صنع الإنسان، على غرار اندلاع حرب نووية، أو ظاهرة التغير المناخي وتبعاتها.
ويقول هايدن بيلفيلد، المسؤول في مركز دراسات المخاطر الوجودية في جامعة كمبريدج إن السماح بحدوث أي من هذه الاحتمالات، سيشكل "نهاية بائسة وحقيرة لقصة الإنسانية"، وخذلانا لمئات الأجيال التي سبقتنا.
ويرى توبي يورد، الباحث البارز في معهد مستقبل الإنسانية في جامعة أكسفورد، أن احتمالات حدوث كارثة وجودية لأسباب طبيعية خلال القرن الحالي تقل عن واحد في الألفين، نظرا لأن البشر عاشوا ألفيْ قرن من قبل، دون أن يواجهوا كارثة من هذا النوع. لكن إضافة احتمالية أن تكون هذه الكارثة من صنع الإنسان، جعل فرص حدوثها تتزايد -حسبما يعتقد يورد- لتصل إلى نسبة مذهلة ومروعة في الوقت نفسه، تبلغ نحو 16.6 في المئة.
ويصف هذا الرجل قرننا الحالي بأنه قرن "شفا الكارثة"، في ضوء أنه يشهد الخطر الأعلى من نوعه على الإطلاق، فيما يتعلق بإمكانية أن "نفقد مستقبلنا" بكل معنى الكلمة.
وفي الآونة الأخيرة، أقدم الباحثون في مركز المخاطر بعيدة المدى، وهو معهد بحثي غير هادف للربح في لندن، على توسيع رقعة المخاطر الوجودية التي يجري بحثها في هذا الإطار، من خلال إضافة "الآفاق المفزعة" المتعلقة بإمكانية أن نواجه "مخاطر تنطوي على التسبب في معاناتنا".
وتُعرّف هذه المخاطر، بأنها تلك التي تتضمن "أن نكابد معاناة على نطاق هائل، بما يتجاوز إلى حد بعيد، كل أوجه المعاناة التي ظهرت على سطح الأرض حتى الآن". وتشمل السيناريوهات الخاصة بحدوث مخاطر من هذا القبيل، أن يتسنى لمليارات البشر مواصلة حياتهم، لكنها ستكون حياة مزرية بشدة، ذات آفاق مظلمة، إلى حد يجعلهم يفضلون الموت على الاستمرار فيها.
هنا يظهر سيناريو "عندما يُكبل العالم بالأغلال"، والذي يقوم على تصور مفاده بأن تتمكن مجموعة أو حكومة خبيثة ومؤذية، من أن تمتلك بشكل مفاجئ، قدرة تكفل لها الهيمنة على العالم من خلال التكنولوجيا، دون وجود أي قوة أخرى قادرة على الوقوف في وجهها، وهو ما قد يفضي أن يشهد عالمنا فترة طويلة من القهر والمعاناة.
وقد حذر تقرير صدر عام 2017 بشأن المخاطر الوجودية، وتعاون لإعداده باحثون من مراكز علمية مختلفة مع وزارة الشؤون الخارجية الفنلندية، من أن الحياة لفترة طويلة في المستقبل "تحت نير دولة شمولية وحشية بوجه خاص، تهيمن على العالم بأسره، قد يكون أسوأ من انقراضنا بشكل كامل".
فرضية سينغلتون
ورغم أن مسألة ظهور حكومة مستبدة تقبض على زمام الأمور في العالم أجمع، لا تزال موضوعا يخضع للدراسة من جانب المتخصصين، فإن الباحثين في مجال المخاطر الوجودية، يولون اهتمامهم بشكل متزايد، للسبب المرجح أكثر من غيره، لحدوث ذلك الاحتمال، ألا وهو تقنيات الذكاء الاصطناعي.
وفي إطار نظرية باسم "فرضية سينغلتون"، يوضح نيك بوستروم - وهو أحد مديري معهد مستقبل الإنسانية في جامعة أكسفورد - كيف يمكن أن تتشكل حكومة تبسط سيطرتها على العالم، بفضل مثل هذه التقنيات أو أي تقنيات أخرى فعالة للغاية. ويشير إلى الأسباب التي تجعل من المستحيل إسقاط مثل هذه الحكومة.
وقد كتب في هذا الصدد قائلا: "من الممكن ظهور عالم تقوده قوة واحدة تتولى صنع القرار على أرفع المستويات، وذلك إذا كان لمثل هذه القوة القدرة على أن يكون لها قصب السبق بشكل حاسم، بفضل التطورات التكنولوجية المتعلقة بمجال الذكاء الاصطناعي أو بتقنية النانو الجزيئية".
وبحسب النظرية ذاتها، سيتسنى لأي حكومة من هذه العينة أن تتحكم، بمجرد وصولها إلى السلطة، في مجريات التطور التكنولوجي، بما يكفل لها منع ظهور أي تحديات داخلية لها تستفيد من التكنولوجيا الحديثة، من قبيل تعرضها لمراقبة إلكترونية من جانب أي طرف آخر، أو حدوث تطوير لأسلحة فتاكة مستقلة ذاتيا.
وبفضل احتكار التقنيات المتطورة على هذا النحو، ستتمكن تلك الحكومة المستبدة من البقاء في حالة استقرار دائمة.
وإذا ما تحقق هذا الاحتمال، ووصلت إلى السلطة في العالم حكومة مستبدة، فإن ذلك يعني أن حياة البشر ستصبح قاتمة وكئيبة، وتفوق في سوئها نظيرتها التي يعيشها الناس حاليا، في ظل أشد أنظمة الحكم صرامة.
فمن يخضعون لحكم تلك الأنظمة في الوقت الراهن، لا يزال بوسعهم -على الأقل- التمتع بإمكانية الهروب منها، كما أن سطوتها وقبضتها الصارمة، لا تمنع من تسرب الأخبار إلى داخل الدول الخاضعة لسيطرتها، وخروج هذه الأخبار منها أيضا. أما إذا خضع العالم لسلطة حكومة شمولية واحدة، فإن بصيص الأمل المحدود هذا، سيتلاشى بدوره.
وهنا يقول تاكر ديفي، الكاتب في معهد مستقبل الحياة في ولاية ماساشوستس الأمريكية، والذي يركز على إجراء الأبحاث المتعلقة بالمخاطر الوجودية، إن ما سيجعل الحياة في ظل هذا الوضع أسوأ -في نظر البشر- من إمكانية انقراضهم، "شعورهم بانعدام الحرية أو الخصوصية، وإحساسهم بأنه لا يوجد أمل لهم في الهروب، وعدم امتلاكهم أي قدرة على التحكم في حياتهم".
ويقارن ديفي بين الحياة تحت حكم الأنظمة الشمولية في الماضي، والخضوع لنظام شمولي عالمي واحد في المستقبل بالقول: "كان من يخضعون لسطوة أنظمة الحكم المستبدة في الماضي، يكابدون قدرا كبيرا من المعاناة النفسية وجنون الشك والاضطهاد، نظرا لأنه لم تكن لديهم أي فكرة، عما إذا كانوا سيلقون حتفهم إذا ما قالوا إن ما تقوم به السلطات أمر غير ملائم أم لا.
أما الآن، فلك أن تتخيل، أنه لن يكون هناك أي شك من الأصل في هذا الأمر، فكل ما تتفوه به سيُسجل ويُبلغ عنه، ويجري تحليله أيضا".
وفي مقابلة أُجريت معه مؤخرا، قال يورد: "ربما لم نمتلك حتى الآن التقنيات اللازمة للقيام بذلك. لكن يبدو أن مختلف أنواع التقنيات التي نُطوّرها حاليا، تجعل حدوث هذا الاحتمال أقرب بكثير. كما يبدو من المعقول تصور أن أمورا مثل هذه، قد تصبح في المتناول في وقت ما خلال الأعوام المئة المقبلة".
تقنيات الذكاء الاصطناعي والحكم المستبد
على أي حال، فرغم أن الحياة تحت سطوة حكومة مستبدة ذات سيطرة كاملة على العالم، لا يزال سيناريو مستبعدا، وقد لا يحدث سوى في المستقبل البعيد، فإن ذلك لا ينفي أن من شأن تقنيات الذكاء الاصطناعي، تعزيز الاستبداد في بعض الدول، وتدعيم البنى التحتية التي يمكن أن يستولي عليها طغاة انتهازيون في بُلدان أخرى.
ففي الماضي مثلا، كانت عمليات المراقبة تتطلب الاستعانة بمئات الآلاف من الأشخاص، إلى حد أن حكومة ألمانيا الشرقية السابقة كانت تجند واحدا من كل 10 مواطنين، للتجسس على أقرانه. أما الآن، فمن الممكن القيام بعملية التجسس والتلصص نفسها، بواسطة التكنولوجيا. مثال على ذلك، ما شهدته الولايات المتحدة في السابق، من انهماك وكالة الأمن القومي، في جمع مئات الملايين من تسجيلات الاتصالات الهاتفية والرسائل النصية الخاصة بالأمريكيين، إلى أن توقفت عن القيام بعمليات المراقبة الداخلية عام 2019.
أما في المملكة المتحدة، فيوجد ما يتراوح ما بين أربعة إلى ستة ملايين كاميرا مراقبة، في مختلف أنحاء البلاد. ورغم أن 18 من المدن العشرين الأكثر خضوعا للمراقبة على سطح الأرض، تقع في الصين، فإن العاصمة البريطانية لندن، تحتل المركز الثالث على هذه القائمة. ولا يرتبط الفارق بين هذه المدن، بطبيعة التقنيات التي تُوظف لإجراء عملية المراقبة فيها، بقدر ما يتصل بالطريقة التي يتم بها استخدام هذه الوسائل التكنولوجية.
والآن لك أن تتخيل مثلا، إذا ما تم توسيع نطاق ما هو غير مشروع في الولايات المتحدة وبريطانيا، ليشمل انتقاد الحكومة أو ممارسة شعائر دينية بعينها؟ الأمر هنا لن يحتاج لجهد كبير لـ "ضبط المتورطين في ذلك"، فالبنية التحتية للمراقبة موجودة وجاهزة لأن يتم استخدامها.
كما أن تقنيات الذكاء الاصطناعي، التي بدأت وكالة الأمن القومي الأمريكي تجاربها عليها بالفعل، يمكن أن تُمَكِّن الأجهزة المختلفة، من البحث والتنقيب في البيانات الخاصة بنا، بشكل أسرع من أي وقت مضى.
وبجانب دور هذه التقنيات في تعزيز عمليات المراقبة، فهي تزيد كذلك من رواج المعلومات المضللة، التي يتم نشرها عبر شبكة الإنترنت، والتي تمثل أداة أخرى للاستبداد والحكم السلطوي، وذلك في ضوء أن المقاطع المصورة الزائفة التي يتم إنتاجها بواسطة تقنيات الذكاء الاصطناعي، يمكن أن تُنشر من خلالها رسائل سياسية ملفقة.
ويقول هايدن بيلفيلد: "رأينا على مدار السنوات القليلة الماضية، تزايدا لما يمكن أن نُطلق عليه اسم `فقاعات الترشيح والتصفية`، وشهدنا دفع الناس لتصديق نظريات مؤامرة مختلفة، أو حتى إلى تصديق أجزاء فقط من الحقيقة".
ويضيف بيلفيلد بالقول: "بوسعك أن تتصور أن الأوضاع ستزداد سوءا، خاصة في ظل وجود المقاطع المصورة الزائفة، التي تُنتج باستخدام تقنيات الذكاء الاصطناعي، والأشياء الأخرى المماثلة لها. وسيصل بنا الأمر إلى حد أنه سيصعب علينا كمجتمع، تحديد أن هذه هي حقائق وضع ما، وأن هذا ما سيتعين علينا القيام به حيال ذلك، وأن نستطيع اتخاذ تحرك جماعي بالتبعية".
تدابير وقائية
ويتوقع تقرير أعده بيلفيلد و25 باحثا آخر من 14 مؤسسة علمية بعنوان "الاستخدام الخبيث لتقنيات الذكاء الاصطناعي"، أن تؤدي توجهات مثل تلك المتعلقة بنشر القصص الملفقة عبر الإنترنت، إلى تفاقم التهديدات الموجودة بالفعل، والتي تُحْدق بـ "أمننا السياسي"، بل وأن يخلق ذلك أيضا تهديدات جديدة في السنوات المقبلة.
لكن بيلفيلد يردف بالقول إن الدراسة البحثية التي شارك فيها، جعلته يشعر بالأمل والتفاؤل في أن بوسعنا تجنب أي مصائر كارثية، وذلك في ضوء وجود توجهات إيجابية، مثل إجراء نقاشات ديمقراطية بشأن الذكاء الاصطناعي، وكذلك إجراءات يتخذها صناع القرار، من قبيل بحث الاتحاد الأوروبي حظر استخدام تقنيات التعرف على الوجوه في الأماكن العامة.
ويتفق الكاتب تاكر ديفي مع هذه الرؤية قائلا: "نحتاج لاتخاذ قرار الآن، نحدد بموجبه الاستخدامات المقبولة وتلك المرفوضة لتقنيات الذكاء الاصطناعي. بعدها سنكون بحاجة لأن نحرص على تجنب السماح لهذه التقنيات بالتحكم في جانب كبير من بنيتنا التحتية".
بطبيعة الحال، يمكن أن يساور البعض الشكوك، في إمكانية أن تساعد تقنيات الذكاء الاصطناعي الحكومات على أن تتمتع بصلاحيات هائلة وسطوة واسعة. لكن بوسع هؤلاء، أخذ العبرة مما كان يحدث في العالم قبيل تطوير القنابل النووية مباشرة. فقبل ثلاث سنوات فحسب، من حدوث أول تفاعل نووي متسلسل، كان العلماء -بمن فيهم العاملون في المشروع الخاص بإجراء هذه التفاعلات تحديدا- يعتقدون أن إنجازه أمر مستبعد.
كما إن البشرية، كانت في ذلك الوقت غير مستعدة لحدوث مثل هذا التطور الهائل في المجال النووي. وبعد تصنيع القنبلة الذرية، تأرجح البشر لفترة ما على حافة إمكانية السقوط ضحايا لـ "التدمير المؤكد المتبادل" بين القوى النووية، إلى أن تم التوصل إلى معاهدات واتفاقيات، تضبط انتشار السلاح النووي، بهدف الحيلولة دون أن يتسبب في حدوث كارثة وجودية.
ويعني هذا أننا قادرون على تكرار النموذج نفسه مع تقنيات الذكاء الاصطناعي. لكن ذلك رهن بأن نمزج بين دروس التاريخ والتوقعات المستقبلية المتبصرة، لكي نصبح على أهبة الاستعداد، للتعامل مع هذه التقنيات ذات الفاعلية الهائلة.
ولذا فبينما قد يعجز العالم عن الحيلولة دون صعود نجم أنظمة حكم شمولية كالنظام النازي في المستقبل، فإنه سيظل بوسعنا تحاشي تزويدها بأدوات، تجعل بمقدورها بسط سيطرتها على العالم لأجل غير مسمى.
اضف تعليق