الذكاءً الاصطناعي قد يكون خبيثاً

تُعد التقنية السبب الأول دون نقاش في أننا نعيش حياة أكثر أماناً، وأطول مدة وأكثر صحة من قبل، خاصةً عندما نتحدث عن التقنيات الطبية كالتعقيم، والمضادات الحيوية، واللقاحات، وحين نتحدث عن تقنيات التواصل كالأقمار الصناعية، والانترنت، والهواتف الذكية، حيثُ تملك التقنية إمكانيات هائلة وهي المحرك الأساسي للابتكار والتطوير منذ قرون.

ولكنها تملك جانباً مظلماً، حيثُ تؤدي التقنية اليوم والتي كانت سابقاً قوة لتفعيل الديمقراطية إلى عدم مساواة كبير، فهي تسمح للحكومات والشركات بالتجسس على المواطنين على مستوى يجعل أسوأ كوابيس أورويل يبدو كلعبة أطفال، كما يمكن أن تؤدي إلى انهيار النظام الاقتصادي كما نعرفه اليوم، إن لم نقم بإيجاد حلول جديدة ومناقشتها واختبارها.

وهذا يحصل إلى حد ما، دون أن يكون بطريقة موزعة بشكلٍ منتظم، وإن فكّرنا بإطارٍ زمني أطول - ربما عدة عقود - نجد أن الأمور قد تسوء لدرجة كبيرة، وبرأيي إن الأمر يستحق أن نفكر ونحضر له قبل حصوله، عِوضاً عن الندم بعد فوات الأوان.

عبر العديد من العلماء البارزين والباحثين ورياديي الأعمال عن مخاوفَ مشابهةٍ منذ قرن تقريباً، فقد قام العشرات في كانون الثاني 2015 ومن بينهم ستيفين هوكنغ وإيلون ماسكبتوقيع رسالة مفتوحة تطالب بأبحاث جادة لمنع حصول حوادث مماثلة، وقد نوهت الرسالة إلى أنه "يملك الذكاء الاصطناعي القدرة للقضاء على الأمراض والفقر، ولكن يجب على الباحثين تجنب تصميم شيء لا يمكن التحكم به."

وهذا بالضبط ما قمت به مع رومان يامبولسكي (Roman Yampolskiy) في ورقة بحثية قمنا بنشرها مؤخراً تحت عنوان "البحث اللاأخلاقي: كيف تقوم بتصميم ذكاء اصطناعي خبيث" (Unethical Research: How to Create a Malevolent Artificial Intelligence ).

فهم المخاطر

تتضمن أبحاث الأمان الإلكتروني دراسةَ نقاط الاستغلال الخبيثة الممكنة ضمن عملية تصميم أدوات لحماية البُنى التحتية الإلكترونية، وإن تبادل المعلومات بين القراصنة الأخلاقيين وخبراء الأمان هو ما يُنتج نظاماً بيئياً إلكترونياً متوازناً، وفيما يتعلق بمجال هندسة الأمان للذكاء الاصطناعي المزدهر، تم نشر مئات الأوراق البحثية المتعلقة باقتراحات مختلفة تهدف إلى تصميم آلة آمنة، ولكن لم يتم نشر أي شيء- على حد علمنا- يهدف لتصميم آلة خبيثة.

ويبدو الأمر غريباً حقاً بالنسبة لنا، فإن جميع الأبحاث تقريباً تركّز على منع حصول العواقب العرضية وغير المقصودة لاتخاذ الذكاء الاصطناعي سلوكاً سيئاً مثل سيناريو دبوس الورق، وبالرغم من أن هذه احتمالية طبعاً، إلا أن رغبة شخص ما بتصميم ذكاء اصطناعي خبيث عمداً أمرٌ يستحق الدراسة، وإن كانت هذه هي الحالة فمن سيكون الأكثر اهتماماً بتطويره، وكيف سيعمل، وما الذي سيعزز فرص بقائه وقدرته على الهجوم؟

إن توافر معلومات مماثلة سيكون أمراً قيماً خاصة لعلماء الحاسوب، وعلماء الرياضيات وآخرين ممن يمتلكون اهتماماً بأمان الذكاء الاصطناعي، ومن يعملون على تجنب الظهور العفوي لتصميم عامد لذكاء اصطناعي خطير، والذي سيؤثر بشكل سلبي على النشاطات البشرية، وفي أسوأ الأحوال سيتسبب بالقضاء الكامل على الجنس البشري.

حيث يتضمن هذا تصميمَ كينونة اصطناعية تستطيع التغلب على البشر والتحكم بهم في أي مجال، جاعلةً الجنس البشري غير ضروري، أو سهل التحكم به وحتى عرضة للانقراض. تعرضورقتنا البحثية بعض الخطوط العريضة لتصميم كينونة ذكاء اصطناعي خبيث، وتلمح إلى الطرق الممكنة لمنع حدوثه، أو التي تقلل من خطره بالحد الأدنى.