مركز جديد يسعى إلى ضمان بقاء أنظمة الذكاء الاصطناعي تحت سيطرة الإنسان

أطلقت جامعة كاليفورنيا في بركلي، مؤخراً، المركز الجديد للذكاء الاصطناعي المتوافق مع البشر، الذي يهدف إلى ضمان أن مستقبل أنظمة الذكاء الاصطناعي، سيساعد البشرية.

من المتوقع أن يتمكن المركز الجديد - الذي تلقى منحة بمقدار 5.5 ملايين دولار أمريكي من "المشروع الخيري المفتوح" (تعاون بين جوود فينتشرز وجيف ويل) - من إيجاد طرق يمكنها أن تضمن بقاء أنظمة الذكاء الاصطناعي تحت سيطرة البشر، بالرغم من كل ما حققته هذه الأنظمة من مراحل تكنولوجية متقدمة في هذا المجال.

بقيادة ستيوارت راسل، الأستاذ في جامعة كاليفورنيا في بيركلي، يخطط الفريق لاستكشاف مقاربة تسمى "التعلم المعزز المعكوس"، التي ستراقب إن كان الباحثون يصممون أنظمة ذكاء اصطناعي قادرة أن تتعلم منظومة القيم الإنسانية، عبر مراقبة البشر وتقليد أفعالهم اليومية مهما كانت بسيطة.

وفقاً لراسل، هذه المقاربة ستتغلب على فكرة وجود مصممين يقومون "بتحديد" منظومة قيم الذكاء الاصطناعي، والذي قد يؤدي على الأرجح إلى كارثة.

لطالما حذر خبراء التكنولوجيا من أمثال ستيفن هوكينغ، وإيلون ماسك، من أنه يمكن لنظم الذكاء الاصطناعي المتقدمة أن تطيح بالبشرية في المستقبل. حيث يتصور ماسك، على جهة الخصوص، مستقبلاً يتعرض فيه البشر للقمع من قبل طغاة حاسوبية مدركة. هناك نسخة مخيفة من مشروع سكاي نت تنتظر الفرصة المناسبة لكي تحدث.

إلا أن راسل - الذي يدافع عن فكرة دمج القيم الإنسانية مع تصميمات نظم الذكاء الاصطناعي - يعتقد خلاف ذلك. فكما تذكر المقالة التي وردت في أخبار بيركلي:

"سارع راسل إلى رفض التهديد التخيلي الذي تشكله الروبوتات المدركة الشريرة، التي يعرضها الخيال العلمي. فالقضية، كما يقول، هو أننا عندما نصمم الآلات في الوقت الحالي في مجالات مثل الذكاء الاصطناعي، والروبوتات، ونظرية التحكم، وبحوث العمليات، فإنها تتعامل مع الأهداف التي نزودها بها بشكل حرفي.

فعندما نطلب من أحد الروبوتات المنزلية أن ينظف الحمام، فقد يستخدم - كما في رواية الأطفال القط ذو القبعة "ذا كات إن ذا هات" - ثوباً أبيض من أثواب سيدة المنزل، دون أن يدرك أن قيمة الثوب النظيف أعلى من قيمة الحمام النظيف."

ولكن الأستاذ راسل يعترف مع ذلك، أنها ليست مسألة يمكن حلها بسهولة، طالما "أن البشر يتناقضون مع أنفسهم، وغير عقلانيين، وضعيفو الإرادة". كما أن منظومة القيم الإنسانية تتغير من مكان إلى آخر.

وقد كتب راسل "بدلاً من الذكاء المجرد، نحن بحاجة إلى بناء ذكاء ينسجم مع القيم الإنسانية". حيث أشار إلى أن ناتج هذه العملية ربما يكون له جانب تعليمي في المستقبل، ليس فقط للروبوتات، وإنما للبشر أيضاً.