سباق التكنولوجيا نحو نقطة اللاعودة.. خبراء يبتكرون دفاعات طارئة لمواجهة الذكاء الاصطناعي الخارج عن السيطرة

مع اقتراب ما يُعرف بـ "نقطة اللاعودة"، يعكف خبراء أمريكيون متخصصون في تطوير الذكاء الاصطناعي على ابتكار أنظمة حماية طارئة للوقاية من الخوارزميات الخارجة عن السيطرة، وذلك بالاستعانة بأدوات ذكاء اصطناعي أخرى، وفقاً لما أفادت به بوابة "أكسيوس" الإلكترونية الأمريكية.

وقد عادت قضايا الأمن المرتبطة بتطور الذكاء الاصطناعي إلى واجهة الأحداث، إثر إعلان الباحث في شركة "أنثروبيك"، جيكوب كوكسون، قراره بمغادرة قطاع تطوير الخوارزميات هذا الأسبوع. ومبرراً خطوته، حذّر كوكسون من أن سباق شركات التكنولوجيا يقرب العالم من "نقطة اللاعودة"، مما قد يفضي إلى سيناريو كارثي بحلول نهاية عام 2027.

وأوضح كوكسون أن شركتي "أنثروبيك" و"أوبن إيه آي" تندفعان نحو تطوير عقل فائق قادر على تحسين نفسه بوتيرة أسرع من معالجة مشكلات السلامة التقنية. وأيده في ذلك الباحث في شركة "أنثروبيك" إيفان هيوبينغر، الذي صرح قائلاً: "أعتقد شخصيا أن احتمال القضاء على البشرية خلال العقد المقبل يزيد على 10%".

وأشارت البوابة إلى صعوبة إيقاف هذه الأنظمة ببساطة عبر قطع بعض الخوادم، نظراً لأن الأنظمة القوية تعمل عبر أجهزة كمبيوتر ومنصات متعددة دون وجود مفتاح إيقاف رئيسي واحد. ولهذا السبب، تجري الشركات تجارب على أنظمة حماية متعددة المستويات قادرة على رصد السلوك المشبوه، وإيقاف الوكلاء، وقطع وصول الأنظمة المارقة عن الموارد الضرورية لاستمرار عملها.

وفي هذا السياق، أكد ممثلو شركة "أوبن إيه آي" أن هدفهم يكمن في إيجاد "إجراءات إيقاف مستقلة تماما عند حدوث مشكلات خطيرة"، بحيث يقوم نظام مراقبة ذكي بتنبيه الموظفين حال وجود خطر، وإيقاف النظام خلال 30 دقيقة إذا تأكد التهديد. أما شركة "أنثروبيك"، فتراهن على الدمج بين العنصر البشري والذكاء الاصطناعي لمراقبة الأنشطة المشبوهة والإبلاغ عن الأخطاء، رغم أن الاختبارات أثبتت نجاح أنظمة المراقبة الآلية في رصد 50% فقط من التهديدات.

من جهة أخرى، رأى كبير المتخصصين في مجال التكنولوجيا بوزارة الدفاع الأمريكية "البنتاغون"، إميل مايكل، أن المخاوف من قدرة الذكاء الاصطناعي على القضاء على البشرية تعكس الخوف من مواجهة التغييرات فحسب. وبدوره، أكد الرئيس الأمريكي دونالد ترامب أن ثورة الآلات الناجمة عن تطوير الذكاء الاصطناعي لن تحدث، مشيراً إلى أنه في حال ظهور أي تهديد مستقبلي، فسيكون هناك "أداة صغيرة أخرى" للتعامل معه.