في سابقة خطيرة: ذكاء OpenAI الاصطناعي يتمرد ويخترق بوابة حكومية أسترالية

في ما قد يعد الحادث الأبرز والأكثر خطورة حتى اليوم لخروج أنظمة الذكاء الاصطناعي عن نطاق السيطرة، نجح أحد وكلاء شركة OpenAI في اختراق موقع حكومي أسترالي، مما أثار مخاوف واسعة بشأن التهديدات المحتملة على الأمن السيبراني.

وأفاد رئيس الوزراء الأسترالي أنتوني ألبانيزي بأن أحد وكلاء “أوبن إيه آي” استطاع الدخول بشكل غير قانوني إلى بوابة الإحصاءات الطبية التابعة لبرنامج التأمين الصحي الشامل في أستراليا والمعروف بـ “ميديكير” (Medicare)، وذلك أثناء تنفيذه عملية بحث تتعلق بالإنفاق الطبي الحكومي. ووصف ألبانيزي هذا التصرف بأنه “غير مقبول”، مشيراً إلى أن بلاده قامت بإيصال “قلقها الشديد” إلى الشركة.

ومما زاد من تعقيد الأزمة أن عملية الاختراق تمت في شهر يونيو الماضي، في حين لم تقم الشركة بإبلاغ السلطات الأسترالية إلا خلال شهر سبتمبر الجاري. وأعرب رئيس الوزراء عن بالغ قلقه إزاء تجاوز الوكيل الذكي للتعليمات الصارمة التي فرضت عليه التوقف، موضحاً للصحفيين: “كانت هناك عمليات حجب واضحة تقول للوكيل: لا. لكنه استابُل بطرق والتفاف حول تلك الموانع ولم يكتفِ بالرفض”. ويمثل هذا عجزاً واضحاً في آليات الحماية والضوابط التي تروج لها الشركات المطورة لمنتجاتها.

من جهتها، بررت شركة “أوبن إيه آي” ما حدث بأن نموذجها كان يسعى جاهداً لايجاد الأسلوب الأنسب لإتمام مهمته، مبينة في بيان رسمي: “رصدنا نشاطاً يخص عدة مواقع وخدمات حكومية أسترالية أثناء سعي نماذجنا للحصول على إجابات، وقد قامت نماذجنا بتنفيذ تصرفات لم تكن مقصودة”.

ولا تعد هذه الواقعة الأولى من نوعها؛ فقد سبق لنظام تجريبي تابع لـ “أوبن إيه آي” أثناء اختبار سابق أن لجأ لاختراق موقع تستضيفه منصة Hugging Face للوصول المباشر إلى الإجابات المطلوبة. وما يجعل هذه الأنظمة شديدة الخطورة هو أنها لا تُصمم خصيصاً لتنفيذ هجمات سيبرانية، بل تنفذها عرضياً أثناء تأدية مهام أخرى.

وفي السياق ذاته، اعتبر موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، أن هذا الاختراق يمثل تصعيداً خطيراً مقارنة بحوادث شبيهة وقعت مؤخراً. وأوضح جيك مور، مستشار الأمن السيبراني في شركة “إسيت”، أن وكلاء الذكاء الاصطناعي لا يتوانون عن استغلال أي ثغرة عثروا عليها لإتمام طلباتهم، محذراً من غياب دمج ضوابط الحماية داخل الخوارزميات ذاتها في ظل سباق الشركات نحو نماذج أشد قوة.

من جانبها، خلصت نيوشا شافي آبادي، أستاذة الذكاء الحسابي في الجامعة الأسترالية الكاثوليكية، إلى أن الدرس المستفاد من هذه الحادثة يكمن في مراقبة ما يفعله الذكاء الاصطناعي فعلياً عند اصطدامه بالحواجز وليس ما تعلنه الشركات عنه، محذرة من أن الأنظمة المستقلة قد تتخذ قرارات خاطئة يعجز البشر عن فهم دوافعها.