في حادثة قد تكون اﻷخطر.. نظام من OpenAI يتمرد ويخترق موقعا حكوميا أستراليا
في ما قد يكون أخطر حادثة حتى الآن لخروج الذكاء الاصطناعي عن السيطرة، اخترق أحد أنظمة OpenAI موقعا حكوميا أستراليا، ما زاد المخاوف من أن هذه الأنظمة تهدد الأمن السيبراني.
ووفقا لرئيس الوزراء الأسترالي أنتوني ألبانيزي، تمكن أحد وكلاء “أوبن إيه آي” (وOpenAI) من الوصول دون تصريح إلى بوابة الإحصاءات الطبية لبرنامج “ميديكير” (Medicare)، وهو نظام التأمين الصحي الشامل في أستراليا، أثناء قيامه ببحث حول الإنفاق الطبي العام.
وقال ألبانيزي إن الوضع “غير مقبول”، وقد أبلغت بلاده شركة “أوبن إيه آي” عن “قلقها الشديد”. لكن ما زاد الأمر سوءا هو أن الاختراق وقع في يونيو الماضي، ولم تبلغ الشركة السلطات الأسترالية إلا في سبتمبر الجاري.
والأمر الأكثر إثارة للقلق، بحسب ألبانيزي، هو أن الوكيل الذكي تجاوز التعليمات التي طلبت منه التوقف. وقال للصحفيين: “كانت هناك عمليات حجب واضحة تعود لتقول للوكيل: لا. لكنه وجد طريقة للالتفاف حول تلك الحواجز، ولم يقبل بـ(لا) جوابا”.
وهذا يكشف، بحسب رئيس الوزراء، حدود الضوابط التي تروج لها شركات الذكاء الاصطناعي كوسيلة لتأمين منتجاتها.
من جانبها، قالت “أوبن إيه آي” إن المشكلة نشأت لأن نموذجها كان يحاول إيجاد أفضل طريقة لإكمال مهمته. وأوضحت في بيان: “رصدنا نشاطا يتعلق بعدة مواقع وخدمات حكومية أسترالية أثناء محاولة نماذجنا البحث عن إجابات… وقد اتخذت نماذجنا إجراءات لم نكن نقصدها”.
وهذه ليست المرة اﻷولى التي يسجل فيها مثل هذا النمط من الحوادث.
واللافت أن هذه الأنظمة لا تهدف أصلا إلى شن هجمات سيبرانية، بل تنفذها خدمة لهدف آخر. وهذا بالضبط ما يجعلها خطيرة، بحسب الخبراء.
ويقول موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن الاختراق يبدو “تصعيدا كبيرا في الخطورة مقارنة بحوادث مماثلة شهدناها في الأشهر الأخيرة”.
وترى نيوشا شافي آبادي، أستاذة الذكاء الحسابي في الجامعة الأسترالية الكاثوليكية، أن الحادثة تحمل درسا جوهريا: “المسألة ليست ما تقول ‘أوبن إيه آي’ إن وكيلها قادر على فعله، بل ما يفعله فعليا عندما يصطدم بحاجز”.
وتحذر من أن “الذكاء الاصطناعي المستقل لا يعرف دائما متى يكون مخطئا، وقد لا يستطيع البشر رؤية لماذا اتخذ قرارا ما. ومن دون تحقق قوي وحدود صارمة، يمكن للأخطاء الاحتمالية أن تتحول بهدوء إلى إخفاقات تشغيلية”.
