“أوبن إيه آي” تكشف عن قرصنة “غير مسبوقة” نفّذتها أدواتها الذكية ضد منصة برمجية

عمان – المنصة

“أوبن إيه آي” تكشف عن قرصنة “غير مسبوقة” نفّذتها أدواتها الذكية ضد منصة برمجية

أعلنت شركة “أوبن إيه آي”، المطوّرة لتطبيق “تشات جي بي تي”، أن نماذج ذكاء اصطناعي متقدمة تابعة لها تصرّفت بشكل غير متوقع وخارج عن السيطرة خلال اختبارات داخلية للسلامة، واخترقت بمبادرة ذاتية منصة “هاغينغ فيس” (Hugging Face) الشهيرة بين المطورين والمبرمجين.

“حادثة سيبرانية غير مسبوقة”

ووصفت الشركة الواقعة بأنها حادثة سيبرانية غير مسبوقة تنطوي على قدرات سيبرانية متطورة للغاية، وأعلنت عن تنسيق مشترك مع منصة “هاغينغ فيس”، وهي مستودع برمجي ضخم يستضيف نماذج ذكاء اصطناعي ومجموعات بيانات، لمعالجة الحادثة والتحقيق في تفاصيلها.

النماذج المتورطة والسياق

شملت الحادثة مزيجاً من نماذج “أوبن إيه آي”، من بينها نموذج “جي بي تي-5.6 سول” الذي طُرح حديثاً، إلى جانب نموذج آخر أكثر تقدماً لم يُطرح بعد للجمهور. وبحسب الشركة، كانت هذه النماذج تعمل بإجراءات حماية مخفَّضة عمداً لأغراض التقييم، في إطار اختبار داخلي يقيس قدراتها السيبرانية.

وأوضحت “أوبن إيه آي” أنها كانت تُخضع النماذج لمهام ضمن بيئة اختبار رقمية مغلقة يُفترض أن يكون الوصول فيها إلى الإنترنت مقيداً لأسباب أمنية، إلا أن وكيلاً ذاتي التشغيل مدعوماً بهذين النموذجين تمكّن من الإفلات من بيئة الاختبار والوصول إلى شبكة الإنترنت المفتوحة.

كيف تم الاختراق؟

وبمجرد اتصالها بالشبكة، استهدفت النماذج خوادم “هاغينغ فيس”، إذ استخدمت بيانات دخول مسروقة، إضافة إلى استغلال ثغرة أمنية لم تكن معروفة سابقاً للوصول إلى خوادم المنصة. وذكرت “أوبن إيه آي” أن النظام لجأ إلى “أساليب متطرفة” لاستخراج معلومات تساعده على تحقيق أهداف الاختبار.

الإفصاح الأول جاء من “هاغينغ فيس” دون ذكر الجهة المسؤولة

وكانت منصة “هاغينغ فيس” قد كشفت الأسبوع الماضي عن تعرضها لهجوم سيبراني “مختلف عن كل ما تعاملت معه من قبل”، موضحة أنه نُفذ من ألفه إلى يائه بواسطة نظام وكيل ذكاء اصطناعي مستقل، دون أن تكشف حينها عن اسم “أوبن إيه آي” كجهة مسؤولة عن الهجوم.

وعلّق المؤسس المشارك لـ”هاغينغ فيس”، كليمنت ديلانغ، بالقول إن الشركة كانت تشتبه بالفعل في تورط أحد مختبرات الذكاء الاصطناعي الرائدة، معرباً عن اعتقاده بعدم وجود نية خبيثة من جانب “أوبن إيه آي”، ووصف الحادثة بأنها “مذهلة” لكونها وقعت بشكل مستقل تماماً، وربما تكون الأولى من نوعها.

دعوات لتشديد الرقابة التنظيمية

من جانبه، اعتبر عضو مجلس النواب الأميركي الديمقراطي عن ولاية تكساس، غريغ كازار، أن الحادثة “مثيرة للقلق”، مشدداً على أن تطور الذكاء الاصطناعي يسير بوتيرة سريعة للغاية في ظل غياب تنظيمات فعلية لضمان السلامة، ودعا إلى فرض اختبارات سلامة مستقلة إلزامية، والإفصاح الإلزامي عن الحوادث الأمنية، وتعزيز التعاون الدولي في هذا المجال.

مخاوف متصاعدة بشأن قدرات “الجيل التالي” من النماذج

تثير نماذج “جي بي تي-5.6” وغيرها من نماذج الذكاء الاصطناعي المتقدمة، ولا سيما سلسلة “ميثوس” التابعة لشركة “أنثروبيك” المنافس الرئيسي لـ”أوبن إيه آي”، مخاوف متزايدة بشأن قدرتها المحتملة على اختراق الدفاعات السيبرانية. واضطرت الشركتان الأميركيتان سابقاً إلى تأجيل الإطلاق العام لتقنيات الجيل التالي من نماذجهما مؤقتاً، وسط مخاوف في واشنطن من أن تُسهّل هذه النماذج عمليات اختراق للبنية التحتية الحيوية.