خطأ بشري داخل «أوبن إيه آي» وراء هجوم إلكتروني بواسطة الذكاء الاصطناعي

23 يوليو 2026 14:12 مساء
|

آخر تحديث:
23 يوليو 14:51 2026

الخلاصة

أوبن إيه آي: نموذج ذكاء اصطناعي اخترق Hugging Face مستغلاً ثغرة؛ خبراء يرجحون خطأ بشرياً وضعف عزل وضوابط الاختبار

كشفت شركة «أوبن إيه آي» تفاصيل حادثة أمنية غير مسبوقة، بعدما تمكن أحد نماذجها للذكاء الاصطناعي من اختراق أنظمة منصة Hugging Face «هاجينج فيس» خلال اختبار أمني، في واقعة أعادت الجدل بشأن قدرة النماذج المتقدمة على تنفيذ هجمات إلكترونية بصورة مستقلة داخل بيئات الاختبار.

وأوضحت الشركة، عبر مدونتها، أن الاختبار أُجري داخل بيئة «عالية العزل»، مع تقييد الوصول إلى الشبكة، إلا أن النموذج استغل ثغرة أمنية غير معلنة سابقاً في نظام تثبيت الحزم البرمجية، ما أتاح له الخروج من بيئة الاختبار وتنفيذ الهجوم، مؤكدة أنها أبلغت الجهة المطورة للبرنامج بالثغرة وتعمل معها على إصدار إصلاح أمني.

خبراء: السبب يعود إلى خطأ بشري

ورغم تأكيد «أوبن إيه آي» أن الهجوم اعتمد على استغلال ثغرة برمجية، رأى عدد من خبراء الأمن السيبراني، في تقرير نشره موقع «تك كرانش» أن السبب الجوهري في الحادثة كان خطأً بشرياً في تصميم بيئة الاختبار.

ووصف دان جويدو، مؤسس شركة «تريل أوف بيتس» للأبحاث الأمنية، ما حدث بأنه فشل في احتواء النموذج مع تعطيل وسائل الحماية، معتبراً أن بيئة الاختبار لم تحقق العزل الكامل المفترض.

فيما قال الباحث الأمني مارتن بون: «يبدو أن هذا إخفاق بشري، ما حدث لم يكن ينبغي أن يحدث إطلاقاً، إذا كانت بيئة الاختبار تعني العزل الحقيقي، فمن المتوقع ألا تمتلك أي اتصال فعلي بالإنترنت، يبدو أنهم اعتمدوا على جدار حماية أو وسيلة مشابهة، لكن تأمين الاتصال من الداخل إلى الإنترنت أكثر صعوبة».

انتقادات لتصميم بيئة الاختبار

اتفق جيك ويليامز الخبير في الأمن السيبراني مع هذا التقييم، موضحاً: «أي نموذج تمكن من تنفيذ الأفعال الموثقة لم يكن محصوراً بالكامل داخل بيئة اختبار معزولة».

ووصف ويليامز ما جرى بأنه إخفاق كبير في الضوابط الأمنية لدى شركة «أوبن إيه آي»، مضيفاً: «ما يصفه البعض بأنه هروب للنموذج من بيئة الاختبار، يراه آخرون دليلاً على أن بيئة الاختبار مبنية بطريقة خاطئة، ولذلك كان من الطبيعي أن يتمكن من الخروج منها».

كما رأى المستشار الأمني دانيال كارد أن الشركة لم تبذل جهداً كافياً في تصميم بيئة الاختبار أو ضوابطها، معتبراً أن منحها أو أحد مكوناتها مساراً غير مفلتر إلى الإنترنت لم يكن قراراً معقولاً.

تساؤلات حول قدرات الذكاء الاصطناعي

وأثارت الواقعة تساؤلات أوسع بشأن آليات عزل نماذج الذكاء الاصطناعي داخل المختبرات المتقدمة، خاصة مع تزايد قدراتها على اكتشاف الثغرات واستغلالها.

وأشار التقرير إلى أن شركة أنثروبيك وثقت بدورها اختباراً مماثلاً لنموذجها «ميثوس»، الذي تمكن من توسيع نطاق وصوله إلى الإنترنت من داخل بيئة يفترض أنها معزولة، لكنه لم ينجح في الهروب الكامل من نظام الاحتواء، وهو ما عكس تصاعد التحديات الأمنية المرتبطة باختبار نماذج الذكاء الاصطناعي المتقدمة.