OpenAI تكشف عن ذكاء اصطناعي يهاجم الذكاء الاصطناعي قبل أن يفعلها القراصنة
سباق جديد يبدأ… والخصم هذه المرة ليس الإنسان، بل الذكاء الاصطناعي نفسه
سان فرانسيسكو –
لم تعد المعركة القادمة في عالم الذكاء الاصطناعي تدور بين الإنسان والآلة.
بل أصبحت تدور بين ذكاء اصطناعي وآخر.
وفي واحدة من أبرز التطورات في مجال الأمن السيبراني خلال هذا العام، كشفت OpenAI عن GPT-Red، وهو نموذج داخلي آلي من فئة “الفريق الأحمر” (Red Team)، صُمم لهدف واحد لا غير:
اختراق أنظمة OpenAI واكتشاف نقاط ضعفها قبل أن يصل إليها المخترقون.
فبدلاً من انتظار الباحثين الأمنيين أو القراصنة لاكتشاف الثغرات، يقوم GPT-Red بإجراء هجمات هجومية متواصلة على النماذج المتقدمة، مطلقًا ملايين محاولات حقن الأوامر (Prompt Injection) لاختبار قدرتها على الصمود وكشف العيوب الأمنية قبل وصولها إلى المستخدمين.
ويرى خبراء الأمن السيبراني أن هذا الإعلان يمثل نقطة تحول تاريخية، إذ قد يصبح مستقبل حماية الذكاء الاصطناعي معتمدًا على أنظمة ذكاء اصطناعي مستقلة تتولى الدفاع ضد هجمات ذكاء اصطناعي مستقلة أخرى.
لماذا طورت OpenAI نموذج GPT-Red؟
مع تطور نماذج اللغة الضخمة وتحولها إلى وكلاء ذكيين قادرين على تصفح الإنترنت، وكتابة البرمجيات، والوصول إلى قواعد البيانات، وتنفيذ مهام في العالم الحقيقي، أصبحت مساحة الهجوم عليها أكبر وأكثر تعقيدًا من أي وقت مضى.
ومن أخطر التهديدات التي تواجه هذه النماذج اليوم ما يعرف بـ حقن الأوامر (Prompt Injection) .
في هذا النوع من الهجمات، لا يحاول المهاجم اختراق النظام مباشرة، بل يقوم بخداع الذكاء الاصطناعي عبر تعليمات خبيثة مخفية داخل بريد إلكتروني أو صفحة ويب أو مستند أو أي مصدر بيانات خارجي.
وفي حال نجاح الهجوم، قد يقوم النظام الذكي بـ:
- تجاهل القيود الأمنية التي وضعها المطورون.
- كشف معلومات سرية.
- تنفيذ أوامر غير مصرح بها.
- تسريب بيانات اعتماد أو مفاتيح وصول.
- القيام بأعمال ضارة مع الحفاظ على مظهر السلوك الطبيعي.
لكن المشكلة تكمن في أن فرق الاختبار البشرية التقليدية لم تعد قادرة على إنتاج العدد الهائل من سيناريوهات الهجوم المطلوبة لمواكبة سرعة تطور الذكاء الاصطناعي.
ومن هنا جاءت فكرة OpenAI :
إنشاء ذكاء اصطناعي لا يتوقف عن مهاجمة الذكاء الاصطناعي.
ذكاء اصطناعي يهاجم ذكاءً اصطناعيًا
تم تدريب GPT-Red باستخدام تقنيات التعلم المعزز (Reinforcement Learning) والتعلم الذاتي بالمنافسة (Self-Play) .
ومهمته لا تقتصر على اكتشاف ثغرة واحدة ناجحة.
فعند العثور على نقطة ضعف، يبدأ النموذج بتوليد آلاف النسخ المختلفة من الهجوم، ويواصل تحسينها حتى يصل إلى أكثر أساليب الاختراق فعالية في كل سيناريو محتمل.
وعلى عكس المختبرين البشر، فإن GPT-Red :
- لا يشعر بالإرهاق.
- لا يكرر الأساليب نفسها.
- يتعلم باستمرار.
- يطور استراتيجيات هجومية جديدة بصورة متواصلة.
ويؤكد الباحثون أن هذا النهج وسّع نطاق اختبارات الأمان بصورة غير مسبوقة، وكشف ثغرات لم يكن من الممكن أن تعثر عليها الفرق البشرية بسهولة.
اكتشاف صدم الباحثين
من بين أبرز إنجازات GPT-Red اكتشاف تقنية جديدة غير معروفة سابقًا لحقن الأوامر، أطلق عليها داخليًا اسم:
Fake Chain-of-Thought “سلسلة التفكير الوهمية“
واستغل هذا الأسلوب طريقة استدلال النماذج السابقة لدى OpenAI .
ووفقًا للأبحاث المنشورة، تمكنت هذه التقنية من خداع نموذج GPT-5.1 في أكثر من ٩٥٪ من الاختبارات، قبل أن ينجح المهندسون في سد الثغرة وتعزيز الحماية.
وقد كشف هذا الاكتشاف حقيقة مقلقة:
بعض أخطر ثغرات الذكاء الاصطناعي قد تبقى مخفية… إلى أن يكتشفها ذكاء اصطناعي آخر أولًا.
هل تفوق GPT-Red على الخبراء البشر؟
تؤكد OpenAI أن GPT-Red تفوق بشكل واضح على خبراء فرق الاختبار البشرية خلال التقييمات الداخلية.
ووفقًا للنتائج المعلنة:
- نجح GPT-Red في اكتشاف ثغرات حقن الأوامر في ٨٤٪ من السيناريوهات المختبرة.
- بينما لم تتجاوز نسبة نجاح الباحثين الأمنيين البشر ١٣٪ في الظروف نفسها.
وتبرز هذه المقارنة الفارق الهائل بين قدرات الأنظمة الآلية وبين الاختبارات اليدوية التقليدية، خاصة مع تزايد تعقيد نماذج الذكاء الاصطناعي الحديثة.
كل هجوم ناجح… يصبح تدريبًا دفاعيًا
لا يقتصر دور GPT-Red على الهجوم فقط.
فكل عملية اختراق ناجحة تتحول إلى بيانات تدريب جديدة.
وتقوم OpenAI بإعادة إدخال هذه الهجمات إلى دورة تطوير النماذج، بحيث تتعلم الأنظمة المستقبلية كيفية اكتشافها والتصدي لها قبل طرحها للمستخدمين.
وتشبه هذه العملية آلية التطور الطبيعي:
- الهجمات تصبح أكثر ذكاءً.
- النماذج الدفاعية تتعلم منها.
- الجيل التالي يصبح أكثر صلابة.
- ثم يبتكر المهاجمون أساليب جديدة.
إنها حرب تسلح سيبرانية لا تنتهي.
نماذج أقوى بدأت بالظهور
تشير نتائج OpenAI إلى أن GPT-Red ساهم بالفعل في تحسين أداء النماذج الأحدث بصورة ملموسة.
ومن أبرز النتائج:
- انخفاض حالات الفشل في اختبارات حقن الأوامر المباشر بمقدار ستة أضعاف مقارنة بالأجيال السابقة.
- تجاوز بعض اختبارات مقاومة حقن الأوامر غير المباشر نسبة نجاح بلغت ٩٧٪.
- انخفاض معدل نجاح الهجمات التي يولدها GPT-Red نفسه إلى نحو ٠٫٠٥٪ فقط في أحدث النماذج التجريبية.
ورغم استمرار عمليات التحقق المستقلة من هذه النتائج، فإن المؤشرات الحالية تؤكد أن الاختبارات الأمنية المؤتمتة أصبحت عنصرًا أساسيًا في تطوير نماذج الذكاء الاصطناعي المتقدمة.
لماذا لا يقتصر تأثير GPT-Red على OpenAI؟
يمثل الإعلان تحولًا واسعًا يشمل صناعة الذكاء الاصطناعي بأكملها.
فمع اعتماد الحكومات والشركات بشكل متزايد على وكلاء الذكاء الاصطناعي للوصول إلى الأنظمة الحساسة، يحذر خبراء الأمن السيبراني من أن اختبارات الاختراق التقليدية لم تعد كافية.
وتواجه المؤسسات اليوم مخاطر متنامية تشمل:
- هجمات حقن الأوامر.
- سرقة وتسريب البيانات.
- إساءة استخدام الأدوات الرقمية.
- السيطرة على الوكلاء الذكيين.
- اختراق سلاسل التوريد.
- استغلال الخدمات المتصلة بصورة آلية.
ويتوقع مراقبون أن تصبح أنظمة الاختبار الأمنية المدعومة بالذكاء الاصطناعي معيارًا أساسيًا لدى جميع الشركات الرائدة في هذا القطاع.
سباق عالمي جديد لحماية الذكاء الاصطناعي
يأتي الكشف عن GPT-Red في وقت تتصاعد فيه المنافسة العالمية حول أمن الذكاء الاصطناعي.
فالحكومات في أمريكا الشمالية وأوروبا وآسيا تعمل على تطوير أطر تنظيمية جديدة، بينما تتسابق المختبرات العالمية لإطلاق نماذج أكثر تطورًا.
وفي هذا السباق، لم يعد التفوق يقاس فقط بمدى ذكاء النموذج.
بل أصبح السؤال الحقيقي:
من يستطيع بناء أكثر أنظمة الذكاء الاصطناعي أمانًا؟
بداية عصر الدفاع السيبراني الذاتي
يمثل GPT-Red أكثر من مجرد مشروع بحثي جديد.
إنه إعلان عن ولادة جيل جديد من الأمن السيبراني الذاتي، حيث تتولى أنظمة الذكاء الاصطناعي الهجوم والدفاع والتعلم والتطور بصورة مستمرة، دون انتظار تدخل البشر.
ومع دخول الذكاء الاصطناعي إلى قطاعات الحكومات، والرعاية الصحية، والقطاع المالي، والدفاع، والبنية التحتية الحيوية، قد يصبح هذا النموذج الدفاعي الذاتي ضرورة لا خيارًا.
فحروب الإنترنت القادمة ربما لن تبدأ بقراصنة يجلسون خلف شاشاتهم.
بل ستبدأ بآلات ذكية تختبر بعضها بعضًا… وتحمي بعضها بعضًا.
ووفقًا لأحدث ما كشفته OpenAI، فإن ذلك المستقبل لم يعد بعيدًا…
لقد بدأ بالفعل.
