لقد أطلقنا للتو الموسم الثالث من لعبة GitHub Secure Code ، وهذه المرة نضعك وجهاً لوجه مع المخاطر الأمنية التي أدخلتها الذكاء الاصطناعي. استعد للتعلم من خلال القيام بذلك والاستمتاع بالقيام بذلك! أولاً ، ستدخل في حذاء خصم صياغة مطالبات ضارة. بعد ذلك ، ستؤمن طلبك ضد تلك الهجمات.

ال لعبة كود آمنة هي دورة مجانية لأمن البرمجيات مناسبة لجميع مستويات المطورين ، حيث يقوم اللاعبون بإصلاح التعليمات البرمجية الضعيفة عن قصد لبناء مهارات أمان الكود. من خلال وضع طريقة اللعب مباشرة في محرر التعليمات البرمجية – الموطن الطبيعي للمطور – فإنه يساعدهم على ممارسة نقاط الضعف حيث يعملون عادة. يتيح الإعداد المباشر للاعبين البدء في أقل من دقيقتين باستخدام مساحات الترميز.

أطلقنا الموسم الأول من لعبة الرمز الآمن في مارس 2023 لملء فجوة في تدريب المطورين ، حيث غالبًا ما يأخذ الأمن مقعد خلفي إلى الوظيفة. لجذب الانتباه ، قدمنا ​​مقتطفات رمز لا تشوبها شائبة على ما يبدو مليئة بالثغرات الناقدة ، مثل OWASP أعلى 10. ثم قمنا بتشغيل التعلم من خلال تحدي اللاعبين لإصلاح هذه المشكلات بكفاءة دون تقديم حالات جديدة أو حالات مفقودة. بدعم من مجتمع قوي ساهم بالتحديات ، الموسم الثاني تم عرضه لأول مرة بعد عام. منذ ذلك الحين ، لعبت أكثر من 10،000 مطور عبر المجتمعات المفتوحة والمؤسسة المفتوحة والمجتمعات التعليمية لشحذ مهاراتهم.

كان هذا التدريب تجربة فريدة من نوعها. في البداية ، عندما نظرت إلى ملف الكود بأكمله ، اعتقدت أنه كان طبيعيًا تمامًا. لم أر أي عيوب. كانت اختبارات الوحدة طبيعية تمامًا ، ويبدو أن الرمز مثالي. لكن الضعف كان أمام عيني. لقد جعلني أدرك مقدار الفجوة الموجودة في تحديد العيوب الأساسية. جعلني أكثر حذرا.

سانيام ميهتا ، مطور خلفي

هذه طريقة ممتعة للغاية للتعلم! بالتأكيد أود أن أوصي بهذه اللعبة ، لأنها ساعدتني في أن أكون أكثر وعياً بمواجهة الضعف هناك.

تايلر أنطون ، طالب علوم الكمبيوتر

الآن هو الوقت المثالي لرفع مهاراتك!

اليوم ، نحن متحمسون لإطلاق الموسم الثالث، الذي يغمر اللاعبين في عالم رائع من الذكاء الاصطناعي من خلال ستة تحديات واقعية. مع انتقال العالم بشكل حاسم إلى حقبة جديدة – ذكرت شركة McKinsey & Company أن استخدام الذكاء الاصطناعي التوليدي زاد من 33 ٪ في 2023 إلى 71 ٪ في عام 2024 ويتم الآن استخدام Github Copilot من قبل أكثر من 77000 منظمة – لا يوجد وقت أفضل لتعزيز مهاراتك.

ماذا ستتعلم

يركز كل من التحديات الأمنية الستة على تقنية دفاعية مختلفة. تصبح المستويات أكثر صعوبة بشكل تدريجي لأنها تبني على التقنيات الدفاعية للتقنيات السابقة. تضم بعض الموضوعات التي ستتعلم عنها:

• صياغة مطالبات النظام القوي: صمم بشكل آمن الإرشادات الأولية التي توجه سلوك النموذج ، وضمان المخرجات المطلوبة والآمنة والذات ذات الصلة من خلال تحديد دورها وقيودها وتنسيقها وسياقها.
• التحقق من صحة الإخراج: منع التسريبات عن طريق التحقق من أن الإخراج يتوافق مع بعض القواعد أو التنسيقات أو التوقعات المحددة مسبقًا.

• تصفية الإدخال: قم بفحص أو تعديل أو حظر النص الذي يقدمه المستخدم قبل تغذيته في النموذج لمنع المحتوى الضار أو غير ذي صلة من التأثير على النموذج أثناء توليد الإخراج.

• LLM التعريف الذاتي: استخدم هذه التقنية لجعل نموذج اللغة الكبير (LLM) تحقق من إخراجه الخاص من أجل الدقة والاتساق والامتثال للقواعد أو القيود المحددة. قد يتضمن ذلك التحقق من الأخطاء أو التحقق من صحة التفكير أو تأكيد الالتزام بالسياسات. يمكن مطالبة التعريف الذاتي مباشرة أو مدمجة في توليد استجابة النموذج.

يتطلب التقدم خلال الموسم الثالث من اللاعبين اختراق LLMS. يبدأ كل تحد بمجموعة من الإرشادات التوجيهية لـ LLM المقدمة في شكل رمز ورسالة نظام. قد تتضمن هذه العناصر فجوات أو حالات الحافة التي يمكن استغلالها باستخدام مطالبة ضارة. تتمثل مهمتك في تحديد نقاط الضعف ومطالبات الحرفية لمعالجة النموذج لفضح سر مخفي.

بعد استغلال الضعف ، تتمثل مهمتك التالية في تحسين الكود ورسالة النظام لمنع التسريبات المستقبلية من تلك المطالبات الخبيثة. يجب عليك القيام بذلك مع الحفاظ على وظائف الكود.

لقد تعلمت اكتشاف نقاط الضعف ، أين وكيف تحدث ، وتصحيحها بفعالية قبل دفعها إلى العالم. أوصي تمامًا بهذا التدريب لأي شخص ، ليس فقط في الأمن السيبراني ولكن تطوير البرمجيات أيضًا.

Rajeev Mandalam ، أمان التطبيق في بوينغ

كان أحد الوجبات السريعة الرئيسية أنه من الجيد التركيز على التفاصيل لأنها يمكن أن تؤدي في كثير من الأحيان إلى نقاط الضعف التي لم تكن لتتخيلها. فيما يتعلق بالتنسيق ، أحببت حقيقة أنه لم يركز على لغة برمجة معينة ، والتركيز الكامل على مفاهيم الكود. أحببت أيضًا مدى سهولة التنقل بين مستويات اللعبة. قدمت لي اللعبة مجموعة مهارات جديدة رائعة لإضافتها إلى رحلتي المهنية.

Reshmi Mehta ، محلل الأمن في Alcon

كيف تبدأ

إذا كنت حريصًا على البدء في التعلم ، فلدينا ملف مستودع ألعاب الرمز الآمن كل إعداد وجاهز للذهاب. يتضمن تعليمات لجميع الفصول ، بحيث يمكنك تجربة كل ما تقدمه. فقط تصفح من خلال ReadMe وابدأ.

كيف اجتمع الموسم الثالث معا

لا تنتظر لتكون خبيرًا. بناء ، مشاركة ، وسيجدك الأشخاص المناسبين. غير المصدر مفتوحًا حياتي ، ويمكنه فعل الشيء نفسه بالنسبة لك.

بارتوز جايكيك (bgalek) ، مساهم في لعبة الكود الآمن الموسم الثالث

بدأ كل شيء في فوسز 2025 في بلجيكا ، حيث قدمت لعبة الرمز الآمن لمجموعة من المشرفين مفتوح المصدر. بارتوز كان في الحضور وهنا ما حدث في كلماته الخاصة:

تم النقر على الفور على لعبة الكود الآمن ، حيث أن الأمان وتطوير اللعبة هو الشيء الخاص بي! بعد الحديث ، شكرت يوسف على LinkedIn ومشاركتها Hackmerlin معه – لعبة قمت بإنشائها التي تتحدى اللاعبين لاختبار مهاراتهم المطلقة. لدهشتي ، لقد أحب ذلك!

شيء واحد أدى إلى شيء آخر ، وأصبح Hackmerlin قاعدة تعاوننا للموسم الثالث. بدأت الرحلة بأكملها كفكرة سخيفة ، لكنها تحولت إلى شيء أكبر بكثير.

هناك تحدي رئيسي في الانتقال من نهج Hackmerlin الذي يركز على واجهة المستخدم في رمز الكود الآمن في الموسم الثالث هو ضمان سهولة الاستخدام. قدمت الواجهة الخلفية لـ Hackmerlin بوابة LLM عبر واجهة المستخدم ، حيث استخلصت الكثير من تعقيد التكامل – وهي منطقة تتفوق فيها منتجات GitHub حقًا! تتيح لنا مساحات الترميز تكوين بيئة التطوير وأتمتة الوصول إليها نماذج جيثب، كتالوج وملعب لنماذج الذكاء الاصطناعي التي زودتنا بتكامل LLM المدمج.

علاوة على ذلك ، استخدم Hackmerlin نموذج Openai الذي تم استضافته على Azure ، مما يسمح لمبدع اللعبة بضبط أو تعطيل ضمانات مزود النموذج الافتراضي. على النقيض من ذلك ، أعطى الموسم الثالث الأولوية للواقعية من خلال الالتزام بالضمانات الافتراضية لنماذج جيثب. أخيرًا ، جعلت نماذج Github من السهل على اللاعبين تبديلها بين النماذج واستكشاف خلافاتهم.

ماذا تعتقد؟ هل لديك أفكار لتحديات جديدة؟ كن المساهم التالي وساعد في تشكيل الموسم التالي من اللعبة! انظر لدينا إرشادات المساهمة لمزيد من التفاصيل.