أحدث الذكاء الاصطناعي النماذج ليست فقط جيد بشكل ملحوظ في هندسة البرمجيات-تظهر الأبحاث الجديدة أنهم يحصلون على استمرار في العثور على الأخطاء في البرامج أيضًا.

اختبر باحثو الذكاء الاصطناعى في جامعة كاليفورنيا في بيركلي مدى جودة أحدث نماذج وموظفي الذكاء الاصطناعي في الثغرات الأمنية في 188 كود مصدر مفتوح كبير. باستخدام أ معيار جديد مُسَمًّى Cybergymحددت نماذج الذكاء الاصطناعى 17 حشرة جديدة بما في ذلك 15 غير معروفة سابقًا ، أو “يوم صفر”. يقول Dawn Song ، الأستاذ في جامعة كاليفورنيا في بيركلي الذي قاد العمل: “العديد من نقاط الضعف هذه حاسمة”.

يتوقع العديد من الخبراء أن تصبح نماذج الذكاء الاصطناعي أسلحة للأمن السيبراني. أداة منظمة العفو الدولية من بدء التشغيل XBOW حاليًا تسللت صفوف هاكيرونالمتصدرون لصيد الأخطاء ويجلس حاليًا في أعلى المكان. أعلنت الشركة مؤخرًا عن 75 مليون دولار في تمويل جديد.

تقول سونغ أن مهارات الترميز لأحدث نماذج الذكاء الاصطناعي جنبًا إلى جنب مع تحسين قدرات التفكير بدأت في تغيير مشهد الأمن السيبراني. “هذه لحظة محورية” ، كما تقول. “لقد تجاوزت بالفعل توقعاتنا العامة.”

مع استمرار النماذج في تحسينها سوف تقوم بأتمتة عملية اكتشاف واستغلال عيوب الأمان. قد يساعد ذلك الشركات على الحفاظ على برامجها آمنة ولكنها قد تساعد المتسللين في اقتحام الأنظمة. يقول سونج: “لم نحاول حتى ذلك بجد”. “إذا قمنا بتصاعد الميزانية ، سمحت للوكلاء بالترشح لفترة أطول ، فيمكنهم القيام بعمل أفضل”.

اختبر فريق UC Berkeley طرز Frontier AI التقليدية من Openai و Google و Nothropic ، بالإضافة إلى عروض مفتوحة المصادر من Meta و Deepseek و Alibaba مع العديد من الوكلاء للعثور على الأخطاء ، بما في ذلك الأخطاء مفتوحو Cybench، و لغز.

استخدم الباحثون أوصافًا لنقاط الضعف المعروفة للبرمجيات من 188 مشروع برمجيات. ثم أطعموا الأوصاف لوكلاء الأمن السيبراني مدعومًا بنماذج Frontier AI لمعرفة ما إذا كان بإمكانهم تحديد نفس العيوب لأنفسهم من خلال تحليل عمليات الكود الجديدة ، واختبارات التشغيل ، وصياغة مآثر إثبات المفهوم. كما طلب الفريق من الوكلاء البحث عن نقاط ضعف جديدة في Codebases بأنفسهم.

من خلال هذه العملية ، قامت أدوات الذكاء الاصطناعى بإنشاء مئات من مآثر إثبات المفهوم ، ومن هذه الاستغلال ، حدد الباحثون 15 نقاط الضعف غير المرئية سابقًا واثنين من نقاط الضعف التي تم الكشف عنها سابقًا. يضيف العمل إلى أدلة متزايدة على أن الذكاء الاصطناعى يمكنه أتمتة اكتشاف نقاط الضعف ليوم الصفر ، والتي من المحتمل أن تكون خطرة (وقيمة) لأنها قد توفر وسيلة لاختراق الأنظمة الحية.

يبدو أن منظمة العفو الدولية مقدمة لتصبح جزءًا مهمًا من صناعة الأمن السيبراني. خبير الأمن شون هيلان اكتشف مؤخرًا عيب في يوم صفر في نواة Linux المستخدمة على نطاق واسع بمساعدة من Openai’s Releasing Model O3. في نوفمبر الماضي ، جوجل أعلن أنها قد اكتشفت ثغرة برمجية غير معروفة سابقًا باستخدام الذكاء الاصطناعي من خلال برنامج يسمى Project Zero.

مثل أجزاء أخرى من صناعة البرمجيات ، فإن العديد من شركات الأمن السيبراني مفتون بإمكانات الذكاء الاصطناعي. يوضح العمل الجديد بالفعل أن الذكاء الاصطناعى يمكنه العثور على عيوب جديدة بشكل روتيني ، ولكنه يسلط الضوء أيضًا على القيود المتبقية مع التكنولوجيا. لم تتمكن أنظمة الذكاء الاصطناعى من العثور على معظم العيوب وتم تعثرها من قبل الأنواع المعقدة بشكل خاص.