كشف فريق من الباحثين عن خلل بنيوي أساسي في نماذج اللغات الكبيرة (LLMs) يجعل من المستحيل تأمينها بشكل كامل ضد الهجمات السيبرانية. وجاء هذا التحذير في ورقة بحثية عُرضت هذا الشهر خلال المؤتمر الدولي لتعلم الآلة (ICML)، وهو أحد أبرز المؤتمرات العالمية المتخصصة في الذكاء الاصطناعي. وتحمل هذه النتائج تداعيات خطيرة على سلامة التقنيات التي باتت تُدمج في تطبيقات حساسة، بدءاً من الأنظمة الحكومية والعسكرية وصولاً إلى الرعاية الصحية والتسوق عبر الإنترنت. وتمكن الباحثون، عبر استغلال هذا الخلل، من إجبار نماذج ذكاء اصطناعي شهيرة على تقديم معلومات محظورة، مثل كيفية تصنيع الكوكايين وتخريب أنظمة الملاحة في الطائرات التجارية. وقال تشارلز يي، الباحث المستقل والمشارك في إعداد الورقة البحثية، إن هناك احتمالاً حقيقياً بأن تكون هذه المشكلة غير قابلة للحل بشكل جذري. وتعتمد الشركات المطورة حالياً على فرق اختبار بشرية، إلى جانب نماذج قرصنة آلية مثل "GPT-Red" التابع لشركة "أوبن إيه آي"، لرصد الثغرات وتدريب الأنظمة على تجنبها. من جانبها، أوضحت الباحثة المشاركة ياسمين كوي أن الأسلوب الدفاعي الحالي يقتصر على منح النماذج قائمة بالأمور التي يجب تجنبها، وهي طريقة غير كافية. وشبهت كوي هذه المحاولات بشخصية "بارت سيمبسون" الكرتونية وهو يكتب عبارة عقاب على اللوح المدرسي مراراً وتكراراً، لكنه يعود لارتكاب السلوكيات الخاطئة ذاتها لاحقاً لعدم شمولية القائمة. واكتشف الباحثون أن كتابة التعليمات بأسلوب يحاكي "سلسلة أفكار" النموذج (Chain of Thought) تخدعه وتجعله يتعامل مع الأوامر الخارجية وكأنها أفكار ذاتية تولدت داخله. ونجحت هذه الطريقة في تجاوز حواجز الحماية في نماذج متطورة مثل "gpt-oss-20b" المفتوح المصدر و"GPT-5" التابعين لشركة "أوبن إيه آي". ولم تقتصر هذه الاختراقات على نماذج "أوبن إيه آي" فحسب، بل أكد الباحثان تسجيل نتائج مشابهة عند اختبار نماذج طورتها شركات أخرى مثل "أنثروبيك" و"علي بابا" و"ديب سيك". وحاز هذا الأسلوب، الذي أُطلق عليه اسم "تزوير سلسلة الأفكار"، على المركز الأول في مسابقة الاختراق الأمني التي نظمتها "أوبن إيه آي" في أغسطس 2025. ويعزى نجاح هذا الهجوم إلى عجز النماذج عن التمييز الدقيق لمصدر المدخلات، حيث تدمج النصوص البرمجية للمستخدم مع أفكارها الداخلية في تدفق نصي واحد. ورغم استخدام المطورين لوسوم برمجية لتحديد الأدوار وفصل المدخلات، فإن هذا التداخل يسهل على المهاجمين تزييف هوية التعليمات وتمرير الأوامر الضارة بنجاح. #ذكاءاصطناعي #أمنسيبراني #تقنية #تكنولوجيا #أخبار_التقنية Source: https://www.technologyreview.com/2026/07/30/1140927/a-fundamental-flaw-leaves-llms-vulnerable-to-attack/