تحدي وزارة الدفاع الفرنسية: شركة تاليس تنفذ عملية اختراق ناجحة لنماذج الذكاء الاصطناعي السيادي وتقدم حلولاً أمنية معززة للذكاء الاصطناعي العسكري والمدني

(BUSINESS WIRE)-- التحدي الأمني الذي تواجهه وزارة الدفاع الفرنسية بشأن الذكاء الاصطناعي

كان على المشاركين في تحدي مؤتمر الذكاء الاصطناعي للدفاع تنفيذ مهمتين:

1. في مجموعة معينة من الصور، حدد أي الصور استخدمت في تدريب خوارزمية الذكاء الاصطناعي وأيها استخدم للاختبار.

يستقي تطبيق التعرف على الصور المعتمد على الذكاء الاصطناعي معلوماته من أعداد كبيرة من الصور التدريبية. وعن طريق دراسة الأعمال الداخلية لنموذج الذكاء الاصطناعي، نجح فريق "المخترقون الخلاقون" في شركة تاليس في تحديد الصور التي استخدمت لإنشاء التطبيق وحصلوا على معلومات قيمة عن مناهج التدريب المستخدمة وجودة النموذج.

2. اعثر على كل الصور الحساسة للطائرات التي تستخدمها خوارزمية الذكاء الاصطناعي السيادي المحمية بآليات "نبذ التعلم".

تتمثل آلية "نبذ التعلم" في حذف البيانات المستخدمة لتدريب أحد النماذج، مثل الصور، من أجل الحفاظ على سريتها. ويمكن استخدام هذه الآلية، على سبيل المثال، لحماية سيادة إحدى الخوارزميات في حال تصديرها أو سرقتها أو فقدانها. لنأخذ على سبيل المثال الطائرة الآلية المجهزة بالذكاء الاصطناعي: يجب أن تتمكن من رصد أي طائرة للعدو وتصنيفها على أنها تهديد محتمل؛ ومن ناحية أخرى، يجب تلقيمها بمعلومات محددة لهوية الطائرة التابعة لجيشها ومن ثم تصنيفها على أنها صديقة ومحوها باستخدام آلية تعرف باسم "نبذ التعلم". وبهذه الطريقة، حتى إذا سُرقت الطائرة الآلية أو فقدت، فلا يمكن استخراج بيانات الطائرة الحساسة الموجودة في نموذج الذكاء الاصطناعي لاستخدامها في خدمة أغراض دنيئة. ولكن، تمكّن فريق "المخترقون الخلاقون" في شركة تاليس من إعادة تحديد البيانات التي كان من المفترض أن تُمحى من النموذج، وبالتالي تجاوز عملية "نبذ التعلم". جدير بالذكر أن مثل هذه التمارين تساعد في تقييم مدى ضعف بيانات التدريب والنماذج المدربة، والتي تعد أدوات قيمة يمكنها تقديم أداء متميز على حين تمثل أيضًا متجهات هجوم جديدة للقوات المسلحة، إذ إن أي هجوم على بيانات التدريب أو النماذج المدربة يمكن أن يخلف عواقب كارثية في السياق العسكري، حيث يمكن لهذا النوع من المعلومات منح الفرصة للخصم للسيطرة على مجريات الأمور. وتتضمن المخاطر المتوقعة سرقة النموذج وسرقة البيانات المستخدمة في تحديد الأجهزة العسكرية أو الميزات الأخرى في مسرح العمليات وحقن البرامج الضارة لإضعاف آلية عمل النظام باستخدام الذكاء الاصطناعي. إضافةً إلى ذلك، يقدم الذكاء الاصطناعي بشكل عام والذكاء الاصطناعي التوليدي بشكل خاص مزايا تشغيلية كبيرة ويزود الجنود بأدوات دعم القرارات المتمرسة بغية تقليل العبء المعرفي، وعلى الرغم من ذلك، يحتاج مجتمع الدفاع الوطني إلى مواجهة التهديدات الجديدة الكامنة في هذه التكنولوجيا ووضعها على رأس أولوياتها.

نهج صندوق المعركة من تاليس المستخدم لمواجهة ثغرات الذكاء الاصطناعي

تلعب حماية بيانات التدريب والنماذج المدربة دورًا محوريًا في قطاع الدفاع. زادت أهمية الأمن السيبراني المعتمد على الذكاء الاصطناعي أكثر وأكثر، والتي يلازمها ضرورة تمتعه بالاستقلالية الكاملة حتى يتمكن من إحباط العديد من الفرص الجديدة التي يطرحها عالم الذكاء الاصطناعي للجهات الفاعلة الضارة. واستجابةً للمخاطر والتهديدات التي ينطوي عليها تفعيل الذكاء الاصطناعي، طورت شركة تاليس مجموعة من الإجراءات المضادة تسمى "صندوق المعركة" بغية توفير حماية معززة ضد الانتهاكات المحتملة.

1. يوفر تدريب "صندوق المعركة" الحماية ضد هجمات تسمم بيانات التدريب، مما يمنع المخترقين من اختراقها باستخدام البرامج الضارة.
2. يضع "بروتوكول إنترنت صندوق المعركة" علامة مائية على نموذج الذكاء الاصطناعي لضمان الأصالة والموثوقية.
3. تهدف "مراوغة صندوق المعركة" إلى حماية النماذج من هجمات الحقن الفوري، والتي يمكنها التلاعب بالمطالبات لاجتياز إجراءات السلامة لروبوتات الدردشة التي تستخدم نماذج اللغة الكبيرة، وإلى مواجهة الهجمات العدائية التي تستهدف الصور، مثل إضافة برنامج تصحيح للتشويش على عملية الكشف في نموذج التصنيف.
4. توفر "خصوصية صندوق المعركة" إطار عمل فعالاً لتدريب خوارزميات التعلم الآلي، باستخدام التشفير المتقدم وبروتوكولات المشاركة السرية الآمنة لضمان مستويات عالية من السرية.

لمنع اختراق نماذج الذكاء الاصطناعي في حالة مهام تحدي مؤتمر الذكاء الاصطناعي للدفاع، يمكن أن تكون الإجراءات المضادة، مثل تشفير نموذج الذكاء الاصطناعي، أحد الحلول التي سيتم تنفيذها.

صرح ديفيد صادق، نائب رئيس قسم الأبحاث والتكنولوجيا والابتكار والمسؤول عن قسم الذكاء الاصطناعي في شركة تاليس، قائلاً: "يوفر الذكاء الاصطناعي مزايا تشغيلية كبيرة، ولكنه يتطلب مستويات أمان عالية وحماية أمنية سيبرانية للحيلولة دون اختراق البيانات وإساءة استخدامها. جدير بالذكر أن شركة تاليس تطبق مجموعة كبيرة من الحلول المعتمدة على الذكاء الاصطناعي لكل أنواع حالات الاستخدام المدنية والعسكرية، والتي تتمتع بمزايا كثيرة منها، قابلية الشرح والدمج والتكامل مع أنظمة حيوية فاعلة، إلى جانب أنها مصممة لتكون ذات سيادة، هذا بالإضافة إلى كونها اقتصادية وموثوقًا بها بفضل المناهج والأدوات المتقدمة المستخدمة للتأهيل والاعتماد. علاوةً على ذلك، تتمتع الشركة بخبرة على صعيد الذكاء الاصطناعي ومجال الأعمال تلعب دورًا محوريًا في تفعيل هذه الحلول في أنظمتها وتحسين قدراتها التشغيلية تحسينًا هائلاً".

رحلة شركة تاليس مع الذكاء الاصطناعي

طورت شركة تاليس على مدار الأعوام الأربعة الماضية قدراتها الفنية اللازمة لاختبار درجة أمن خوارزميات الذكاء الاصطناعي وبنيات الشبكات العصبية واكتشاف الثغرات واقتراح إجراءات مضادة فعالة. وقد كان فريق "المخترقون الخلاقون" في الشركة الذي يمارس نشاطه في مختبر زيرسيس في باليزو، واحدًا من نحو عشرة فرق شاركت في تحدي الذكاء الاصطناعي، محققًا المركز الأول في كلتا المهمتين.

اعتمدت الهيئة الوطنية الفرنسية للأمن السيبراني مرفق تقييم أمن تكنولوجيا المعلومات التابع لشركة تاليس لإجراء تقييمات أمان ما قبل الاعتماد، وفي أثناء الأسبوع السيبراني الأوروبي، قدم فريق مرفق تقييم أمن تكنولوجيا المعلومات أيضًا أول مشروع من نوعه في العالم يهدف إلى تسوية قرارات الذكاء الاصطناعي المدمج عن طريق استغلال الإشعاع الكهرومغناطيسي لمعالجه.

تعمل فرق استشارات وتدقيق الأمن السيبراني التابعة لشركة تاليس على إتاحة هذه الأدوات والمنهجيات للعملاء الذين يرغبون في تطوير نماذج الذكاء الاصطناعي الخاصة بهم أو إرساء إطار عمل لاستخدام النماذج التجارية والتدريب عليها.

نظرًا إلى أن شركات الدفاع والأمن التابعة للمجموعة تتعامل مع المتطلبات الحيوية، والتي غالبًا ما تطول تأثيراتها عامل السلامة، فقد طورت تاليس إطارًا أخلاقيًا وعلميًا لتطوير الذكاء الاصطناعي الموثوق به والقائم على أربع ركائز إستراتيجية متمثلة في الصلاحية والأمن وقابلية التفسير والمسؤولية. هذا، وتجمع الحلول المقدمة من الشركة بين المعرفة التي يتمتع بها أكثر من 300 خبير متمرس في الذكاء الاصطناعي وأكثر من 4500 متخصص في الأمن السيبراني مع الخبرة التشغيلية في مجال الفضاء الجوي والدفاع الأرضي والدفاع البحري والفضاء وغيرها من أعمال الدفاع والأمن التابعة للمجموعة.

الرجاء زيارة

مجموعة تاليس
الأمن

¹ مؤتمر الذكاء الاصطناعي للدفاع

إن نص اللغة الأصلية لهذا البيان هو النسخة الرسمية المعتمدة. أما الترجمة فقد قدمت للمساعدة فقط، ويجب الرجوع لنص اللغة الأصلية الذي يمثل النسخة الوحيدة ذات التأثير القانوني.