جعل منظومة الذكاء الاصطناعي أكثر أمانًا

بدأ طريقي في مجال الأمن كما يبدأ معظم الناس: من خلال كسر الأشياء. كطالب علوم حاسب في جامعة عين شمس في القاهرة، مصر، وجدت نفسي منجذبًا ليس لبناء التطبيقات، بل لفهم كيفية فشلها. تطور هذا الفضول إلى مهمة مركزة.

اليوم، أعمل في طليعة أبحاث أمن الذكاء الاصطناعي. بينما يندفع العالم لنشر النماذج اللغوية الكبيرة ووكلاء الذكاء الاصطناعي، أنا في الخنادق أطرح أسئلة أصعب: ماذا يحدث عندما تتعرض هذه الأنظمة للهجوم؟ كيف نحمي سلسلة التوريد التي تغذيها؟ ما هي الثغرات المختبئة في المكتبات التي نثق بها؟

قادتني الإجابات إلى المصادر المفتوحة. لقد ساهمت بتحسينات أمنية في مشاريع أساسية مثل pip (مثبت حزم بايثون)، pydantic (التحقق من البيانات لبايثون الحديثة)، openai-python (حزمة OpenAI الرسمية)، ومعايير أمان OWASP. كل طلب دمج مقبول لا يمثل مجرد كود، بل خطوة صغيرة نحو نظام بيئي أكثر أمانًا.

مشروعي الرائد، llm-security-playbook، يلخص كل ما تعلمته في دليل قابل للتنفيذ لتأمين تطبيقات النماذج اللغوية الكبيرة. يستخدمه المطورون وفرق الأمان الذين يدركون أن أمن الذكاء الاصطناعي ليس اختياريًا - بل هو مسألة وجودية.

عندما لا أكون أبحث عن الثغرات أو أراجع الأكواد، أكون نشطًا في مجتمع OWASP، مساهمًا في معايير الأمان ومشاركة المعرفة مع زملائي الباحثين. أؤمن بأن أفضل عمل أمني يحدث في العلن، حيث يمكن تدقيقه وتحسينه ومشاركته.