ينتقل الذكاء الاصطناعي التوليدي من التجربة إلى الإنتاج في أنحاء المملكة. ومع ذلك تتحوّل أسئلة الأمن من «هل نستطيع بناء هذا؟» إلى «هل يمكننا الوثوق به والدفاع عنه؟».
تقع أكثر المخاطر شيوعًا في فئات قليلة: حقن الأوامر وتسريب البيانات، وتسرّب المعلومات الحساسة إلى سياق النموذج، ومنح صلاحيات واسعة لوكلاء الذكاء الاصطناعي، وغياب القابلية للتدقيق حول ما فعله النظام فعلًا.
الخبر الجيد أن مبادئ الأمن الراسخة لا تزال سارية. فالحد الأدنى من الصلاحيات والتحقق من المدخلات وتصفية المخرجات والتسجيل الشامل تقطع شوطًا طويلًا. الجديد هو تطبيقها على أنظمة غير حتمية، أي الاختبار بأوامر عدائية ومراقبة السلوك عبر الزمن.
تبنَّ الذكاء الاصطناعي بتأنٍّ: ابدأ بحالات استخدام محدّدة النطاق، وأبقِ عنصرًا بشريًا في الحلقة للإجراءات عالية الأثر، واجعل النشر الخاص هو الأصل عند التعامل مع البيانات الخاضعة للتنظيم.
