ضرورة حوكمة الذكاء الاصطناعي: اللوائح المتغيرة، وظهور الذكاء الاصطناعي الوكيل

بحلول عام 2030، سيولّد كل دولار جديد يُستثمر في حلول وخدمات الذكاء الاصطناعي نحو 4.9 دولارات إضافية في الاقتصاد العالمي، وفق تقديرات شركة الأبحاث IDC. هذا الرقم وحده كافٍ لتفسير التهافت المؤسسي على تبني الذكاء الاصطناعي التوليدي (Generative AI - GenAI)، ثم موجته الأحدث والأكثر جذرية: الذكاء الاصطناعي الوكيل (Agentic AI). لكن في المقابل، يكشف استبيان IDC لمشتري تقنية الذكاء الاصطناعي الصادر في يونيو 2025 أن 48% من المؤسسات التي وضعت سياسات واضحة للذكاء الاصطناعي المسؤول تعتبر الاختراقات الأمنية الهاجس الأول الذي تسعى هذه السياسات لاحتوائه، تليها مخاوف تسريب بيانات العملاء بنسبة 36%، والمخاطر التنظيمية بنسبة 33%. المسافة بين هذين الرقمين - الوعد الاقتصادي الهائل من جهة، والمخاوف التشغيلية الملموسة من جهة أخرى - هي بالضبط المساحة التي تعمل فيها حوكمة الذكاء الاصطناعي (AI Governance).

الخلاصة التنفيذية

• الذكاء الاصطناعي الوكيل لا يضيف قدرة جديدة فقط، بل ينقل المخاطر من "خطأ في الناتج" إلى "خطأ في القرار والفعل"، وهو تحوّل جوهري في طبيعة المسؤولية المؤسسية.

• وفق بيانات IDC، تتركّز أولى مخاوف المؤسسات في الأمن السيبراني وحماية البيانات والمخاطر التنظيمية - وهي ثلاثتها تتفاقم تلقائياً كلما اتسعت صلاحيات الوكلاء الذكيين داخل الأنظمة.

• المشهد التنظيمي العالمي يتشظى بدل أن يتوحّد: الاتحاد الأوروبي يتبنى تصنيفاً صريحاً للمخاطر عبر EU AI Act، الولايات المتحدة تنتهج مساراً أقل تقييداً عبر AI Action Plan مع تباين بين الولايات، بينما تبني السعودية - في إطار "عام الذكاء الاصطناعي 2026" - نموذجها الوطني الخاص بقيادة سدايا.

• الحوكمة لم تعد عبئاً تنظيمياً يُضاف لاحقاً، بل أصل تنافسي: المؤسسات التي تبني الشفافية وقابلية التتبع منذ مرحلة التصميم تخفّض كلفة الامتثال المستقبلية وتكسب ثقة العملاء والجهات التنظيمية في آنٍ واحد.

• التحدي الحقيقي أمام قادة التقنية ليس "إصدار سياسة حوكمة"، بل تحويلها إلى بنية تشغيلية مدمجة في كل وكيل، وكل تكامل، وكل قرار آلي.

من الناتج إلى الفعل: كيف غيّر الذكاء الاصطناعي الوكيل معادلة المخاطر؟

في الجيل السابق من تطبيقات الذكاء الاصطناعي التوليدي، كان أقصى ما يمكن أن "يخطئ فيه" النظام هو الناتج نفسه: نص غير دقيق، صورة غير لائقة، أو إجابة متحيزة. هذه الأخطاء قابلة للمراجعة قبل أن تصل إلى أي تأثير حقيقي على العالم الخارجي. الذكاء الاصطناعي الوكيل يكسر هذا الحاجز الوقائي؛ الذي يتعدى إنتاج محتوى إلى  تحديد كيفية إنجاز مهمة متعددة الخطوات، ويختار الأدوات المناسبة، وينفّذ - بشكل مباشر - تعديلاً على ملف عميل، أو موافقة على قرض، أو تقييماً لمرشح وظيفي.

 

مما  يعني أن الخطأ لم يعد ناتجاً يُراجَع فحسب وإنما فعلاً قد يكون قد وقع. وحين يقع هذا الفعل ضمن سياق تنظيمي - مالي أو قانوني أو متعلق بحقوق الأفراد - فإن المؤسسة تتحمل تبعاته بشكل مباشر، حتى وإن لم يتدخل بشر في اللحظة الفعلية لاتخاذ القرار. يضاف إلى ذلك تحدٍّ آخر: إذ أصبحت عملية بناء وتركيب الوكلاء الذكيين أسهل بكثير على المستخدمين غير التقنيين، مما يفتح الباب لظاهرة تقنية المعلومات الخفية (Shadow IT) - حيث تعمل وكلاء ذكية داخل المؤسسة دون أن تكون فرق الحوكمة والأمن على علم بوجودها أصلاً.

 

الأرقام لا تكذب: ماذا يخشى صناع القرار التقني فعلياً؟

عند سؤال المؤسسات التي تطبق سياسات ذكاء اصطناعي مسؤول عن أهم ما تحاول هذه السياسات حمايتها منه، جاءت النتائج (وفق استبيان IDC، يونيو 2025، بعينة عالمية بلغت 2,276 مستجيباً) على النحو التالي: الاختراق الأمني 48%، تسريب بيانات العملاء 36%، المخاطر التنظيمية 33%، الدّين التقني (التكلفة الكامنة لعدم معالجة المشكلات التي ستؤثر على المؤسسة لاحقاً) 28%، مخاوف المسؤولية القانونية 27%، تراجع الثقة 23%، التكاليف الخفية 21%، الإضرار بالسمعة 21%، فقدان الإيرادات 18%، والتحقيقات الجنائية 11%.

 

هذا الترتيب يعكس منطقاً واضحاً: الذكاء الاصطناعي الوكيل، لكي يعمل، يحتاج صلاحيات وصول واسعة إلى الأنظمة والبيانات وواجهات البرمجة (APIs). وكل صلاحية إضافية تُمنح لوكيل ذكي هي - من منظور أمني - نقطة دخول جديدة محتملة. لذلك يتصدّر "الاختراق الأمني" القائمة؛ لأنه تجاوز السؤال عن  حماية تطبيق واحد، إلى السؤال عن  حماية سلسلة كاملة من الأنظمة المتصلة. أما تسريب بيانات العملاء فيتفاقم مع تقنيات التوليد المعزز بالاسترجاع (Retrieval-Augmented Generation - RAG)، التي تمنح النماذج وصولاً مباشراً إلى مستندات وقواعد بيانات داخلية حساسة لتوليد إجابات أكثر دقة. وبروز "الدّين التقني" في المرتبة الرابعة برقم 28% هو إشارة لافتة بذاتها: فهو يعني أن المؤسسات بدأت تعي أن تجاهل الحوكمة اليوم لا يوفّر الكلفة، بل يؤجّلها مع فوائد مركّبة.

خريطة تشريعية متشظية: من بروكسل إلى واشنطن إلى الرياض

لا يوجد إطار تنظيمي عالمي موحّد للذكاء الاصطناعي، بل عدة مسارات متوازية تتطور بسرعات مختلفة. في أوروبا، يمثّل قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act) أول تشريع شامل من جهة تنظيمية كبرى على مستوى العالم، وهو يصنّف تطبيقات الذكاء الاصطناعي ضمن مستويات مخاطر متدرجة - من الأنظمة المحظورة كلياً (مثل التلاعب السلوكي الضار أو التصنيف الاجتماعي القسري)، إلى الأنظمة "عالية الخطورة" التي تواجه أعلى مستويات الشفافية والإفصاح، وصولاً إلى الأنظمة منخفضة أو معدومة الخطورة. والمهم هنا أن الالتزام بهذا القانون لا يقتصر على الشركات الأوروبية؛ فأي مؤسسة تبني أو تستخدم أنظمة ذكاء اصطناعي تُستخدم مخرجاتها داخل السوق الأوروبية تقع ضمن نطاقه.

 

في المقابل، تنتهج الولايات المتحدة عبر "خطة عمل الذكاء الاصطناعي" (AI Action Plan) مساراً أقل تقييداً، تاركة للمؤسسات هامش تفسير وتطبيق أوسع - مع تعقيد إضافي ناتج عن تباين بعض اللوائح على مستوى الولايات. مما يجعل أي مؤسسة تعمل عبر جغرافيات متعددة تجد نفسها أمام طبقات متراكبة من القواعد، يتطلب التوفيق بينها قدرة تحليلية وقانونية متقدمة.

 

أما في السعودية، فقد جاء قرار مجلس الوزراء بتسمية عام 2026 "عام الذكاء الاصطناعي" ليؤكد توجهاً استراتيجياً واضحاً نحو بناء بيئة تشريعية وتنظيمية داعمة لقطاع البيانات والذكاء الاصطناعي، بقيادة الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا"، التي طوّرت بالفعل إطاراً وطنياً لتبني الذكاء الاصطناعي إلى جانب سياسات حوكمة البيانات الوطنية ونظام حماية البيانات الشخصية ولوائحه التنفيذية. وبخلاف النهج الأمريكي الأقل تقييداً، يتجه النموذج السعودي إلى التوازن بين تحفيز الابتكار وبناء مرجعية وطنية واضحة - وهو توجه يتقاطع، من حيث الروح، مع منطق التصنيف القائم على المخاطر الذي تبنّاه الاتحاد الأوروبي، مع الحفاظ على خصوصية محلية في الأولويات والسياقات التنظيمية.

 

حوكمة الذكاء الاصطناعي: من الالتزام التنظيمي إلى البنية التشغيلية

التعريف الأدق لحوكمة الذكاء الاصطناعي هو أنها مجموعة السياسات والأطر والممارسات والأدوات التي تضبط تطوير الذكاء الاصطناعي ونشره واستخدامه، عبر وضع قواعد ومعايير وضوابط أخلاقية تُمكّن المؤسسات من تطبيق الذكاء الاصطناعي بطريقة مسؤولة وقابلة للمحاسبة. وهي تتقاطع مع ثلاث طبقات: القانون (القواعد التي تفرضها الأنظمة القضائية)، الأخلاق (القواعد التي يفرضها المجتمع والثقافة المؤسسية)، والتنظيم (القواعد التي تفرضها الجهات الحكومية والمعايير القطاعية، خصوصاً في القطاعات شديدة التنظيم كالخدمات المالية والرعاية الصحية والقطاع الحكومي).

 

عملياً، تتحول هذه التعريفات إلى خمسة مكوّنات تشغيلية لا غنى عنها: أولاً، استراتيجية حوكمة تُبنى بالتعاون بين خبراء الذكاء الاصطناعي والقانون والامتثال والتقنية وأصحاب القرار، وتحدد مبادئ واضحة للعدالة والشمولية والشفافية والمساءلة. ثانياً، أهداف وعمليات فعلية لضمان الوصول إليها، مع تتبع التقدم وتطبيق الإرشادات. ثالثاً، قواعد واضحة تجعل من السهل على أي فريق يطلق مبادرة ذكاء اصطناعي جديدة أن يعرف ما هو مقبول ومرفوض دون الرجوع لجهات متعددة. رابعاً، عمليات لمعالجة الحالات التي لا تغطيها الإرشادات العامة - لأن أي مرجعية، حتى الأكثر تفصيلاً، ستترك ثغرات مع ظهور حالات استخدام جديدة. وخامساً، أدوات وأنظمة فعلية لتنفيذ هذه المبادئ: توفير البنية التحتية والبيانات، قياس التقدم، وضمان سياسات احتفاظ بالبيانات تتيح تدقيق القرارات السابقة - وهي نقطة حاسمة في عالم الوكلاء الذكيين، حيث تتغير سلوكيات النظام بمرور الوقت بحسب البيانات التي يتعلم منها.

 

الجهات الحكومية السعودية ولحظة الذكاء الاصطناعي الوكيل: أين تقف منصات التكامل المؤسسي؟

مع تسارع تبني الجهات الحكومية في المملكة لحلول الأتمتة المؤسسية وتكامل الأنظمة - في سياق دفعة وطنية واضحة نحو الذكاء الاصطناعي خلال 2026 - تصبح الحوكمة شرطاً مسبقاً لا ميزة إضافية. فالمنصات التي تُدير تكامل الأنظمة وأتمتة سير العمل داخل الجهات الحكومية، مثل منصة NovaStar من مسراج، تتعامل يومياً مع بيانات حساسة، وقرارات تشغيلية، وتدفقات عمل تمتد عبر عدة أنظمة - وهو تماماً النوع من البيئة التي يتحدث عنها تقرير IDC عند الإشارة إلى "أتمتة سير عمل تعالج طلبات، وتُقيّم مرشحين، وتُحدّث ملفات".

 

في هذا السياق، لا يكفي أن تكون المنصة قادرة على ربط الأنظمة وتنفيذ المهام؛ وإنما يجب أن تكون قادرة - بشكل مدمج لا كإضافة لاحقة - على تصنيف كل وكيل ذكي بحسب مستوى مخاطره، وتوفير سجل تتبع كامل لكل إجراء يتخذه الوكيل مع ربطه بمالك بشري مسؤول، وتطبيق ضوابط قابلة للتهيئة لحماية البيانات الشخصية والمعلومات الحكومية الحساسة، مع توافق هذه السجلات مع أطر التدقيق المحلية المتطورة التي تقودها سدايا، وبما يستجيب أيضاً لمنطق التصنيف القائم على المخاطر المعمول به عالمياً. بعبارة أخرى: الحوكمة بالتصميم (Governance by Design) لم تعد ميزة تسويقية، بل هي ما يفصل بين منصة تكامل تُعامَل كأداة تشغيلية موثوقة، ومنصة يُنظر إليها كمصدر مخاطر إضافي يحتاج طبقات رقابة منفصلة.

ما الذي يجب أن يفعله قادة التقنية الآن؟

أولاً، رسم خريطة واضحة للوائح المعمول بها في كل سوق تعمل فيه المؤسسة، ومواءمة السياسات الداخلية معها بشكل فعلي - وليس على الورق فقط. للمؤسسات التي تخدم أسواقاً تتقاطع مخرجاتها مع الاتحاد الأوروبي، هذا يعني فهم تصنيف المخاطر في EU AI Act ومتطلباته المتدرجة. وللجهات العاملة في السوق السعودية، يعني هذا متابعة الأطر الوطنية المتسارعة التي تقودها سدايا والبناء عليها منذ الآن، بدل انتظار صدورها بشكل نهائي.

 

ثانياً، بناء هياكل واضحة للحوكمة وإدارة المخاطر مصحوبة بآليات مساءلة فعلية: من يملك القرار النهائي عند كل نقطة يتدخل فيها وكيل ذكي؟ من يُراجع سجلات التدقيق؟ ومن المسؤول قانونياً عن نتيجة قرار اتخذه نظام آلي بالكامل؟ الإجابة عن هذه الأسئلة يجب أن تكون موثقة قبل النشر، لا بعده.

 

ثالثاً، الانخراط في حوار مستمر مع الجهات التنظيمية وصناع السياسات، بدل التموضع في موقع رد الفعل. وذلك لأن المؤسسات التي تشارك برؤيتها وتجربتها العملية في صياغة الأطر التنظيمية - تماماً كما تفعل سدايا على المستوى الوطني والدولي - تجد نفسها أكثر استعداداً حين تتحول هذه الأطر إلى التزامات رسمية.

 

ورابعاً، وهو الأهم عملياً: معاملة الحوكمة كجزء من بنية النظام منذ اللحظة الأولى، لا كطبقة تُضاف بعد الانتهاء من البناء. كل وكيل ذكي جديد يجب أن يولد مع تصنيف مخاطر، وسجل تتبع، وحدود صلاحيات واضحة - بالطريقة نفسها التي يولد بها أي نظام إنتاجي مع طبقة أمان مدمجة، لا منفصلة.

 

نحن في لحظة تتقاطع فيها إمكانية اقتصادية غير مسبوقة مع مخاطر تشغيلية وتنظيمية متسارعة. والفارق بين المؤسسات التي ستستفيد من معادلة "4.9 دولار لكل دولار" بحلول 2030، والمؤسسات التي ستجد نفسها أمام أزمات ثقة وامتثال، لن يُحدّده مدى تقدّم نماذجها أو وكلائها الذكية - وإنما مدى جاهزية البنية التي تُحكم هذه الوكلاء وتجعل كل قرار تتخذه قابلاً للتفسير والتتبع والمساءلة.