نموذج واحد كبير أم وكلاء كثيرون؟ نظرة أمنية

في الذكاء الاصطناعي المؤسسي، قد يكون عدة وكلاء صغار يؤدي كل منهم مهمة واحدة بوصول محدود أكثر أمانًا وأقل كلفة من نموذج كبير واحد متصل بكل شيء. لكن الفائدة ليست تلقائية: فهي تأتي من منح كل وكيل أقل قدر من البيانات والقدرة يحتاجه، وتجلب معها مزيدًا من الأجزاء التي تحتاج إلى حوكمة.

هذا المقال موجّه إلى القادة الذين يختارون بنية للذكاء الاصطناعي. ويعرض الحجج الأمنية والمالية لتقسيم الذكاء الاصطناعي إلى وكلاء محدودين، والحجج المضادة، وكيفية حوكمة أي من النهجين.

ما الفرق بين نموذج واحد ووكلاء كثيرين؟

في بنية النموذج الواحد، يجيب نموذج عام عن كل الطلبات ويتصل بكل مصدر بيانات وأداة قد يحتاجها. وفي بنية الوكلاء المتعددين، يتولى وكلاء منفصلون مهامّ منفصلة، مثل قراءة الفواتير أو التحقق من الموردين أو صياغة الردود، ويمررون العمل فيما بينهم. وقد صُممت أطر مفتوحة المصدر مثل AutoGen لبناء تطبيقات من وكلاء يتحاورون.

والسؤال بالنسبة إلى الشركة ليس أيهما أكثر تقدمًا، بل أيهما يحد من الضرر حين يحدث خطأ.

هل الأنظمة متعددة الوكلاء أكثر أمانًا؟

قد تكون كذلك لسبب رئيسي: نطاق الضرر. فدليل OWASP بشأن الصلاحية المفرطة يرجع الضرر الذي يحدثه ذكاء اصطناعي مضلَّل إلى ثلاثة أسباب جذرية: وظائف مفرطة، وصلاحيات مفرطة، واستقلالية مفرطة. والنموذج الواحد المتصل بكل الأنظمة يجمع الثلاثة. أما الوكيل الذي لا يستطيع إلا قراءة الفواتير، دون إرسال بريد أو تحريك أموال، فلديه ما يُساء استخدامه أقل بكثير.

وهذا مهم لأن الهجوم الرئيسي على أنظمة الذكاء الاصطناعي يقوم على تغذيتها بالتعليمات. فOWASP تضع حقن الأوامر في المرتبة الأولى بين مخاطر التطبيقات المبنية على النماذج اللغوية الكبيرة، ووجد تقرير كلفة اختراق البيانات 2026 من آي بي إم أن حوادث حقن الأوامر ضد الذكاء الاصطناعي في المؤسسات أدت إلى خسائر متوسطها 5.89 مليون دولار. وإذا وصلت تعليمة محقونة إلى وكيل ضيق الصلاحيات، فإن ما يمكنها فعله أقل.

وتحذّر مدخلة OWASP نفسها من الجانب الآخر أيضًا: ففي الأنظمة متعددة الوكلاء، يصبح الوكيل القرين المخترق بحد ذاته طريقًا للهجوم. والوكلاء الذين يثق بعضهم ببعض دون تحقق ينشرون المشكلة بدل احتوائها.

هل استخدام نماذج صغيرة كثيرة أرخص؟

غالبًا نعم. فكثير من الطلبات بسيط ولا يحتاج إلى أكبر نموذج. واختبرت دراسة FrugalGPT إرسال كل استعلام إلى أرخص نموذج يُرجح أن يجيب عنه جيدًا، والتصعيد فقط عند الحاجة. وفي المهام المختبرة، ضاهى ذلك أداء أفضل نموذج منفرد بتكلفة أقل بنسبة تصل إلى 98%.

ويتوقف التوفير على طبيعة العمل. فالنظام الذي يحتاج إلى استدلال عميق في معظم الطلبات سيكسب أقل.

ما مخاطر الانتقال إلى الوكلاء المتعددين؟

• التعقيد. مزيد من الوكلاء يعني مزيدًا من الاتصالات وبيانات الاعتماد ومواضع الخطأ في الإعداد.
• المبالغة. تتوقع غارتنر إلغاء أكثر من 40% من مشاريع الذكاء الاصطناعي الوكيلي بحلول نهاية 2027، وتحذّر من «غسل الوكلاء»، أي إعادة تسمية روبوتات المحادثة والأتمتة القائمة وكلاءً. وتقدّر أن نحو 130 فقط من آلاف الموردين الذين يدّعون تقديم الذكاء الاصطناعي الوكيلي حقيقيون.
• المساءلة. حين تتخذ سلسلة من الوكلاء قرارًا، يجب أن يبقى واضحًا أي شخص مسؤول عنه.

كيف يساعد هذا في مواجهة الذكاء الاصطناعي الخفي؟

يستخدم الموظفون الذكاء الاصطناعي سواء أكان معتمدًا أم لا. فقد وجد مؤشر اتجاهات العمل 2024 من مايكروسوفت ولينكدإن أن 75% من العاملين في المعرفة يستخدمون الذكاء الاصطناعي في العمل وأن 78% منهم يجلبون أدواتهم الخاصة. تحليل: إن كتالوجًا من الوكلاء المعتمدين محددي النطاق للمهام الشائعة يمنح الناس خيارًا أفضل من الأدوات غير المعتمدة، ويسهل الدفاع عنه أكثر من الحظر.

كيف تُحوكم وكلاء الذكاء الاصطناعي؟

ينطبق إطار NIST لإدارة مخاطر الذكاء الاصطناعي على كل وكيل كما ينطبق على النظام كله:

1. الحوكمة: امنحوا كل وكيل مسؤولًا مسمّى وغرضًا مكتوبًا.
2. التخطيط: سجّلوا البيانات والأدوات التي يصل إليها كل وكيل، وما يحدث إذا ضُلِّل.
3. القياس: اختبروا كل وكيل ضد حقن الأوامر وتسرب البيانات قبل الإطلاق وبعد كل تغيير.
4. الإدارة: امنحوا أقل وصول، واطلبوا موافقة بشرية على الإجراءات التي تُخرج أموالًا أو بيانات أو رسائل من الشركة، واحتفظوا بالسجلات.
5. ابدؤوا صغارًا. ابنوا وكلاء فقط حيث القيمة واضحة، واستغنوا عن تلك التي لا تستحق بقاءها.

عن كلفة تجاوز هذه الخطوات، راجعوا هل يوفّر تقليص حوكمة الذكاء الاصطناعي المال حقًا؟. وعن مخاطر الوكلاء على الحواسيب الشخصية، راجعوا وكلاء الذكاء الاصطناعي المحليون: خاصون، لكن هل هم آمنون؟.

الأسئلة الشائعة

هل أنظمة الذكاء الاصطناعي متعددة الوكلاء أكثر أمانًا من نموذج كبير واحد؟

قد تكون كذلك إذا حصل كل وكيل على البيانات والأدوات التي تحتاجها مهمته فقط، فيصل الهجوم الناجح على وكيل واحد إلى نطاق أصغر. لكنها ليست آمنة تلقائيًا: فمزيد من الوكلاء يعني مزيدًا من الاتصالات التي تجب حمايتها والصلاحيات التي تجب إدارتها.

هل النماذج الأصغر أرخص فعلًا؟

غالبًا. فقد وجدت دراسة FrugalGPT أن توجيه كل استعلام إلى أرخص نموذج قادر على الإجابة عنه يمكن أن يضاهي أداء أفضل نموذج منفرد بتكلفة أقل بنسبة تصل إلى 98% في المهام المختبرة.

ما هو الذكاء الاصطناعي الخفي؟

هو استخدام الموظفين أدوات ذكاء اصطناعي لم يوافق عليها صاحب العمل. وقد وجدت مايكروسوفت ولينكدإن في 2024 أن 78% ممن يستخدمون الذكاء الاصطناعي في العمل يجلبون أدواتهم الخاصة.

هل ينبغي لكل شركة بناء وكلاء ذكاء اصطناعي الآن؟

لا. تتوقع غارتنر إلغاء أكثر من 40% من مشاريع الذكاء الاصطناعي الوكيلي بحلول نهاية 2027 بسبب التكاليف أو غموض القيمة أو ضعف ضوابط المخاطر. ابدأ حيث يضيف الوكيل قيمة واضحة.

المراجع

1. OWASP (2025), LLM06:2025 Excessive Agency — الوظائف والصلاحيات والاستقلالية المفرطة بوصفها أسبابًا جذرية؛ ويشمل الوكلاء الأقران المخترقين في الأنظمة متعددة الوكلاء.
2. OWASP (2025), LLM01:2025 Prompt Injection — حقن الأوامر، بما فيه الحقن غير المباشر عبر المواقع أو الملفات.
3. NIST (2023), Artificial Intelligence Risk Management Framework (AI RMF 1.0) — وظائف الحوكمة والتخطيط والقياس والإدارة.
4. Wu et al. (2023), AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation — إطار مفتوح المصدر لبناء تطبيقات من وكلاء متعددين يتحاورون فيما بينهم.
5. Chen, Zaharia and Zou (2023), FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance — ضاهت سلاسل النماذج أداء أفضل نموذج منفرد بتخفيض في التكلفة يصل إلى 98% في التجارب المنشورة.
6. Microsoft and LinkedIn (2024), AI at Work Is Here. Now Comes the Hard Part (Work Trend Index) — 75% من العاملين في المعرفة يستخدمون الذكاء الاصطناعي في العمل؛ و78% من مستخدميه يجلبون أدواتهم الخاصة.
7. Gartner (2025), Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027 — توقع الإلغاء و«غسل الوكلاء»؛ تقدّر غارتنر أن نحو 130 فقط من آلاف موردي الذكاء الاصطناعي الوكيلي حقيقيون.
8. IBM (2026), AI-powered adversaries and the enterprise risk challenge (Cost of a Data Breach Report 2026) — بلغ متوسط خسائر حوادث حقن الأوامر 5.89 مليون دولار.