هل يوفّر تقليص حوكمة الذكاء الاصطناعي المال حقًا؟

تقليص حوكمة الذكاء الاصطناعي لتسريع الإطلاق توفير زائف. ففواتير ضعف الرقابة تصل لاحقًا، في صورة اختراقات للبيانات ومسؤولية قانونية وغرامات تنظيمية ومشاريع متروكة، وتُظهر الأدلة الحديثة أن كلًّا منها كافٍ لمحو الوقت الذي وفّره الفريق.

هذا المقال موجّه إلى قادة الأعمال الذين يُطلب منهم تقليص المراجعة والاختبار والرقابة لإطلاق منتجات الذكاء الاصطناعي أسرع. ويعرض التكاليف على الجانبين وطريقة خفيفة للإبقاء على الحوكمة دون إبطاء.

لماذا يوجد ضغط لتقليص حوكمة الذكاء الاصطناعي؟

أدوات الذكاء الاصطناعي تتغير بسرعة، والمنافسون يطلقون منتجاتهم بسرعة، والمراجعات تبدو عائقًا. ومن السهل النظر إلى الحوكمة بوصفها مركز كلفة: أشخاص ووثائق وموافقات تؤخر الإطلاق. وتقوم حجة التقليص على افتراض واحد: أن المخاطر التي تديرها غير مرجحة أو رخيصة. والأدلة أدناه تختبر هذا الافتراض.

ما كلفة ضعف حوكمة الذكاء الاصطناعي؟

الاختراقات. يضع تقرير كلفة اختراق البيانات 2026 من آي بي إم متوسط كلفة الاختراق عالميًا عند رقم قياسي قدره 4.99 مليون دولار، بزيادة 12% عن العام السابق. وزادت الهجمات المدفوعة بالذكاء الاصطناعي 56% وأضافت في المتوسط مليون دولار لكل اختراق. ومن بين الحوادث التي طالت نماذج الذكاء الاصطناعي أو تطبيقاته الخاصة بالمؤسسة، أدت هجمات حقن الأوامر إلى خسائر متوسطها 5.89 مليون دولار.

المسؤولية. في 2024 أمرت هيئة تسوية النزاعات المدنية في كولومبيا البريطانية شركة طيران كندا بتعويض عميل بعد أن قدّم روبوت المحادثة على موقعها نصيحة خاطئة بشأن أسعار تذاكر الحداد. وقد احتجت الشركة بأن الروبوت «كيان قانوني مستقل مسؤول عن أفعاله». فوصفت الهيئة ذلك بأنه «دفع لافت»، ووجدت أن طيران كندا «لم تبذل عناية معقولة لضمان دقة روبوت المحادثة». كان التعويض صغيرًا، 812 دولارًا؛ أما المبدأ فليس صغيرًا: الشركة مسؤولة عما يقوله ذكاؤها الاصطناعي للعملاء.

الغرامات. بموجب المادة 99 من قانون الذكاء الاصطناعي الأوروبي، قد يكلف استخدام ممارسة محظورة ما يصل إلى 35 مليون يورو أو 7% من إجمالي حجم أعمال الشركة السنوي العالمي، أيهما أعلى. وللمخالفات الأخرى سقوف أدنى لكنها لا تزال جدية.

المشاريع الفاشلة. توقعت غارتنر في يوليو 2024 أن يُتخلى عن 30% على الأقل من مشاريع الذكاء الاصطناعي التوليدي بعد إثبات المفهوم بحلول نهاية 2025، بسبب ضعف جودة البيانات أو قصور ضوابط المخاطر أو تصاعد التكاليف أو غموض القيمة التجارية. واثنان من هذه الأسباب الأربعة هما بالضبط ما وُجدت الحوكمة من أجله.

هل تبطئك حوكمة الذكاء الاصطناعي؟

تضيف عملًا مبكرًا وتزيل عملًا لاحقًا. تحليل: معظم التكاليف أعلاه تنبع من قرارات لم تُتخذ صراحة قط: ما البيانات التي يجوز للنموذج استخدامها، وما الذي يجوز له قوله للعملاء، ومن يتحقق من مخرجاته، ومن يستطيع إيقافه. اتخاذ هذه القرارات قبل الإطلاق يستغرق أيامًا، واكتشافها بعده قد يكلف اختراقًا أو حكمًا قضائيًا.

يقدم إطار NIST لإدارة مخاطر الذكاء الاصطناعي، الصادر في يناير 2023 للاستخدام الطوعي، بنية مشتركة. ويتضمن جوهره أربع وظائف:

• الحوكمة: من المسؤول وبأي سياسات؛ وتنطبق على دورة الحياة كلها.
• التخطيط: الغرض من النظام وأين يُستخدم وما الذي قد يسوء.
• القياس: كيف تُختبر المخاطر وتُتابع.
• الإدارة: ما الذي يُفعل حيالها ومتى.

الفرق التي تستخدم إطارًا مشتركًا تقضي وقتًا أقل في الجدل حول الإجراءات مع كل مشروع جديد.

ما الذي يصيب فيه دعاة التقليص؟

بعض الحوكمة مسرحية: وثائق طويلة لا يقرؤها أحد، وموافقات بلا معايير، والمراجعة نفسها لأداة داخلية منخفضة المخاطر ولنظام يتعامل مع العملاء. هذا يبطئ الفرق دون تقليل المخاطر. والحل هو التناسب لا الإلغاء: فحوص خفيفة للاستخدامات منخفضة المخاطر، وأعمق حين يمس الذكاء الاصطناعي العملاء أو المال أو الأطفال أو البيانات الشخصية.

كيف يحافظ القادة على الحوكمة دون خسارة السرعة؟

1. صنّفوا الاستخدامات حسب المخاطر. حددوا أي استخدامات الذكاء الاصطناعي منخفضة أو متوسطة أو عالية المخاطر، واجعلوا المراجعة على قدر المستوى.
2. عيّنوا مسؤولًا. كل نظام ذكاء اصطناعي يصل إلى العملاء يحتاج إلى شخص مسؤول عما يقوله ويفعله.
3. اختبروا الهجمات المعروفة. افحصوا حقن الأوامر وتسرب البيانات قبل الإطلاق لا بعد أول حادث.
4. دوّنوا الحدود. سجّلوا البيانات التي يجوز لكل نظام استخدامها وما لا يجوز له فعله أبدًا؛ فذلك أسرع من إعادة اكتشافها لاحقًا.
5. استخدموا إطارًا عامًا. وظائف NIST الأربع نقطة انطلاق مجانية يعترف بها المنظمون والشركاء.

في ClarityAILab ننشر الحوكمة التي تقوم عليها منتجاتنا؛ راجعوا سياسات الحوكمة لدينا. وعن كيف تغيّر خيارات البنية مخاطر الذكاء الاصطناعي، راجعوا نموذج واحد كبير أم وكلاء كثيرون؟.

الأسئلة الشائعة

هل تبطئ حوكمة الذكاء الاصطناعي تطوير المنتجات؟

تضيف عملًا في البداية لكنها قد توفر الوقت لاحقًا. وجدت غارتنر أن ضعف ضوابط المخاطر من أسباب توقّع التخلي عن 30% على الأقل من مشاريع الذكاء الاصطناعي التوليدي بعد إثبات المفهوم. وتحديد المخاطر مبكرًا يتجنب إعادة العمل وتوقف المشاريع.

ما العقوبات في قانون الذكاء الاصطناعي الأوروبي؟

بالنسبة لممارسات الذكاء الاصطناعي المحظورة، قد تصل الغرامات إلى 35 مليون يورو أو 7% من إجمالي حجم الأعمال السنوي العالمي للسنة المالية السابقة، أيهما أعلى. وتنطبق سقوف أدنى على المخالفات الأخرى.

هل الشركة مسؤولة عما يقوله روبوت المحادثة التابع لها؟

قد تكون كذلك. ففي 2024 أمرت هيئة كندية شركة طيران كندا بتعويض عميل بعد أن قدّم روبوت المحادثة على موقعها نصيحة خاطئة بشأن أسعار تذاكر الحداد، ورفضت حجة الشركة بأن الروبوت كيان قانوني مستقل.

ما هو إطار NIST لإدارة مخاطر الذكاء الاصطناعي؟

إطار طوعي نشره المعهد الوطني الأمريكي للمعايير والتقنية في يناير 2023. وينظم إدارة مخاطر الذكاء الاصطناعي في أربع وظائف: الحوكمة، والتخطيط، والقياس، والإدارة.

المراجع

1. IBM (2026), AI-powered adversaries and the enterprise risk challenge (Cost of a Data Breach Report 2026) — متوسط كلفة الاختراق عالميًا 4.99 مليون دولار؛ الهجمات المدفوعة بالذكاء الاصطناعي زادت 56%؛ خسائر حوادث حقن الأوامر بلغت في المتوسط 5.89 مليون دولار.
2. CBC News (2024), Air Canada found liable for chatbot's bad advice on plane tickets — رفضت الهيئة حجة «الكيان القانوني المستقل» ووجدت أن طيران كندا لم تبذل عناية معقولة لضمان دقة روبوت المحادثة.
3. EU Artificial Intelligence Act, Article 99: Penalties — غرامات تصل إلى 35 مليون يورو أو 7% من حجم الأعمال السنوي العالمي على ممارسات الذكاء الاصطناعي المحظورة.
4. Gartner (2024), Gartner Predicts 30% of Generative AI Projects Will Be Abandoned After Proof of Concept By End of 2025 — الأسباب: ضعف جودة البيانات، أو قصور ضوابط المخاطر، أو تصاعد التكاليف، أو غموض القيمة التجارية.
5. NIST (2023), Artificial Intelligence Risk Management Framework (AI RMF 1.0) — الوظائف الأساسية الأربع: الحوكمة والتخطيط والقياس والإدارة؛ والحوكمة تشمل دورة الحياة كلها.
6. NIST, AI Risk Management Framework — صدر في 26 يناير 2023 للاستخدام الطوعي.