# מודל בינה מלאכותית גדול אחד או סוכנים רבים? מבט אבטחתי

> פיצול הבינה המלאכותית בארגון לסוכנים קטנים ומוגבלים יכול להגביל נזק מתקיפה ולהוזיל עלויות, אבל מוסיף חלקים. איך להחליט ואיך לנהל זאת.

URL: https://www.clarityailab.com/he/insights/the-monolith-is-dead-why-your-2026-ai-strategy-must-be-a-hive-mind/

בבינה מלאכותית ארגונית, כמה סוכנים קטנים שכל אחד מהם עושה משימה אחת עם גישה מוגבלת יכולים להיות בטוחים וזולים יותר ממודל גדול אחד המחובר לכל דבר. היתרון אינו אוטומטי: הוא נובע ממתן המינימום של נתונים וכוח לכל סוכן, והוא מביא איתו יותר חלקים שצריך לנהל.

מאמר זה מיועד למנהלים שבוחרים ארכיטקטורת בינה מלאכותית. הוא מציג את הטיעונים האבטחתיים והכלכליים בעד פיצול הבינה המלאכותית לסוכנים מוגבלים, את הטיעונים נגד, ואיך לנהל כל אחת מהגישות.

## מה ההבדל בין מודל יחיד לסוכנים רבים?

בארכיטקטורת **מודל יחיד**, מודל כללי אחד עונה על כל בקשה ומחובר לכל מקור נתונים וכלי שהוא עשוי להזדקק לו. בארכיטקטורת **סוכנים מרובים**, סוכנים נפרדים מטפלים במשימות נפרדות, כמו קריאת חשבוניות, בדיקת ספקים או ניסוח תשובות, ומעבירים עבודה ביניהם. מסגרות בקוד פתוח כמו [AutoGen](https://arxiv.org/abs/2308.08155) נבנו כדי ליצור יישומים מסוכנים המשוחחים זה עם זה.

השאלה לעסק אינה מה מתקדם יותר, אלא מה מגביל נזק כשמשהו משתבש.

## האם מערכות מרובות סוכנים בטוחות יותר?

הן יכולות להיות, מסיבה עיקרית אחת: רדיוס הפיצוץ. [ההנחיה של OWASP על סוכנות מופרזת](https://genai.owasp.org/llmrisk/llm062025-excessive-agency/) מייחסת את הנזק של בינה מלאכותית שהוטעתה לשלוש סיבות שורש: פונקציונליות מופרזת, הרשאות מופרזות ואוטונומיה מופרזת. למודל יחיד המחובר לכל המערכות יש את שלושתן. לסוכן שיכול רק לקרוא חשבוניות, בלי לשלוח דוא״ל או להעביר כסף, יש הרבה פחות לנצל לרעה.

זה חשוב משום שהמתקפה העיקרית על מערכות בינה מלאכותית פועלת באמצעות הזנת הוראות. [OWASP מדרגת את הזרקת הפרומפטים ראשונה](https://genai.owasp.org/llmrisk/llm01-prompt-injection/) בין הסיכונים ליישומים המבוססים על מודלי שפה גדולים, ו[דוח עלות דליפת המידע 2026](https://www.ibm.com/think/x-force/2026-cost-of-a-data-breach-ai-adversaries-enterprise-risk) של IBM מצא שאירועי הזרקת פרומפטים נגד הבינה המלאכותית של ארגונים גרמו להפסדים ממוצעים של 5.89 מיליון דולר. אם הוראה מוזרקת מגיעה לסוכן עם הרשאות צרות, היא יכולה לעשות פחות.

אותה רשומה של OWASP מזהירה גם מהצד השני: במערכות מרובות סוכנים, סוכן עמית פרוץ הוא בעצמו נתיב תקיפה. סוכנים שסומכים זה על זה בלי בדיקות מפיצים את הבעיה במקום להכיל אותה.

## האם זול יותר להשתמש במודלים קטנים רבים?

לעתים קרובות כן. בקשות רבות פשוטות ואינן צריכות את המודל הגדול ביותר. [מחקר FrugalGPT](https://arxiv.org/abs/2305.05176) בדק שליחת כל שאילתה למודל הזול ביותר שצפוי לענות עליה היטב, והסלמה רק כשצריך. במשימות שנבדקו זה השתווה לביצועי המודל היחיד הטוב ביותר בעלות נמוכה בעד 98%.

החיסכון תלוי בעבודה. מערכת שזקוקה להסקה עמוקה ברוב הבקשות תרוויח פחות.

## מה הסיכונים במעבר לסוכנים מרובים?

- **מורכבות.** יותר סוכנים פירושם יותר חיבורים, יותר פרטי גישה ויותר מקומות לטעות בהגדרות.
- **הייפ.** גרטנר חוזה ש[יותר מ-40% מפרויקטי הבינה המלאכותית הסוכנית יבוטלו](https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027) עד סוף 2027, ומזהירה מפני „הלבנת סוכנים”, צ'אטבוטים ואוטומציות קיימים שמכונים מחדש סוכנים. היא מעריכה שרק כ-130 מאלפי הספקים הטוענים לבינה מלאכותית סוכנית הם אמיתיים.
- **אחריותיות.** כששרשרת סוכנים מקבלת החלטה, עדיין צריך להיות ברור איזה אדם אחראי לה.

## איך זה עוזר מול בינה מלאכותית בצל?

עובדים משתמשים בבינה מלאכותית, מאושרת או לא. [מדד מגמות העבודה 2024](https://www.microsoft.com/en-us/worklab/work-trend-index/ai-at-work-is-here-now-comes-the-hard-part) של מיקרוסופט ולינקדאין מצא ש-75% מעובדי הידע משתמשים בבינה מלאכותית בעבודה, ו-78% מהם מביאים כלים משלהם. *ניתוח:* קטלוג של סוכנים מאושרים ומוגדרים היטב למשימות נפוצות נותן לאנשים אפשרות טובה יותר מכלים לא מאושרים, וקל יותר להגן עליו מאשר על איסור.

## איך מנהלים סוכני בינה מלאכותית?

[מסגרת ניהול סיכוני הבינה המלאכותית של NIST](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf) חלה על כל סוכן כמו על המערכת כולה:

1. **ממשל:** לתת לכל סוכן אחראי בשם ומטרה כתובה.
2. **מיפוי:** לתעד לאילו נתונים וכלים כל סוכן מגיע, ומה קורה אם הוא מוטעה.
3. **מדידה:** לבדוק כל סוכן מפני הזרקת פרומפטים ודליפת מידע לפני ההשקה ואחרי כל שינוי.
4. **ניהול:** לתת גישה מינימלית, לדרוש אישור אנושי לפעולות שמוציאות כסף, מידע או הודעות מהחברה, ולשמור יומנים.
5. **להתחיל בקטן.** לבנות סוכנים רק היכן שהערך ברור, ולהוציא משימוש את אלה שאינם מצדיקים את עצמם.

על מחיר הדילוג על השלבים האלה, ראו [האם קיצוץ בממשל הבינה המלאכותית באמת חוסך כסף?](/insights/profit-or-peril-cutting-ai-governance-billion-dollar-mistake/). על סיכוני סוכנים במחשבים אישיים, ראו [סוכני בינה מלאכותית מקומיים: פרטיים, אבל האם הם בטוחים?](/insights/the-local-ai-paradox-ultimate-privacy-or-a-hackers-backdoor/).

### האם מערכות מרובות סוכנים בטוחות יותר ממודל גדול אחד?

הן יכולות להיות, אם כל סוכן מקבל רק את הנתונים והכלים שהמשימה שלו דורשת, כך שתקיפה מוצלחת על סוכן אחד מגיעה לפחות. הן אינן בטוחות מעצמן: יותר סוכנים פירושם יותר חיבורים להגן עליהם ויותר הרשאות לנהל.

### האם מודלים קטנים באמת זולים יותר?

לעתים קרובות. מחקר FrugalGPT מצא שניתוב כל שאילתה למודל הזול ביותר שיכול לענות עליה יכול להשתוות לביצועי המודל היחיד הטוב ביותר בעלות נמוכה בעד 98%, במשימות שנבדקו.

### מהי בינה מלאכותית בצל?

בינה מלאכותית בצל היא שימוש של עובדים בכלי בינה מלאכותית שהמעסיק לא אישר. מיקרוסופט ולינקדאין מצאו ב-2024 ש-78% ממי שמשתמשים בבינה מלאכותית בעבודה מביאים כלים משלהם.

### האם כל חברה צריכה לבנות סוכני בינה מלאכותית עכשיו?

לא. גרטנר חוזה שיותר מ-40% מפרויקטי הבינה המלאכותית הסוכנית יבוטלו עד סוף 2027 בשל עלויות, ערך לא ברור או בקרות סיכון חלשות. התחילו היכן שסוכן מוסיף ערך ברור.