מודל בינה מלאכותית גדול אחד או סוכנים רבים? מבט אבטחתי

בבינה מלאכותית ארגונית, כמה סוכנים קטנים שכל אחד מהם עושה משימה אחת עם גישה מוגבלת יכולים להיות בטוחים וזולים יותר ממודל גדול אחד המחובר לכל דבר. היתרון אינו אוטומטי: הוא נובע ממתן המינימום של נתונים וכוח לכל סוכן, והוא מביא איתו יותר חלקים שצריך לנהל.

מאמר זה מיועד למנהלים שבוחרים ארכיטקטורת בינה מלאכותית. הוא מציג את הטיעונים האבטחתיים והכלכליים בעד פיצול הבינה המלאכותית לסוכנים מוגבלים, את הטיעונים נגד, ואיך לנהל כל אחת מהגישות.

מה ההבדל בין מודל יחיד לסוכנים רבים?

בארכיטקטורת מודל יחיד, מודל כללי אחד עונה על כל בקשה ומחובר לכל מקור נתונים וכלי שהוא עשוי להזדקק לו. בארכיטקטורת סוכנים מרובים, סוכנים נפרדים מטפלים במשימות נפרדות, כמו קריאת חשבוניות, בדיקת ספקים או ניסוח תשובות, ומעבירים עבודה ביניהם. מסגרות בקוד פתוח כמו AutoGen נבנו כדי ליצור יישומים מסוכנים המשוחחים זה עם זה.

השאלה לעסק אינה מה מתקדם יותר, אלא מה מגביל נזק כשמשהו משתבש.

האם מערכות מרובות סוכנים בטוחות יותר?

הן יכולות להיות, מסיבה עיקרית אחת: רדיוס הפיצוץ. ההנחיה של OWASP על סוכנות מופרזת מייחסת את הנזק של בינה מלאכותית שהוטעתה לשלוש סיבות שורש: פונקציונליות מופרזת, הרשאות מופרזות ואוטונומיה מופרזת. למודל יחיד המחובר לכל המערכות יש את שלושתן. לסוכן שיכול רק לקרוא חשבוניות, בלי לשלוח דוא״ל או להעביר כסף, יש הרבה פחות לנצל לרעה.

זה חשוב משום שהמתקפה העיקרית על מערכות בינה מלאכותית פועלת באמצעות הזנת הוראות. OWASP מדרגת את הזרקת הפרומפטים ראשונה בין הסיכונים ליישומים המבוססים על מודלי שפה גדולים, ודוח עלות דליפת המידע 2026 של IBM מצא שאירועי הזרקת פרומפטים נגד הבינה המלאכותית של ארגונים גרמו להפסדים ממוצעים של 5.89 מיליון דולר. אם הוראה מוזרקת מגיעה לסוכן עם הרשאות צרות, היא יכולה לעשות פחות.

אותה רשומה של OWASP מזהירה גם מהצד השני: במערכות מרובות סוכנים, סוכן עמית פרוץ הוא בעצמו נתיב תקיפה. סוכנים שסומכים זה על זה בלי בדיקות מפיצים את הבעיה במקום להכיל אותה.

האם זול יותר להשתמש במודלים קטנים רבים?

לעתים קרובות כן. בקשות רבות פשוטות ואינן צריכות את המודל הגדול ביותר. מחקר FrugalGPT בדק שליחת כל שאילתה למודל הזול ביותר שצפוי לענות עליה היטב, והסלמה רק כשצריך. במשימות שנבדקו זה השתווה לביצועי המודל היחיד הטוב ביותר בעלות נמוכה בעד 98%.

החיסכון תלוי בעבודה. מערכת שזקוקה להסקה עמוקה ברוב הבקשות תרוויח פחות.

מה הסיכונים במעבר לסוכנים מרובים?

• מורכבות. יותר סוכנים פירושם יותר חיבורים, יותר פרטי גישה ויותר מקומות לטעות בהגדרות.
• הייפ. גרטנר חוזה שיותר מ-40% מפרויקטי הבינה המלאכותית הסוכנית יבוטלו עד סוף 2027, ומזהירה מפני „הלבנת סוכנים”, צ'אטבוטים ואוטומציות קיימים שמכונים מחדש סוכנים. היא מעריכה שרק כ-130 מאלפי הספקים הטוענים לבינה מלאכותית סוכנית הם אמיתיים.
• אחריותיות. כששרשרת סוכנים מקבלת החלטה, עדיין צריך להיות ברור איזה אדם אחראי לה.

איך זה עוזר מול בינה מלאכותית בצל?

עובדים משתמשים בבינה מלאכותית, מאושרת או לא. מדד מגמות העבודה 2024 של מיקרוסופט ולינקדאין מצא ש-75% מעובדי הידע משתמשים בבינה מלאכותית בעבודה, ו-78% מהם מביאים כלים משלהם. ניתוח: קטלוג של סוכנים מאושרים ומוגדרים היטב למשימות נפוצות נותן לאנשים אפשרות טובה יותר מכלים לא מאושרים, וקל יותר להגן עליו מאשר על איסור.

איך מנהלים סוכני בינה מלאכותית?

מסגרת ניהול סיכוני הבינה המלאכותית של NIST חלה על כל סוכן כמו על המערכת כולה:

1. ממשל: לתת לכל סוכן אחראי בשם ומטרה כתובה.
2. מיפוי: לתעד לאילו נתונים וכלים כל סוכן מגיע, ומה קורה אם הוא מוטעה.
3. מדידה: לבדוק כל סוכן מפני הזרקת פרומפטים ודליפת מידע לפני ההשקה ואחרי כל שינוי.
4. ניהול: לתת גישה מינימלית, לדרוש אישור אנושי לפעולות שמוציאות כסף, מידע או הודעות מהחברה, ולשמור יומנים.
5. להתחיל בקטן. לבנות סוכנים רק היכן שהערך ברור, ולהוציא משימוש את אלה שאינם מצדיקים את עצמם.

על מחיר הדילוג על השלבים האלה, ראו האם קיצוץ בממשל הבינה המלאכותית באמת חוסך כסף?. על סיכוני סוכנים במחשבים אישיים, ראו סוכני בינה מלאכותית מקומיים: פרטיים, אבל האם הם בטוחים?.

שאלות נפוצות

האם מערכות מרובות סוכנים בטוחות יותר ממודל גדול אחד?

הן יכולות להיות, אם כל סוכן מקבל רק את הנתונים והכלים שהמשימה שלו דורשת, כך שתקיפה מוצלחת על סוכן אחד מגיעה לפחות. הן אינן בטוחות מעצמן: יותר סוכנים פירושם יותר חיבורים להגן עליהם ויותר הרשאות לנהל.

האם מודלים קטנים באמת זולים יותר?

לעתים קרובות. מחקר FrugalGPT מצא שניתוב כל שאילתה למודל הזול ביותר שיכול לענות עליה יכול להשתוות לביצועי המודל היחיד הטוב ביותר בעלות נמוכה בעד 98%, במשימות שנבדקו.

מהי בינה מלאכותית בצל?

בינה מלאכותית בצל היא שימוש של עובדים בכלי בינה מלאכותית שהמעסיק לא אישר. מיקרוסופט ולינקדאין מצאו ב-2024 ש-78% ממי שמשתמשים בבינה מלאכותית בעבודה מביאים כלים משלהם.

האם כל חברה צריכה לבנות סוכני בינה מלאכותית עכשיו?

לא. גרטנר חוזה שיותר מ-40% מפרויקטי הבינה המלאכותית הסוכנית יבוטלו עד סוף 2027 בשל עלויות, ערך לא ברור או בקרות סיכון חלשות. התחילו היכן שסוכן מוסיף ערך ברור.

מקורות

1. OWASP (2025), LLM06:2025 Excessive Agency — פונקציונליות, הרשאות ואוטונומיה מופרזות כסיבות שורש; כולל סוכנים עמיתים פרוצים במערכות מרובות סוכנים.
2. OWASP (2025), LLM01:2025 Prompt Injection — הזרקת פרומפטים, כולל הזרקה עקיפה דרך אתרים או קבצים.
3. NIST (2023), Artificial Intelligence Risk Management Framework (AI RMF 1.0) — הפונקציות ממשל, מיפוי, מדידה וניהול.
4. Wu et al. (2023), AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation — מסגרת בקוד פתוח לבניית יישומים מכמה סוכנים המשוחחים זה עם זה.
5. Chen, Zaharia and Zou (2023), FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance — מפלי מודלים השתוו למודל היחיד הטוב ביותר עם הפחתת עלות של עד 98% בניסויים שדווחו.
6. Microsoft and LinkedIn (2024), AI at Work Is Here. Now Comes the Hard Part (Work Trend Index) — 75% מעובדי הידע משתמשים בבינה מלאכותית בעבודה; 78% ממשתמשיה מביאים כלים משלהם.
7. Gartner (2025), Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027 — תחזית ביטולים ו„הלבנת סוכנים”; גרטנר מעריכה שרק כ-130 מאלפי ספקי הבינה המלאכותית הסוכנית אמיתיים.
8. IBM (2026), AI-powered adversaries and the enterprise risk challenge (Cost of a Data Breach Report 2026) — אירועי הזרקת פרומפטים גרמו להפסד ממוצע של 5.89 מיליון דולר.