הערה
הגישה לדף זה מחייבת הרשאה. באפשרותך לנסות להיכנס או לשנות מדריכי כתובות.
הגישה לדף זה מחייבת הרשאה. באפשרותך לנסות לשנות מדריכי כתובות.
כאשר אתה מעריך איכות תפעולית, מהימנות ועלות, קח בחשבון את הבחירה של מארח סוכן, כגון Microsoft 365 Copilot (סוכנים הצהרתיים), Copilot Studio (סוכנים מותאמים אישית) או Azure. השאר החלטה זו בנפרד משיטה לעריכה של סוכן. כאשר סוכן פועל או מתארח, הוא קובע את יכולות התזמור שלו, את הגישה למודל ואת התכונות התפעוליות שלו. תכונות אלה משפיעות ישירות על איכות התגובה, הביצועים ועל העלות להפעלת הפתרון בקנה מידה גדול.
מאמר זה מסביר כיצד פלטפורמות מארחות של סוכן משפיעות על יכולות הפתרון. תלמד כיצד שיטות עריכה שונות יכולות ליצור סוכנים באותה פלטפורמת מחשב מארח תוך שמירה על איכות ואופן פעולה עקביים, כיצד שיטת עריכה יחידה יכולה ליצור סוכנים בפלטפורמות שונות עם תוצאות התנהגותיות ואיכות שונות, וכיצד המארח יוצר את פרופיל העלות של הפתרון.
עלות כשיקול יכולת פעולה
התייחס בעלות כמאפיין תפעולי יציב, ולא כשאלת רכש חד-פעמית. שני פתרונות יכולים להפיק תשובות זהות תוך שמירה על סדר גודל שונה בעלות, מכיוון שהעלות מבוססת על אופן הפעולה של הסוכן, ולא רק על מה שהוא מחזיר. הפלטפורמה המארחת מתקנת בנפרד את המנופים הזמינים עבורך:
- צריכת אסימון לכל אינטראקציה. כל הוראה, קטע ידע והגדרת כלי שהמודל מעבד בסבב נתון מחויבים באותו סבב. הקשר קבוע שנטען בכל אינטראקציה כרוך בעלות בכל אינטראקציה, בין אם הוא רלוונטי ובין אם לא.
- מספר תורות המודל. ה- orchestrator קובע כמה פעמים המודל מופעל כדי להשלים משימה. יותר לולאות של קריאות לכלים ויותר תכנון מחדש משמעותם יותר חישובי הסקה.
- בחירת דגם. מודלי הסקה גדולים יותר עולים יותר לכל טוקן ומוסיפים השהיה. המחשב המארח קובע אילו מודלים זמינים ואם באפשרותך לנתב שלבים שונים למודלים שונים.
- דטרמיניזם. עבודה דטרמיניסטית אינה זקוקה להסקת מודלים כלל. העברתו לקוד או לפעולות מסירה הן את עלות האסימון והן את השונות.
הסעיפים הבאים מפרידים את אמצעי הבקרה המשפיעים ביותר על העלות: רתמת התזמור, בחירת המודל ואופן הארכיטקט של הוראות לעומת פעולות דטרמיניסטיות.
Microsoft 365 Copilot אירוח
Microsoft 365 Copilot מספק סביבת אירוח מנוהלת עבור נציגים הצהרתיים עם יכולות מוכללות של פיקוח, אבטחה ותאימות. פלטפורמה זו מציעה מאפייני ביצועים עקביים ללא קשר לשיטה לעריכה שבה אתה משתמש כדי ליצור את הסוכן.
לדוגמה, באפשרותך לערוך סוכנים הצהרתיים באמצעות התכונה Agent Builder ב- Microsoft 365 Copilot, Copilot Studio או Microsoft 365 Agents Toolkit. מארח הסוכן קובע את אפשרויות התזמור, הקטלוג ומודל השפה הזמינות למפתח. אפשרויות אלה הן המשפיעות הגדולות ביותר של איכות תגובה. פלטפורמות עריכה ויצירה צריכות להיות הקריטריון המשני עבור פתרון בשלב המצב התפעולי התפעולי.
פלטפורמות עריכה שונות מספקות רמות משתנות של יכולות תפעוליות התואמות לצרכים ארגוניים שונים ולשלבי מחזור חיים שונים של פיתוח. כל עוד המארח הבסיסי נשאר Microsoft 365 Copilot (סוכנים הצהרתיים), האיכות נשארת עקבית כשאתה מתקדם בין בדי עריכה שונים לעמוד בצרכים התפעוליים שלך.
הטבלה הבאה מסכמת את השיקולים שעבורם פלטפורמת העריכה יש להשתמש עבור סוכנים הצהרתיים כדוגמה אילוסטרציה.
| דרישה | התכונה 'בונה סוכן' ב- Copilot | Copilot Studio | קוד Pro |
|---|---|---|---|
| בעלים של פתרון | יחיד | קבוצה | Enterprise |
| עדכון ותחזוקה | אין ניהול גירסאות | ניהול גירסאות עם עריכה נעולה | ניהול גירסאות עם עריכה בו-זמנית |
| מסגרת הערכה | לוח בדיקה | לוח בדיקה וקוד Pro | ניתן להתאמה אישית מלאה |
| CI/CD | ללא | כמה | כן |
| ניטור בזמן אמת | ללא | ללא | כן |
| טלמטריה | מוגבל | כמה | ניתן להתאמה אישית מלאה |
| עלות/החזר על השקעה | כלול עם Microsoft 365 Copilot | טווחים מרשיון לצריכה | ניתן להתאמה אישית מלאה בהתבסס על אפשרויות Pro-code |
| עלות צריכה של IQ בעבודה | ביסוס Work IQ כלול ברישיון של Microsoft 365 Copilot; משתמשים ללא רישיון מחויבים לפי צריכה | מבוסס על צריכה בנקודות הזיכוי של Copilot (תשלום לפי שימוש או תשלום מראש) | על בסיס צריכה בנקודות הזיכוי של Copilot באמצעות ממשקי ה-API של Work IQ; נמדד ומוגבל במרכז הניהול של Microsoft 365 |
לדוגמה, כאשר סוכן מסתמך על Work IQ לצורך הקשר, אחזור או פעולות, השימוש הזה מחויב באופן משתנה, כאשר עלות הקרדיטים גדלה בהתאם למורכבות התרחיש, כולל גודל ההקשר, עומק ההסקה ומספר השלבים.
הערה
אין מנוי נפרד של Work IQ, SKU או רשיון לכל משתמש. עלויות הצ'אט וההקשר משתנות, ולכן שני סוכנים דומים יכולים לצרוך כמויות שונות מאוד של קרדיטים, בהתאם למידת ההסתמכות שלהם על ההקשר ולכמות ההסקה הרב-שלבית שהם מבצעים. השתמש בלוח המחוונים של ניהול עלויות מרכז הניהול של Microsoft 365 לניטור שימוש אשראי ולהגדיר מגבלות הוצאות עבור דיירים, קבוצות ומשתמשים. דפוסי מיטוב העלויות המופיעים ב-תכנון ארכיטקטורה למיטוב עלויות — מזעור ההקשר שפעיל תמיד והעברת עבודה דטרמיניסטית לסקריפטים ולפעולות — מסייעים לשלוט בהוצאות על Work IQ.
שקול גורמים אחרים, כגון כלי הרמה למפתחים וכלי איתור באגים (לא מוצגים בטבלה). זכור שגורמים אלה מושפעים במידה רבה מתנופת האבטחה של הארגון שלך ומקיבולתה עבור פלטפורמת פיתוח מסוימת.
קדם סוכנים הצהרתיים של Microsoft 365 Copilot שנבנו ב-Agent Builder לסוכן הצהרתי שנכתב באמצעות ערכת הכלים Microsoft 365 Agents Toolkit. אסטרטגיה זו שומרת את Microsoft 365 Copilot בתור המתווך כדי להבטיח התנהגות עקבית של הסוכן. אם סוכן מותאם אישית ניסיוני המוכלל ב- Copilot Studio עומד בקריטריוני הערכת הוכחת הרעיון ופקד המקור נדרשים עבור פעולות ארגוניות, קדם את הסוכן ל- pipeline מנוהל ב- Power Platform. גישה זו מבטיחה שאורקסטור של Copilot Studio ממשיך לשמש כמנגנון העיקרי לשמירה על התנהגות הסוכן.
התזמור ומסגרת ההפעלה של הסוכן
המנצח, או הרתמה, הוא לולאת זמן הריצה שמתכננת שלבים, בוחרת ומפעילה כלים, מנהלת את חלון ההקשר ומחליטה מתי משימה הושלמה. זהו מניע הפעילויות הגדול ביותר הן של איכות התגובה והן של העלות התפעולית, מכיוון שהוא קובע את מספר ההקשרות שמתרחשות, כמה הקשר נצבר בכל סיבוב וכיצד תוצאות הכלי מוכלות בחזרה למודל.
מאחר שפלטפורמת האחסון מספקת את האורקסטרטור, הבחירה בה קובעת במידה רבה את טווח העלויות וההשהיה שלך:
- Microsoft 365 Copilot מספק מתאם מנוהל. אתה מקבל עלות צפויה הכלולה ברשיון והתנהגות עקבית, עם שליטה מוגבלת על הלולאה עצמה.
- Copilot Studio מספק תזמור הניתן להגדרה (לדוגמה, נושאים ותזמור ג'נטיבי). העלות נעה בין מודל מבוסס רישוי לבין מודל מבוסס צריכה, בהתאם לכמות העבודה הגנרטיבית שאתה מעביר למודל.
- Azure וקוד מקצועי מעניקים לך שליטה מלאה על הלולאה. הערך את העלות של תחזוקת קוד בהשוואה למינוף של רתמה או ערכת SDK שמורה היטב כמו Copilot SDK.
כאשר המארח חושף אותם, מנופי התזמור המרכזיים הם:
- תקציב לתור. הגבל או התאם את מספר איטרציות התכנון וקריאות הכלי שהאורקסטרטור מבצע לפני שהוא מחזיר תשובה.
- קריאות לכלים במקביל לעומת קריאות סדרתיות לכלים הפעל קריאות בלתי תלויות לכלי בו-זמנית כדי להפחית את ההשהיה. אחדו קריאות כאשר ניתן כדי לצמצם את מספר סבבי השיחה.
- ניהול הקשר. חתוך, סכם או הגבל את השיחה לחלון הקשר כדי למנוע מההקשר לגדול ללא גבול, וכך לשמור על עלות הטוקנים קבועה בכל תור במקום שתצטבר.
- מטמון. השתמש מחדש בקידומות פרומפט שנשמרו במטמון בין פניות או סשנים, כדי להימנע מחיוב מחדש על הקשר קבוע.
הערה
Orchestrator בעל יכולת גבוהה יותר יכול להעלות את האיכות ואת העלות בו-זמנית. התאם את רמת התחכום של התזמור למשימה. סוכן בדיקת מידע פשוט אינו זקוק לתכנון generative רב-שלבי, ותשלום עליו מנפח את העלות מבלי לשפר את התוצאות.
בחירת מודל
המודל שתבחר משפיע על העלות וההשהיה לפי אסימון, והוא אינו תלוי בנפרד משיטה העריכה. מודלים גדולים יותר של סיבתיות מספקים תוצאות באיכות גבוהה יותר בפעילויות מורכבות, אך העלות גבוהה יותר לכל אסימון ומגיבים לאט יותר. התאם את המודל לק קשה במשימה במקום להגדיר כברירת מחדל את האפשרות המסוגלת ביותר עבור כל פעילות.
אדריכל לניתוב מודל כאשר המארח תומך בו:
- הקצו מודלי היסק מתקדמים לשלבים קשים באמת, כגון היסק דו-משמעי, סינתזה או גנרציה פתוחה.
- נתבו תתי-משימות דטרמיניסטיות או פשוטות, כגון סיווג, חילוץ, עיצוב והחלטות ניתוב, למודלים קטנים, זולים ומהירים יותר.
- ערבב מודלים בתוך סוכן יחיד כאשר ה- orchestrator תומך בבחירה של מודלים לפי שלב, כך שכל שלב משלם רק עבור היכולת הדרושה לו.
הפלטפורמה המארחת קובעת אילו מודלים נמצאים בקטלוג, אם באפשרותך לנתב לפי שלב, את חלון ההקשר המרבי (חלונות גדולים יותר מאפשרים הקשר גדול יותר אך העלות גדולה יותר לפי סיבוב), ואם אחסון במטמון של בקשות זמין. אמת יכולות אלה כחלק מההחלטה של המארח, מכיוון שהן מגדילות את מיטוב העלות ברמת המודל שניתן לבצע מאוחר יותר.
תכנון עבור מיטוב עלות
מעבר לבחירת מארח, מתזמר ומודל, האופן שבו אתם מבנים את ההוראות והפעולות של הסוכן משפיע ישירות ובאופן מתמשך על העלויות. שני עקרונות מדריך עיצוב חסכוני:
אל תשלמו על אינפרנס של מודל עבור משימות דטרמיניסטיות. אגד פעולות דטרמיניסטיות לקבצי Script, פעולות או מחברים במקום לתאר אותם כהוראות בשפה טבעית שהמודל צריך לפרש בכל הפעלה. הקוד רץ פעם אחת בלבד, בעלות נמוכה, עם פלט צפוי, ללא עלות טוקנים, ועם פחות שונות בתוצאות. שימוש בשפה טבעית עבור אותו הליך מצריך הרצת היסק בכל פעם, ועלול להניב תוצאות לא עקביות.
אל תשלם עלות אסימונים קבועה עבור הוראות שבהן אתה משתמש לעיתים רחוקות. הוראות ברמת הסוכן שנטענו מראש חויבות בכל סיבוב של כל אינטראקציה, גם כאשר הם אינם רלוונטיים לבקשת המשתמש. טעינת הדרכה וידע לפי דרישה, רק כאשר המשימה תואמת, פירושה שאתה משלם עבור הקשר זה כאשר נעשה בו שימוש בפועל, ולא ברציפות. תבנית זו של חשיפה הדרגתית שומרת על העלות הבסיסית של כל אינטראקציה נמוכה.
הטבלה הבאה מסכמת מתי יש לטעון מראש הוראות לתוך הסוכן לעומת מתי לדחוף עבודה לתוך קבצי Script דטרמיניסטיים או משאבים לפי דרישה.
| טעינה מראש של הוראות ברמת הסוכן כאשר... | שימוש בקבצי Script, פעולות או משאבים לפי דרישה כאשר... |
|---|---|
| אופן הפעולה חל על כמעט כל אינטראקציה (תפקיד ליבה, טון, מעקות בטיחות). | אופן הפעולה הוא ספציפי למשימה או רלוונטי רק מעת לעת. |
| ההדרכה קצרה ורלוונטית תמיד. | ההנחיה ארוכה, או נתמכת על ידי חומרי עזר או חומרי ידע בהיקף נרחב. |
| המודל באמת צריך סיבה או להתאים את אופן הפעולה. | הפעולה היא דטרמיניסטית, חוזרת וניתנת להפעלה, ויש לה פלט מוגדר היטב. |
| השהיה הנגרמת מאחזור נוסף או מקריאה נוספת לכלי תפגע בחוויית המשתמש. | העלות באסימונים של החזקת הקונטקסט בכל פנייה גבוהה יותר מטעינה מזדמנת שלו. |
סוכן חסכוני בעלויות שומר על ההנחיות הקבועות שלו מינימליות ומתמקדות בזהות ובבטיחות. הוא מטפל בהליכים קבועים כקבצי Script או פעולות ומספק ידע מיוחד והדרכה ספציפית למשימה כמהמשאבים לפי דרישה אשר נטענים רק כאשר הם רלוונטיים. גישה זו מפחיתה את עלות הטוקנים עבור כל אינטראקציה, הופכת את ההתנהגות לצפויה יותר, ושומרת על הפרומפט המרכזי קטן וקל יותר לתחזוקה מבלי לפגוע ביכולות.
השלב הבא
למד כיצד למדוד את איכות הסוכן, לאמת ביצועים בתרחישים מגוונים ולהבטיח מוכנות תפעולית לפני הפריסה באמצעות מסגרות הערכה.