צ'אטבוט עונה, סוכן גם פועל
צ'אטבוט מנהל שיחה: שואלים אותו שאלה והוא עונה. התפקיד שלו נגמר בתשובה.
סוכן AI מקבל מטרה. הוא מפרק אותה לשלבים, משתמש בכלים כדי לבצע כל שלב, בודק את התוצאה וממשיך עד שהמשימה הושלמה. אם צ'אטבוט יודע לענות מתי יש תור פנוי, סוכן יכול גם לבדוק ביומן, לקבוע את התור ולשלוח אישור.
ממה סוכן AI בנוי
לכל סוכן יש חמישה חלקים, והאיכות שלו תלויה בכל אחד מהם:
- מודל שפה: המנוע שמבין טקסט, מסיק מסקנות ומחליט מה הצעד הבא.
- הוראות: התפקיד של הסוכן, מה מותר לו לעשות ומה אסור, ובאיזה טון לדבר.
- כלים: חיבורים למערכות דרך API, שמאפשרים לסוכן לחפש, לקרוא, לכתוב ולבצע פעולות.
- זיכרון והקשר: מה שהסוכן יודע על השיחה, על המשתמש ועל המידע של הארגון.
- בקרה: כללים, אישור אנושי לפעולות רגישות ותיעוד של כל פעולה שבוצעה.
איך סוכן עובד בפועל
סוכן עובד בלולאה: הוא מקבל משימה, מתכנן, בוחר כלי, מבצע פעולה, מסתכל על התוצאה ומחליט אם להמשיך או לסיים. בכל סיבוב הוא לומד מהתוצאה של הצעד הקודם.
לדוגמה, כשמבקשים ממנו לסכם את הפניות של אתמול ולהעביר את הדחופות לטיפול, הוא קורא את הפניות, מסווג אותן, כותב סיכום ופותח משימה רק עבור מה שסווג כדחוף.
מתי סוכן AI מתאים, ומתי לא
סוכן מתאים במיוחד כשיש:
- משימה שחוזרת על עצמה ויש בה כמה שלבים.
- מידע שמפוזר בכמה מערכות ושצריך לחבר יחד.
- שאלות שהתשובה עליהן נמצאת במסמכים, בנהלים או במאגרי מידע.
- פניות שצריך למיין, לסכם ולהעביר לגורם הנכון.
כשעדיף לוותר על סוכן
כשכלל פשוט פותר את הבעיה, אוטומציה רגילה זולה ויציבה יותר. גם החלטות בעלות סיכון גבוה, כמו העברת כספים או שינוי הסכמים, לא צריכות לרוץ בלי אדם שמאשר. וכשהמידע לא מסודר, כדאי קודם לסדר אותו: סוכן טוב בדיוק כמו המידע שהוא עובד איתו.
סיכונים, ואיך מצמצמים אותם
מודלי שפה יכולים לטעות ולנסח תשובה בטוחה שאינה נכונה. לכן מערכת טובה מבססת כל תשובה על מקור שאפשר לבדוק, ומציגה אותו.
- הרשאות מינימליות: הסוכן מקבל גישה רק למה שהוא צריך למשימה.
- אישור אנושי: פעולות רגישות ממתינות לאישור של אדם לפני ביצוע.
- תיעוד: כל פעולה נרשמת, כך שאפשר לבדוק מה קרה ולמה.
- בדיקות: לפני ההשקה בודקים את הסוכן על עשרות דוגמאות אמיתיות, כולל מקרים קשים.
- פרטיות: בודקים את תנאי השימוש של ספק המודל. רבים מהספקים הגדולים מתחייבים לא לאמן מודלים על מידע שעובר דרך ה-API שלהם, וכשהמידע רגיש במיוחד אפשר להריץ מודל פתוח בשרת פרטי.
איך מתחילים
בוחרים משימה אחת מוגדרת, עם תוצאה שאפשר למדוד. ממפים את המידע והמערכות שהסוכן יצטרך. בונים אב-טיפוס ובודקים אותו על דוגמאות אמיתיות. רק אחרי שהוא עובד טוב במשימה אחת, מרחיבים.