התשובה הקצרה
לפני שמעלים צ׳אטבוט AI לאוויר, בדקו עשר נקודות: היעד העסקי, המשתמשים והגבולות, בסיס הידע, המעבר לנציג, הרשאות ונתונים, פעולות מותרות, אינטגרציות, בדיקות, ניטור ואחריות. צ׳אטבוט מוכן כשהעסק שולט גם במה שקורה כשהתשובה אינה ודאית.
1. איזה יעד הוא אמור לשפר?
בחרו משימה ראשית אחת: שאלות לפני מכירה, סינון פניות, איתור מידע או ניתוב תמיכה. הגדירו את הפעולה העסקית הבאה. “להשתמש ב-AI” אינו יעד מדיד.
2. מי המשתמשים ומה מחוץ לתחום?
רשמו קהלים, שפות, שעות פעילות ונושאים שבהם הבוט חייב לסרב או להעביר לנציג. הציגו את הגבולות. עוזר ממוקד עם מסלול הסלמה בטוח יותר מבוט כללי.
3. על איזה ידע מותר לו להסתמך?
אשרו עמודים, מסמכים, נתוני מוצר ומדיניות. הגדירו בעלים ותאריכי בדיקה. כשהמקורות חסרים או סותרים, עליו לציין זאת ולהציע צעד הבא.
4. מה קורה כשאין ודאות?
קבעו מתי לאסוף פרטים, לפתוח קריאה, להעביר לאדם או לעצור. בדקו את ההעברה ואת ההקשר שמקבל הנציג.
5. אילו נתונים הוא רואה ושומר?
מפו מידע אישי ומסחרי רגיש. צמצמו איסוף, הגדירו שמירה, הגבילו גישה ותעדו מה נשלח לספק המודל. OWASP מציינים חשיפת מידע רגיש וטיפול שגוי בפלט כסיכוני LLM.
6. אילו פעולות מותרות?
הפרידו בין מענה לפעולה. שינוי הזמנה, הודעה, הנחה או כתיבה ל-CRM דורשים הרשאות מינימליות, אימות ואישור אנושי לפי הסיכון.
7. איך הוא מתחבר לתהליך?
הגדירו את החיבורים לאתר, ל-CRM, למערכת התמיכה, ליומן, לאימייל או ל-WhatsApp, כולל שדות, טיפול בכפילויות, התנהגות במקרה שגיאה והבעלות על כל אינטגרציה. התהליך הבא חייב לקבל את הנתונים הנכונים.
8. איך תבדקו אותו לפני ההשקה?
בנו בדיקות משאלות אמיתיות, מקרי קצה, ניסוחים בכמה שפות, בקשות עמומות, ניסיונות לעקוף הוראות ותרחישים עם מידע רגיש. בדקו תשובות, ניתוב, הרשאות, לוגים והתאוששות. בהנחיות הייצור של OpenAI מודגשים גם אמינות, ניטור ואמצעי הגנה תפעוליים.
9. מה תנטרו אחרי ההשקה?
עקבו אחר שאלות ללא מענה, העברות לנציג, אינטגרציות שבורות, משוב, זמני תגובה ועלות. בדקו דגימות שיחה במסגרת פרטיות מתאימה והפכו כשלים חוזרים לעדכונים.
10. מי אחראי עליו אחרי ההשקה?
מנו אחראי תוכן, בעלים טכני, אחראי הסלמה ומקבל החלטות במקרה אירוע. קבעו תהליך שינוי ותכנית חזרה לאחור.
Проверка Go/No-Go
Не запускайте, если команда не знает источник информации, разрешённые действия, сценарий ошибки и получателя эскалации. Начните с узкого процесса и расширяйте его после проверки контролей.
См. руководство о необходимости AI-чатбота и чеклист сайта для обращений. Источники: OWASP и OpenAI.