Короткий ответ
Перед запуском AI-чатбота проверьте десять вещей: цель, пользователей и границы, базу знаний, передачу сотруднику, права и данные, разрешённые действия, интеграции, тестирование, мониторинг и ответственность. Бот готов, когда бизнес контролирует и ситуацию с неопределённым ответом.
1. Какой результат он должен улучшить?
Выберите одну задачу: вопросы до покупки, квалификация обращений, поиск информации или маршрутизация поддержки. Опишите следующее действие. «Использовать AI» — не измеримая цель.
2. Кто пользователи и что запрещено?
Определите аудиторию, языки, часы работы и темы для отказа или передачи сотруднику. Покажите границы в приветствии.
3. На какие знания он может опираться?
Утвердите страницы, документы, данные о продукте и политики. Назначьте владельцев и даты проверки. При неполных или противоречивых источниках бот должен признать неопределённость.
4. Что происходит при сомнении?
Определите, когда собирать контакты, создавать тикет, переводить диалог человеку или останавливать сценарий. Проверьте контекст, который получает сотрудник.
5. Какие данные он видит и хранит?
Разберите персональные и коммерчески чувствительные данные. Минимизируйте сбор, задайте сроки хранения, ограничьте доступ и документируйте передачу провайдеру модели. OWASP выделяет раскрытие чувствительной информации и неправильную обработку вывода как риски LLM-приложений.
6. Какие действия разрешены?
Отделите ответы от действий. Изменение заказа, отправка сообщения, скидка или запись в CRM требуют минимальных прав, проверки и, при необходимости, одобрения человека.
7. Как он встраивается в процесс?
Опишите подключения к сайту, CRM, поддержке, календарю, email или WhatsApp, поля, дубли, ошибки и владельца интеграции. Следующий процесс должен получить правильные данные.
8. Как проверить до запуска?
Соберите реальные вопросы, крайние случаи, разные языки, неоднозначность, попытки обойти инструкции и сценарии с чувствительными данными. Проверяйте ответы, маршрутизацию, права, логи и восстановление. В рекомендациях OpenAI для production важны надёжность, мониторинг и операционные меры защиты.
9. Что отслеживать после запуска?
Следите за вопросами без ответа, эскалациями, сбоями интеграций, отзывами, задержкой и стоимостью. Регулярно обновляйте базу знаний и правила.
10. Кто отвечает после запуска?
Назначьте владельцев контента, техники, эскалаций и инцидентов. Нужны процесс изменений и план отката.
Проверка Go/No-Go
Не запускайте, если команда не знает источник информации, разрешённые действия, сценарий ошибки и получателя эскалации. Начните с узкого процесса и расширяйте его после проверки контролей.
См. руководство о необходимости AI-чатбота и чеклист сайта для обращений. Источники: OWASP и OpenAI.