Блок: Старт
Last updated
Last updated
Данный блок всегда начинает нашу цепочку обработки данных в рамках создаваемого бизнес процесса
Описание - указываем какую задачу выполняет данный блок, с какой логики начинается бинес-процесс
Параметр "Количество символов для подгрузки истории" отвечает за подгрузку ранее полученной информации от пользователя, чтобы GPT-модель могла оперировать контекстом прошлых коммуникаций в рамках текущего сценария.
Пример использования:
Пользователь ранее сообщил важные данные, которые связаны с текущим сценарием (например, имя, детали заказа или другие ключевые сведения).
Если эти данные входят в указанные 2048 символов истории, они автоматически подгружаются, и их повторный запрос не требуется.
Регулировка символов:
Вы можете задать любое значение для объёма подгружаемой истории, но важно учитывать, что:
Больше символов — больше контекста, но выше расход токенов.
Меньше символов — ниже расход токенов, но меньше объём доступного контекста.
Влияние на бизнес-процесс:
Подгрузка релевантной информации сокращает время на повторные запросы данных.
Учитывая лимит символов, вы можете оптимизировать работу модели, выбирая наиболее важный объём истории для подгрузки.
Зависимость от GPT-модели: Количество символов влияет на количество токенов, используемых GPT-моделью. Это напрямую связано с затратами на обработку каждого запроса.
Рекомендации:
Установить оптимальный лимит, достаточный для обработки критически важного контекста.
Оценивать стоимость обработки и необходимость в детализации истории для каждого сценария.
Системный промт — это инструкция для чат-бота, задающая его роль и поведение в процессе взаимодействия с пользователем. Промт определяет, как бот должен реагировать на сообщения и выполнять задачи.
Элементы системного промта:
Роль бота:
Задаёт, кем является бот в рамках сценария.
Пример: "Ты — чат-бот, который обрабатывает запросы, связанные с машинами."
Основная задача:
Описывает ключевую цель взаимодействия.
Пример: "На любое сообщение пользователя всегда возвращай вызов одной из заранее определённых функций."
Контекст работы:
Уточняет, как бот должен интерпретировать сообщения пользователя.
Пример: "Обрабатывай запросы и используй вызовы функций для выполнения задач."
Пример использования:
Сценарий: Бот работает в техподдержке и обрабатывает запросы на регистрацию.
Промт: "Ты — бот, который регистрирует классы и обрабатывает запросы пользователей. Твоя задача — анализировать сообщения и возвращать подходящий ответ или функцию."
Зачем нужен:
Для чёткого определения роли и задач бота.
Чтобы бот корректно реагировал на сообщения, следуя заданным инструкциям.
Для ограничения действий бота в рамках заданного сценария.
Итог: Системный промт — ключевой элемент, определяющий поведение бота. Он помогает установить роль, задачи и контекст для правильной работы в сценарии.
Использование нескольких системных промтов
Особенность работы: СВсе системные промпты рассматриваются как совокупный контекст. Если они не противоречат друг другу, модель учитывает их как единый набор инструкций.
Если системные промпты противоречат друг другу (например, один требует формальности, а другой — неформальности), модель пытается найти компромисс. Если компромисс невозможен, приоритет отдается более конкретным или последним инструкциям.
Системные промпты могут обновляться в процессе диалога. Если в какой-то момент контекст меняется, модель будет следовать последним указаниям.ция.
Функции — это дополнительные инструменты, которые можно использовать в сценарии для обработки запросов пользователя. Они позволяют динамически обрабатывать входящие данные, уточнять недостающую информацию и выстраивать взаимодействие с внешними API или JSON.
Каждая функция имеет название и описание, которые объясняют её назначение.
Пример:
Название: cars
Описание: "Когда пользователь хочет узнать о наличии машин, следует вызвать эту функцию."
Для каждой функции задаётся список переменных, с которыми она работает.
Переменные бывают:
Обязательные: данные, без которых функция не может выполнить запрос.
Необязательные: данные, которые могут быть дополнены позже.
Пример:
Переменные: модель, минимальная цена, максимальная цена, цвет
Если пользователь предоставил все необходимые данные (например, "Мне нужна белая Лада Веста"), каждая из сущностей совпадающая с указанным списком переменных сохраняется как переменные.
