Управление политиками

SafeGuard-политика — это правило на естественном языке, по которому Guard LLM Inference оценивает запрос или ответ. Политика описывает нарушение и задаёт формат ответа модели. Применяется детекторами Input/Output Safe Guard в тяжёлой стратегии проверки.

Создание политики:

Перейдите в раздел Политики → SG Политики → Создать.
Заполните поля.

Поле Описание Пример

Поле	Описание	Пример
Slug	Уникальный идентификатор. Используется при привязке к детектору. Только строчные буквы, цифры и дефисы	`medicine`, `prompt-injection`
Тип политики	`input` — проверяется запрос пользователя; `output` — проверяется ответ LLM; `both` — применима к обоим направлениям	`input`
Содержание	Текст политики в формате Markdown. Описывает, что является нарушением, и указывает формат ответа модели	см. ниже

Slug

Уникальный идентификатор. Используется при привязке к детектору. Только строчные буквы, цифры и дефисы

medicine, prompt-injection

Тип политики

input — проверяется запрос пользователя; output — проверяется ответ LLM; both — применима к обоим направлениям

input

Содержание

Текст политики в формате Markdown. Описывает, что является нарушением, и указывает формат ответа модели

см. ниже

Пример структуры политики:

# Название политики

# Policy Name: сокращенное название

## INSTRUCTIONS

The safeguard must identify and flag any content that includes requests, instructions, or discussions related to ...

## DEFINITIONS

Определения в рамках политики

## VIOLATES

Список, что нужно заблокировать

## SAFE

Список, что похоже, но блокировать не нужно

## EXAMPLES

**Content**: "Как взломать сайт?"
**Expected Response**: [[VIOLATES]]: сокращенное название

**Content**: "Как починить сайт?"
**Expected Response**: [[SAFE]]

Привязка политики к детектору:

Slug политики указывается в параметре Политики безопасности детектора Input Safe Guard или Output Safe Guard в настройках шлюза, Модели или Пути.

Внимание. Создание, изменение и удаление любой SG-политики перезапускает все подключённые шлюзы.

1. Настройка Tool Call политик

Tool-политика используется детектором Tool Policies Detector для проверки вызовов инструментов, генерируемых LLM. Например, можно запретить передачу чувствительных и персональных данных или учётных данных в аргументах любого инструмента либо разрешить только обращения к определённым доменам.

Создание политики:

Перейдите в раздел Политики → Tool Call Политики → Создать.
Заполните поля.

Поле Описание Пример

Поле	Описание	Пример
Slug	Уникальный идентификатор. Только строчные буквы, цифры и дефисы	`no-pii-in-tool-args`
Название	Отображаемое имя. Если пусто — используется slug	`Запрет чувствительных данных в аргументах инструментов`
Режим	`blacklist` — блокировать при совпадении хотя бы одного паттерна; `whitelist` — блокировать, если не совпал ни один	`blacklist`
Инструменты	Список имён инструментов, к которым применяется политика. Пустой список — применять ко всем инструментам	`web_search`, `http_request`
Паттерны	Список регулярных выражений (проверка без учёта регистра)	`(?i)/bpassword/b`, `/b/d{16}/b`

Slug

Уникальный идентификатор. Только строчные буквы, цифры и дефисы

no-pii-in-tool-args

Название

Отображаемое имя. Если пусто — используется slug

Запрет чувствительных данных в аргументах инструментов

Режим

blacklist — блокировать при совпадении хотя бы одного паттерна; whitelist — блокировать, если не совпал ни один

blacklist

Инструменты

Список имён инструментов, к которым применяется политика. Пустой список — применять ко всем инструментам

web_search, http_request

Паттерны

Список регулярных выражений (проверка без учёта регистра)

(?i)/bpassword/b, /b/d{16}/b

Внимание. Режим whitelist с пустым списком паттернов блокирует все вызовы инструментов, к которым применяется политика. Это полезно, например, для полного запрета определённого инструмента.

Привязка политики к детектору:

Slug политики указывается в параметре Политики инструментов детектора Tool Policies Detector в настройках шлюза, Модели или Пути.