Управление моделями

Модель — это описание подключения к конкретному LLM-провайдеру и цель шлюза, работающего в режиме reverse proxy. Один шлюз может использовать несколько моделей (например, основную и резервную).

Поддерживаемые провайдеры:

любые сервисы с OpenAI-совместимым API — OpenAI, OpenRouter, LiteLLM, Ollama, локальные развёртывания vLLM и др.;
любые сервисы с Anthropic-совместимым API — Anthropic API, LiteLLM и др.

Создание модели:

Перейдите в раздел Бэкенд → Модели → Создать.
Заполните поля идентификации и конфигурации.

Поле Описание Пример

Поле	Описание	Пример
Название	Уникальное имя модели внутри платформы. Именно оно передаётся клиентом в поле `model` запроса	`gpt-4o-main`
Модель	Имя модели, передаваемое в API-запросе к провайдеру	`openai/gpt-4o`
Базовый URL API	Базовый URL API провайдера	`https://api.openai.com/v1`
API-ключ	Ключ для аутентификации в провайдере. Хранится в зашифрованном виде; при редактировании пустое поле означает «не менять»	`sk-…`

Название

Уникальное имя модели внутри платформы. Именно оно передаётся клиентом в поле model запроса

gpt-4o-main

Модель

Имя модели, передаваемое в API-запросе к провайдеру

openai/gpt-4o

Базовый URL API

Базовый URL API провайдера

https://api.openai.com/v1

API-ключ

Ключ для аутентификации в провайдере. Хранится в зашифрованном виде; при редактировании пустое поле означает «не менять»

sk-…

При необходимости настроить маршрутизацию через HTTP-прокси.

Поле Описание Пример

Поле	Описание	Пример
Схема	Протокол до прокси: `HTTP` или `HTTPS`	`HTTP`
Хост	Адрес прокси-сервера	`proxy.corp.example.com`
Порт	Порт прокси-сервера	`3128`
Пользователь	Имя пользователя (опционально)	`proxyuser`
Пароль	Пароль (опционально). Хранится в зашифрованном виде; при редактировании пустое поле означает «не менять»	—

Схема

Протокол до прокси: HTTP или HTTPS

HTTP

Хост

Адрес прокси-сервера

proxy.corp.example.com

Порт

Порт прокси-сервера

3128

Пользователь

Имя пользователя (опционально)

proxyuser

Пароль

Пароль (опционально). Хранится в зашифрованном виде; при редактировании пустое поле означает «не менять»

—

Задайте параметры биллинга.

Поле	Описание
Тип токенов	Что учитывать при расчёте лимитов и стоимости: «Входные», «Выходные» или «Оба»
Цена входных (за 1M)	Стоимость 1 млн входных токенов
Цена выходных (за 1M)	Стоимость 1 млн выходных токенов

Поле

Описание

Тип токенов

Что учитывать при расчёте лимитов и стоимости: «Входные», «Выходные» или «Оба»

Цена входных (за 1M)

Стоимость 1 млн входных токенов

Цена выходных (за 1M)

Стоимость 1 млн выходных токенов

В блоке Управление доступом привязать модель к нужным шлюзам и при необходимости ограничить доступ по пользователям или группам.
При необходимости переопределить обработку вложений (Первичная настройка) и настройки детекторов (Первичная настройка). image::model_config.png[align=center,max-width=80%]

Ограничение по режиму шлюза. Модель нельзя привязать к шлюзу, работающему в режиме forward proxy: такому шлюзу назначаются только Пути. Попытка сохранить несовместимую привязку отклоняется с пояснением.