Nova AI. Требования к установке
1. Общие требования
Для установки модуля Nova AI в Nova Container Platform должны быть выполнены следующие условия:
-
Nova Container Platform должна иметь версию v7.3.0 и выше.
-
У вас есть доступ к кластеру с учетной записью, имеющей роль
cluster-adminв Kubernetes. -
На worker-узлах кластера достаточно ресурсов для запуска компонентов Nova AI, либо для размещения Nova AI подготовлены отдельные узлы кластера Kubernetes.
-
Если установка производится в закрытом сетевом окружении, обновите Universe до 2.1.17 по инструкции.
|
Для корректной установки MLInfrastructure на воркер-узлах с GPU версии ОС должны быть одинаковыми. |
-
Если платформа установлена c переопределением
spec.clusterConfiguration.extraOptions.ingressTLSConfig, то при установке ресурса MLCluster не будет доступен UI компонента MinIO.
Ниже приведены минимальные и рекомендуемые конфигурации для установки кластера. Фактические требования могут увеличиваться в зависимости от нагрузки и выбранных компонентов.
Конфигурация кластера без дополнительных компонентов представлена в разделе Подготовка вычислительных ресурсов. При планировании вычислительных ресурсов необходимо учесть, что для Nova AI могут потребоваться дополнительные компоненты.
2. Требования к компонентам
Название компонента |
Обязательно |
Узлы |
CPU |
RAM, Гб |
Примечание |
Postgresql |
Да |
Worker |
0.5 |
0.5 |
Необходимо скорректировать распределение ресурсов для запуска всех последующих нагрузок. |
MinIO |
Да |
Worker |
0.5 |
1 |
Необходимо скорректировать распределение ресурсов для запуска всех последующих нагрузок. |
MLFlow |
Да |
Worker |
0.5 |
0.5 |
Необходимо скорректировать распределение ресурсов для запуска всех последующих нагрузок. |
Airflow |
Нет |
Worker |
2.5 |
3 |
Для Airflow указаны минимальные требования, необходимые для установки основных компонентов. Создание всех последующих worker подов будет требовать минимум 100m CPU, 128Mi. |
Gitea |
Да |
Worker |
0.5 |
0.5 |
Необходимо скорректировать распределение ресурсов для запуска всех последующих нагрузок. |
Jupyterhub |
Да |
Worker |
1.5 |
4 |
Необходимо скорректировать распределение ресурсов для запуска всех последующих нагрузок. |
Kserve |
Да |
Worker |
0.5 |
0.5 |
Для Kserve указаны минимальные требования, необходимые для установки оператора. Минимально для развертывания модели в зависимости от инференс бекенда требуется 1 CPU, 2 GI. |
Kuberay |
Да |
Worker |
0.5 |
0.5 |
Для Kuberay указаны минимальные требования, необходимые для установки оператора. Для установки RayCluster, RayJob / RayService, см. документацию для Ray (рекомендуем min 2 CPU, 4 GB для двухнодового RayCluster) |
Node Feature Discovery |
Да |
Master |
0.5 |
0.5 |
Необходимо скорректировать распределение ресурсов для запуска всех последующих нагрузок. |
Infra |
0.5 |
0.5 |
|||
Worker |
0.5 |
0.5 |
|||
Nvidia GPU Operator |
Да |
Master |
0.5 |
0.5 |
Необходимо скорректировать распределение ресурсов для запуска всех последующих нагрузок. |
Worker |
0.5 |
1 |