Nova AI
1. Общие сведения
Nova AI — это комплексное решение для организации полного жизненного цикла машинного обучения (ML), включающего разработку, обучение, развертывание и сопровождение моделей. Решение построено на базе Kubernetes и интегрирует в себя современные open-source компоненты, а также инструменты NVIDIA для работы с GPU и высокопроизводительными сетями. Решение покрывает основные ML’Ops процессы и следующие функции:
-
Сбор данных — загрузка, подготовка и преобразование данных из различных источников для последующего использования в обучении моделей.
-
Разработка модели — создание и тестирование моделей в интерактивных средах, исследование данных и построение гипотез.
-
Обучение модели — запуск обучающих процессов на масштабируемых ресурсах кластера с поддержкой GPU.
-
Отслеживание и управление экспериментами — фиксация параметров, метрик и результатов экспериментов для воспроизводимости и выбора лучших моделей.
-
Деплой модели — развертывание обученных моделей с поддержкой версионирования и A/B-тестирования.
-
API-доступ к модели — предоставление интерфейсов для интеграции моделей в бизнес-приложения.
-
Мониторинг модели — возможно дополнительно настроить (по умолчанию не настраивается) отслеживание производительности и качества работы модели в эксплуатации, выявление деградации.
-
Хранение данных и артефактов — централизованное управление датасетами, моделями, метаинформацией и результатами обучения.
Далее представлена схема взаимодействия основных компонентов решения.
2. Преимущества Nova AI
-
Сокращение времени на вывод модели в инференс — ускорение полного ML-цикла от обучения до внедрения.
-
Единая платформа — удобная среда для совместной работы ML-инженеров и Data Scientists.
-
Стандартизация процессов ML’Ops — автоматизация пайплайнов, стандартизация и контроль качества.
-
Поддержка аппаратных ускорителей (GPU) — эффективное использование GPU и высокоскоростных сетей.
-
Масштабируемость и отказоустойчивость — устойчивая работа и гибкое расширение ресурсов на базе Kubernetes.