«Лаборатория Числитель» представила отдельную редакцию контейнерной платформы «Штурвал» для ML- и AI-нагрузок. «Штурвал ML/AI» запускает задачи на CPU и GPU в одном кластере и обеспечивает весь путь модели: от эксперимента в ноутбуке до сервиса в продакшене. В том же кластере можно развернуть большие языковые модели: открытые LLM вроде Qwen и DeepSeek. Драйверы, GPU-оператор, Kubeflow, MLflow и средства безопасности устанавливаются и обновляются вместе с кластером.
По расчетам разработчика, платформа сокращает затраты на GPU и эксплуатацию до 80%.
В первую очередь редакция помогает сократить простой дорогостоящих ускорителей. Когда ИИ-проекты растут, компаниям приходится делить GPU между командами, добиваться воспроизводимости ML-экспериментов и поддерживать сложный технологический стек. Самостоятельная настройка драйверов, средств управления GPU, ML-инструментов и защиты требует значительных ресурсов инфраструктурных специалистов.
ML/AI Edition закрывает эти задачи готовой интеграцией инструментов MLOps с корпоративной Kubernetes-платформой. Вместо отдельных серверов под каждую команду или проект компания может собрать общий пул вычислительных ресурсов и распределять его по текущей нагрузке. Для этого платформа делит совместимые ускорители на независимые вычислительные экземпляры с помощью технологии NVIDIA Multi-Instance GPU (MIG), квотирует ресурсы между командами и следит за загрузкой видеокарт.
Помимо управления вычислительными ресурсами, ML/AI Edition предоставляет:
- Kubeflow и MLflow из коробки. Доступны Notebooks (разработка), Pipelines (воспроизводимые пайплайны), Training Operator (распределенное обучение) и Katib (подбор гиперпараметров). MLflow ведет учет экспериментов и управляет версиями моделей, а датасеты и артефакты хранятся в S3.
- Инференс на одном кластере с обучением. Модели публикуются через KServe; классические модели работают в готовых средах выполнения (sklearn, XGBoost, TorchServe, Triton). Манифесты доставляются через Argo CD.
- LLM и ИИ-агенты. Открытые языковые модели вроде Llama, Qwen и DeepSeek запускаются в том же кластере и обслуживаются через vLLM, а публикуются так же, как и остальные модели, через KServe. Кроме LLM, платформа поддерживает ИИ-агентов (GigaChat Enterprise, Just AI Agent Platform, LangGraph и n8n) и готовые решения: SimpleOne GenAI, Sherpa AI, Directum и Docsvision.
- Обновление одной операцией. Ядро, containerd, Kubernetes и ML-стек обновляются вместе. За проверку совместимости компонентов и исправление найденных уязвимостей отвечает команда «Штурвала». Обновления можно сначала развернуть на тестовом кластере и только после этого — в продуктивной среде.
- Единое управление и доступ. ML-кластеры, песочницы и продуктивные среды создаются и отслеживаются из одного кластера управления. Доступ организован через SSO (LDAP/OIDC) и единый RBAC: права на Kubeflow выдаются в интерфейсе платформы вместе с доступом к кластеру; пользователи входят под корпоративной учетной записью.
- Безопасность. Образы сканирует Trivy, в том числе по базе уязвимостей ФСТЭК; политики для подов ML-нагрузок применяет Kyverno. События аудита уходят в SIEM, syslog и Elasticsearch. Платформа работает в закрытом контуре: установка и обновления выполняются из зеркала образов.
«Корпоративным ML-командам сегодня больше мешает инфраструктура, чем нехватка моделей: GPU простаивают, а каждое обновление драйверов превращается в отдельный проект. В “Штурвал ML/AI” графическая карта становится ресурсом кластера, и ее получает задача из очереди, а не конкретный человек. Сборку, обновление и контроль безопасности ML-стека платформа берет на себя, так что команды могут заниматься моделями», — отметил Владимир Утратенко, CPO «Штурвала».
Редакция поддерживает гибридные сценарии развертывания. Например, компания может использовать виртуальные машины (zVirt, vSphere, OpenStack или Yandex Cloud) для обычных вычислительных нагрузок, а физические серверы с GPU — для обучения и запуска ИИ-моделей. Каждая группа узлов настраивается автоматически под свой тип и масштабируется по нагрузке, а все кластеры управляются из одного интерфейса. Поддерживаются Astra Linux, РЕД ОС, Rosa, Alt Linux, Ubuntu, Debian; стек рассчитан на ускорители NVIDIA A100, H100 и L40S.
Кому будет полезен «Штурвал ML/AI»:
- DevOps-инженерам и платформенным командам. Не нужно вручную обходить узлы и вести матрицу версий драйверов. ML-кластер живет по тем же правилам, что и остальные кластеры «Штурвала».
- ИТ-руководителям. Закупки GPU можно обосновать фактической загрузкой, а расходы на эксплуатацию проще прогнозировать. Обновления и исправления безопасности входят в поставку.
- ML-инженерам. Модель проходит путь от ноутбука до сервиса инференса в одной среде. Есть декларативные манифесты и REST API, вход под корпоративной учетной записью.
- Специалистам по ИБ и организациям с требованиями регуляторов. Платформа работает в закрытом контуре, с единой моделью прав, сканированием образов по базе ФСТЭК и передачей событий аудита во внешние системы.
Подробнее о редакции можно узнать на сайте платформы «Штурвал».
Возврат к списку