Главный MLOps (Платформа ИИ)
Описание
Чем предстоит заниматься: Проектирование, развёртывание и развитие инфраструктуры платформы искусственного интеллекта (on‑prem и облако): Kubernetes‑кластеры, GPU‑ноды, storage, сети, безопасность; Построение и поддержка CI/CD/CT‑пайплайнов для ML‑моделей и сервисов: от артефакта DS до продакшн‑инференса с откатами и канареечными релизами; Интеграция и эксплуатация LLM/ML‑сервисов для внутренних команд и рыночных внедрений: упаковка моделей в сервисы, конфигурация autoscaling, SLA, observability; Настройка мониторинга и алертинга по инфраструктуре и моделям (метрики ресурсов, latency, ошибки, дрейф данных), реагирование на инциденты, участие в post‑mortem; Автоматизация ML‑пайплайнов: подготовка данных, обучение, переобучение, регистрация моделей, управление версиями и окружениями; Поддержка внедрений у клиентов: тиражирование платформенных компонентов, адаптация инфраструктуры под контур заказчика, участие в performance‑оптимизации и cost‑cutting (GPU/CPU). Здорово, если у тебя есть: Оконченное высшее образование (IT, техническое, математическое); Коммерческий опыт в роли от 5 лет; Глубокое понимание жизненного цикла ML‑модели: от экспериментов до продакшн‑инференса и мониторинга; Уверенный Linux, сетевые основы, безопасность, работа с контейнерами и оркестраторами; Опыт построения CI/CD‑пайплайнов для сервисов и ML‑артефактов (Docker images, модели, данные); Опыт с LLM/GenAI‑платформами: vLLM, TGI, Hugging Face, Triton/ONNX Runtime, оптимизация инференса; Опыт построения feature store, model registry, ML pipelines (Kubeflow, MLflow, Airflow, Argo Workflows); Опыт работы в гибридной инфраструктуре: on‑prem кластеры + публичные облака (T1 Cloud, VK Cloud, Yandex Cloud и др.); Понимание cost‑optimization: FinOps для GPU/CPU, автобалансировка нагрузок; Опыт проектирования и развёртывания инфраструктуры платформы ИИ (кластер Kubernetes, storage, сети, security) под LLM/ML‑нагрузки; Опыт построения воспроизводимых ML‑пайплайнов: обучение, валидация, packaging модели, деплой в batch и real‑time режимах; Опыт настройки мониторинга моделей: метрики качества, дрейф данных, latency/throughput, автоматический rollback и retraining‑триггеры; Опыт совместной работы с DS/разработчиками и внедренцами: перевод экспериментальных ноутбуков в надёжные сервисы для внутренних и внешних клиентов.