DevOps инженер по безопасности ИИ
Описание
В Дирекции ИТ Центрального офиса федеральной розничной сети лента открыта вакансия DevOps инженера по безопасности ИИ. ИТ-команда "ЛЕНТЫ" - одна из сильнейших в ритейле, на плечах которой непрерывная работа корпоративной сети, информационная стабильность и безопасность. Сила "ЛЕНТЫ" в ее сотрудниках и мы предлагаем Вам стать частью большой, но сплоченной команды профессионалов! Ваши задачи: - Безопасный инференс LLM: локально в защищённом облаке и через внешние шлюзы. - Работа с моделями: DeepSeek, Qwen, специализированные модели для разработки, малые модели (Whisper, GigaAM и др.). - Развёртывание новых моделей: быстрый деплой + обязательная проверка ИБ. - Выбор моделей под задачи: бенчмарки, сравнение (GLM, DeepSeek и аналоги). - Снятие метрик: latency, обрывы, TTFT. - Разделение разработки: супер-критичная — только локально, остальное — в облаке. Шлюзы доступа к внешним моделям: - Прокси-шлюз для обхода блокировок, оплата агрегатору по токенам с корп. счёта. - Работа через OpenRouter, подключение новых моделей за 15 минут. - Внутренний шлюз в контуре (LiteLLM). - Закрытие несанкционированных точек подключения к агрегаторам. - Биллинг, квотирование, управление ключами, мультитенантность. ИБ-слой и AI Firewall: - Внедрение AI firewall, PII-маскирование и демаскирование. - Детектирование КТ, гварды, работа с перечнем угроз. - Плотное взаимодействие с ИБ. Ждем от вас: Опыт построения безопасного инференса LLM (локально и в облаке). Понимание AI Security: PII, guardrails, prompt injection, data leakage, КТ. Практика с LiteLLM, OpenRouter, прокси-шлюзами, биллингом по токенам. Опыт с AI firewall и системами маскирования/демаскирования. Работа с локальными харнессами (opencode, qwencode, Claude Code, Codex) и sandbox. Observability: LangFuse, Prometheus, Grafana. Понимание MCP, MCP registry, интеграций с k8s, Jira, Confluence, GitLab, Exchange. Опыт с RAG, Vector DB, hybrid search, LangChain / LangGraph / Mastra. Взаимодействие с ИБ: согласование доступов, заявок, групп пользователей. Понимание мультитенантности, квотирования, управления ключами. Будет плюсом: Опыт с OpenWebUI, ботами в корпоративных мессенджерах. Знание SAP-интеграций через MCP. Опыт построения изолированных контуров и «карантина» для внешней разработки. Понимание бенчмарков моделей и выбора моделей под задачи. Опыт с Whisper, GigaAM и другими малыми моделями. Понимание TTFT, latency, обрывов, работы без SLA на старте. Мы предлагаем: Участие в масштабных проектах по кибербезопасности в федеральной компании. Конкурентную заработную плату и социальный пакет, годовое премирование по результатам работы. Оформление в аккредитованную ИТ-компанию. Профессиональное развитие и обучение за счёт работодателя. Удаленный/гибридный формат работы; Команду профессионалов и культуру, ориентированную на безопасность. Роль на стыке AI Security и платформенной инженерии. Возможность строить безопасный ИИ-контур с нуля. Работа с современными моделями, харнессами, MCP и агентскими фреймворками. Прямое взаимодействие с ИБ и влияние на стандарты. Пространство для закрытия «не проработанных» тем.