LLM-Backend Engineer Middle / Middle+ (Python)

Описание

Локация: гибридный формат, офис работодателя в Москве, Кутузовский проспект, 32 к.1
Компания
СБЕР развивает команду БЛиК, которая автоматизирует бизнес-процессы с помощью AI-инструментов и делает AI-решения доступными сотрудникам.
Что делать

Разрабатывать и сопровождать backend AI-агентов, включая оркестрацию графов LangGraph: состояния, ветвления, циклы, human-in-the-loop, retry и fallback.
Проектировать и версионировать инструменты агентов и интегрировать их с внутренними системами банка через REST, gRPC, MCP и A2A.
Настраивать промпты и источники данных для RAG, оценивать ответы моделей по точности, релевантности и качеству.
Упаковывать сервисы в Docker и выводить их в production Kubernetes.
Проектировать эксперименты и A/B-тесты над промптами, пайплайнами и конфигурациями моделей, а также развивать систему eval с наборами задач, сценариями и метриками accuracy, relevance и robustness.
Оптимизировать конфигурации моделей и агентов, настраивать мониторинг латентности, токенов и стоимости, участвовать в решении сложных задач внедрения AI и проводить код-ревью.

Требования

Практический опыт работы с LLM: промпт-инжиниринг, сборка пайплайнов и интеграция моделей.
Опыт разработки, вывода в production и отладки нетривиального поведения агентных графов в LangGraph.
Опыт сборки и оптимизации Docker-образов, включая multi-stage, и работы с реестрами.
Реальный опыт эксплуатации сервисов в Kubernetes-кластере.
Понимание метрик качества и практический опыт A/B-тестирования ML-решений.
Умение приоритизировать гипотезы, выбирать модели, методы и алгоритмы, а также проектировать эффективные инженерные решения.
Опыт поставки качественного ПО и владение полным циклом разработки — от технического дизайна до мониторинга после выката.
Уверенное владение Python и его экосистемой при language- и framework-agnostic подходе.
Понимание ландшафта коммерческих и open-source LLM-провайдеров, включая модели для развёртывания в собственном контуре.
Знакомство с open-source инструментами для построения и оценки RAG: LangChain, LlamaIndex, Ragas, MLflow и аналогами.
Умение объяснять сложные технические вопросы широкой аудитории стейкхолдеров.

Хорошо, если есть

Опыт вывода в production бизнес-критичных ML/AI-приложений.
Опыт адаптации, дообучения и развёртывания open-source-моделей в on-premise или закрытом контуре.
Опыт работы с MCP, разработки MCP-серверов и проксирования инструментов.
Опыт построения мультиагентных архитектур: маршрутизация, разделение ролей и общая память между агентами.
Портфолио ML-пет-проектов или вклад в open source.
Опыт работы в банке, финтехе или другом регулируемом домене.
Опыт построения Reat-агентов на современных open-source-решениях, а также использования Openclaw, Hermes и Ouroboros.
Навыки работы с генеративными AI-моделями и создания AI-агентов.
Опыт использования GigaChat, Kandinsky и аналогов в продуктах.

Культура и преимущества

Гибридный формат работы.
Ежегодный пересмотр зарплаты, квартальная и годовая премия.
Корпоративный спортзал, зоны отдыха и более 400 образовательных программ СберУниверситета.
Программа адаптации и помощь руководителя на старте.
Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
Льготные условия ипотечного кредита, подписка Прайм и вознаграждение за рекомендации.

Процесс найма

Первый этап — примерно 10-минутное интервью с AI-рекрутером после отклика.