Senior ML Engineer (Sber AI)
Описание
Локация: Москва; гибридный формат с работой в современном офисе рядом с м. Кутузовская.КомпанияСбер AI — команда, разрабатывающая проекты и стратегии развития ИИ, влияющие на процессы и принятие решений большого масштаба; также команда занимается конференцией AI Journey.Что делатьРазвёртывать и оптимизировать локальный инференс LLM: подбирать модели, выполнять квантизацию и настраивать производительность.Оценивать требования к GPU под нагрузку, включая память, latency, throughput, KV-cache и батчинг.Строить и улучшать поиск по документам на базе RAG, включая эмбеддинги, гибридный поиск и реранкинг.Дообучать модели под задачи заказчика с использованием LoRA и SFT, настраивать промпты и структурированный вывод.Разрабатывать агентный harness: управлять циклом агента, контекстом, памятью и лимитами шагов, обрабатывать ошибки инструментов и восстанавливать работу после сбоев.Разрабатывать MCP-серверы и настраивать tool calling для доступа агентов к реестрам, документообороту, базам знаний и внутренним API заказчика.ТребованияОт 3 лет опыта в ML/NLP, включая не менее 1 года работы с LLM.Уверенное владение Python; рабочий уровень Docker.Опыт работы с PyTorch и Hugging Face Transformers/PEFT.Опыт локального инференса с vLLM и SGLang.Практический опыт квантизации с AWQ, GPTQ или GGUF; понимание компромисса между качеством и скоростью.Понимание устройства инференса: KV-cache, батчинг, latency, throughput и расчёт памяти.Опыт написания собственного MCP-сервера и построения RAG-систем.Хорошо, если естьОпыт fine-tuning с LoRA.Опыт работы с open-weight моделями, включая Qwen и аналоги, на русском языке.Опыт разработки агентных систем и tool calling.Культура и преимуществаГибридный формат работы и современный офис рядом с м. Кутузовская.Ежегодный пересмотр зарплаты и годовая премия.Корпоративный спортзал, зоны отдыха и более 400 образовательных программ СберУниверситета.Программа адаптации и помощь руководителя на старте.Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.Ипотечная скидка, подписка Прайм с совместным использованием и вознаграждение за рекомендации.