AI/LLM Engineer

Описание

ИЩЕМ AI/LLM ENGINEER ДЛЯ ПРИСОЕДИНЕНИЯ К САМОЙ ТЕХНОЛОГИЧНОЙ КОМАНДЕ ЦЕНТРА ЦИФРОВЫХ ТЕХНОЛОГИЙ ОАО "РЖД".О нас: Мы внедряем большие языковые модели (LLM) для внутренних процессов компании. Наша специфика — строгие требования ИБ: никаких внешних API (OpenAI, Claude и т.д.). Все модели, векторные базы и пайплайны должны работать локально в нашем закрытом контуре (On-Premise). Мы ищем инженера, который станет владельцем этой инфраструктуры: от развертывания моделей на GPU до написания API и сборки RAG-пайплайнов. Мы ценим прагматичный подход, использование Open-Source и умение выжимать максимум из доступного железа. Обязанности: (от простого к сложному): Инференс: Разворачивать и поддерживать локальные LLM (Llama-3, Qwen, Mistral и др.) с использованием Ollama, vLLM или TGI. Backend: Писать микросервисы на Python (FastAPI) для интеграции локальных моделей с нашими внутренними системами (CRM, ERP, базы знаний). RAG (Retrieval-Augmented Generation): Проектировать пайплайны поиска по корпоративным документам (парсинг файлов, чанкинг, генерация эмбеддингов, работа с векторными БД). Оптимизация: Экспериментировать с квантованными моделями (GGUF, AWQ, GPTQ) для запуска на ограниченных GPU-ресурсах. Оркестрация: Разворачивать готовые Open-Source решения (типа Dify, Open WebUI или AnythingLLM) для быстрого предоставления AI-инструментов сотрудникам. Что мы ждем от вас: Уверенное владение Python (от 3 лет), опыт создания бэкенда (FastAPI / Aiohttp). Хорошее знание Linux и Docker (умение написать Dockerfile, поднять docker-compose, пробросить порты и GPU). Опыт работы с реляционными БД (PostgreSQL). Практический опыт с LLM: вы запускали модели локально, понимаете, что такое контекстное окно, токенизация, температура, System Prompt. Знание фреймворков для работы с LLM (LangChain или LlamaIndex). Умение самостоятельно разбираться в документации новых Open-Source проектов на GitHub и разворачивать их. Будет плюсом (если не знаете — научитесь у нас): Понимание работы NVIDIA Container Toolkit и базовый мониторинг видеокарт (nvidia-smi, nvtop). Опыт работы с vLLM, TensorRT-LLM. Опыт работы с векторными БД (pgvector, Milvus, Qdrant, Chroma). Понимание методов квантования и их влияния на качество модели. Знание базовых принципов ИБ (маскирование данных, ролевая модель доступа). МЫ ПРЕДЛАГАЕМ: Гибридный формат работы. Офис м. Красные ворота. ​​​​​ Оформление в соответствии с требованиями ТК РФ, стабильную заработную плату по результатам собеседования; Ежегодную индексацию оплаты труда; Профессиональный коллектив, перспективы карьерного роста и развития. СОЦИАЛЬНЫЙ ПАКЕТ: Забота о здоровье сотрудников (ДМС, собственная система здравоохранения, включая стоматологию); Поддержка занятий спортом (компенсация абонемента в спортклуб, спортивные активности, организуемые компанией); Бесплатный проезд ж/д транспортом поездами дальнего следования (1 раз в год); Бесплатный пригородный проезд ж/д транспортом; Ежегодная материальная помощь к отпуску; Льготная ипотека для сотрудников; Широкие возможности для обучения в собственном Корпоративном университете Компании.