AI-инженер (LLM/RAG)

Описание

Локация: Казань, Кремлёвская улица, 6/20; работа в офисе на месте работодателя
Компания
Дочерняя аккредитованная IT-компания Ак Барс Банка, предоставляющая услуги в области информационной защиты.
Что делать

Разворачивать и обслуживать локальные языковые модели Llama, Qwen и DeepSeek через vLLM, Ollama и другие движки.
Собирать полный цикл RAG: извлечение текста из PDF и Word, чанкинг, векторный поиск и ре-ранжирование.
Оптимизировать модели, включая квантование и выбор архитектуры под доступные GPU-ресурсы.
Интегрировать AI-модели во внутренние сервисы через API и создавать агентов для автоматизации задач.
Контролировать качество генерации, фильтровать запросы для предотвращения утечек коммерческой тайны и персональных данных, а также мониторить стабильность систем.

Требования

От 1 года до 3 лет опыта; практический опыт работы AI/ML- или системным инженером либо backend-разработчиком AI-сервисов от 2–3 лет.
Опыт локального развертывания SOTA-моделей с использованием vLLM, Ollama, TGI и аналогичных инструментов.
Свободное владение Python и опыт создания API для интеграции моделей в сервисы.
Опыт работы с Linux и Bash, Docker, драйверами NVIDIA и CUDA.
Знание LangChain, LlamaIndex, Hugging Face Transformers, векторных баз данных Qdrant, Milvus или PGVector, а также PostgreSQL.
Умение рассчитывать потребность в VRAM, RAM и CPU с учетом модели и длины контекста.

Хорошо, если есть

Опыт работы с метриками качества.

Культура и преимущества

Официальное трудоустройство по ТК РФ.
График 5/2, с 8:30 до 17:30.
ДМС и материальные выплаты.
Обучение по программе повышения квалификации за счёт работодателя.
Необходимая для работы техника и офис в центре Казани рядом с метро.
Работа в стабильной группе компаний с развитой корпоративной культурой.