Руководитель отдела когнитивных цифровых технологий

Описание

Мы — аккредитованная IT-компания. Что мы делаем? Разрабатываем микропроцессорные устройства для железнодорожной автоматики и телемеханики Общепромышленного применения Цифровых платформ. Мы сотрудничаем с ведущими российскими производителями электроники (МЦСТ, Миландр, НИИЭТ, Элвис), чтобы создавать продукты, которые не уступают, а превосходят зарубежные аналоги. Наши преимущества: Собственная R&D-база — от идеи до готового продукта. Современные инструменты (CAD, IDE, CI) для разработки электроники и ПО, команда экспертов — конструкторы, программисты, электронщики, тестировщики, специалисты по безопасности. Фокус на импортозамещение — наши решения минимизируют зависимость от иностранных технологий. Мы разрабатываем корпоративные LLM-системы в изолированной инфраструктуре: AI-агенты, RAG-сервисы, локальные платформы для inference и экспертные системы. Основное внимание уделяется open-weight и self-hosted моделям (Mistral, Llama, Qwen и др.), с акцентом на локальный deployment, безопасность, воспроизводимость и надежность. Это сложные системы, в которых LLM является лишь одним из компонентов, включая инструменты, память, оркестрацию и мониторинг. Обязанности: 1. Разработка AI-агентов – Проектирование и реализация LLM-агентов для корпоративных задач (ассистенты, чат-боты). – Создание многошаговых сценариев с использованием tool/function calling и self-correction. – Разработка логики принятия решений для оптимизации работы агентов. – Внедрение современных протоколов взаимодействия моделей и инструментов. – Оптимизация prompt-цепочек и механизмов управления задачами. 2. Интеграция с источниками данных – Подключение агентов к корпоративным источникам (SQL/NoSQL, API). – Разработка RAG-систем (retrieval, reranking, hybrid search). – Управление доступом к знаниям с учетом прав пользователей. – Интеграция векторных хранилищ и поисковых движков. 3. Память агентов – Проектирование кратковременной и долговременной памяти. – Разработка механизмов запоминания и обновления информации. – Учет приватности данных. 4. Развёртывание и оптимизация inference – Развёртывание локальных LLM-сервисов и настройка GPU-инфраструктуры. – Оптимизация производительности моделей. – Работа с различными форматами квантования моделей. 5. Безопасность и отказоустойчивость – Создание безопасных LLM-сервисов с изоляцией окружения. – Минимизация рисков безопасности и реализация аудита доступа. – Проектирование отказоустойчивых систем. 6. Мониторинг и аудит – Внедрение observability для LLM-агентов (логирование, метрики). – Контроль за использованием токенов, задержками и качеством ответов. – Создание audit trail для действий агентов. 7. Оценка качества – Создание eval-пайплайнов для оценки RAG и агентных систем. – Измерение точности, скорости и качества ответов. – Участие в A/B-тестах и непрерывном улучшении качества. 8. Data pipeline – Разработка процессов обработки данных от источников до конечных результатов. Требования: • LLM-системы: разработка self-hosted/open-weight моделей. • Docker и Kubernetes: уверенное использование. • Понимание трансформеров: токенизация, контекстное окно, inference, quantization . • RAG: опыт с embeddings, vector search, hybrid search. • Векторные базы: работа с FAISS, Qdrant, Milvus и аналогами. • Агентные паттерны: tool usage, function calling, memory, prompt chaining. • Фреймворки для LLM/агентов: опыт с LangGraph, Haystack и другими. • GPU-инфраструктура: мониторинг и профилирование ресурсов. • Корпоративные ассистенты: опыт разработки чат-ботов и LLM-сервисов. • Безопасность: понимание RBAC, PII и prompt injection. • Воспроизводимые пайплайны: от данных до inference. • Системное мышление: проектирование отказоустойчивых сервисов. • Английский от B1: уверенное чтение документации. Плюсом будет • Опыт работы с MCP и проектированием tool/context servers. • A2A взаимодействие между агентами. • Fine-tuning моделей (LoRA, QLoRA и др.). • Опыт работы с LLaMA-Factory, Axolotl и аналогами. • Квантование моделей (GPTQ, FP8/INT8). • Прод-инференс на vLLM, TensorRT-LLM и др. • Advanced inference методы (speculative decoding, KV cache offload). • Работа с knowledge graphs и semantic caching. • Мультиагентные системы и orchestration (Temporal, Airflow). • MLOps инструменты (MLflow, Kubeflow). • Проектирование мультимодальных LLM-агентов. .• Sandbox execution и browser tools. Условия: Мы строго соблюдаем гарантии установленные Трудовым законодательством РФ; Мы заботимся о комфортных условиях для работы наших сотрудников - у нас современный офис (не open-space!!), рабочее место оборудовано всем необходимым для эффективной работы; Мы заботимся о здоровье наших сотрудников - предоставляем расширенное ДМС (со стоматологией и обслуживанием в лучших клиниках города); Мы заинтересованы в развитии пришедших к нам специалистов - наша команда профессионалов готова делиться своим опытом; У нас уютная обеденная зона с бесплатными чаем, кофе. Она же для нас место, где можно собраться после работы - поиграть в настольные игры ; Мы предоставляем мобильную связь для сотрудников компании; Корпоративный английский язык; Доплата до оклада за время больничного; Достойный уровень заработной платы, премия по итогам года; Работа в аккредитованной IT Компании с возможностью карьерного и функционального роста; У нас стабильный и прозрачный доход Мы находимся в пешей доступности от м."Свиблово",станции"Лосиноостровская", МЦК "Ростокино".