Senior AI Platform Engineer

Описание

Миссия Zentist - упростить работу стоматологических компания по всему циклу работы с страховыми компаниями при выставлении счетов за лечение, путем разработки передовых технологий для обработки счетов. Компания базируется в Сан-Франциско и поддерживается ведущими инвесторами (Costanoa Ventures, Point Nine Capital, Fika Ventures). Zentist создает продукт, который задаст новый стандарт в отрасли. В компании ценится многонациональная культура и разные подходы к работе, мы ценим и уважаем время друг друга и всегла стремимся помочь. Рабочее время примерно с 16:00 до 24:00 по московскому времени.

Основная задача для этой роли

- Обеспечивать надежность, безопасность и соответствие платформы JANE (Job Agent Network Engine): управлять контрактами, жизненным циклом, событиями, процессами HITL и диагностикой.

- Важна способность быстро расширять возможности ИИ, интегрируя различные крупные языковые модели (LLMs) через рабочие процессы на Python или Node.js.

Основные обязанности и требуемые навыки

Разработка возможностей агента ИИ (обязательно):

• Создавать, тестировать и поддерживать продакшн-сервисы на Python и/или Node.js/TypeScript.
• Интегрировать с несколькими поставщиками LLM (например, OpenAI, Gemini, Anthropic):
  • Управление авторизацией, ключами, лимитами, повторами, тайм-аутами.
  • Поддержка структурированных ответов в JSON, валидации схем.
  • Выбор модели на основе задержки, стоимости и качества.
  • Реализация fallback-режимов и работы в degraded mode.
• Создавать агенты, которые используют инструменты/функции, управляют сложными рабочими потоками и дают структурированные результаты.
• Обеспечивать качество через тестовые наборы, автоматическую оценку, контроль версий prompt-ов и стратегию релиза/отката.
• Вести операции по использованию ИИ мониторинг токенов, стоимости, трассировка вызовов LLM, обработка конфиденциальных данных (PII/PHI).

Платформенная/операционная ответственность (желательно):

• Проектирование стабильных бэкенд-контрактов с версионированием.
• Управление жизненным циклом задач: состояния, результаты, тайм-ауты, повторы, отмены.
• Реализация HITL-процессов с формами, таймерами, эскалациями, аудитами.
• Опыт работы с системами событий (Kafka, NATS), гарантии доставки, идемпотентность, схемы событий.
• Создание систем для отображения частичного прогресса, диагностики и обработки конфиденциальных данных.
• Безопасность: OAuth2/JWT, mTLS, обработка PII/PHI, аудитирование.
• Мониторинг: трассировка, метрики, структурированные логи.
• Контейнеризация и CI/CD.
• Интеграция с другими командами (Airflow, дашборды, RPA).