Go-разработчик в VK, Москва (AI/ML)
Описание
Локация: Москва; офисный и комбинированный формат работы
Компания
VK развивает более 200 технологичных проектов и интернет-сервисов; команда ML Media создает единую платформу для речевых и мультимедийных ML-технологий.
Что делать
Разрабатывать API-шлюз на gRPC, REST и MCP, плоскость управления пользователями, токенами и квотами, асинхронный контур обработки задач и клиентские инструменты CLI и MCP.
Поддерживать интеграции продуктовых команд VK, помогать с подключением и разбирать production-инциденты.
Разрабатывать маршрутизацию и балансировку запросов к ML-бэкендам, включая кастомные gRPC-балансировщики, health-probing и теговый роутинг моделей.
Реализовывать admission control на основе утилизации GPU, метрик throughput, throttle/reject и сигналов автоскейлеру.
Разрабатывать асинхронную обработку длинных медиа с Kafka-воркерами, outbox, ретраями, восстановлением задач и партиционированием PostgreSQL.
Развивать наблюдаемость и эксплуатацию сервисов, взаимодействовать с ML-командами и продуктовыми заказчиками, участвовать в архитектурной проработке.
Требования
Коммерческий опыт разработки на Go.
Уверенное владение конкурентностью: goroutines, context, errgroup и graceful shutdown.
Опыт проектирования отказоустойчивых высоконагруженных систем.
Опыт работы с gRPC, включая streaming и interceptors, PostgreSQL, Redis, Kafka или другими брокерами сообщений.
Навыки диагностики production-проблем с использованием метрик, логов и профилирования.
Системное мышление.
Хорошо, если есть
Опыт с NVIDIA Triton Inference Server, vLLM или другими платформами ML-сервинга.
Понимание метрик ML-инференса: real-time factor, throughput, latency и утилизация GPU.
Опыт разработки кастомных gRPC-балансировщиков или resolver'ов.
Опыт с admission control, capacity planning и автоскейлингом.
Понимание agentic AI, MCP и tool calling.
Опыт с sqlc, testcontainers и codegen-пайплайнами.
Знание Python для взаимодействия с ML-кодом бэкендов.
Культура и преимущества
Офисный и комбинированный формат работы.
Полный график работы.
Работа с продуктами VK, которыми ежедневно пользуются миллионы людей.
Платформа объединяет ASR, TTS, CV, VQE, диаризацию и суммаризацию на базе LLM.