Сбер
Machine Learning Engineer (Kandinsky)
О роли
Оптимизируем наши модели под форматы популярных инференсных фреймворков. Задача создание инфраструктуры для эффективного инференса наших моделях во всех популярных фреймворках: Diffusers, FastVideo, SGLang, vLLM, Comfy-UI. А также создание воркеров для доступа к инференсу наших моделей на fal.ai, Arena.ai и др.
Чем ты будешь заниматься
Разработка и оптимизация high-load пайплайнов распределенного инференса (PyTorch) с использованием FSDP, Tensor/Sequence Parallelism.
Имплементация моделей в популярных фреймворках: Diffusers, SGLang, vLLM, FastVideo, Comfy-UI, Transformers
Развертывание воркеров для инференса моделей
Мы ожидаем, что ты имеешь
Экспертный уровень Python, PyTorch, torch.distributed.
Опыт масштабного инференса моделей с FSDP/TP/PP.
Понимание работы разных типов данных (bf16, fp8).
Опыт работы с SGLang, vLLM, Transformers
Понимание принципов работы диффузионных моделей
Английский язык B2+
Работа в Сбере — это
комфортный современный офис рядом с м. Кутузовская
ежегодный пересмотр зарплаты, годовая премия
корпоративный спортзал и зоны отдыха
система обучения для профессионального и карьерного развития
расширенный полис ДМС с первого дня работы и страхование для семьи
льготная программа ипотеки для сотрудников
бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
вознаграждение за рекомендацию друзей в команду Сбера.