Senior LLM Engineer

Мы ищем инженера, который будет проектировать AI-агентов для департамента ключевых клиентов. Вы будете работать в связке с заказчиком, продуктом и инженерными командами, отвечая за технический результат агента end-to-end.

• проектирование агентных архитектур: ReAct / планы-действия, tool calling, мультиагентные схемы, маршрутизация запросов между моделями и сценариями

• разработка и оптимизация промптов (few-shot, CoT, structured output), управление контекстом, версионирование промптов вместе с кодом

• реализация RAG: чанкинг, эмбеддинги, векторный и гибридный поиск, реранжирование, работа с метаданными и мультиязычными документами.

• интеграция LLM с корпоративными системами через API и MCP-инструменты: написание и поддержка собственных tools, схем аргументов, обработка ошибок и таймаутов

• построение оценочных контуров (evals): датасеты, LLM-as-a-judge, регрессионные прогоны на каждом изменении промпта или модели

• защита от галлюцинаций и prompt injection, работа с отказами и обходными путями, контроль grounding на источниках

• мониторинг качества и стоимости в продакшене: трейсинг, логирование шагов агента, , телеметрия токенов и задержек

• упаковка агентов в сервисы: FastAPI / Python-бэкенд, контейнеризация, CI/CD, секреты, работа в контуре банка

• подбор и сравнительная оценка открытых и проприетарных моделей под задачу клиента.

----------------

• 5+ лет в разработке ПО, из них 2+ года в практической работе с LLM и агентными системами

• уверенный Python и опыт промышленной разработки: тесты, ревью, CI/CD, работа в команде

• практика с фреймворками агентов и LLM-стеком: LangChain / LangGraph, LlamaIndex, OpenAI/локальные API, Pydantic, асинхронность

• глубокое понимание RAG, векторных БД (Qdrant / Milvus / pgvector и др.), эмбеддингов и стратегий поиска

• опыт построения evals и оценки качества LLM-систем, а не только «демо-промптов»

• навыки работы с генеративными AI-моделями

• опыт вывода LLM-решения в продуктив и его последующей эксплуатации

• понимание ограничений моделей: контекст, стоимость, задержки, деградация качества.

• **Будет плюсом**

• опыт fine-tuning (LoRA/QLoRA, SFT/DPO) и работы с моделями на своих мощностях

• опыт сервинга моделей (vLLM/TGI), оптимизации inference и GPU-инфраструктуры

• опыт интеграций с enterprise-ландшафтом: очереди, ESB, MCP, внутренние сервисы банка

• публикации, доклады, вклад в open-source, опыт наставничества.

• комфортный современный офис Москва, Кутузовская 32

• гибридный формат работы

• ежегодный пересмотр зарплаты, годовая премия

• корпоративный спортзал и зоны отдыха

• система обучения для профессионального и карьерного развития

• расширенный полис ДМС с первого дня работы и страхование для семьи

• программа ипотеки для сотрудников

• подписка СберПрайм+, скидки на продукты компаний-партнеров

• вознаграждение за рекомендацию друзей в команду Сбера.