Твои задачи: DevOps для AI

Публикатор: Nelly Обсуждение: #вакансия #MLOps #DevOps #Python #LLM #AI #MachineLearning #Kubernetes #Docker #CI_CD #PostgreSQL Мы создаем экосистему цифровых сотрудников на базе передовых открытых LLM/VLM-моделей. Наши ИИ-агенты автоматизируют ключевые операционные процессы, напрямую влияя на эффективность и конкурентное преимущество бизнеса наших заказчиков. Компания: Selecty Позиция: MLOps (банк) Уровень дохода: 250-340 к гросс Формат: оформление по ТК РФ Удаленка РФ чем предстоит заниматься: Ты станешь ключевым инженером, который превращает исследовательские прототипы в отказоустойчивую GenOps-фабрику цифровых агентов. Твои задачи: DevOps для AI: Проектирование и развитие самообслуживания CI/CD пайплайнов для внутреннего деплоя AI-агентов и мультиагентных систем. Инференс под управление: Развертывание и оптимизация LLM/VLM в процессе разработки (оптимизация памяти, формирование скорости) с использованием vLLM, Triton Inference Server, SGLang. Надёжность: Обеспечение высокой доступности сервисов, работа с масштабированием горизонтальных подов и управление состоянием агентов. Мониторинг 360°: Внедрение комплексного наблюдения: от стандартных метрик (CPU/GPU, задержка) до конкретных ML-метрик (качество генерации, дрейф данных, оценка тональности ответов). Обязательные требования Опыт вывода LLM-решений в прод. * Уверенное владение Python и асинхронным программированием (asyncio). * Уверенное владение Kubernetes (Helm, управление кластерами). * Знание Gitlab CI, Jenkins и пр * Понимание архитектуры RAG-систем, работы embedding-моделей и ранжирования. * Умение оптимизировать инференс: квантизация, continuous batching, PagedAttention. * Будет плюсом: опыт с графовыми БД и построением мультиагентных систем Технологический стек: Python, FastAPI, langchain/llamaindex/haystack k8s, docker, S3, postgres Опыт работы с векторными и графическими БД. Условия Оформление по ТК РФв в IT-аккредитованную компанию ДМС (включая стоматологию) Компенсация фитнеса Скидки на обучение английскому (Skyeng) Индексация заработной платы Современная техника IT-аккредитация компании