Data Scientist в команду LLM

Data Science Data Scientist в команду LLM Команда DS SWAT Локация Москва, гибрид В работе мы ставим амбициозные цели и не останавливаемся на достигнутом. Поэтому для нас так важно, чтобы каждый участник большой команды Авито разделял культуру компании. Погрузиться в неё помогает Манифест, в котором собраны наши основные ориентиры — миссия, ценности, принципы работы manifesto.avito.com Поделиться Откликнуться О команде Наша команда занимается обучением собственных базовых LLM и их внедрением в разнообразные бизнес-сценарии Авито. Цель команды — обеспечить все продукты оптимальными моделями как по качеству ответов, так и по стоимости применения (cost-efficiency).Мы адаптируем лучшие open-source решения под русский язык и доменную специфику Авито с помощью Continual Pre-training и подмены токенизатора.Для постоянного улучшения моделей мы непрерывно исследуем новые методы, пайплайны, включая RL и синтетические данные, и датасеты. Чтобы оставаться на острие технологий, мы проводим регулярные LLM-семинары, где разбираем свежие статьи и тренды AI.Наш технический фокус сегодня:— Построение оптимального и масштабируемого пайплайна для претрейна и дообучения LLM.— Оптимизация инференса: работа с современными движками, квантованием, speculative decoding и другими методами ускорения. Примеры будущих задач: — Масштабирование базовой модели A-vibe: исследование новых архитектур и подходов к обучению.— Оптимизация скорости и стоимости инференса высоконагруженных моделей в продакшене.— Проектирование и помощь в разработке внутренних LLM-платформ и multi-agent-систем.— Построение надёжной инфраструктуры для оценки качества моделей (evaluation). Мы ждём, что вы: — Хорошо понимаете основы машинного и глубокого обучения, знаете устройство Transformer и базовые подходы к работе с NLP-моделями.— Имеете практический опыт обучения или дообучения нейросетевых моделей и работы с датасетами, метриками и валидацией.— Уверенно пишете на Python, умеете работать с PyTorch и знакомы с базовыми инженерными практиками: Git, тестирование, Code Review.— Умеете корректно ставить эксперимент, сравнивать подходы и объяснять, почему получился тот или иной результат.— Можете самостоятельно доводить до результата задачу с понятной постановкой, вовремя подсвечивать риски и обращаться за помощью, когда она нужна.— Интересуетесь LLM, читаете технические материалы и готовы быстро осваивать новые инструменты и подходы. Будет здорово, если вы: — имеете не менее 3 лет опыта реализации и эксплуатации ML-решений;— Работали с Hugging Face Transformers, PEFT/LoRA или другими инструментами дообучения LLM.— Имеете опыт с современными NLP-моделями либо участвовали в их внедрении в продакшен.— Знакомы с инструментами распределённого обучения или оптимизации инференса: DeepSpeed, vLLM, SGLang, TensorRT-LLM и аналогами.— Использовали MLOps-инструменты для трекинга экспериментов и версионирования данных: Weights & Biases, MLflow, DVC и другие.— Участвовали в исследовательских проектах, open-source-разработке или соревнованиях по машинному обучению. Работа у нас — это: — возможность влиять на продукт: ваши решения будут улучшать опыт миллионов пользователей;— сложные технологические задачи на большом масштабе;— мощное железо: доступ к производительным GPU-кластерам для экспериментов;— сильное комьюнити: команда экспертов, с которой можно обсуждать идеи и подходы;— развитие: бюджет на обучение, курсы, конференции и профессиональную литературу;— забота о здоровье: ДМС со стоматологией с первого дня, в офисе принимают терапевт и массажист;— гибкость: возможность работать удалённо или из офисов в 4 городах России. Про направление Про команду Подготовка к интервью Откликнитесь на вакансию Имя* Фамилия* Номер телефона* × E-mail* Резюме* Файл Ссылка Выберите файл или перетащите сюда Прикрепите файл в формате PDF, DOC, DOCX, RTF до 5 МБ Ссылка на резюме Комментарий Например, сопроводительное письмо или ссылка на портфолио Откуда вы узнали о вакансии?* Выберите вариант Карьерный сайт От рекрутера От сотрудника Авито От знакомого не из Авито Соцсети Avito Life (Telegram и ВКонтакте) LinkedIn Telegram Реклама в Яндекс Браузере Реклама в VK СМИ Мероприятия Другое Подтверждаю, что предоставленные мной данные в резюме соответствуют действительности Соглашаюсь на обработку персональных данных на условиях политики Соглашаюсь на включение моей кандидатуры в кадровый резерв на условиях политики Отправить отклик Спасибо за отклик! Мы рассмотрим ваше резюме и обязательно свяжемся, если навыки и опытподойдут к требованиям вакансии Пройдите короткий опрос и расскажите, где вы слышали про команду Авито. Это займёт менее 30 секунд. Похожие вакансии Старший Data Scientist в команду поискового ранжирования (Deep Learning) Москва, Гибрид Поиск и рекомендации Руководитель DS-команды новостроек Москва, Удалёнка или гибрид Недвижимость Data Scientist в команду Data Gathering Москва, Удалёнка или гибрид Доверие и безопасность Тимлид DS команды IMV Москва, Гибрид DS SWAT Ещё вакансии