ML developer + GO

ML developer + GO Employment type: Полный рабочий день Grade: Senior Skills: Golang, LLM, Python, gRPC Description: Требования к специалисту• Уверенный опыт работы с LLM/SLM (Few-shot learning, prompt engineering) и BERT (классификация сценариев и интентов).• Практический опыт finetuning LLM (PEFT, LoRA/QLoRA) под узкие прикладные задачи.• Уверенный дебаг LLM: умение быстро понять, почему модель ответила не так, и исправить это промптом, гиперпараметром или файнтюном.• Опыт дообучения и оптимизации TTS-моделей.• Опыт работы и интеграции современных ASR-систем (в частности, GigaAMv2).• Опыт работы как с графовыми/сценарийными диалоговыми движками, так и с LLM-агентами.• Высокая скорость диагностики проблем в инференсе, локализации багов и принятия инженерных решений.• Уверенное владение Python (PyTorch, huggingface, фреймворки инференса) и Go.• Опыт работы с оптимизацией инференса под low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime).• Практика работы со потоковым аудио в реальном времени (streaming ASR/TTS, gRPC-контракты).• GoLang: базовое понимание дизайна сервисов (SOLID, DRY, KISS); типизация (строки, числа, слайсы и мапы); примитивы синхронизации и конкуренция (горутины, каналы); указатели и работа с ними; observability.• Будет плюсом: • опыт работы с gRPC.• умение настроить инфраструктуру (k8s/inventory).• знания работы TCP. Задачи • Поэтапный перевод системы с графа сценариев и скиллов на управляемый LLM-based диалог. • Дебаг голосового пайплайна (поиск причин high latency, галлюцинаций LLM, проблем с передачей аудио, графовых ошибок и т.п.). • Оперативное принятие архитектурных решений и их самостоятельная реализация в коде. • Работа с диалоговым стеком и NLP: поддержка и быстрая отладка few-shot классификации сценариев на базе Qwen и классификаторов на BERT. • Учёт краевых случаев, исправление ошибочных срабатываний интентов. • При необходимости — finetuning локальных LLM (извлечение сущностей, удерживание инструкций). • Работа с речевым стеком: интеграция и поддержка ASR на базе GigaAMv2 (отладка качества распознавания, работы VAD и передачи текста дальше по пайплайну). • Дообучение и настройка инференса собственных и опенсорсных TTS и систем клонирования голоса для достижения нужного качества звучания и скорости работы.