Руководитель направления исследований безопасности GenAI (TI&RnD)

Руководитель направления исследований безопасности GenAI (TI&RnD). Локация: #Москва. Опыт: 3–6 лет. Зарплата: ₽. Обсуждается на собеседовании. Компания: Сбер. Чему вы научитесь: • Исследование угроз GenAI: создание, поддержка и развитие инструментов для анализа и поиска угроз; • DevOps: CI/CD, контроль версий (git), тестирование качества, инфраструктура для работы (linux); • Внедрение практик AI PDLC: исследование и применение методов и инструментов создания и развития программного обеспечения с применением передовых ИИ-моделей; • Погружение в экосистему: изучение и практическое применение передовых фреймворков и библиотек для работы с LLM и AI-агентами; • Управление командой: формирование и развитие исследовательской команды (3–5 человек), приоритизация исследований, защита решений перед руководством и смежными командами; • CTF и хакатоны: формирование и капитанство команды на международных CTF по AI/ML security, трансляция найденных техник в работу направления; • Публикации и нормативные документы: оформление результатов исследований, вклад в нормативные документы безопасности AI. Требования: • Профиль и образование: законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений • Продвинутые навыки программирования: понимание принципов проектирования и разработки программного обеспечения, опыт в написании и чтении программного кода (понятный, поддерживаемый) • Навыки DevOps: работа с git, администрирование linux, автоматизация этапов жизненного цикла разработки ПО • LLM и AI-агенты: экспертный уровень применения LLM для разработки ПО, глубокое понимание архитектуры агентов и их векторов атак • Английский язык на уровне не менее чтения технической документации, статей и участия в международных CTF • Опыт командной работы в проектах разработки: канбан (спринты, трекинг задач), jira/git/confluence, презентации и умение понятно объяснять свои идеи команде/руководству и согласовывать требования • Adversarial ML и red teaming LLM: практический опыт поиска уязвимостей в GenAI-моделях (prompt injection, jailbreaking, tool poisoning, data extraction) • Знание инструментария для LLM security: Giskard, Garak, LLM Guard и др. • CTF и хакатоны: участие в международных CTF по AI/ML security (желательно — победы или призовые места). ✈ Откликнуться. #Офис