Руководитель направления Online RL (STEM) / Post-Training LLM в команду GigaChat — СБЕР

Мы развиваем GigaChat и ищем сильного руководителя направления online RL в домене STEM (математика, естественные науки, инженерные и технические дисциплины). Это роль для человека, который умеет одновременно развивать методы обучения моделей, глубоко разбираться в предметной области и выстраивать процессы сбора и подготовки данных.

Нам нужен не просто менеджер, а сильный технический руководитель, который способен глубоко погружаться в детали, самостоятельно собирать ключевые части решения и доводить идеи до реального роста качества модели.

• Развивать направление online RL для STEM-задач
• Определять, как должно развиваться направление online RL в STEM-домене: какие задачи для нас наиболее важны, как измерять прогресс и что в первую очередь ограничивает рост качества модели.
• Вести направление целиком: от постановки гипотез и плана работ до внедрения результатов в регулярный цикл обучения модели.
• Принимать решения о приоритетах между развитием методов, сбором данных, инфраструктурой и системой оценки качества.
• Разрабатывать и улучшать методы обучения
• Развивать подходы post-training и online RL для задач по математике, физике, химии, биологии и другим STEM-дисциплинам.
• Продумывать и внедрять способы оценки качества, которые помогают модели лучше решать реальные задачи: строить цепочки рассуждений, находить верные ответы, корректно применять формулы и методы, работать с многошаговыми задачами.
• Определять, в каких случаях online RL действительно даёт прирост качества по сравнению с supervised fine-tuning и другими подходами, а в каких — нет.
• Проводить эксперименты и разбирать результаты не только на уровне метрик, но и на уровне причин: почему модель стала лучше или хуже, насколько устойчив результат и можно ли его перенести на другие типы задач.
• Писать ключевой код и развивать инфраструктуру
• Самостоятельно писать и дорабатывать критичные части пайплайнов online RL.
• Делать надёжные и воспроизводимые эксперименты: с понятными версиями данных, конфигами, сравнением запусков и контролем деградаций.
• Выстраивать связку между моделью, верификаторами, reward-сигналами и обучающими пайплайнами так, чтобы новые идеи можно было быстро проверять и быстро доводить до практического результата.
• Оставаться сильным инженером и исследователем, а не только руководителем: при необходимости самому разбирать узкие места в коде, экспериментах и качестве данных.
• Строить контур данных для обучения
• Организовывать сбор и подготовку данных для online RL в STEM-домене: задачи разной сложности, эталонные решения, формальные и автоматические верификаторы, синтетические и реальные сценарии.
• Формировать качественные обучающие выборки с хорошим покрытием по дисциплинам, уровням сложности (от школьных до олимпиадных и университетских задач), типам рассуждений и типовым ошибкам модели.
• Встраивать в пайплайны проверки качества: символьную и численную верификацию ответов, проверку промежуточных шагов рассуждений, контроль утечек, удаление дублей, балансировку по сложности и предметным областям.
• Делать так, чтобы каждый цикл обучения улучшал не только модель, но и сам процесс: появлялись новые данные, новые сложные примеры, более точные критерии качества и лучшее понимание слабых мест модели.
• Руководить сильной технической командой
• Руководить командой исследователей и инженеров, задавать высокую планку по качеству решений, скорости работы и глубине проработки.
• Помогать команде превращать исследовательские идеи в работающие решения, которые можно встроить в основной цикл обучения.
• Удерживать баланс между глубиной исследований, инженерной надёжностью и практическим результатом для модели.

• Отличное владение Python и PyTorch.
• Практический опыт в LLM post-training: RLHF, online RL или смежных направлениях.
• Понимание специфики STEM-домена: формальная верификация ответов, chain-of-thought reasoning, работа с математической нотацией, многошаговые решения, типовые ошибки моделей в рассуждениях.
• Умение ставить гипотезы, проектировать эксперименты и принимать решения на основе результатов.
• Опыт руководства сильной технической командой.
• Готовность лично писать важные части системы руками.

Будет плюсом

• Сильный математический или естественнонаучный бэкграунд (профильное образование, олимпиадный опыт, публикации).
• Опыт построения верификаторов и reward-моделей для задач STEM.
• Опыт построения пайплайнов данных, а не только работы с уже готовыми датасетами.
• Опыт работы с distributed training или large-scale inference.
• Опыт разработки систем оценки качества для LLM (бенчмарки, LLM-as-a-judge, process reward models).
• Опыт работы с synthetic data generation, curriculum learning, active data collection.
• Понимание современных open-source стеков для обучения и инференса больших языковых моделей.
• Публикации, open-source вклад или сильный прикладной research track record.

• Сильные и сложные задачи на переднем крае развития русскоязычных LLM.
• Большую степень влияния на архитектуру решений, методы обучения и качество итоговой модели.
• Команду сильных инженеров и исследователей.
• Возможность совмещать управление направлением с глубокой технической работой.
• Конкурентную компенсацию, премии и расширенный соцпакет.