Аналитик-разработчик в команду качества генеративных моделей

Мы развиваем Алису AI — систему моделей для построения ответов LLM с использованием поиска как источника информации и обогащений ответа. Мы внедрили такую систему в Поиск Яндекса и Алису и сейчас хотим научиться качественно отвечать на сложные запросы, требующие специализированных знаний. Например: пользователь задаёт вопрос, связанный с его здоровьем. Чтобы сформировать корректный и полезный ответ, нужно глубокое понимание предметной области «медицина». А подобных запросов — сотни тысяч, и они охватывают самые разные темы. Ищем аналитика-разработчика, который поможет нам совершенствовать наши модели. Почему у нас классно Мы работаем с Алисой AI — новым продуктом Яндекса на основе LLM — и ориентированы прежде всего на результат в продакшене У нас вы сможете развивать как технические, так и коммуникативные и менеджерские навыки Ваша работа прямо повлияет на то, каким станет Алиса AI через полгода Мы делаем уникальные по сложности, масштабу и архитектуре краудсорс-проекты Вы будете работать бок о бок с практикующими специалистами (врачами, юристами и др.) и сильной ML-командой, превращая экспертные знания в понятные правила для модели Наша слаженная команда аналитиков и ML-инженеров качества Поиска постоянно обсуждает задачи и обменивается опытом

Метрики качества Вам предстоит разбираться, как устроены метрики качества модели, развивать их на экспертных срезах и помогать улучшать продукт. Вы будете напрямую работать с экспертами (практикующими специалистами в своей области), формализовать их знания и превращать их в разметку и понятные критерии оценки для модели. Аналитика генеративных ответов Вместе с экспертами вы станете анализировать ответы модели на сложные темы, формулировать, что делает их полезными и точными для пользователя, и на основе этих выводов улучшать качество ответов. Разработка инфраструктуры Вы будете создавать процессы и инструменты, которые снижают рутину для экспертов и ускоряют разметку: разбираться в инфраструктуре, предлагать улучшения и запускать новые пайплайны для более эффективной работы. Больше об аналитике в Яндексе — в канале Yandex for Analytics

Уверенно работаете с Python и SQL Знаете математическую статистику и теорию вероятностей Умеете формализировать и структурировать требования и ожидания заказчиков Самостоятельны и готовы браться за новые задачи, для которых нет готового решения Способны спокойно и аргументированно отстаивать свою точку зрения и выслушивать чужую

Писали инструкции и самостоятельно запускали проекты разметки данных Работали с машинным обучением и нейронными сетями Умеете создавать точные и эффективные промпты для генеративных нейросетей