Senior Data инженер-Safety Engineer

Мы стремимся развивать искусственный интеллект, понимая, что создание безопасной и надежной платформы — фундамент нашей миссии и доверия клиентов. Мы ищем инженера, который поможет нам выстроить новые стандарты в сфере Trust & Safety. Если вам близок дух Bell Labs или Xerox PARC их лучших лет — дух глубоких исследований, проверки гипотез и доведения идей до работающего продукта (production) — вам к нам. Вы будете работать на стыке исследований и инженерии, создавая системы защиты от рисков, связанных с большими языковыми моделями (LLM) и ИИ-агентами.* разработка систем предотвращения фактологических и контекстных галлюцинаций, детекции токсичности, дискриминации и вредоносного контента * разработка Guardrails * проектирование и внедрение архитектурных решений и тактик ограничения вывода моделей (guardrails) для защиты пользователей от злоупотреблений * обучение моделей, дообучение (fine-tuning) и обучение мультимодальных моделей, создание новых нейросетевых архитектур под задачи безопасности * мониторинг и реагирование, выявление и устранение активных инцидентов, создание инструментов и инфраструктуры для устранения первопричин сбоев (root cause analysis) * исследования и развитие, тесное сотрудничество с исследователями для внедрения передовых методов AI Safety, участие в профильных конференциях, изучение статей и адаптация мирового опыта под наши продукты * оценка соответствия, измерение и улучшение соответствия поведения ИИ-моделей и агентов человеческим ценностям и этическим нормам.* опыт в безопасности, увас есть опыт работы в сфере контент-модерации, борьбы с мошенничеством (fraud) или злоупотреблениями * отличное знание Python, готовность быстро углубиться в Python-экосистему для ML * опыт развертывания классификаторов и ML-моделей в продакшене или сильное желание освоить современную ML-инфраструктуру * понимание принципов проектирования и обучения нейросетей: от классических CNN/RNN до современных трансформеров и мультимодальных архитектур * опыт разработки ИИ-агентов и понимание архитектур многоагентных систем (Multi-Agent Systems) * успешный опыт создания и поддержки высоконагруженных сервисов в условиях быстрого масштабирования * навык критической оценки рисков новых функций и поиска инновационных решений для их минимизации (mitigation) без ухудшения пользовательского опыта (UX).* комфортный современный офис рядом с м. Кутузовская, гибридный график работы, возможность работать удаленно из другого региона * ежегодный пересмотр зарплаты и годовая премия по результатам работы * расширенный ДМС, льготное страхование для семьи, корпоративный спортзал и зоны отдыха * доступ к более чем 400 образовательным программам СберУниверситета для профессионального и карьерного роста * финансовые льготы: гибкий дисконт по ипотечному кредиту (1/3 ключевой ставки ЦБ), бесплатная подписка СберПрайм+, скидки от партнеров * вознаграждение за рекомендацию друзей в команду Сбера.