Эксперт по безопасности GenAI-моделей (LLM/MLM) и приложений

Мы предлагаем возможность присоединиться к проектам в новом, динамично развивающемся направлении безопасности генеративного искусственного интеллекта (GenAI). Ваши задачи будут связанны с поиском и исследованием уязвимостей GenAI-моделей (LLM/MLM) и приложений с их использованием, в том числе AI-агентов. В дружном коллективе опытных экспертов вы будете участвовать в исследовании и развитии существующих методов и создании новых методов исследования и тестирования безопасности ИИ. Разнообразие архитектур и компонентов в ИИ решениях требует широкого кругозора от исследователя безопасности ИИ, а также умения быстро разбираться в новых инструментах и технологиях.### Вам предстоит: * анализ новых инцидентов и методов проведения атак, подготовка рекомендаций по улучшению защищенности * разработка и создание практических примеров атак (Proof-of-Concept, PoC) для исследования и демонстрации уязвимостей ИИ * улучшение имеющихся программных инструментов для тестирования моделей ИИ и приложений на основе ИИ, включая ИИ агентов, анализ устойчивости к новым методам атак * оценка уровня защищенности существующих моделей ИИ и приложений в Банке и предложение улучшений * участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.### Что для нас важно: * профиль и образование: законченное высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин, либо эквивалентный практический опыт * программирование на Python, понимание и использование принципов «чистого кода», знание основных python библиотек, установка/настройка/применение, опыт использования ИИ python библиотек (например, torch, transformers, langchain), работа с huggingface * технический (ИТ, ИБ) английский язык для беглого чтения и понимания статей (arXiv и аналоги), опыт разбора статей на английском языке * технологии ИИ: знание основных задач и принципов машинного обучения, знание основных метрик оценки качества, общее понимание архитектуры, принципов работы и обучения LLM/MLM * знание основ информационной безопасности, понимание принципов работы основных методов атаки и защиты LLM и AI агентов, знание актуального состояния фреймворков OWASP, MITRE, БДУ ФСТЭК, «Модель угроз кибербезопасности AI Сбер» и других, понимание их структуры и принципов использования в работе * 2+ лет релевантного опыта работы, включая опыт в академической среде. **Будет преимуществом:** * участие в соревнованиях по атакам на модели/агентов GenAI * опыт представления результатов своей работы широкой аудитории, публикации, репозитории git, kaggle и т.п.### Мы предлагаем: * комфортный современный офис * офисный формат работы * ежегодный пересмотр зарплаты, годовая премия * корпоративный спортзал и зоны отдыха * более 400 образовательных программ СберУниверситета для профессионального и карьерного развития * программа адаптации и помощь руководителя на старте * расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа * гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ * бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров * вознаграждение за рекомендацию друзей в команду Сбера.