SpaceAI — инфраструктурный слой и proxy для защиты, контроля и безопасного внедрения LLM-моделей и AI-агентов в корпоративную среду.
Через SpaceAI проходят запросы к моделям, tool calls и действия агентов. Платформа управляет доступом, применяет политики безопасности, оценивает риски, запрашивает подтверждение критических операций и формирует полный аудиторский след.
Ищем AI Security Researcher, который будет исследовать угрозы для LLM и агентных систем, проектировать механизмы защиты и превращать их в работающие компоненты продукта.
Это позиция на пересечении AI Security, platform engineering и applied research.
Чем предстоит заниматься
— Исследовать уязвимости LLM-приложений, AI-агентов, RAG-систем, MCP-серверов и межагентных взаимодействий.
— Разрабатывать сценарии атак: prompt injection, data exfiltration, tool misuse, privilege escalation, agent hijacking и supply-chain attacks.
— Проектировать и разрабатывать компоненты платформы управления и защиты AI-агентов.
— Создавать механизмы контроля запросов, tool calls и действий до их выполнения.
— Реализовывать policy enforcement: RBAC, ABAC, capabilities и контекстные правила доступа.
— Разрабатывать Risk Analyzer с решениями allow, verify, approve и block.
— Реализовывать Human-in-the-Loop для подтверждения критических операций.
— Разрабатывать guardrails, DLP, PII masking, input/output-фильтры и обнаружение секретов.
— Проектировать sandboxing, безопасное выполнение действий и kill-switch.
— Развивать аудит, трассировку, observability и инструменты расследования.
— Создавать коннекторы к API, базам данных, корпоративным системам и агентным протоколам.
— Разрабатывать тестовые стенды, attack suites и AI Security-бенчмарки.
— Проводить red teaming платформы и подключаемых AI-систем.
— Участвовать в формировании архитектуры и технического roadmap SpaceAI.
Примеры задач
— Разработать сервис, который перехватывает tool call агента и проверяет его по политикам безопасности.
— Создать Risk Analyzer для оценки потенциального ущерба до выполнения действия.
— Реализовать подтверждение человеком удаления данных, платежа или изменения конфигурации.
— Разработать детектор prompt injection и передачи чувствительных данных во внешнюю LLM.
— Спроектировать immutable audit trail для восстановления цепочки действий агента.
— Создать sandbox для безопасного выполнения кода и инструментов.
— Реализовать централизованное управление правами и capabilities агентов.
— Разработать стенд для автоматического тестирования LLM-приложений на атаки.
— Исследовать угрозы MCP- и A2A-взаимодействий и реализовать механизмы защиты.
— Создать механизм объяснения, почему действие было разрешено, заблокировано или отправлено на согласование.
Что мы ожидаем
— Уверенное владение Python и опыт разработки backend-сервисов, API или инфраструктурных компонентов.
— Понимание архитектуры LLM-приложений и AI-агентов: RAG, embeddings, inference, tool calling и agent workflows.
— Знание основных классов атак на LLM и агентные системы.
— Понимание application security, API Security, IAM и принципов secure-by-design.
— Знание аутентификации, авторизации, RBAC, ABAC и capability-based access control.
— Опыт работы с Docker, Linux, Git, REST API и базами данных.
— Понимание архитектуры распределённых систем, отказоустойчивости, latency и observability.
— Умение проводить threat modeling и проектировать механизмы защиты.
— Способность пройти путь от исследования и гипотезы до прототипа и production-реализации.
— Умение работать с научными публикациями, документацией и open-source-кодом.
— Английский язык на уровне чтения технической документации и исследований.
Будет преимуществом
— Опыт разработки security-продуктов, API Gateway, IAM, DLP, SIEM, SOAR или observability-систем.
— Практический опыт red teaming LLM или adversarial machine learning.
— Опыт работы с MCP, A2A, LangGraph, LangChain, LlamaIndex, AutoGen или CrewAI.
— Знание Kubernetes, PostgreSQL, Redis, Kafka или NATS.
— Опыт работы с OPA, Cedar, Casbin или другими policy engines.
— Знание OpenTelemetry, Prometheus, Grafana и distributed tracing.
— Участие в CTF, bug bounty или security-исследованиях.
— Понимание OWASP Top 10 for LLM Applications, MITRE ATLAS, NIST AI RMF или ISO/IEC 42001.
— Собственные open-source-проекты, публикации или выступления в области AI Security.
Что важно для этой роли
Мы ищем не только исследователя и не только разработчика.
Нам нужен специалист, способный:
— сформулировать проблему и построить модель угроз;
— предложить архитектуру защиты;
— реализовать и протестировать прототип;
— проверить его на сценариях атак;
— довести решение до промышленного компонента платформы.
Как будет оцениваться результат
— Качество разработанных механизмов защиты.
— Количество исследованных и закрытых классов угроз.
— Скорость перехода от гипотезы к работающему прототипу.
— Точность детекторов и уровень false positive / false negative.
— Производительность и latency security-проверок.
— Полнота аудиторского следа.
— Покрытие тестами и стабильность решений в production.
— Вклад в архитектуру и развитие продукта.
Что предлагаем
— Разработку полноценной AI Security-платформы, а не отдельного фильтра поверх LLM.
— Работу над реальными enterprise-сценариями внедрения AI-агентов.
— Возможность влиять на архитектуру, продукт и технический roadmap.
— Ownership над отдельными компонентами платформы.
— Возможность создавать собственные AI Security-бенчмарки и исследования.
— Публикации и выступления на профильных мероприятиях.
— Прямую коммуникацию с основателями и короткий цикл принятия решений.
— Удалённый или гибридный формат.
— Возможность получить долю или опцион при долгосрочном сотрудничестве.
Формат работы
— Частичная или полная занятость.
— Удалённо или гибридно.
— Уровень: Middle / Senior.
Как откликнуться
Отправьте резюме, GitHub и кратко расскажите:
— какие AI-, backend- или security-продукты вы разрабатывали;
— за какую часть архитектуры отвечали;
— какие security-механизмы или исследовательские стенды создавали;
— работали ли с LLM, AI-агентами, MCP или tool calling;
— какую задачу в AI Security считаете сейчас наиболее сложной.
Будем рады увидеть open-source-проекты, статьи, исследования, CTF, bug bounty или технические выступления.
SpaceAI — создаём инфраструктуру, в которой AI-агенты могут действовать автономно, но не бесконтрольно.
Похожие вакансии
ML/CV-инженер
от 262 500 ₽
Казань
Инженер по машинному зрению
от 157 500 ₽
Казань
ML-engineer/researcher в финтех
Казань
Инженер компьютерного зрения/CV Engineer
от 157 500 ₽
Казань
Junior+/Middle CV/ML инженер
Казань
Младший инженер по работе с большими языковыми моделями (Junior LLM Engineer)
от 60 000 ₽
Казань