Udemy [Udemy, Bayt Al Hikmah] LLM и API Security: буткемп по тестированию безопасности AI (2026)

[Gatsby]

Автор: Udemy, Bayt Al Hikmah
Название: LLM и API Security: буткемп по тестированию безопасности AI (2026)

Описание:

LLM & API Security: AI Penetration Testing Bootcamp

Язык: Английский

От новичка в промпт-инжектинге до инженера по безопасности ИИ: создайте, протестируйте и защитите 100 реальных лабораторий по работе с большими языковыми моделями.

О курсе

Практический курс по комплексной безопасности приложений на базе больших языковых моделей и AI-систем.

Обучение построено вокруг 100 последовательных лабораторных работ, в которых участник самостоятельно создаёт локальную инфраструктуру для тестирования LLM-приложений, исследует её уязвимости, внедряет защитные механизмы и проверяет их эффективность.

Курс охватывает не только Prompt Injection, но и безопасность API, RAG, векторных баз данных, AI-агентов, MCP, цепочки поставок, CI/CD, Kubernetes, мониторинг, реагирование на инциденты и AI Red Teaming.

Практика выполняется в локальной, специально созданной и намеренно уязвимой среде.

Чему вы научитесь

• Создайте и разверните с нуля полный набор средств защиты приложений LLM с помощью FastAPI, Docker и макета шлюза LLM.
• Составьте карту поверхностей атак LLM, границ доверия и 10 основных рисков OWASP LLM, используя модели угроз, согласованные с MITRE ATLAS.
• Предотвращайте прямой и косвенный подпрос, утечку системных подсказок и небезопасный рендеринг выходных данных.
• Внедряйте аутентификацию API, проверку JWT, изоляцию клиентов и ограничение скорости, чтобы предотвратить злоупотребления большими языковыми моделями.
• Создайте и защитите конвейер RAG: прием данных, встраивание, векторные хранилища, фильтрацию метаданных и защиту от «отравления» при извлечении данных.
• Разработайте агентские системы с минимальными привилегиями, с фильтрами утверждений, «песочницей» и проверками безопасности с использованием протокола Model Context.
• Автоматизируйте «красную» работу с искусственным интеллектом с помощью garak, PyRIT и пользовательских средств фаззинга, интегрированных в CI-совместимые системы безопасности.
• Защитите цепочку поставок программного обеспечения с помощью сканирования Trivy, SBOM от Syft, проверок Grype и планов подписи образов от Cosign.
• Разверните защищенные рабочие нагрузки в Kubernetes с помощью kind, политик допуска и идентификации рабочих нагрузок SPIFFE/SPIRE.
• Обеспечьте наблюдаемость, реагирование на инциденты и контроль нецелевого использования средств, а затем внедрите независимую систему, готовую к аудиту.

Материалы курса

• 12 разделов • 112 лекций • Общая продолжительность 26 ч 56 мин
• Вступление
• Модуль 1: Foundations, Local Environment Setup, and Initial Success
• Модуль 2: LLM Attack Surface and Threat Modeling
• Модуль 3: Оперативный ввод, обработка выходных данных и предоставление доступа к данным
• Модуль 4: Безопасность API, идентификация и авторизация для приложений LLM
• Модуль 5: RAG, встраивания, векторные хранилища и управление данными
• Модуль 6: Агентские системы, инструменты, MCP и избыточное агентство
• Модуль 7: Автоматизированное объединение в группы, фаззинг и конвейеры оценки Red Teaming
• Модуль 8: Безопасность платформы, цепочка поставок и CI/CD
• Модуль 9: Наблюдаемость, реагирование на инциденты, надежность и контроль затрат
• Модуль 10: Sovereign Deployment, Decentralized Research, and Capstone
• Вывод

Требования

• Базовые навыки работы с командной строкой
• Умение запускать команды и перемещаться между каталогами
• Базовое знание Python: переменные, функции и простые скрипты
• Предварительный опыт работы с FastAPI не требуется
• Предварительный опыт API Security не требуется
• Сертификация по информационной безопасности не требуется
• Компьютер с macOS, Linux либо Windows с WSL2
• Не менее 8 ГБ оперативной памяти
• Для модулей Kubernetes и Vector Store рекомендуется 16 ГБ оперативной памяти
• Не менее 15 ГБ свободного места на диске
• Docker Desktop либо Docker Engine
• Git
• Python версии 3.11 или новее

Облачная учётная запись и платные API-ключи не требуются.

Все лабораторные работы выполняются локально на специально созданной тестовой системе.

Для кого предназначен курс

• Специалисты Application Security
• Пентестеры
• Специалисты по тестированию веб-приложений и REST API, желающие перейти к AI Security
• Backend-разработчики
• Platform Engineers
• Разработчики LLM-приложений
• Разработчики чат-ботов и AI Copilot
• Разработчики агентных AI-систем
• Специалисты AI Red Team
• AI Security Engineers
• Platform Security Engineers
• Специалисты по информационной безопасности, желающие получить практический опыт LLM Security
• Студенты и специалисты, планирующие карьеру в AI Security

Особенности курса

• Курс не ограничивается демонстрацией отдельных Jailbreak или Prompt Injection.
• Основная задача — научить комплексно исследовать архитектуру LLM-приложения:
• API Gateway
• слой аутентификации и авторизации
• RAG
• Vector Store
• AI Tools
• Agentic Workflows
• MCP
• контейнерную инфраструктуру
• CI/CD
• Kubernetes
• аудит и журналирование
• реагирование на инциденты

К концу обучения студент должен уметь не только находить уязвимости, но и исправлять их, создавать автоматизированные проверки и подтверждать эффективность реализованных мер защиты.

Подробнее:

Скачать:

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.