Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Duração 21 horas
Programa do Curso
Fundamentos: Modelos de Ameaças para IA Agêntica
- Tipos de ameaças agênticas: uso indevido, escalada, vazamento de dados e riscos na cadeia de suprimentos.
- Perfis de adversários e capacidades de atacantes específicos para agentes autônomos.
- Mapeamento de ativos, fronteiras de confiança e pontos críticos de controle para agentes.
Governança, Políticas e Gestão de Riscos
- Frameworks de governança para sistemas agênticos (papéis, responsabilidades, portões de aprovação).
- Design de políticas: uso aceitável, regras de escalada, tratamento de dados e auditabilidade.
- Considerações de conformidade e coleta de evidências para auditorias.
Identidade e Autenticação Não Humanas para Agentes
- Design de identidades para agentes: contas de serviço, JWTs e credenciais de curta duração.
- Padrões de acesso com privilégios mínimos e credenciamento just-in-time.
- Ciclo de vida da identidade, rotação, delegação e estratégias de revogação.
Controles de Acesso, Segredos e Proteção de Dados
- Modelos de controle de acesso granulares e padrões baseados em capacidades para agentes.
- Gestão de segredos, criptografia em trânsito e em repouso, e minimização de dados.
- Proteção de fontes de conhecimento sensíveis e PII contra acesso não autorizado por agentes.
Observabilidade, Auditoria e Resposta a Incidentes
- Design de telemetria para o comportamento dos agentes: rastreamento de intenção, logs de comandos e origem (provenance).
- Integração com SIEM, limites de alerta e preparação forense.
- Runbooks e playbooks para incidentes relacionados a agentes e contenção.
Red-Teaming de Sistemas Agênticos
- Planejamento de exercícios de red-team: escopo, regras de engajamento e failover seguro.
- Técnicas adversariais: injeção de prompt, uso indevido de ferramentas, manipulação da cadeia de raciocínio e abuso de APIs.
- Realização de ataques controlados e medição de exposição e impacto.
Fortalecimento e Mitigações
- Controles de engenharia: limitação de respostas (throttling), controle de capacidades e sandboxing.
- Controles de política e orquestração: fluxos de aprovação, intervenção humana (human-in-the-loop) e ganchos de governança.
- Defesas em nível de modelo e prompt: validação de entrada, canonicização e filtros de saída.
Operacionalizando Implantações Seguras de Agentes
- Padrões de implantação: staging, canary e rollout progressivo para agentes.
- Controle de mudanças, pipelines de teste e verificações de segurança pré-implantação.
- Governança multifuncional: playbooks de segurança, jurídica, produto e operações.
Capstone: Exercício Red-Team / Blue-Team
- Executar um ataque simulado de red-team contra um ambiente de agentes em sandbox.
- Defender, detectar e remediar como equipe blue, utilizando controles e telemetria.
- Apresentar achados, plano de remediação e atualizações de políticas.
Resumo e Próximos Passos
Requisitos
- Sólidos conhecimentos em engenharia de segurança, administração de sistemas ou operações em nuvem.
- Familiaridade com conceitos de IA/ML e comportamento de grandes modelos de linguagem (LLMs).
- Experiência em gestão de identidade e acesso (IAM) e design de sistemas seguros.
Público-Alvo
- Engenheiros de segurança e profissionais de red-team.
- Engenheiros de operações de IA e plataformas.
- Oficiais de conformidade e gestores de riscos.
- Líderes de engenharia responsáveis pelas implantações de agentes.
Testemunhos de Clientes (1)
inventariar e identificar as diferentes exposições a riscos dentro da IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Máquina Traduzida
