Entrar em Contato

Programa do Curso

Fundamentos: Modelos de Ameaças para IA Agênctica

  • Tipos de ameaças agênticas: uso indevido, escalada, vazamento de dados e riscos na cadeia de suprimentos
  • Perfis de adversários e capacidades específicas para agentes autônomos
  • Mapeamento de ativos, limites de confiança e pontos críticos de controle para agentes

Governança, Políticas e Gerenciamento de Riscos

  • Frameworks de governança para sistemas agênticos (papéis, responsabilidades, gates de aprovação)
  • Design de políticas: uso aceitável, regras de escalada, manipulação de dados e auditabilidade
  • Considerações de conformidade e coleta de evidências para auditorias

Identidade Não Humana e Autenticação para Agentes

  • Design de identidades para agentes: contas de serviço, JWTs e credenciais de curta duração
  • Padrões de acesso de menor privilégio e provimento de credenciais just-in-time
  • Ciclo de vida da identidade, rotação, delegação e estratégias de revogação

Controles de Acesso, Segredos e Proteção de Dados

  • Modelos de controle de acesso fino e padrões baseados em capacidades para agentes
  • Gestão de segredos, criptografia em trânsito e em repouso, e minimização de dados
  • Proteção de fontes de conhecimento sensíveis e dados pessoais (PII) contra acesso não autorizado por agentes

Observabilidade, Auditoria e Resposta a Incidentes

  • Design de telemetria para comportamento do agente: rastreamento de intenções, logs de comandos e proveniência
  • Integração com SIEM, limites de alerta e prontidão forense
  • Livros de execução (runbooks) e planos de resposta para incidentes relacionados a agentes e contenção

Red-Teaming de Sistemas Agênticos

  • Planejamento de exercícios de red-teaming: escopo, regras de engajamento e failover seguro
  • Técnicas adversariais: injeção de prompts, uso indevido de ferramentas, manipulação do raciocínio em cadeia (chain-of-thought) e abuso de APIs
  • Execução de ataques controlados e medição de exposição e impacto

Endurecimento (Hardening) e Mitigações

  • Controles de engenharia: limites de resposta, controle de capacidades e sandboxing
  • Controles de política e orquestração: fluxos de aprovação, humano no loop (human-in-the-loop) e ganchos de governança
  • Defesas em nível de modelo e prompt: validação de entrada, canonicidade e filtros de saída

Implementação Operacional de Implantações Seguras de Agentes

  • Padrões de implantação: staging, canary e rollout progressivo para agentes
  • Controle de mudanças, pipelines de teste e verificações de segurança pré-implantação
  • Governança multidisciplinar: manuais de operação para segurança, jurídico, produto e operações

Projeto Final: Exercício Red-Team / Blue-Team

  • Executar um ataque simulado de red-team contra um ambiente de agente em sandbox
  • Defender, detectar e remediar como equipe blue-team usando controles e telemetria
  • Apresentar achados, plano de remediação e atualizações de política

Resumo e Próximos Passos

Requisitos

  • Sólida experiência em engenharia de segurança, administração de sistemas ou operações em nuvem
  • Conhecimento básico sobre conceitos de IA/ML e comportamento de modelos de linguagem grandes (LLMs)
  • Experiência com gerenciamento de identidade e acesso (IAM) e design seguro de sistemas

Público-Alvo

  • Engenheiros de segurança e red-teamers
  • Engenheiros de operações e plataformas de IA
  • Oficiais de conformidade e gestores de riscos
  • Líderes de engenharia responsáveis por implantações de agentes
 21 Horas

Número de participantes


Preço por participante

Próximas Formações Provisórias

Categorias Relacionadas