Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Programa do Curso
Fundamentos: Modelos de Ameaças para IA Agêntica
- Tipos de ameaças agênticas: mau uso, escalonamento, vazamento de dados e riscos de cadeia de suprimentos.
- Perfis de adversários e capacidades de atacantes específicos para agentes autônomos.
- Mapeamento de ativos, fronteiras de confiança e pontos de controle críticos para agentes.
Governança, Política e Gestão de Riscos
- Estruturas de governança para sistemas agênticos (papel, responsabilidades, portões de aprovação).
- Design de políticas: uso aceitável, regras de escalonamento, tratamento de dados e auditabilidade.
- Considerações de conformidade e coleta de evidências para auditorias.
Identidade e Autenticação Não-Humana para Agentes
- Projetando identidades para agentes: contas de serviço, JWTs e credenciais de vida curta.
- Padrões de acesso com privilégio mínimo e credenciamento em tempo real (just-in-time).
- Ciclo de vida da identidade, rotação, delegação e estratégias de revogação.
Controles de Acesso, Segredos e Proteção de Dados
- Modelos de controle de acesso granular e padrões baseados em capacidades para agentes.
- Gerenciamento de segredos, criptografia em trânsito e em repouso, e minimização de dados.
- Proteção de fontes de conhecimento sensíveis e PII contra acesso não autorizado por agentes.
Observabilidade, Auditoria e Resposta a Incidentes
- Projetando telemetria para o comportamento dos agentes: rastreamento de intenção, registros de comandos e proveniência.
- Integração com SIEM, limiares de alertas e prontidão forense.
- Runbooks e playbooks para incidentes relacionados a agentes e contenção.
Red-Teaming de Sistemas Agênticos
- Planejamento de exercícios de red-teaming: escopo, regras de engajamento e failover seguro.
- Técnicas adversariais: injeção de prompt, mau uso de ferramentas, manipulação de cadeia de raciocínio e abuso de API.
- Execução de ataques controlados e medição de exposição e impacto.
Fortalecimento e Mitigações
- Controles de engenharia: limitação de respostas, bloqueio de capacidades e sandboxing.
- Controles de política e orquestração: fluxos de aprovação, humano no loop (human-in-the-loop) e ganchos de governança.
- Defesas no nível do modelo e do prompt: validação de entrada, canonização e filtros de saída.
Operacionalizando Implantações Seguras de Agentes
- Padrões de implantação: staging, canário e lançamento progressivo para agentes.
- Controle de mudanças, pipelines de testes e verificações de segurança pré-implementação.
- Governança multifuncional: playbooks de segurança, jurídico, produto e operações.
Projeto Final: Exercício Red-Team / Blue-Team
- Executar um ataque de red-teaming simulado contra um ambiente de agente em sandbox.
- Defender, detectar e corrigir como blue-team usando controles e telemetria.
- Apresentar descobertas, plano de correção e atualizações de política.
Resumo e Próximos Passos
Requisitos
- Forte base em engenharia de segurança, administração de sistemas ou operações em nuvem.
- Familiaridade com conceitos de IA/ML e comportamento de modelos de linguagem grandes (LLMs).
- Experiência com gerenciamento de identidade e acesso (IAM) e design de sistemas seguros.
Público-Alvo
- Engenheiros de segurança e red-teamers.
- Engenheiros de operações de IA e de plataformas.
- Oficiais de conformidade e gestores de riscos.
- Líderes de engenharia responsáveis por implantações de agentes.
21 Horas
Testemunhos de Clientes (1)
inventariar e identificar as diferentes exposições a riscos dentro da IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Máquina Traduzida
