Entrar em Contato

Programa do Curso

Visão geral da Arquitetura de LLM e Superfície de Ataque

  • Como os LLMs são construídos, implantados e acessados via APIs
  • Componentes-chave nas stacks de aplicativos de LLM (por exemplo, prompts, agentes, memória, APIs)
  • Onde e como surgem problemas de segurança no uso do mundo real

Injeção de Prompt e Ataques de Jailbreak

  • O que é injeção de prompt e por que é perigosa
  • Cenários de injeção direta e indireta de prompts
  • Técnicas de jailbreaking para contornar filtros de segurança
  • Estratégias de detecção e mitigação

Vazamento de Dados e Riscos de Privacidade

  • Exposição acidental de dados por meio das respostas
  • Vazamentos de PII e uso indevido da memória do modelo
  • Prompts e geração aumentada por recuperação (RAG) conscientes da privacidade

Filtragem e Proteção de Saídas de LLM

  • Uso do Guardrails AI para filtragem e validação de conteúdo
  • Definição de esquemas e restrições de saída
  • Monitoramento e registro de saídas inseguras

Abordagens com Intervenção Humana e Fluxos de Trabalho

  • Onde e quando introduzir supervisão humana
  • Filas de aprovação, limites de pontuação e tratamento de falhas
  • Calibração de confiança e o papel da explicabilidade

Padrões de Design Seguro para Aplicações de LLM

  • Mínimo privilégio e sandboxing para chamadas de API e agentes
  • Limitação de taxa, controle de fluxo e detecção de abuso
  • Cadeias robustas com LangChain e isolamento de prompts

Conformidade, Registro (Logging) e Governança

  • Garantir a auditabilidade das saídas de LLM
  • Manter rastreabilidade e controle de versão de prompts
  • Alinear-se às políticas de segurança internas e necessidades regulatórias

Resumo e Próximos Passos

Requisitos

  • Conhecimento sobre grandes modelos de linguagem e interfaces baseadas em prompts
  • Experiência na construção de aplicações de LLM usando Python
  • Conhecimento prévio de integrações de API e implantações baseadas em nuvem

Público-Alvo

  • Desenvolvedores de IA
  • Arquitetos de aplicações e soluções
  • Gerentes de produto técnicos que trabalham com ferramentas de LLM
 14 Horas

Número de participantes


Preço por participante

Próximas Formações Provisórias

Categorias Relacionadas