Programa do Curso

Visão Geral da Arquitetura de LLM e Superfície de Ataque

  • Como os LLMs são construídos, implantados e acessados via APIs
  • Componentes-chave nas pilhas de aplicativos LLM (por exemplo, prompts, agentes, memória, APIs)
  • Onde e como problemas de segurança surgem no uso real

Injeção de Prompt e Ataques de Liberação

  • O que é injeção de prompt e por que é perigoso
  • Cenários de injeção direta e indireta de prompts
  • Técnicas de liberação para contornar filtros de segurança
  • Estratégias de detecção e mitigação

Vazamento de Dados e Riscos à Privacidade

  • Exposição acidental de dados através das respostas
  • Fugas de PII e uso indevido da memória do modelo
  • Diseño de prompts conscientes da privacidade e geração auxiliada por recuperação (RAG)

Filtragem e Proteção de Saída de LLM

  • Usando Guardrails AI para filtragem e validação de conteúdo
  • Definindo esquemas e restrições de saída
  • Monitoramento e registro de saídas inseguras

Abordagens Human-in-the-Loop e Fluxo de Trabalho

  • Onde e quando introduzir supervisão humana
  • Filas de aprovação, limiares de pontuação, tratamento de falhas
  • Acalibragem da confiança e o papel da explicabilidade

Aplicativo LLM Seguro Design Patterns

  • Mínimos privilégios e areno para chamadas de API e agentes
  • Limite de taxa, controle de fluxo e detecção de abuso
  • Cadeias robustas com LangChain e isolamento de prompts

Conformidade, Registro e Governança Go

  • Garantindo a auditoria das saídas do LLM
  • Mantendo rastreabilidade e controle de versão de prompt
  • Alinhando com políticas internas de segurança e necessidades regulatórias

Resumo e Próximos Passos

Requisitos

  • Compreensão de modelos de linguagem grandes e interfaces baseadas em prompts
  • Experiência na construção de aplicações LLM usando Python
  • Familiaridade com integrações API e implantações baseadas em nuvem

Público-Alvo

  • Desenvolvedores de IA
  • Arquitetos de aplicativos e soluções
  • Gestores técnicos de produtos que trabalham com ferramentas LLM
 14 Horas

Número de participantes


Preço por Participante

Próximas Formações Provisórias

Categorias Relacionadas