Curso de Construindo Aplicações de LLM Seguras e Responsáveis

Visão geral da Arquitetura de LLM e Superfície de Ataque

• Como os LLMs são construídos, implantados e acessados via APIs
• Componentes-chave nas stacks de aplicativos de LLM (por exemplo, prompts, agentes, memória, APIs)
• Onde e como surgem problemas de segurança no uso do mundo real

Injeção de Prompt e Ataques de Jailbreak

• O que é injeção de prompt e por que é perigosa
• Cenários de injeção direta e indireta de prompts
• Técnicas de jailbreaking para contornar filtros de segurança
• Estratégias de detecção e mitigação

Vazamento de Dados e Riscos de Privacidade

• Exposição acidental de dados por meio das respostas
• Vazamentos de PII e uso indevido da memória do modelo
• Prompts e geração aumentada por recuperação (RAG) conscientes da privacidade

Filtragem e Proteção de Saídas de LLM

• Uso do Guardrails AI para filtragem e validação de conteúdo
• Definição de esquemas e restrições de saída
• Monitoramento e registro de saídas inseguras

Abordagens com Intervenção Humana e Fluxos de Trabalho

• Onde e quando introduzir supervisão humana
• Filas de aprovação, limites de pontuação e tratamento de falhas
• Calibração de confiança e o papel da explicabilidade

Padrões de Design Seguro para Aplicações de LLM

• Mínimo privilégio e sandboxing para chamadas de API e agentes
• Limitação de taxa, controle de fluxo e detecção de abuso
• Cadeias robustas com LangChain e isolamento de prompts

Conformidade, Registro (Logging) e Governança

• Garantir a auditabilidade das saídas de LLM
• Manter rastreabilidade e controle de versão de prompts
• Alinear-se às políticas de segurança internas e necessidades regulatórias

Resumo e Próximos Passos