Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Programa do Curso
Introdução ao Ajuste Fino Eficiente em Parâmetros (PEFT)
- Motivação e limitações do ajuste fino completo
- Visão geral do PEFT: objetivos e benefícios
- Aplicações e casos de uso na indústria
LoRA (Low-Rank Adaptation)
- Conceito e intuição por trás do LoRA
- Implementando LoRA usando Hugging Face e PyTorch
- Prática: Ajuste fino de um modelo com LoRA
Adapter Tuning
- Como funcionam os módulos de adapter
- Integração com modelos baseados em transformers
- Prática: Aplicando Adapter Tuning a um modelo transformer
Prefix Tuning
- Usando prompts suaves para ajuste fino
- Forças e limitações em comparação com LoRA e adapters
- Prática: Prefix Tuning em uma tarefa de LLM
Avaliando e Comparando Métodos PEFT
- Métricas para avaliar desempenho e eficiência
- Compensações em velocidade de treinamento, uso de memória e precisão
- Experimentos de benchmarking e interpretação de resultados
Implantação de Modelos Ajustados
- Salvando e carregando modelos ajustados
- Considerações para implantação de modelos baseados em PEFT
- Integração em aplicações e pipelines
Boas Práticas e Extensões
- Combinação de PEFT com quantização e destilação
- Uso em cenários de poucos recursos e multilingues
- Direções futuras e áreas de pesquisa ativa
Requisitos
- Compreensão dos fundamentos do aprendizado de máquina
- Experiência trabalhando com grandes modelos de linguagem (LLMs)
- Familiaridade com Python e PyTorch
Público Alvo
- Cientistas de dados
- Engenheiros de IA
14 Horas
