Entrar em Contato

Programa do Curso

Introdução ao QLoRA e à Quantização

  • Panorama da quantização e seu papel na otimização de modelos
  • Introdução ao framework QLoRA e seus benefícios
  • Diferenças-chave entre QLoRA e métodos tradicionais de ajuste fino

Fundamentos de Grandes Modelos de Linguagem (LLMs)

  • Introdução aos LLMs e sua arquitetura
  • Desafios do ajuste fino de grandes modelos em escala
  • Como a quantização ajuda a superar restrições computacionais no ajuste fino de LLMs

Implementação do QLoRA para Ajuste Fino de LLMs

  • Configuração do framework e do ambiente QLoRA
  • Preparação de conjuntos de dados para o ajuste fino com QLoRA
  • Guia passo a passo para implementar o QLoRA em LLMs usando Python e PyTorch/TensorFlow

Otimização do Desempenho do Ajuste Fino com QLoRA

  • Como equilibrar precisão do modelo e desempenho com quantização
  • Técnicas para reduzir custos de computação e uso de memória durante o ajuste fino
  • Estratégias para ajustar finos com requisitos mínimos de hardware

Avaliação de Modelos Ajustados

  • Como avaliar a eficácia dos modelos ajustados
  • Métricas comuns de avaliação para modelos de linguagem
  • Otimização do desempenho do modelo pós-ajuste e resolução de problemas

Implantação e Escalonamento de Modelos Ajustados

  • Melhores práticas para implantar LLMs quantizados em ambientes de produção
  • Escalonamento da implantação para atender a solicitações em tempo real
  • Ferramentas e frameworks para implantação e monitoramento de modelos

Casos de Uso e Estudos de Caso do Mundo Real

  • Estudo de caso: Ajuste fino de LLMs para suporte ao cliente e tarefas de PLN
  • Exemplos de ajuste fino de LLMs em vários setores, como saúde, finanças e comércio eletrônico
  • Lições aprendidas com implantações reais de modelos baseados em QLoRA

Resumo e Próximos Passos

Requisitos

  • Compreensão dos fundamentos de aprendizado de máquina e redes neurais
  • Experiência com ajuste fino de modelos e aprendizado por transferência
  • Familiaridade com grandes modelos de linguagem (LLMs) e frameworks de aprendizado profundo (por exemplo, PyTorch, TensorFlow)

Público-Alvo

  • Engenheiros de aprendizado de máquina
  • Desenvolvedores de IA
  • Cientistas de dados
 14 Horas

Número de participantes


Preço por participante

Próximas Formações Provisórias

Categorias Relacionadas