Entrar em Contato

Programa do Curso

Introdução ao Mistral em Escala

  • Visão geral do Mistral Medium 3
  • Trocas entre desempenho e custo
  • Considerações para escala empresarial

Padrões de Implantação para LLMs

  • Topologias de serviço e escolhas de design
  • Implantações em ambiente local vs. na nuvem
  • Estratégias híbridas e multi-nuvem

Técnicas de Otimização de Inferência

  • Estratégias de batching para alta capacidade de processamento
  • Métodos de quantização para redução de custos
  • Utilização de aceleradores e GPUs

Escalabilidade e Confiabilidade

  • Escala de clusters Kubernetes para inferência
  • Balanceamento de carga e roteamento de tráfego
  • Tolerância a falhas e redundância

Frameworks de Engenharia de Custos

  • Medição da eficiência de custo de inferência
  • Sizing adequado de recursos de computação e memória
  • Monitoramento e alertas para otimização

Segurança e Conformidade em Produção

  • Proteção de implantações e APIs
  • Considerações sobre governança de dados
  • Conformidade regulatória em engenharia de custos

Estudos de Caso e Melhores Práticas

  • Arquiteturas de referência para o Mistral em escala
  • Lições aprendidas com implantações empresariais
  • Tendências futuras na inferência eficiente de LLMs

Resumo e Próximos Passos

Requisitos

  • Forte compreensão da implantação de modelos de aprendizado de máquina
  • Experiência com infraestrutura de nuvem e sistemas distribuídos
  • Familiaridade com estratégias de ajuste de desempenho e otimização de custos

Público-Alvo

  • Engenheiros de infraestrutura
  • Arquitetos de nuvem
  • Líderes de MLOps
 14 Horas

Número de participantes


Preço por participante

Próximas Formações Provisórias

Categorias Relacionadas