Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Duração 14 horas
Programa do Curso
Introdução ao Mistral em Escala
- Visão geral do Mistral Medium 3
- Compromissos entre desempenho e custo
- Considerações para escala empresarial
Padrões de Implantação para LLMs
- Topologias de serventia e escolhas de design
- Implantações locais (on-premises) vs. na nuvem
- Estratégias híbridas e de multi-nuvem
Técnicas de Otimização de Inferência
- Estratégias de lote para alta taxa de transferência
- Métodos de quantização para redução de custos
- Utilização de aceleradores e GPUs
Escalabilidade e Confiabilidade
- Escala de clusters Kubernetes para inferência
- Balanceamento de carga e roteamento de tráfego
- Tolerância a falhas e redundância
Frameworks de Engenharia de Custos
- Medição da eficiência de custo da inferência
- Ajuste do tamanho (right-sizing) de recursos de computação e memória
- Monitoramento e alertas para otimização
Segurança e Conformidade em Produção
- Segurança de implantações e APIs
- Considerações sobre governança de dados
- Conformidade regulatória na engenharia de custos
Estudos de Caso e Boas Práticas
- Arquiteturas de referência para Mistral em escala
- Aprendizados de implantações empresariais
- Tendências futuras na inferência eficiente de LLMs
Resumo e Próximos Passos
Requisitos
- Sólido entendimento da implantação de modelos de aprendizado de máquina
- Experiência com infraestrutura de nuvem e sistemas distribuídos
- Familiaridade com estratégias de ajuste de desempenho e otimização de custos
Público-Alvo
- Engenheiros de infraestrutura
- Arquitetos de nuvem
- Líderes de MLOps