Programa do Curso
Introdução à otimização e implementação de modelos
- Visão geral dos modelos DeepSeek e desafios de implantação
- Compreender a eficiência do modelo: velocidade vs. precisão
- Principais métricas de desempenho para modelos de IA
Otimização de modelos DeepSeek para desempenho
- Técnicas para reduzir a latência da inferência
- Quantização de modelos e estratégias de poda
- Utilização de bibliotecas optimizadas para modelos DeepSeek
Implementação de MLOps para modelos DeepSeek
- Controlo de versões e rastreio de modelos
- Automatizando o retreinamento e a implantação do modelo
- Pipelines de CI/CD para aplicações de IA
Implantação de modelos DeepSeek em ambientes na nuvem e no local
- Escolhendo a infraestrutura certa para implantação
- Implantando com Docker e Kubernetes
- Gerenciando o acesso e a autenticação da API
Dimensionamento e monitoramento de implantações de IA
- Estratégias de balanceamento de carga para serviços de IA
- Monitorando a deriva do modelo e a degradação do desempenho
- Implementar o dimensionamento automático para aplicativos de IA
Garantir a segurança e a conformidade em implantações de IA
- Gerenciando a privacidade de dados em fluxos de trabalho de IA
- Conformidade com os regulamentos empresariais de IA
- Práticas recomendadas para implantações seguras de IA
Tendências futuras e estratégias de otimização de IA
- Avanços nas técnicas de otimização de modelos de IA
- Tendências emergentes em MLOps e infra-estruturas de IA
- Criação de um roteiro de implantação de IA
Resumo e próximos passos
Requisitos
- Experiência com a implantação de modelos de IA e infra-estruturas de nuvem
- Proficiência numa linguagem de programação (por exemplo, Python, Java, C++)
- Compreensão de MLOps e otimização do desempenho do modelo
Público
- Engenheiros de IA que otimizam e implantam modelos DeepSeek
- Cientistas de dados trabalhando no ajuste de desempenho de IA
- Especialistas em aprendizado de máquina gerenciando sistemas de IA baseados em nuvem
Declaração de Clientes (2)
o ecossistema de ML não se limita ao MLFlow, mas também inclui o Optuna, hyperopt, Docker e docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Curso - MLflow
Máquina Traduzida
Aproveitei a participação no treinamento Kubeflow, que foi realizado remotamente. Esse treinamento me permitiu consolidar meu conhecimento sobre serviços AWS, K8s e todas as ferramentas DevOps relacionadas ao Kubeflow, que são as bases necessárias para abordar o assunto de forma adequada. Gostaria de agradecer Malawski Marcin por sua paciência e profissionalismo no treinamento e nas dicas sobre práticas recomendadas. Malawski aborda o tema sob diferentes ângulos, com diferentes ferramentas de implantação Ansible, EKS kubectl, Terraform. Agora estou definitivamente convencido de que estou entrando na área correta de aplicação.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Curso - Kubeflow
Máquina Traduzida