Curso de Escalonamento e Otimização da Infraestrutura do Ollama
O Ollama é uma plataforma para execução de modelos linguísticos grandes (LLMs) e multimodais localmente e em escala.
Esta formação instruída por especialista (online ou presencial) destina-se a engenheiros de nível intermediário a avançado que desejam dimensionar implantações do Ollama para ambientes multiutilizador, de alta vazão e com eficiência de custos.
No final desta formação, os participantes serão capazes de:
- Configurar o Ollama para cargas de trabalho multiutilizador e distribuídas.
- Otimizar a alocação de recursos de GPU e CPU.
- Implementar estratégias de escalonamento automático, agrupamento (batching) e redução de latência.
- Monitorizar e otimizar a infraestrutura para desempenho e eficiência de custos.
Formato do Curso
- Palestra interativa e discussão.
- Laboratórios práticos de implantação e escalonamento.
- Exercícios práticos de otimização em ambientes reais.
Opções de Personalização do Curso
- Para solicitar uma formação personalizada para este curso, entre em contato connosco para agendar.
Programa do Curso
Introdução ao Escalonamento do Ollama
- Arquitetura do Ollama e considerações sobre escalonamento
- Principais gargalos em implantações multiutilizador
- Melhores práticas para preparação da infraestrutura
Alocação de Recursos e Otimização de GPU
- Estratégias eficientes de utilização de CPU/GPU
- Considerações sobre memória e largura de banda
- Restrições de recursos ao nível do contenêiner
Implantação com Contêineres e Kubernetes
- Contenização do Ollama com Docker
- Execução do Ollama em clusters Kubernetes
- Balanço de carga e descoberta de serviços
Escalaçãom automático e Agrupamento (Batching)
- Definição de políticas de escalonamento automático para o Ollama
- Técnicas de inferência em lote para otimização da vazão
- Compensação entre latência e vazão
Otimização de Latência
- Análise de desempenho da inferência
- Estratégias de cache e aquecimento de modelos (model warm-up)
- Redução da sobrecarga de E/S e comunicação
Monitorização e Observabilidade
- Integração do Prometheus para métricas
- Criação de painéis com o Grafana
- Alertas e resposta a incidentes para a infraestrutura do Ollama
Gestão de Custos e Estratégias de Escalonamento
- Alocação de GPU consciente dos custos
- Considerações sobre implantação na nuvem versus on-premises
- Estratégias para escalonamento sustentável
Resumo e Próximos Passos
Requisitos
- Experiência com administração de sistemas Linux
- Compreensão de conteinerização e orquestração
- Conhecimento sobre implantação de modelos de machine learning
Público-Alvo
- Engenheiros DevOps
- Equipes de infraestrutura de ML
- Engenheiros de confiabilidade do site (SRE)
Os cursos de treinamento abertos exigem mais de 5 participantes.
Curso de Escalonamento e Otimização da Infraestrutura do Ollama - Reserva
Curso de Escalonamento e Otimização da Infraestrutura do Ollama - Consulta
Escalonamento e Otimização da Infraestrutura do Ollama - SOLICITAÇÃO DE CONSULTORIA
Próximas Formações Provisórias
Cursos Relacionados
Depuração e Avaliação Avançadas de Modelos Ollama
35 HorasA Depuração e Avaliação Avançadas de Modelos Ollama é um curso aprofundado focado em diagnosticar, testar e medir o comportamento dos modelos ao executar implantações locais ou privadas do Ollama.
Este treinamento instruído por especialistas (online ou presencial) destina-se a engenheiros de IA avançados, profissionais de ML Ops e praticantes de QA que desejam garantir a confiabilidade, fidelidade e prontidão operacional dos modelos baseados em Ollama em produção.
Ao final deste treinamento, os participantes serão capazes de:
- Realizar depuração sistemática de modelos hospedados no Ollama e reproduzir modos de falha com confiabilidade.
- Projetar e executar pipelines de avaliação robustos com métricas quantitativas e qualitativas.
- Implementar observabilidade (logs, rastreamentos e métricas) para monitorar a saúde do modelo e o desvio de distribuição.
- Automatizar testes, validação e verificações de regressão integrados aos pipelines de CI/CD.
Formato do Curso
- Aula interativa e discussão.
- Laboratórios práticos e exercícios de depuração utilizando implantações do Ollama.
- Estudos de caso, sessões de resolução de problemas em grupo e workshops de automação.
Opções de Personalização do Curso
- Para solicitar um treinamento personalizado para este curso, entre em contato conosco para organizar.
Criando Fluxos de Trabalho de IA Privados com Ollama
14 HorasEste treinamento guiado por instrutor, ministrado ao vivo em Brasil (online ou presencial), é direcionado a profissionais de nível avançado que desejam implementar fluxos de trabalho orientados por IA de forma segura e eficiente usando o Ollama.
Ao final deste treinamento, os participantes serão capazes de:
- Implantar e configurar o Ollama para processamento de IA privada.
- Integrar modelos de IA em fluxos de trabalho corporativos seguros.
- Otimizar o desempenho da IA mantendo a privacidade dos dados.
- Automatizar processos empresariais com capacidades de IA local.
- Garantir conformidade com as políticas corporativas de segurança e governança.
Implantando e Otimizando LLMs com Ollama
14 HorasEste treinamento ao vivo, ministrado por instrutor em Brasil (online ou presencial), é voltado para profissionais de nível intermediário que desejam implantar, otimizar e integrar LLMs usando o Ollama.
Ao final deste treinamento, os participantes serão capazes de:
- Configurar e implantar LLMs usando o Ollama.
- Otimizar modelos de IA para desempenho e eficiência.
- Aproveitar a aceleração por GPU para melhorar as velocidades de inferência.
- Integrar o Ollama em fluxos de trabalho e aplicações.
- Monitorar e manter o desempenho dos modelos de IA ao longo do tempo.
Ajuste Fino e Personalização de Modelos de IA no Ollama
14 HorasEste treinamento ao vivo, conduzido por instrutor em Brasil (online ou presencial), é voltado para profissionais de nível avançado que desejam realizar ajuste fino e personalização de modelos de IA no Ollama para obter desempenho aprimorado e aplicações específicas de domínio.
Ao final deste treinamento, os participantes serão capazes de:
- Configurar um ambiente eficiente para o ajuste fino de modelos de IA no Ollama.
- Preparar conjuntos de dados para ajuste fino supervisionado e aprendizado por reforço.
- Otimizar modelos de IA quanto a desempenho, precisão e eficiência.
- Implantar modelos personalizados em ambientes de produção.
- Avaliar as melhorias dos modelos e garantir sua robustez.
Aplicações Multimodais com Ollama
21 HorasO Ollama é uma plataforma que permite executar e ajustar modelos de linguagem grande e multimodais localmente.
Este treinamento ao vivo, ministrado por instrutor (online ou presencial), destina-se a engenheiros de ML de nível avançado, pesquisadores de IA e desenvolvedores de produtos que desejam criar e implantar aplicativos multimodais com o Ollama.
Ao final deste treinamento, os participantes serão capazes de:
- Configurar e executar modelos multimodais com o Ollama.
- Integrar entradas de texto, imagem e áudio para aplicações do mundo real.
- Criar sistemas de entendimento de documentos e QA visual.
- Desenvolver agentes multimodais capazes de raciocínio entre modalidades.
Formato do Curso
- Palestra interativa e discussão.
- Prática com conjuntos de dados multimodais reais.
- Implementação em laboratório ao vivo de pipelines multimodais usando o Ollama.
Opções de Personalização do Curso
- Para solicitar um treinamento personalizado para este curso, entre em contato conosco para organizar.
Iniciando com Ollama: Executando Modelos de IA Localmente
7 HorasEste treinamento ao vivo com instrutor em Brasil (online ou presencial) destina-se a profissionais de nível iniciante que desejam instalar, configurar e usar o Ollama para executar modelos de IA em suas máquinas locais.
Ao final deste treinamento, os participantes serão capazes de:
- Compreender os fundamentos do Ollama e suas capacidades.
- Configurar o Ollama para executar modelos de IA localmente.
- Implantar e interagir com LLMs usando o Ollama.
- Otimizar o desempenho e o uso de recursos para cargas de trabalho de IA.
- Explorar casos de uso para implantação de IA local em diversos setores.
Ollama e Privacidade de Dados: Padrões de Implantação Segura
14 HorasO Ollama é uma plataforma que permite executar modelos de linguagem grande (LLMs) e multimodais localmente, ao mesmo tempo em que oferece suporte a estratégias de implantação seguras.
Esta formação prática, ministrada por instrutor (online ou presencial), destina-se a profissionais de nível intermediário que desejam implementar o Ollama com rigorosas medidas de privacidade de dados e conformidade regulatória.
Ao final desta formação, os participantes serão capazes de:
- Implementar o Ollama de forma segura em ambientes containerizados e on-premise.
- Aplicar técnicas de privacidade diferencial para proteger dados sensíveis.
- Praticar log seguro, monitoramento e auditoria.
- Aplicar controle de acesso aos dados em conformidade com os requisitos regulatórios.
Formato do Curso
- Aula interativa e discussão.
- Laboratórios práticos com padrões de implantação seguros.
- Estudos de caso e exercícios práticos focados em conformidade.
Opções de Personalização do Curso
- Para solicitar uma formação personalizada para este curso, entre em contato conosco para organizarmos os detalhes.
Aplicações do Ollama no Setor Financeiro
14 HorasO Ollama é uma plataforma leve para execução de grandes modelos de linguagem (LLMs) localmente.
Este treinamento ao vivo, ministrado por instrutor (online ou presencial), destina-se a profissionais do setor financeiro e equipes de TI de nível intermediário que desejam implementar, personalizar e operacionalizar soluções de IA baseadas no Ollama em ambientes financeiros.
Ao concluir este treinamento, os participantes adquirirão as habilidades necessárias para:
- Implantar e configurar o Ollama para uso seguro nas operações financeiras.
- Integrar LLMs locais aos fluxos de trabalho de análise e relatórios.
- Adaptar os modelos à terminologia e às tarefas específicas do setor financeiro.
- Aplicar as melhores práticas de segurança, privacidade e conformidade.
Formato do Curso
- Aula interativa e discussões em grupo.
- Exercícios práticos com dados financeiros.
- Implementação em laboratório vivo de cenários focados no setor financeiro.
Opções de Personalização do Curso
- Para solicitar um treinamento personalizado para este curso, entre em contato conosco para agendar.
Aplicações do Ollama na Saúde
14 HorasO Ollama é uma plataforma leve para execução de grandes modelos de linguagem localmente.
Este treinamento ao vivo, ministrado por instrutor (online ou presencial), destina-se a profissionais de saúde de nível intermediário e equipes de TI que desejam implantar, personalizar e implementar soluções de IA baseadas no Ollama em ambientes clínicos e administrativos.
Ao concluir este treinamento, os participantes serão capazes de:
- Instalar e configurar o Ollama para uso seguro em ambientes de saúde.
- Integrar LLMs locais aos fluxos de trabalho clínicos e processos administrativos.
- Personalizar modelos para terminologia e tarefas específicas da área da saúde.
- Aplicar as melhores práticas de privacidade, segurança e conformidade regulatória.
Formato do Curso
- Aula interativa e discussão em grupo.
- Demonstrações práticas e exercícios guiados.
- Implementação prática em um ambiente simulado de saúde isolado (sandbox).
Opções de Personalização do Curso
- Para solicitar um treinamento personalizado para este curso, entre em contato conosco para organizar os detalhes.
Ollama: Modelos de Linguagem Grandes Auto-Hospedados que Substituem as APIs da OpenAI e Claude
14 HorasO Ollama é uma ferramenta de código aberto para executar modelos de linguagem grandes localmente em hardware de consumo e empresarial. Ele abstrai a quantização de modelos, alocação de GPU e serviço de API em uma única interface de linha de comando, permitindo que as organizações auto-hospedem LLMs como Llama, Mistral e Qwen sem enviar prompts ou dados para a OpenAI, Anthropic ou Google.
Ollama para IA Responsável e Governança
14 HorasO Ollama é uma plataforma para execução de modelos de linguagem grande (LLM) e multimodais localmente, com suporte a governança e práticas de IA responsável.
Este treinamento ao vivo, ministrado por instrutor (online ou presencial), é voltado para profissionais de nível intermediário a avançado que desejam implementar equidade, transparência e responsabilidade em aplicações alimentadas pelo Ollama.
Ao final deste treinamento, os participantes serão capazes de:
- Aplicar princípios de IA responsável em implantações do Ollama.
- Implementar estratégias de filtragem de conteúdo e mitigação de viés.
- Projetar fluxos de trabalho de governança para alinhamento de IA e auditabilidade.
- Estabelecer estruturas de monitoramento e relatórios para conformidade.
Formato do Curso
- Palestras interativas e discussões.
- Laboratórios práticos de design de fluxos de trabalho de governança.
- Estudos de caso e exercícios focados em conformidade.
Opções de Personalização do Curso
- Para solicitar um treinamento personalizado para este curso, entre em contato conosco para organizar.
Mestria em Engenharia de Prompt com Ollama
14 HorasO Ollama é uma plataforma que permite executar modelos de linguagem e multimodais grandes localmente.
Este treinamento ao vivo, ministrado por instrutores (online ou no local), é destinado a profissionais de nível intermediário que desejam dominar as técnicas de engenharia de prompt para otimizar os resultados do Ollama.
Ao final deste treinamento, os participantes serão capazes de:
- Criar prompts eficazes para diversos casos de uso.
- Aplicar técnicas como indução inicial (priming) e estruturação de raciocínio em cadeia.
- Implementar modelos de prompt e estratégias de gerenciamento de contexto.
- Construir pipelines de prompts em múltiplas etapas para fluxos de trabalho complexos.
Formato do Curso
- Palestra interativa e debate.
- Exercícios práticos de design de prompts.
- Implementação prática em um ambiente de laboratório ao vivo.
Opções de Personalização do Curso
- Para solicitar um treinamento personalizado para este curso, entre em contato conosco para organizar.