Cursos de Building Secure and Responsible LLM Applications
A segurança de aplicações LLM é a disciplina de projetar, construir e manter sistemas seguros, confiáveis e compatíveis com políticas usando modelos de linguagem grandes.
Esta formação ao vivo (online ou presencial) conduzida por um instrutor está direcionada para desenvolvedores de IA intermediários a avançados, arquitetos e gerentes de produtos que desejam identificar e mitigar riscos associados às aplicações impulsionadas por LLM, incluindo injeção de prompt, vazamento de dados e saída não filtrada, enquanto incorpora controles de segurança como validação de entrada, supervisão humana no loop e barreiras de saída.
Ao final desta formação, os participantes serão capazes de:
- Compreender as vulnerabilidades principais dos sistemas baseados em LLM.
- Aplique princípios de design seguro à arquitetura de aplicativos LLM.
- Use ferramentas como Guardrails AI e LangChain para validação, filtragem e segurança.
- Incorpore técnicas como sandboxing, red teaming e revisão humana no loop em pipelines de produção.
Formato do Curso
- Aula interativa e discussão.
- Muitos exercícios e prática.
- Implementação prática em um ambiente de laboratório ao vivo.
Opções de Personalização do Curso
- Para solicitar uma formação personalizada para este curso, entre em contato conosco para agendar.
Programa do Curso
Visão Geral da Arquitetura de LLM e Superfície de Ataque
- Como os LLMs são construídos, implantados e acessados via APIs
- Componentes-chave nas pilhas de aplicativos LLM (por exemplo, prompts, agentes, memória, APIs)
- Onde e como problemas de segurança surgem no uso real
Injeção de Prompt e Ataques de Liberação
- O que é injeção de prompt e por que é perigoso
- Cenários de injeção direta e indireta de prompts
- Técnicas de liberação para contornar filtros de segurança
- Estratégias de detecção e mitigação
Vazamento de Dados e Riscos à Privacidade
- Exposição acidental de dados através das respostas
- Fugas de PII e uso indevido da memória do modelo
- Diseño de prompts conscientes da privacidade e geração auxiliada por recuperação (RAG)
Filtragem e Proteção de Saída de LLM
- Usando Guardrails AI para filtragem e validação de conteúdo
- Definindo esquemas e restrições de saída
- Monitoramento e registro de saídas inseguras
Abordagens Human-in-the-Loop e Fluxo de Trabalho
- Onde e quando introduzir supervisão humana
- Filas de aprovação, limiares de pontuação, tratamento de falhas
- Acalibragem da confiança e o papel da explicabilidade
Aplicativo LLM Seguro Design Patterns
- Mínimos privilégios e areno para chamadas de API e agentes
- Limite de taxa, controle de fluxo e detecção de abuso
- Cadeias robustas com LangChain e isolamento de prompts
Conformidade, Registro e Governança Go
- Garantindo a auditoria das saídas do LLM
- Mantendo rastreabilidade e controle de versão de prompt
- Alinhando com políticas internas de segurança e necessidades regulatórias
Resumo e Próximos Passos
Requisitos
- Compreensão de modelos de linguagem grandes e interfaces baseadas em prompts
- Experiência na construção de aplicações LLM usando Python
- Familiaridade com integrações API e implantações baseadas em nuvem
Público-Alvo
- Desenvolvedores de IA
- Arquitetos de aplicativos e soluções
- Gestores técnicos de produtos que trabalham com ferramentas LLM
Os cursos de treinamento abertos exigem mais de 5 participantes.
Cursos de Building Secure and Responsible LLM Applications - Booking
Cursos de Building Secure and Responsible LLM Applications - Enquiry
Building Secure and Responsible LLM Applications - Solicitação de Consultoria
Solicitação de Consultoria
Próximas Formações Provisórias
Cursos Relacionados
AI Automation with n8n and LangChain
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a desenvolvedores e profissionais de TI de todos os níveis de habilidade que desejam automatizar tarefas e processos usando IA sem escrever código extenso.
Ao final deste treinamento, os participantes serão capazes de:
- Projetar e implementar fluxos de trabalho complexos usando a interface de programação visual do n8n.
- Integrar recursos de IA em fluxos de trabalho usando LangChain.
- Crie chatbots personalizados e assistentes virtuais para vários casos de uso.
- Efetuar análise e processamento de dados avançados com agentes de IA.
Automating Workflows with LangChain and APIs
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a analistas de negócios de nível iniciante e engenheiros de automação que desejam entender como usar LangChain e APIs para automatizar tarefas e fluxos de trabalho repetitivos.
No final deste treinamento, os participantes serão capazes de:
- Compreender os conceitos básicos da integração de APIs com LangChain.
- Automatizar fluxos de trabalho repetitivos usando LangChain e Python.
- Utilizar LangChain para conectar várias APIs para processos de negócios eficientes.
- Criar e automatizar fluxos de trabalho personalizados usando APIs e os recursos de automação do LangChain.
Building Conversational Agents with LangChain
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a profissionais de nível intermediário que desejam aprofundar sua compreensão dos agentes de conversação e aplicar LangChain a casos de uso do mundo real.
No final deste treinamento, os participantes serão capazes de:
- Compreender os fundamentos de LangChain e sua aplicação na construção de agentes de conversação.
- Desenvolver e implantar agentes de conversação usando LangChain.
- Integrar agentes de conversação com APIs e serviços externos.
- Aplicar técnicas de Natural Language Processing (NLP) para melhorar o desempenho de agentes de conversação.
Building Private AI Workflows with Ollama
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a profissionais de nível avançado que desejam implementar fluxos de trabalho seguros e eficientes orientados por IA usando Ollama.
Ao final deste treinamento, os participantes serão capazes de:
- Implantar e configurar Ollama para processamento de IA privado.
- Integrar modelos de IA em fluxos de trabalho corporativos seguros.
- Otimize o desempenho da IA enquanto mantém a privacidade dos dados.
- Automatize os processos de negócios com recursos de IA no local.
- Garantir a conformidade com as políticas de segurança e governação da empresa.
Deploying and Optimizing LLMs with Ollama
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a profissionais de nível intermediário que desejam implantar, otimizar e integrar LLMs usando Ollama.
Ao final deste treinamento, os participantes serão capazes de:
- Configurar e implantar LLMs usando Ollama.
- Otimizar modelos de IA para desempenho e eficiência.
- Aproveite a aceleração GPU para melhorar as velocidades de inferência.
- Integrar Ollama em fluxos de trabalho e aplicativos.
- Monitorizar e manter o desempenho do modelo de IA ao longo do tempo.
Ethical Considerations in AI Development with LangChain
21 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a pesquisadores de IA de nível avançado e formuladores de políticas que desejam explorar as implicações éticas do desenvolvimento de IA e aprender como aplicar diretrizes éticas ao construir soluções de IA com LangChain.
No final deste treinamento, os participantes serão capazes de:
- Identificar as principais questões éticas no desenvolvimento de IA com LangChain.
- Compreender o impacto da IA na sociedade e nos processos de tomada de decisão.
- Desenvolver estratégias para construir sistemas de IA justos e transparentes.
- Implementar diretrizes éticas de IA em projectos baseados em LangChain.
Enhancing User Experience with LangChain in Web Apps
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a desenvolvedores da Web de nível intermediário e designers de UX que desejam aproveitar o LangChain para criar aplicativos da Web intuitivos e fáceis de usar.
No final deste treinamento, os participantes serão capazes de:
- Compreender os conceitos fundamentais de LangChain e o seu papel na melhoria da experiência do utilizador da Web.
- Implementar LangChain em aplicativos da web para criar interfaces dinâmicas e responsivas.
- Integrar APIs em aplicativos da Web para melhorar a interatividade e o envolvimento do usuário.
- Otimizar a experiência do utilizador utilizando as funcionalidades avançadas de personalização do LangChain.
- Analisar os dados de comportamento do utilizador para ajustar o desempenho e a experiência das aplicações Web.
Fine-Tuning and Customizing AI Models on Ollama
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a profissionais de nível avançado que desejam ajustar e personalizar modelos de IA em Ollama para desempenho aprimorado e aplicativos específicos de domínio.
No final deste treinamento, os participantes serão capazes de:
- Configurar um ambiente eficiente para modelos de IA de ajuste fino em Ollama.
- Preparar conjuntos de dados para ajuste fino supervisionado e aprendizado por reforço.
- Otimizar modelos de IA para desempenho, precisão e eficiência.
- Implementar modelos personalizados em ambientes de produção.
- Avaliar as melhorias do modelo e garantir a robustez.
Introduction to AI Security and Risk Management
14 HorasEsta formação ao vivo e ministrada por instrutor em Brasil (online ou presencial) é direcionada a profissionais de nível inicial de segurança, risco e conformidade da TI que desejam entender conceitos fundamentais de segurança AI, vetores de ameaças e quadros globais como NIST AI RMF e ISO/IEC 42001.
No final desta formação, os participantes serão capazes de:
- Compreender os riscos de segurança únicos introduzidos pelos sistemas AI.
- Identificar vetores de ameaças como ataques adversários, envenenamento de dados e inversão de modelo.
- Aplique modelos de governança fundamentais como o Quadro NIST AI Risk Management.
- Alinhar o uso da IA com padrões emergentes, diretrizes de conformidade e princípios éticos.
LangChain: Building AI-Powered Applications
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a desenvolvedores de nível intermediário e engenheiros de software que desejam criar aplicativos alimentados por IA usando a estrutura LangChain .
Ao final deste treinamento, os participantes serão capazes de:
- Entenda os fundamentos do LangChain e seus componentes.
- Integrar o LangChain com grandes modelos de linguagem (LLMs) como o GPT-4.
- Crie aplicativos modulares de IA usando o LangChain.
- Solucionar problemas comuns em aplicações LangChain.
Integrating LangChain with Cloud Services
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a engenheiros de dados de nível avançado e DevOps profissionais que desejam aproveitar os recursos de LangChain integrando-o a vários serviços em nuvem.
No final deste treinamento, os participantes serão capazes de:
- Integrar LangChain com as principais plataformas de nuvem, como AWS, Azure e Go ogle Cloud.
- Utilizar APIs e serviços baseados em nuvem para aprimorar os aplicativos alimentados por LangChain.
- Escalar e implantar agentes de conversação na nuvem para interação em tempo real.
- Implementar as melhores práticas de monitorização e segurança em ambientes de nuvem.
LangChain for Data Analysis and Visualization
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a profissionais de dados de nível intermediário que desejam usar LangChain para aprimorar seus recursos de análise e visualização de dados.
Ao final deste treinamento, os participantes serão capazes de:
- Automatizar a recuperação e limpeza de dados usando LangChain.
- Conduzir análises avançadas de dados usando Python e LangChain.
- Criar visualizações com Matplotlib e outras bibliotecas Python integradas com LangChain.
- Aproveitar LangChain para gerar percepções de linguagem natural a partir da análise de dados.
LangChain Fundamentals
14 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a desenvolvedores de nível iniciante a intermediário e engenheiros de software que desejam aprender os principais conceitos e arquitetura do LangChain e obter as habilidades práticas para criar aplicativos alimentados por IA.
No final deste treinamento, os participantes serão capazes de:
- Compreender os princípios fundamentais do LangChain.
- Configurar e configurar o ambiente LangChain.
- Entenda a arquitetura e como o LangChain interage com grandes modelos de linguagem (LLMs).
- Desenvolver aplicações simples utilizando o LangChain.
Getting Started with Ollama: Running Local AI Models
7 HorasEste treinamento ao vivo conduzido por instrutor em Brasil (no local ou remoto) é destinado a profissionais de nível iniciante que desejam instalar, configurar e usar Ollama para executar modelos de IA em suas máquinas locais.
No final deste treinamento, os participantes serão capazes de:
- Compreender os fundamentos do Ollama e seus recursos.
- Configurar Ollama para executar modelos locais de IA.
- Implantar e interagir com LLMs usando Ollama.
- Otimizar o desempenho e o uso de recursos para cargas de trabalho de IA.
- Explorar casos de uso para implantação de IA local em vários setores.
Securing AI Models: Threats, Attacks, and Defenses
14 HorasEsta formação ao vivo e orientada por instrutor em Brasil (online ou presencial) é direcionada a profissionais de nível intermediário de aprendizado de máquina e cibersegurança que desejam entender e mitigar ameaças emergentes contra modelos de IA, utilizando tanto quadros conceituais quanto defesas práticas como treinamento robusto e privacidade diferencial.
No final desta formação, os participantes serão capazes de:
- Identificar e classificar ameaças específicas da IA, como ataques adversariais, inversão e envenenamento de dados.
- Utilizar ferramentas como o Adversarial Robustness Toolbox (ART) para simular ataques e testar modelos.
- Aplique defesas práticas incluindo treinamento adversarial, injeção de ruído e técnicas de preservação da privacidade.
- Projete estratégias de avaliação de modelo consciente de ameaças em ambientes de produção.