Obrigado por enviar sua consulta! Um dos membros da nossa equipe entrará em contato com você em breve.
Obrigado por enviar sua reserva! Um dos membros da nossa equipe entrará em contato com você em breve.
Programa do Curso
Implantação do EXO Offline
- Usar o EXO_OFFLINE para impedir o acesso à internet em tempo de execução.
- Pré-carregar modelos nos diretórios EXO_MODELS_READ_ONLY_DIRS a partir de espelhos internos confiáveis.
- Verificar a integridade dos pesos do modelo com somas de verificação SHA-256 e cartões de modelo assinados.
- Executar o EXO em redes air-gapped sem dependências do HuggingFace.
Controle de Acesso ao Painel e à API
- Instalar e configurar proxies reversos (nginx, Caddy) com terminação TLS.
- Implementar controle de acesso baseado em funções para o painel do EXO e a REST API.
- Usar o chaveiro do macOS ou o pass do Linux para armazenar segredos para autenticação da API.
- Restringir os endpoints administrativos a intervalos específicos de IP de origem.
Isolamento de Cluster e Segurança de Rede
- Segmentar clusters do EXO com EXO_LIBP2P_NAMESPACE e VLANs.
- Configurar firewalls do host (firewall de aplicativos do macOS, iptables, nftables) para portas do EXO.
- Impedir a descoberta não autorizada de dispositivos e injeção de nós maliciosos.
- Criptografar o tráfego libp2p entre os nós quando o RDMA não estiver disponível.
Governança e Proveniência de Modelos
- Construir um registro interno de modelos com listas aprovadas de modelos e metadados.
- Codificar e versionar pesos quantizados (4-bit, 8-bit) juntamente com os checkpoints originais.
- Impor que apenas repositórios específicos do HuggingFace ou artefatos internos possam ser carregados.
- Documentar a linhagem do modelo, termos de licença e políticas de uso aceitável.
Auditoria e Conformidade
- Configurar o encaminhamento de logs do EXO para trilhas de auditoria imutáveis (SIEM, armazenamento WORM).
- Correlacionar os logs de chamadas de API com a identidade do usuário e carimbo de data/hora.
- Capturar eventos de criação, exclusão e solicitação de inferência da instância do modelo.
- Gerar relatórios periódicos de conformidade para auditores internos e externos.
Modelagem de Ameaças e Resposta a Incidentes
- Identificar ameaças: exfiltração de dados através das saídas do modelo, injeção de prompts, vazamentos por canais laterais.
- Implementar pipelines de monitoramento de prompts e filtragem de conteúdo.
- Criar livros de procedimentos de resposta a incidentes para cenários de comprometimento do cluster.
- Isoalar os nós afetados, preservar logs forenses e reconstruir ambientes limpos.
Segurança Física e Limites de Hardware
- Proteger as portas Thunderbolt contra conexões de cabo RDMA não autorizadas.
- Usar enclaves seguros e atestação de hardware Apple Silicon, quando aplicável.
- Controlar o acesso físico aos Macs em cluster e ao armazenamento compartilhado.
- Documentar o ciclo de vida do hardware e os procedimentos de descomissionamento.
Considerações Regulatórias
- Mapear as implantações do EXO aos requisitos GDPR, HIPAA e SOC 2.
- Manter a residência dos dados mantendo a inferência no ambiente corporativo.
- Documentar riscos da cadeia de suprimentos de fornecedores (MLX, EXO, pesos do modelo).
- Preparar-se para estruturas de governança de IA, como o Artigo 53 do AI Act da UE.
Requisitos
- Experiência com o EXO ou outro tempo de execução de LLM local.
- Compreensão das permissões do sistema de arquivos Unix e dos ACLs de rede.
- Conhecimento básico de gerenciamento de certificados TLS/SSL e criptografia.
Público-Alvo
- Engenheiros de segurança.
- Oficiais de conformidade.
- Administradores de infraestrutura de IA que lidam com dados sensíveis.
14 Horas
Testemunhos de Clientes (1)
O instrutor tinha um excelente conhecimento do FortiGate e apresentou o conteúdo de maneira muito clara. Muito obrigado ao Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Curso - FortiGate 7.4 Administration
Máquina Traduzida
