Entrar em Contato

Programa do Curso

Fundamentos de uma IA Segura e Justa

  • Conceitos-chave: segurança, viés, justiça e transparência
  • Tipos de viés: do conjunto de dados, de representação e algorítmico
  • Noção geral dos quadros regulatórios (Lei de IA da UE, GDPR, etc.)

Viés em Modelos Fine-Tuned

  • Como o fine-tuning pode introduzir ou amplificar viés
  • Estudos de caso e falhas do mundo real
  • Identificação de viés em conjuntos de dados e previsões do modelo

Técnicas de Mitigação de Viés

  • Estratégias em nível de dados (rebalanceamento, aumento de dados)
  • Estratégias durante o treinamento (regularização, debiasing adversarial)
  • Estratégias de pós-processamento (filtragem de saída, calibração)

Segurança e Robustez do Modelo

  • Detectar saídas inseguras ou prejudiciais
  • Lidar com entradas adversariais
  • Red teaming e testes de estresse em modelos fine-tuned

Auditoria e Monitoramento de Sistemas de IA

  • Métricas de avaliação de viés e justiça (por exemplo, paridade demográfica)
  • Ferramentas de explicabilidade e quadros de transparência
  • Práticas contínuas de monitoramento e governança

Kits de Ferramentas e Prática Prática

  • Uso de bibliotecas de código aberto (por exemplo, Fairlearn, Transformers, CheckList)
  • Prática: detecção e mitigação de viés em um modelo fine-tuned
  • Geração de saídas seguras por meio do design de prompts e restrições

Casos de Uso Empresariais e Preparação para a Conformidade

  • Boas práticas para integrar segurança em fluxos de trabalho de LLMs
  • Documentação e cartões do modelo para fins de conformidade
  • Preparação para auditorias e revisões externas

Resumo e Próximos Passos

Requisitos

  • Conhecimento sobre modelos de aprendizado de máquina e processos de treinamento
  • Experiência trabalhando com fine-tuning e LLMs (Grandes Modelos de Linguagem)
  • Familiaridade com Python e conceitos de PNL (Processamento de Linguagem Natural)

Público-Alvo

  • Equipes de conformidade de IA
  • Engenheiros de ML
 14 Horas

Número de participantes


Preço por participante

Próximas Formações Provisórias

Categorias Relacionadas