IA Responsável: Replicando a ética humana

Em 23 de março de 2016, a Microsoft lançou no Twitter sua solução avançada de IA chamada Tay. No entanto, levou menos de um dia para que Tay, esse chatbot de IA conversacional lúdico, se corrompesse. Tudo isso devido a um cursinho acelerado em racismo e viés que ele recebeu dos próprios usuários do Twitter.

Por todas essas razões, a Microsoft foi obrigada a desligar o Tay e cancelar completamente o projeto. Em outubro de 2018, a Amazon descartou sua tão aguardada ferramenta de recrutamento por IA, que vinha desenvolvendo desde 2014, porque ela não gostava de mulheres e apresentava viés contra elas. Isso ocorreu principalmente porque havia um viés inerente nos dados de treinamento utilizados, favorecendo homens em currículos enviados ao longo de dez anos. Como resultado, a solução de IA avaliava sistematicamente currículos femininos com notas mais baixas que os masculinos. O projeto foi secreto descontinuado pela Amazon. Existem vários outros casos semelhantes no mundo da IA. Todos esses exemplos levantam uma questão muito pertinente sobre a adoção de IA: será que nós, humanos, compreendemos completamente as ramificações dessa adoção? A resposta que ecoa em uníssono nas nossas discussões com os clientes é um contundente não. Isso significa claramente que há uma necessidade premente de as organizações incorporarem a ética em suas estratégias de IA. Neste artigo, compartilhamos nossa visão sobre como fazer isso.

Algumas das questões éticas que surgem com a estratégia de adoção de IA são:

1. Singularidade da IA: Estaremos criando algo mais inteligente do que nós?
   Conseguiremos garantir controle total ou acabaremos perdendo o controle sobre a IA?
2. Apocalipse dos empregos: A IA vai implacavelmente eliminar os meios de subsistência das pessoas?
3. Falta de transparência: Com cada nova versão de arquiteturas sofisticadas de Aprendizado Profundo, surge uma pergunta que exige resposta: Estamos construindo algo tão complexo que se torna incompreensível até para nós mesmos?
4. Inclusão e diversidade: Estamos construindo algo com viés inerente e não inclusivo?
   Exemplo: A solução de reconhecimento facial por IA da Uber bloqueou motoristas transgêneros do sistema por não ter sido treinada com dados LGBT, o que lhes custou seus empregos.

Essas questões trazem legitimamente o conceito de construir uma IA Responsável.

O que queremos dizer com IA Responsável?

A Microsoft estabeleceu princípios internos orientadores que resumem a IA Responsável nos seis pilares seguintes:

1. Justiça: Solução de IA sem viés algorítmico e que trata todos de forma justa
2. Confiabilidade e segurança: A confiança entre humano e máquina permanece intacta o tempo todo
3. Privacidade e segurança: O sistema de IA deve saber onde traçar a linha para não invadir a privacidade e a segurança dos consumidores
4. Inclusão: A IA deve empoderar, e não oprimir
5. Transparência e explicabilidade: Devemos ser capazes de explicar o que construímos
6. Responsabilidade: As empresas devem ser responsáveis pelas ações de seus sistemas de IA

Portanto, projetar soluções de IA confiáveis que reflitam princípios éticos humanos, como os acima, é o que define a IA Responsável. O conjunto apresentado aqui não esgota todas as possibilidades, mas representa uma perspectiva sobre os passos rumo à IA Responsável. Então, o que devemos fazer para garantir que nossa IA não testemunhe o dia do juízo final? Existem algumas formas de incorporar a IA Responsável no nosso ethos corporativo?

Respondemos a essa pergunta em dois níveis:

Nível Global

Definir um conjunto globalmente aceito de princípios para a Ética na IA é primordial. Atualmente, há pelo menos 84 iniciativas público-privadas em andamento em todo o mundo para descrever princípios de alto nível sobre IA ética. É necessária uma convergência entre essas iniciativas em escala global e diretrizes de conformidade semelhantes às do GDPR, com pesadas penalidades para organizações que não cumprirem as regras.

Nível Organizacional

Inicialmente, entendemos que há uma necessidade urgente de estruturas de Governança Corporativa que posicionem a IA como uma aliança entre o QI (coeficiente intelectual) das máquinas e o QE (coeficiente emocional) humano, em vez de uma solução autônoma. Em seguida, devem-se formular iniciativas voltadas a:

1. Conscientização cultural dentro da organização sobre IA Ética e sua estrutura
2. Diretrizes para reciclagem e resskilling das pessoas impactadas pela implementação da IA
3. Garantir conformidade legal e regulatória como componente central no desenvolvimento de cenários de IA
4. Auditoria algorítmica: Assegurar autoridade plena aos responsáveis pelas soluções para trabalhar em torno dos princípios da IA e auditar a conformidade a qualquer momento, utilizando auditorias algorítmicas em ambientes de laboratório

Com essas medidas significativas, as organizações podem dar passos concretos rumo à construção de uma IA confiável.

Se você gostou de ler este artigo, curta, compartilhe e comente. Adoraríamos ouvir suas opiniões sobre a construção de uma IA Responsável. Você considera necessária a adoção de IA Responsável nos negócios? Você ou sua organização já elaboraram um roteiro para isso?

 Aviso legal: Por meio destas diretrizes, não antecipamos a criação de um mundo utópico de IA completamente perfeito, mas esta é nossa proposta (de nós e de outras organizações afins) para garantir que não acabemos em um mundo distópico e continuemos trabalhando por um futuro melhor para todos. Agradecimentos: Microsoft, Accenture, INSEAD, Universidade de Oxford Referências: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3391293