Uma das características da ciência de dados é que ela pode ser aplicada em diversos campos, como humanidades, saúde, ciências técnicas, etc. Esse recurso é atraente para qualquer pessoa interessada em se tornar um cientista de dados porque a área acolhe pessoas com conhecimentos diversos, T.
Por um lado, muitas pessoas em muitos campos se beneficiam. Por outro lado, eles são afetados até certo ponto. Você já parou para pensar em como a ciência de dados pode melhorar a vida de todos? Biometria, reconhecimento facial, recomendações de conteúdo nas redes sociais, segurança digital fazem parte do nosso dia a dia em nossos celulares e computadores. Os problemas da sociedade serão transferidos para o mundo digital?
Sociedade e mundo digital
Consideremos o seguinte: A sociedade, com todas as suas complexidades e problemas, é composta por pessoas que, por sua vez, desenvolvem algoritmos. Qual a probabilidade de o mundo digital permanecer neutro? Embora seja difícil aceitar uma resposta, a neutralidade é estatisticamente a menos provável entre os algoritmos desenvolvidos por equipes com características semelhantes.
Mesmo sem saber, questões enraizadas na sociedade são trazidas para o mundo digital. Todas as pessoas, inclusive eu, têm preconceitos ou preconceitos contra ou a favor de coisas, pessoas ou grupos com base nos pensamentos, ideias, julgamentos e experiências armazenados em nossos cérebros. Essas tendências são chamadas de vieses inconscientes.
Vamos fazer um exercício cerebral juntos. Quando pergunto, o que vem imediatamente à minha mente quando penso em um homem rico? Para a grande maioria das pessoas, a imagem padrão não corresponde a mulheres e mães negras, e geralmente modelamos e representamos pessoas brancas.
Buscando uma solução
Um estudo do psicólogo ganhador do Prêmio Nobel Daniel Kahneman é visto como uma referência para a compreensão do viés. Ele percebeu que o pensamento mais imediato, supostamente automático, costuma garantir nossa sobrevivência, mas nos leva a tomar decisões menos confiantes em outros momentos.
Para melhorar a qualidade de nossas decisões, é importante permitir o pensamento racional, o pensamento analítico, o que acontece imediatamente. Analisar nosso comportamento, engajar-se na autorreflexão e tornar o inconsciente consciente são atitudes importantes para identificar e reduzir os efeitos do viés.
Outro ponto fundamental é garantir mais diversidade na ciência de dados, seja procurando construir equipes responsáveis por pensar em soluções relevantes para todas as realidades, como treinamentos combinando dados díspares.
Uma direção é criar um conjunto de técnicas de aprendizado de máquina com modelos interpretáveis que as pessoas possam entender, gerenciar e confiar, mantendo o alto desempenho. De acordo com o artigo “Investigating Bias and Fairness in Machine Learning”, os métodos para verificar o viés se dividem em três categorias: pré-processamento, processamento intermediário e pós-processamento.
1) No pré-processamento, essas técnicas tentam transformar os dados para remover qualquer discriminação. Ele deve ter permissão para modificar os dados de treinamento.
2) No processamento, eles tentam modificar e alterar o aprendizado dos algoritmos da geração anterior, removendo a discriminação durante o treinamento do modelo.
3) Realize o pós-processamento após o treinamento para alcançar o conjunto de validação que não foi envolvido no treinamento do modelo.
Quando o que fazemos afeta direta ou indiretamente a vida de muitos, a responsabilidade social e a consciência são fundamentais. Para uma compreensão mais profunda do tema do viés inconsciente, recomendo a leitura de As Cores do Inconsciente: O Significado do Corpo Negro da Papa Isildinha Baptista Nogueira, Mestre em Psicologia Social e Psicologia Escolar e Desenvolvimento Humano pela Universidade Católica de Doutora em São Paulo e Universidade de São Paulo.
