Inteligência Artificial e o viés binário

Resumo do viés binário na IA

Cheguei no meu último ano de faculdade do curso de Direito e chegou a hora para escolher o tema do TCC. O tema escolhido é sobre a evolução da tecnologia, principalmente com a utilização da inteligência artificial, e seus possíveis impactos na advocacia e consequentemente no Judiciário.

Para ajudar os colegas que estão procurando desenvolver sua pesquisa nessa área, seguem algumas informações iniciais.

Iniciei as pesquisas sobre as possíveis melhorias que a tecnologia, principalmente da inteligência artificial, aplicada no direito, podem trazer para os processos na advocacia e no Judiciário brasileiro, como a qualidade e a tão deseja celeridade. Contudo, me deparei com um problema que pode ser complexo e requer urgência para a sua solução, o que pode comprometer a garantia, com segurança, dos direitos fundamentais constitucionais e para o seu devido processo legal. Trata-se do viés binário.

A Inteligência Artificial é baseada em algoritmos conhecidos como Deep Learning, e por meio deles reconhecem padrões dos dados. Com o avanço tecnológico e a utilização da inteligência artificial, todas as áreas e pessoas serão afetadas, inclusive no âmbito jurídico.

Entretanto, não é suficiente somente saber que o problema do viés existe, é necessário compreendê-lo e saber como minimizar e até saná-lo em definitivo.

Mas o que é o viés binário na IA

De forma simples e direta, o viés da IA acontece pelo conjunto de dados inseridos de forma equivocada/enviesada. Contudo, é importante destacar que existem outros fatores, como a presunção de aceitar os dados coletados, num processo de Deep Learning, sem uma confirmação de que são confiáveis e verdadeiros, com o propósito de evitar resultados distorcidos.

Surgimento do problema

Os especialistas da computação desenvolvem um programa baseado no Deep learning, conforme as especificações dos seus clientes. A definição, a interpretação das informações e os resultados, precisam estar de acordo com o desejo de cada cliente/empresa.

O problema é que os dados são inseridos conforme a tradição histórica da empresa e o resultado do negócio pretendido, o que podem trazer injustiças e preconceitos, como priorizar, num processo seletivo, mais homens que mulheres ou somente pessoas de cor branca. Resultados que não eram o propósito da empresa, e isso implica em viés binário.