Foto: Alessandro Couto

O uso de algoritmos para tomada de decisões pode gerar vários problemas, sobretudo quando envolvem tecnologias alimentadas por algoritmos enviesados, resultando em decisões algorítmicas preconceituosas – racistas, misóginas, machistas etc.

Mais recentemente, o #algoritmo da rede social Twitter também recebeu acusações de práticas racistas por dar prioridade a fotos de pessoas brancas.

O problema não está só no resultado que obtemos desse recurso; o problema está naquilo que o algoritmo é programado para fazer. Sabe-se que a IA tem problemas para identificar saliência existente no rosto negro em comparação com o branco, e que assim o rosto branco, inevitavelmente, será priorizado. Então por que utilizar este critério de seleção sabendo que é enviesado?

Leia o artigo na íntegra no portal Empório do Direito.