A quarta revolução industrial, caracterizada pela combinação de inovações tecnológicas e a interação entre os domínios físicos, digitais e biológicos, já impacta profundamente e de forma exponencial a sociedade, evidenciando a sua potencialidade disruptiva. Ela é caracterizada pela robótica, big data e, sobretudo, pela Inteligência Artificial (IA), segmento da computação que busca simular a capacidade humana de raciocinar, tomar decisões, resolver problemas, dotando softwares, por meio de

more »

... tmos, com objetivo de automatizar vários processos. Dentre os impactos da IA, além da mudança no mercado de trabalho, identifica-se também a problemática dos vieses cognitivos. Por mais que se confie na tecnologia para lidar com as limitações cognitivas humanas, os algoritmos ainda estão mal equipados para neutralizar os vieses não intencionais aprendidos com os algoritmos. O problema que o artigo pretende apontar é como a Inteligência Artificial, por meio dos algoritmos, está equipada para neutralizar os vieses não intencionais aprendidos. O artigo utiliza o método hipotético-dedutivo para ressaltar algumas das tecnologias de IA que já se encontram disponíveis aos profissionais da área jurídica, com ênfase no COMPAS, bem como as dificuldades que precisam ser enfrentadas na evolução das ferramentas aplicadas ao Direito para eliminar os vieses tecnológicos. Conclui-se pela necessidade de contemplação dessas mudanças pela sociedade e pelo Direito, a fim de neutralizar os efeitos deletérios decorrentes do enviesamento, inicialmente pela observância de uma grande diversidade na equipe de desenvolvimento dos algoritmos de IA e de supervisão constante, inclusive viabilizando que os sistemas sejam capacitados com base em uma autoridade moral.