Checklist Ético para a Elaboração de Sistemas de IA no Poder Judiciário

Abstract

Com o crescente uso de sistemas de Inteligência Artificial (IA) que vem sendo desenvolvidos e implementados em diversos ambientes, inúmeras demandas interpelam o Direito para buscar regulamentar a aplicação dos algoritmos na sociedade. Diante disso, diversos foram desenvolvidos estudos que buscam regular ou criar marcos que visem uma aplicação ética da IA.

A proposta do presente trabalho é avaliar a possibilidade da criação de uma lista com pontos ético-jurídicos que sejam primordiais no desenvolvimento de sistemas de IA. Para tanto, como método de procedimento, será feita uma pesquisa bibliográfica, cotejando-se legislações com projetos legislativos que buscam criar balizas para tanto. Já o método de abordagem será o fenomenológico-hermenêutico, construindo-se os conceitos de por meio de análise crítica do material consultado visando, em última instância, alcançar um “checklist ético” para a elaboração de sistemas de IA.

Nesse sentido, há um expressivo campo a se explorado tendo em vista que aparecem em discussões tanto questões éticas gerais de aplicações da IA quando seu uso no campo do Direito. Aqui o recorte será focado, especialmente, no segundo caso, para se entender quais os parâmetros éticos o Poder Judiciário deve seguir na sua aplicação.

É fato que parte das discussões se encontram em conjunto com a ética da IA de forma geral e, possivelmente haverá uma grande intersecção de preceitos, no entanto esse trabalho partirá desse recorte. Há um entendimento que alega que a modelagem ética de um sistema deve vir através de técnicas e preceitos introduzidos (no código) por humanos (POWERS; GANASCIA, p. 40).

A União Europeia vem discutindo extensamente sobre o assunto e introduzindo diversos marcos como é o caso das “Orientações éticas para uma IA de confiança”, do “Livro Branco Sobre a inteligência artificial”, e da Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seu ambiente. Aqui no Brasil, além do Projeto regulatório que está em tramitação no congresso, há, também a Resolução 332/2020 do CNJ que “Dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências” (CNJ, 2020).

Em resultado de pesquisa conduzida por Tainá Aguar Junquilho, foram levantadas algumas preocupações éticas que se dividem de 3 formas. 1) Quanto a Literatura: “Proteção de dados e privacidade, vieses discriminatórios e opacidade”; 2) quanto as diretrizes: “Proteção de dados e privacidade consideradas na LGPD; vieses discriminatórios e opacidade”; 3) quanto aos atores: “Proteção de dados e privacidade e dificuldade em obtenção e estruturação dos dados; vieses discriminatórios como algo humano e opacidade como tradeoff” (JUNQUILHO, p. 126).

A partir dos parâmetros apresentados, este trabalho buscará compilar os objetivos a serem analisados no desenvolvimento ético de sistemas de IA no âmbito do Judiciário. A pesquisa pretende indicar pontos essenciais, avaliando tanto a bibliografia quando a adequação legislativa existente, porém sem pretensão de exaurir o tema, tendo em vista a complexidade e as diferentes necessidade que diversos programas podem exigir.