Checklist Ético para a Elaboração de Sistemas de IA no Poder Judiciário

Authors

  • Joel Marcos Reginato UFSM

Keywords:

Ética e Inteligência Artificial, Poder Judiciário e Inteligência Artificial, Sistemas de IA Éticos

Abstract

Com o crescente uso de sistemas de Inteligência Artificial (IA) que vem sendo desenvolvidos e implementados em diversos ambientes, inúmeras demandas interpelam o Direito para buscar regulamentar a aplicação dos algoritmos na sociedade. Diante disso, diversos foram desenvolvidos estudos que buscam regular ou criar marcos que visem uma aplicação ética da IA.

A proposta do presente trabalho é avaliar a possibilidade da criação de uma lista com pontos ético-jurídicos que sejam primordiais no desenvolvimento de sistemas de IA. Para tanto, como método de procedimento, será feita uma pesquisa bibliográfica, cotejando-se legislações com projetos legislativos que buscam criar balizas para tanto. Já o método de abordagem será o fenomenológico-hermenêutico, construindo-se os conceitos de por meio de análise crítica do material consultado visando, em última instância, alcançar um “checklist ético” para a elaboração de sistemas de IA.

Nesse sentido, há um expressivo campo a se explorado tendo em vista que aparecem em discussões tanto questões éticas gerais de aplicações da IA quando seu uso no campo do Direito. Aqui o recorte será focado, especialmente, no segundo caso, para se entender quais os parâmetros éticos o Poder Judiciário deve seguir na sua aplicação.

É fato que parte das discussões se encontram em conjunto com a ética da IA de forma geral e, possivelmente haverá uma grande intersecção de preceitos, no entanto esse trabalho partirá desse recorte. Há um entendimento que alega que a modelagem ética de um sistema deve vir através de técnicas e preceitos introduzidos (no código) por humanos (POWERS; GANASCIA, p. 40).

A União Europeia vem discutindo extensamente sobre o assunto e introduzindo diversos marcos como é o caso das “Orientações éticas para uma IA de confiança”, do “Livro Branco Sobre a inteligência artificial”, e da Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seu ambiente. Aqui no Brasil, além do Projeto regulatório que está em tramitação no congresso, há, também a Resolução 332/2020 do CNJ que “Dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências” (CNJ, 2020).

Em resultado de pesquisa conduzida por Tainá Aguar Junquilho, foram levantadas algumas preocupações éticas que se dividem de 3 formas. 1) Quanto a Literatura: “Proteção de dados e privacidade, vieses discriminatórios e opacidade”; 2) quanto as diretrizes: “Proteção de dados e privacidade consideradas na LGPD; vieses discriminatórios e opacidade”; 3) quanto aos atores: “Proteção de dados e privacidade e dificuldade em obtenção e estruturação dos dados; vieses discriminatórios como algo humano e opacidade como tradeoff” (JUNQUILHO, p. 126).

A partir dos parâmetros apresentados, este trabalho buscará compilar os objetivos a serem analisados no desenvolvimento ético de sistemas de IA no âmbito do Judiciário. A pesquisa pretende indicar pontos essenciais, avaliando tanto a bibliografia quando a adequação legislativa existente, porém sem pretensão de exaurir o tema, tendo em vista a complexidade e as diferentes necessidade que diversos programas podem exigir.

References

CNJ. Resolução Nº 332 de 21/08/2020. Dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências. Disponível em: https://atos.cnj.jus.br/atos/detalhar/3429. Acesso em: 13 out. 2022.

Comissão Européia para a Eficácia da Justiça (CEPEJ). Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seu ambiente. Estrasburgo, 2018. Disponível em: https://rm.coe.int/carta-etica-traduzida-para-portugues-revista/168093b7e0. Acesso em: 10 out. 2022.

COMISSÃO EUROPEIA. LIVRO BRANCO Sobre a inteligência artificial – Uma abordagem europeia virada para a excelência e a confiança. Bruxelas, 2020. 29p. Disponível em: https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_pt.pdf. Acesso em: 10 out. 2022.

European Commission, Directorate-General for Communications Networks, Content and Technology. Orientações éticas para uma IA de confiança. Publications Office, 2019, Disponível em: https://data.europa.eu/doi/10.2759/2686. Acesso em: 10 out. 2022.

JUNQUILHO, Tainá Aguiar. Inteligência Artificial no Direito: Limites éticos. São Paulo: Editora Juspodivm, 2022. 208p.

POWERS, Thomas M.; GANASCIA, Jean-Gabriel. The Ethics of Ethics of AI. In: DUBBER, Markus D.; PASQUALE, Frank; DAS, Sunit. The Oxford Handbook of Ethics AI. New York: Oxford University Pres, 2020. 881p.

Published

2024-04-16

How to Cite

Reginato, J. M. (2024). Checklist Ético para a Elaboração de Sistemas de IA no Poder Judiciário. Revista Brasileira De Inteligência Artificial E Direito - RBIAD, 1(2). Retrieved from https://rbiad.com.br/index.php/rbiad/article/view/81