Algoritmos e Direitos

[EN] The digital transformation of the justice system is often presented as an almost inevitable path. More data, more cameras, systems that can locate people in seconds, tools that process documents on a previously unimaginable scale: the promise is a more efficient State, able to investigate better, decide faster, and replace some human uncertainty with the precision of machines.

This concern gave rise to the Algorithms and Rights research project, developed by the Center for Studies on Public Security and Citizenship (CESeC). Across three reports, we sought to follow digital technologies not only when they are announced or procured, but in their actual circulation among public security institutions, investigations, and criminal proceedings. The first report focused on the infrastructure that underpins these uses: contracts, vendors, protocols, databases, storage rules, and forms of access. The second followed automated facial recognition to the courts, seeking to understand how software-generated results help attributing criminal responsibilityand legal truth. And the third report followed body-worn camera recordings from the police incident to the case file, observing what happens when these images exist, when they disappear, and when the defense tries to obtain them.

_______

[PT] De que maneira as tecnologias digitais emergentes, como aplicações de IA, tecnologias de reconhecimento facial e câmeras corporais, estão sendo mobilizadas no sistema de justiça criminal brasileiro e com quais efeitos sobre as práticas de produção de prova, o direito à defesa e a presunção de inocência?

Projeto “Os usos e desafios da Inteligência Artificial na Justiça Criminal”, financiado pelo Fundo Brasil de Direitos Humanos, cujo objetivo é analisar como tecnologias digitais e sistemas de Inteligência Artificial (IA) vêm sendo incorporados às práticas do sistema de justiça criminal brasileiro e quais impactos produzem sobre os direitos humanos e o devido processo legal.

A pesquisa foi dividida em três etapas: “Algoritmos e direitos: tecnologias digitais na justiça criminal” dedicada a mapear os casos de uso dessas tecnologias em investigações e identificar seus principais riscos e impactos sobre direitos fundamentais. Na segunda publicação, “Algoritmos e Direitos: reconhecimento facial na justiça criminal“, analisados acórdãos em que essas tecnologias aparecem como prova, observando como as partes as mobilizam e qual é o grau de receptividade delas pelos desembargadores, com o objetivo final de produzir um diagnóstico qualificado do uso dessas tecnologias no sistema de justiça criminal e fomentar o debate público sobre seus efeitos e ameaças a garantias de direitos. A terceira e última parte da pesquisa desenvolvida nesse projeto, “Algoritmos e Direitos: Câmeras corporais na justiça criminal” e apresenta análises que concentraram-se nos Tribunais de Justiça do Rio de Janeiro, de São Paulo e de Santa Catarina, entre 2023 e 2024, por meio de acórdãos produzidos em processos envolvendo as BWC (body-worn camera), para buscar compreender como a gravação passa da rua para o processo, quem controla esse percurso e que consequências jurídicas são atribuídas à sua presença, à sua incompletude e à sua ausência.

As questões que orientam este trabalho emergem do acúmulo analítico do projeto O Panóptico, do Centro de Estudos de Segurança e Cidadania (CESeC), que, desde 2019, mapeia a expansão de tecnologias de reconhecimento facial (TRF) e câmeras corporais (BWC) em políticas de segurança pública no Brasil. Os estudos têm revelado um cenário de adoção acelerada e desregulada dessas tecnologias, com baixa transparência e ausência de protocolos, fatores que repercutem diretamente na presunção de inocência, no acesso a ampla defesa e na confiabilidade das evidências produzidas com base nessas ferramentas. Esta investigação se debruça sobre como essas tecnologias têm repercutido no sistema de justiça criminal, buscando compreender como são mobilizadas em etapas investigativas e probatórias e como sua utilização impacta os direitos fundamentais.

Produtos

Mais Projetos