▲
- O governo britânico está desenvolvendo uma ferramenta algorítmica para identificar indivíduos com maior risco de cometer assassinatos.
- O projeto visa aprimorar avaliações de risco para pessoas em liberdade condicional, melhorando a segurança pública.
- A ferramenta pode gerar debates sobre privacidade e discriminação, devido ao uso de dados pessoais e históricos.
- O sistema enfrenta críticas por possíveis vieses algorítmicos e impactos desproporcionais em certos grupos sociais.
O governo britânico está desenvolvendo uma ferramenta baseada em algoritmos com o objetivo de identificar indivíduos com maior probabilidade de cometer assassinatos. A informação foi divulgada pelo jornal The Guardian, trazendo à tona um projeto que levanta questões sobre privacidade e justiça.
Detalhes do Projeto de Previsão
Originalmente chamado de “projeto de previsão de homicídios” (homicide prediction project), a iniciativa foi renomeada para “compartilhamento de dados para melhorar a avaliação de risco” (sharing data to improve risk assessment). O projeto é conduzido pelo Ministério da Justiça do Reino Unido e utiliza algoritmos e dados pessoais, incluindo informações do Serviço de Liberdade Condicional (Probation Service), para realizar seus cálculos. A análise desses dados busca padrões que possam indicar um risco elevado de violência futura.
O governo afirmou que, no momento, o projeto tem finalidade exclusiva de pesquisa. O objetivo declarado é “ajudar a entender melhor o risco de pessoas em liberdade condicional virem a cometer atos de violência grave”. A ideia é aprimorar as avaliações de risco existentes, que são cruciais para o gerenciamento de indivíduos sob supervisão judicial e para a segurança pública.
Este trabalho foi iniciado durante a gestão anterior, do Partido Conservador, e continua sob o atual governo Trabalhista, que assumiu no ano passado. A continuidade sugere um certo apoio institucional à ideia, independentemente das mudanças políticas.
Descoberta e Controvérsia
A existência do projeto veio a público através de um Pedido de Acesso à Informação (Freedom of Information request) feito pelo grupo de defesa das liberdades civis Statewatch. A revelação gerou reações imediatas de críticos preocupados com as implicações éticas e sociais da tecnologia.
Leia também:
Sofia Lyall, pesquisadora do Statewatch, classificou a tentativa do Ministério da Justiça como “o mais recente exemplo arrepiante e distópico da intenção do governo de desenvolver os chamados sistemas de ‘previsão’ de crimes”. Ela argumenta que a ferramenta pode acabar reforçando e ampliando a discriminação estrutural já presente no sistema de justiça criminal.
Lyall aponta que pesquisas demonstram repetidamente que sistemas algorítmicos para “prever” crimes são inerentemente falhos. “No entanto, o governo está avançando com sistemas de IA que irão classificar pessoas como criminosas antes que elas façam qualquer coisa”, disse ela. O Statewatch pede que o governo interrompa imediatamente o desenvolvimento desta ferramenta algorítmica para prever assassinos.
A preocupação central é que dados históricos, muitas vezes refletindo vieses sociais e raciais existentes, possam treinar os algoritmos de forma a perpetuar essas desigualdades, levando a uma vigilância e intervenção desproporcionais sobre certos grupos populacionais.
Paralelos Culturais e Realidade Atual
A ideia de usar tecnologia para prever crimes remete à ficção científica, notavelmente à novela de Philip K. Dick de 1956, Minority Report, que foi adaptada para o cinema em 2002. No filme, policiais da unidade “PreCrime” usam mutantes psíquicos (“precogs”) para prender indivíduos antes que cometam assassinatos. Contudo, a história utiliza precognição, não algoritmos tradicionais.
De volta ao mundo real, o conceito de predictive policing (policiamento preditivo) já é uma realidade em alguns departamentos de polícia nos Estados Unidos. Essa abordagem utiliza análise de dados para identificar áreas ou indivíduos com maior probabilidade de envolvimento em atividades criminosas. No entanto, sua adoção enfrenta crescente escrutínio e desafios regulatórios devido a preocupações com vieses, falta de transparência e impacto nas liberdades civis.
O debate sobre o uso de inteligência artificial na justiça criminal é complexo. Por um lado, há o potencial de otimizar recursos e prevenir crimes. Por outro, existem riscos significativos de erros, discriminação e erosão de direitos fundamentais. A iniciativa do Reino Unido adiciona mais um capítulo a essa discussão global.
O desenvolvimento desta ferramenta no Reino Unido continua a gerar debates sobre a aplicação de IA na justiça criminal e os limites éticos da tecnologia preditiva. Questões sobre a precisão, a justiça e o impacto social dessas ferramentas permanecem no centro das discussões, tanto no Reino Unido quanto internacionalmente.
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
Via Digital Trends
