A discussão sobre o uso de inteligência artificial na segurança pública ganhou força após Fernando Haddad apresentar o SP Protege, programa que propõe o uso de IA na prevenção e investigação de crimes. Entre as medidas estão o cruzamento de imagens de câmeras, registros de ocorrências e chamadas ao 190 para identificar locais e horários de maior incidência criminal, além de um “Placar da Segurança”, com indicadores como homicídios e feminicídios.
A proposta abre espaço para uma discussão que vai além da tecnologia: se a inteligência artificial pode ajudar o poder público a identificar padrões de risco, quais são os limites e as responsabilidades quando essa tecnologia é aplicada à violência contra as mulheres? A IA pode cruzar informações que hoje estão fragmentadas entre delegacias, serviços de saúde, Judiciário e demais instituições da rede de proteção, mas não deve ser tratada como uma ferramenta capaz de “prever” que uma mulher será vítima de feminicídio.
A violência de gênero frequentemente não começa com o ato extremo. Em muitos casos, existe uma escalada marcada por controle, perseguição, ameaças, isolamento, violência psicológica e patrimonial, agressões anteriores, descumprimento de medidas protetivas e intensificação da violência após uma tentativa de rompimento da relação. A presença de armas e ameaças de morte também pode agravar o risco.
É
justamente a combinação desses elementos que uma tecnologia poderia ajudar o
Estado a identificar com maior rapidez. Mas identificar risco é diferente de
determinar destino. Um algoritmo não pode afirmar que uma mulher “será vítima”.
Seu papel deve ser auxiliar profissionais capacitados a reconhecer situações
que exigem atenção prioritária e uma intervenção rápida e qualificada.
Quando proteção pode virar vigilância
A utilização de IA também levanta uma questão jurídica fundamental: até onde podemos utilizar dados pessoais em nome da proteção?
A finalidade de proteger não elimina direitos fundamentais. Qualquer sistema precisa respeitar a Constituição e a legislação de proteção de dados, especialmente princípios como necessidade, finalidade, transparência, segurança e não discriminação.
Há uma diferença entre utilizar informações para proteger uma mulher que já está em situação de violência e criar sistemas capazes de classificar pessoas como “potenciais vítimas”. A segunda hipótese é muito mais problemática.
Dados relacionados à violência doméstica podem revelar informações sensíveis sobre saúde, relações familiares, endereço, filhos, rotina e histórico de violência. Proteger mulheres não pode significar retirar delas privacidade, autonomia e dignidade. É preciso saber quais informações são utilizadas, quem poderá acessá-las e sob quais garantias.
A
pergunta jurídica não é apenas se podemos utilizar esses dados para
protegê-las, mas quem os utiliza, para qual finalidade e com quais mecanismos
de controle.
O risco de o algoritmo reproduzir
desigualdades
Algoritmos aprendem com dados produzidos pela sociedade. Se esses dados carregam desigualdades históricas, a tecnologia pode reproduzi-las ou ampliá-las.
Isso é especialmente preocupante para mulheres que enfrentam mais barreiras para acessar a polícia, a Justiça ou os serviços públicos. Se determinados grupos aparecem menos nos registros oficiais, um sistema pode interpretar a ausência de dados como ausência de risco, quando ela pode representar justamente uma falha de acesso à proteção.
Por isso, uma mulher não pode ser reduzida a uma pontuação de risco. Tampouco uma decisão capaz de afetar diretamente sua vida deve ser tomada exclusivamente por um algoritmo. É fundamental haver auditoria, transparência, revisão humana e mecanismos de contestação.
O objetivo não deveria ser criar um “perfil da mulher que será vítima”, mas identificar circunstâncias concretas que indiquem agravamento da violência: ameaças de morte, perseguição, controle coercitivo, acesso a armas, descumprimento de medidas protetivas, aumento da intensidade das agressões e ameaças envolvendo filhos.
A
própria mulher precisa estar no centro dessa análise. Muitas vezes, ela percebe
a escalada da violência antes que as instituições consigam reconhecê-la. A
tecnologia deve olhar para o contexto da violência, e não transformar a
identidade da vítima em um conjunto de probabilidades.
O desafio é transformar informação em
proteção
O principal desafio, portanto, não é tecnológico. É institucional e estrutural. Já existem dados produzidos por delegacias, tribunais, serviços de saúde e diferentes setores da rede de atendimento. O problema é que essas informações muitas vezes estão fragmentadas e nem sempre são transformadas em uma resposta rápida e efetiva.
De nada adianta um sistema indicar que uma mulher está em situação de alto risco se não houver uma equipe preparada para agir, uma medida protetiva efetivamente fiscalizada e atendimento adequado.
A violência contra a mulher não é apenas um problema de segurança pública. Envolve Justiça, assistência social, saúde, educação e autonomia econômica. A inteligência artificial pode ajudar o Estado a enxergar aquilo que os dados já estão mostrando. Mas enxergar o risco não é o mesmo que proteger.
Prevenir
feminicídios exige instituições capazes de acreditar nas mulheres, ouvir suas
denúncias, reconhecer a escalada da violência e agir com rapidez quando o risco
aparece. A tecnologia pode ser uma ferramenta dessa proteção. Não pode,
porém, ser a própria política de proteção.
