IA pode prevenir feminicídios? Tecnologia não pode substituir a proteção às mulheres

A discussão sobre o uso de inteligência artificial na segurança pública ganhou força após Fernando Haddad apresentar o SP Protege, programa que propõe o uso de IA na prevenção e investigação de crimes. Entre as medidas estão o cruzamento de imagens de câmeras, registros de ocorrências e chamadas ao 190 para identificar locais e horários de maior incidência criminal, além de um “Placar da Segurança”, com indicadores como homicídios e feminicídios.

 

A proposta abre espaço para uma discussão que vai além da tecnologia: se a inteligência artificial pode ajudar o poder público a identificar padrões de risco, quais são os limites e as responsabilidades quando essa tecnologia é aplicada à violência contra as mulheres? A IA pode cruzar informações que hoje estão fragmentadas entre delegacias, serviços de saúde, Judiciário e demais instituições da rede de proteção, mas não deve ser tratada como uma ferramenta capaz de “prever” que uma mulher será vítima de feminicídio.

 

A violência de gênero frequentemente não começa com o ato extremo. Em muitos casos, existe uma escalada marcada por controle, perseguição, ameaças, isolamento, violência psicológica e patrimonial, agressões anteriores, descumprimento de medidas protetivas e intensificação da violência após uma tentativa de rompimento da relação. A presença de armas e ameaças de morte também pode agravar o risco.

 

É justamente a combinação desses elementos que uma tecnologia poderia ajudar o Estado a identificar com maior rapidez. Mas identificar risco é diferente de determinar destino. Um algoritmo não pode afirmar que uma mulher “será vítima”. Seu papel deve ser auxiliar profissionais capacitados a reconhecer situações que exigem atenção prioritária e uma intervenção rápida e qualificada.

 

Quando proteção pode virar vigilância

A utilização de IA também levanta uma questão jurídica fundamental: até onde podemos utilizar dados pessoais em nome da proteção?

 

A finalidade de proteger não elimina direitos fundamentais. Qualquer sistema precisa respeitar a Constituição e a legislação de proteção de dados, especialmente princípios como necessidade, finalidade, transparência, segurança e não discriminação.

 

Há uma diferença entre utilizar informações para proteger uma mulher que já está em situação de violência e criar sistemas capazes de classificar pessoas como “potenciais vítimas”. A segunda hipótese é muito mais problemática.

 

Dados relacionados à violência doméstica podem revelar informações sensíveis sobre saúde, relações familiares, endereço, filhos, rotina e histórico de violência. Proteger mulheres não pode significar retirar delas privacidade, autonomia e dignidade. É preciso saber quais informações são utilizadas, quem poderá acessá-las e sob quais garantias.

 

A pergunta jurídica não é apenas se podemos utilizar esses dados para protegê-las, mas quem os utiliza, para qual finalidade e com quais mecanismos de controle.

 

O risco de o algoritmo reproduzir desigualdades

Algoritmos aprendem com dados produzidos pela sociedade. Se esses dados carregam desigualdades históricas, a tecnologia pode reproduzi-las ou ampliá-las.

 

Isso é especialmente preocupante para mulheres que enfrentam mais barreiras para acessar a polícia, a Justiça ou os serviços públicos. Se determinados grupos aparecem menos nos registros oficiais, um sistema pode interpretar a ausência de dados como ausência de risco, quando ela pode representar justamente uma falha de acesso à proteção.

 

Por isso, uma mulher não pode ser reduzida a uma pontuação de risco. Tampouco uma decisão capaz de afetar diretamente sua vida deve ser tomada exclusivamente por um algoritmo. É fundamental haver auditoria, transparência, revisão humana e mecanismos de contestação.

 

O objetivo não deveria ser criar um “perfil da mulher que será vítima”, mas identificar circunstâncias concretas que indiquem agravamento da violência: ameaças de morte, perseguição, controle coercitivo, acesso a armas, descumprimento de medidas protetivas, aumento da intensidade das agressões e ameaças envolvendo filhos.

 

A própria mulher precisa estar no centro dessa análise. Muitas vezes, ela percebe a escalada da violência antes que as instituições consigam reconhecê-la. A tecnologia deve olhar para o contexto da violência, e não transformar a identidade da vítima em um conjunto de probabilidades.

 

O desafio é transformar informação em proteção

O principal desafio, portanto, não é tecnológico. É institucional e estrutural. Já existem dados produzidos por delegacias, tribunais, serviços de saúde e diferentes setores da rede de atendimento. O problema é que essas informações muitas vezes estão fragmentadas e nem sempre são transformadas em uma resposta rápida e efetiva.

 

De nada adianta um sistema indicar que uma mulher está em situação de alto risco se não houver uma equipe preparada para agir, uma medida protetiva efetivamente fiscalizada e atendimento adequado.

 

A violência contra a mulher não é apenas um problema de segurança pública. Envolve Justiça, assistência social, saúde, educação e autonomia econômica. A inteligência artificial pode ajudar o Estado a enxergar aquilo que os dados já estão mostrando. Mas enxergar o risco não é o mesmo que proteger.

 

Prevenir feminicídios exige instituições capazes de acreditar nas mulheres, ouvir suas denúncias, reconhecer a escalada da violência e agir com rapidez quando o risco aparece. A tecnologia pode ser uma ferramenta dessa proteção. Não pode, porém, ser a própria política de proteção.

 

 

Gabriela Fernandes Cazalli - advogada do Martins Cardozo Advogados Associados e pós-graduanda em Direito de Gênero