Segurança ou vigilância? Os limites éticos de um aplicativo que expõe vidas

O surgimento de um aplicativo que reúne antecedentes e processos de homens antes de um encontro coloca em debate dois valores igualmente relevantes em uma democracia: a proteção das mulheres e a preservação de direitos fundamentais, como privacidade, presunção de inocência e uso responsável de dados. Por isso, a discussão não deve ser conduzida por extremos. Nem toda defesa em favor do aplicativo significa apoio à violação do direito à proteção de dados sensíveis, assim como nem toda crítica ao aplicativo representa desprezo pela segurança feminina.

De um lado, há um argumento forte em favor da plataforma: mulheres vivem uma realidade concreta de medo e exposição à violência, e o acesso prévio a informações públicas pode ajudá-las a tomar decisões mais prudentes. Em um cenário nacional marcado pelo aumento dos feminicídios e pela recorrência de agressões praticadas por parceiros ou ex-parceiros, conforme dados do Fórum Brasileiro de Segurança Pública (2025), não parece irrazoável admitir que a tecnologia possa contribuir para a prevenção, sobretudo quando organiza dados que já estão disponíveis em fontes públicas.

De outro lado, a legitimidade do objetivo não elimina os riscos jurídicos e éticos envolvidos. O fato de um dado ser público não autoriza, automaticamente, qualquer forma de tratamento massivo, cruzamento automatizado ou exposição simplificada. A Lei Geral de Proteção de Dados impõe princípios como finalidade, necessidade, adequação e transparência. Assim, uma ferramenta privada que monetiza informações pessoais precisa demonstrar base legal, proporcionalidade e mecanismos de correção, sob pena de transformar prevenção em exploração comercial de dados.

Outro ponto sensível é a presunção de inocência prevista na Constituição Federal. A existência de boletins, investigações ou processos em andamento não equivale a culpa formada. Se o aplicativo não contextualiza adequadamente a informação, pode induzir julgamentos precipitados, reforçar estigmas e produzir uma espécie de condenação social paralela. A tecnologia deve informar sem distorcer, alertar sem sentenciar e oferecer contexto suficiente para evitar interpretações simplistas.

Também há limites próprios da inteligência artificial. Sistemas automatizados podem errar, desatualizar registros, confundir homônimos e reproduzir vieses presentes nas bases consultadas. Quando isso ocorre em contextos pessoais e afetivos, os danos reputacionais podem ser significativos. Por essa razão, qualquer ferramenta desse tipo deveria operar com critérios auditáveis, revisão humana, possibilidade de contestação e exclusão de dados indevidos, além de linguagem clara sobre o que efetivamente significa cada registro apresentado.

Sopesando, portanto, direito à segurança da mulher de um lado e, de outro, os direitos e garantias fundamentais e o princípio da inocência, reconhece-se que o aplicativo pode atender a uma demanda legítima de proteção, mas apenas será socialmente aceitável se vier acompanhado de governança rigorosa, limites legais e responsabilidade técnica. Entre a omissão diante da violência e o uso irrestrito de dados pessoais, o caminho mais justo é o da prevenção com garantias individuais e coletivas.

* Débora Veneral é advogada criminalista, professora e diretora da Escola Superior de Gestão Pública, Política, Jurídica e de Segurança da Uninter.