Deepfakes, Leis e Códigos: o compliance algorítmico e a responsabilidade direta do profissional de TI no Brasil

Deepfakes, Leis e Códigos: o compliance algorítmico e a responsabilidade direta do profissional de TI no Brasil

Autora: Géssica Moura Fonteles.

No Brasil de 2025, uma linha de código pode ser tão decisiva para a democracia quanto uma decisão judicial. O avanço da Inteligência Artificial (IA) generativa trouxe ganhos extraordinários, mas também um inimigo sofisticado: o deepfake. Mais do que um “vídeo falso”, trata-se de um produto sintético de deep learning capaz de replicar rostos, vozes e gestos de forma hiper-realista.

Diferentemente das fake news tradicionais, que se apoiam em textos ou dados falsificados, o deepfake atinge a própria identidade digital. Ele sequestra a confiança que sustenta a comunicação humana no espaço virtual, isto é, voz, imagem e expressão, e a transforma em instrumento de fraude, manipulação política ou extorsão (Alves, Rodrigues e Fernandes, 2024; Cadete Fidelis e Verbicaro Soares, 2023).

Para o profissional de TI, o problema não é apenas jurídico, mas também técnico e cotidiano, de modo que detectar, prevenir e rastrear conteúdos manipulados tornou-se requisito central de segurança digital.

Estima-se que a circulação de deepfakes no Brasil seja cinco vezes maior do que nos Estados Unidos (Sobral, 2025). A consequência jurídica é conhecida como “efeito-cola”, pois, mesmo quando a fraude é desmentida, a mancha na reputação da vítima permanece.

Diante desse cenário, o Direito migra de um modelo ex post (punição após o dano) para um modelo ex ante (prevenção), o que desloca responsabilidades diretamente para as equipes de desenvolvimento. Identidade digital e direito à imagem passaram a ser bens jurídicos autônomos e merecedores de proteção própria.

Em termos técnicos, isso exige práticas como security by design e privacy by design, ou seja, sistemas concebidos desde a origem para mitigar riscos (Medon, 2021; Filho e Brito, 2023).

Um marco importante desse processo regulatório foi a Resolução nº 23.732/2024 do Tribunal Superior Eleitoral (TSE), que proibiu o uso de deepfakes em propaganda eleitoral e determinou a obrigatoriedade de aviso em todo conteúdo político gerado por IA.

Trata-se da primeira norma no mundo a estabelecer parâmetros preventivos para o uso de IA em eleições. Essa medida trouxe obrigações concretas, como a exigência de watermarking e metadados obrigatórios, a fim de garantir autenticidade e transparência, bem como o dever de rastreabilidade e auditoria, permitindo que versões e históricos sejam verificáveis.

Além disso, o TSE transferiu parte da responsabilidade às plataformas digitais, que podem ser responsabilizadas caso não removam rapidamente conteúdos ilícitos graves. Em consequência, as equipes de TI passaram a atuar em sinergia com setores de governança e compliance para desenvolver algoritmos de moderação proativa e protocolos de resposta célere.

Apesar disso, os Tribunais Regionais Eleitorais (TREs) ainda enfrentam dificuldades para identificar deepfakes. Estudo baseado em 56 decisões revelou que, em 25% dos casos, os juízes sequer reconheceram o material como eleitoral (Junquilho et al., 2024).

Na prática, isso significa que apenas aqueles com condições financeiras de contratar peritos forenses computacionais conseguem se proteger, perpetuando desigualdades. Nesse vácuo, a comunidade de TI assume papel essencial, sendo responsável por criar critérios técnicos objetivos, apoiar investigações e desenvolver ferramentas de detecção forense de IA, o que deixou de ser mera inovação para se tornar dever cívico.

O Supremo Tribunal Federal (STF) também desempenhou papel crucial ao reinterpretar o Marco Civil da Internet (Lei nº 12.965/2014). Antes, as plataformas só respondiam civilmente por conteúdos de terceiros após ordem judicial. Contudo, diante da crescente incidência de golpes digitais e deepfakes, o STF instituiu um regime híbrido.

Nos crimes contra a honra, mantém-se a necessidade de ordem judicial. Por outro lado, nos casos graves ou envolvendo contas falsas, admite-se a remoção imediata após notificação extrajudicial. Mais impactante ainda, o STF incluiu a responsabilidade por conteúdos gerados por algoritmos, como chatbots e modelos de IA reconhecendo que o código pode gerar responsabilidade jurídica direta. Esse movimento, entretanto, trouxe o dilema do over-removal, no qual plataformas preferem remover conteúdo em excesso para evitar punições, o que ameaça a liberdade de expressão. O equilíbrio, portanto, requer algoritmos auditáveis, relatórios de transparência e engenharia consciente dos impactos sociais da tecnologia (Dantas, 2025).

Nesse contexto, o Projeto de Lei nº 2.338/2023, inspirado no AI Act europeu, introduz a Avaliação de Impacto Algorítmico (AIA), que impõe às empresas a obrigação de medir e classificar riscos antes de lançar sistemas de IA.

A exigência altera profundamente o ciclo de desenvolvimento de software, transformando a AIA em um checkpoint técnico-jurídico dentro do SDLC. Entretanto, como advertiu Mario Draghi (2024) no cenário europeu, a regulação excessiva pode sufocar a inovação, sobretudo no ecossistema de startups. No Brasil, os profissionais de TI precisam participar ativamente desse debate, a fim de conciliar a proteção de direitos fundamentais com a preservação da competitividade tecnológica nacional.

Diante desse panorama, o combate aos deepfakes não pode mais ser visto como missão exclusiva de advogados ou juízes, mas como uma tarefa compartilhada com aqueles que projetam, mantêm e auditam os sistemas digitais. O profissional de TI é hoje chamado a desempenhar múltiplos papéis: engenheiro de sistemas, perito forense em potencial, agente de compliance e guardião ético da democracia digital. O Direito 4.0 não se escreve apenas em tribunais, mas também em linhas de programação.

Assim, no enfrentamento aos deepfakes, é a comunidade de TI quem detém as chaves para preservar a confiança digital e assegurar que a tecnologia seja instrumento de fortalecimento, e não de erosão, da vida democrática.

Referências

ALVES, Tatiana Machado; RODRIGUES, Roberto; FERNANDES, Daniela. Deepfakes: uma tecnologia de riscos e desafios legais. JOTA, 2024. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/deepfakes-uma-tecnologia-de-riscos-e-desafios-legais . Acesso em: 28 set. 2025.

BRASIL. Projeto de Lei n. 2.338, de 2023. Autor: Senador Rodrigo Pacheco (PSD/MG). Dispõe sobre o uso da Inteligência Artificial. Autógrafo enviado ao Congresso Nacional. Brasília, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em:28 set. 2025.

CADETE FIDELIS, VANDERSON; VERBICARO SOARES, DOUGLAS. OS DESAFIOS DO ORDENAMENTO JURÍDICO BRASILEIRO FRENTE ÀS DEEPFAKES . Revista Pensamento Jurídico, São Paulo, Brasil, v. 17, n. 1, 2023. Disponível em: https://ojs.unialfa.com.br/index.php/pensamentojuridico/article/view/711 . Acesso em: 28 set. 2025.

DANTAS, Glenda. Responsabilização das plataformas pelo STF: o que dizem os especialistas?. *desinformante: informação confiável sobre desinformação, 2025. Disponível em: https://desinformante.com.br/responsabilizacao-das-plataformas-pelo-stf-o-que-dizem-os-especialistas/. Acesso em: 28 set. 2025.

DRAGHI, Mario. O futuro da competitividade europeia: relatório de Mario Draghi. Conferência de imprensa de Ursula von der Leyen e Mario Draghi. Comissão Europeia, Luxemburgo: 2024. Disponível em: https://commission.europa.eu/topics/eu-competitiveness/draghi-report_en. Acesso em: 29 set. 2025.

FILHO, Gilberto Canhadas; BRITO, Ana Carolina Ferreira de Melo. A inteligência artificial e os limites no uso do direito de imagem. Migalhas, 2023. Disponível em: https://www.migalhas.com.br/depeso/390067/a-inteligencia-artificial-e-os-limites-no-uso-do-direito-de-imagem. Acesso em: 28 set. 2025.

JUNQUILHO, Tainá Aguiar; SILVEIRA, Marilda de Paula; FERREIRA, Lucia Maria Teixeira; MENDES, Laura Schertel; OLIVEIRA, André Gualtieri de. (org.). Construindo consensos: deep fakes nas eleições de 2024 relatório das decisões dos TREs sobre deep fakes. Brasília: Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa: Laboratório de Governança e Regulação de Inteligência Artificial, 2024. E-book. ISBN 978-65-87546-23-0. Disponível em:(https://www.idp.edu.br/arquivos/cedis/IDP%20-%20LIA%2C%20CEDIS%20e%20ETHICS4AI%20-%20Nota%20T%C3%A9cnica%20-%20Construindo%20Consensos%20-%20Deep%20Fakes%20nas%20Elei%C3%A7%C3%B5es%20de%202024.pdf ). Acesso em: 28 set. 2025.

MEDON, Felipe. O DIREITO À IMAGEM NA ERA DAS DEEPFAKES. Revista Brasileira de Direito Civil – RBDCivil | Belo Horizonte, v. 27, p. 251-277, jan./mar. 2021. Disponível em: https://rbdcivil.ibdcivil.org.br/rbdc/article/download/438/447/2082. Acesso em: 28 set. 2025.

NONATO, Bruno Augusto. FAKE NEWS E TSE: O PAPEL DAS RESOLUÇÕES NO COMBATE À DESINFORMAÇÃO ANTE A OMISSÃO DO PODER LEGISLATIVO. Revista Justiça Eleitoral em Debate v. 14 n. 1 (2024). Disponível em: https://revista.tre-rj.jus.br/rjed/article/download/194/189/375. Acesso em: 28 set. 2025.

SOBRAL, Christiano. Deepfakes: O desafio jurídico da influência que persiste mesmo diante da falsidade. Migalhas, 2025. Disponível em: https://www.migalhas.com.br/depeso/422806/deepfakes-o-desafio-juridico-da-influencia-que-persiste. Acesso em: 28 set. 2025.

TRIBUNAL SUPERIOR ELEITORAL (TSE). Resolução nº 23.732 de 27 de fevereiro de 2024. Altera a Res.-TSE nº 23.610, de 18 de dezembro de 2019, dispondo sobre a propaganda eleitoral. Brasília, 2024. Disponível em: https://www.tse.jus.br/legislacao/compilada/res/2024/resolucao-no-23-732-de-27-de-fevereiro-de-2024. Acesso em: 28 set. 2025.