Universidade aplica proteção contra deepfake em 5,8 mil fotos de formatura
Universidade Nacional de Seul adotou tecnologia que insere alterações praticamente invisíveis nas imagens para dificultar seu uso por sistemas de IA. O caso aponta para uma nova etapa na proteção de fotografias digitais.
A preocupação com uma fotografia de formatura já não termina na escolha da imagem, na impressão do álbum ou na publicação nas redes sociais. Na Coreia do Sul, uma universidade decidiu acrescentar uma nova etapa ao processo: tentar proteger tecnicamente a fotografia antes que ela comece a circular.
A Universidade Nacional de Seul vai aplicar uma tecnologia preventiva contra deepfakes em cerca de 5.800 fotografias de formatura. O sistema foi desenvolvido pela startup sul-coreana StealCut e oferecido gratuitamente à instituição por seu fundador, Lee Jung-hoon, ex-aluno da universidade.
A iniciativa foi revelada em uma reportagem do Chosun publicada em 2 de outubro.
Uma alteração que o olho praticamente não percebe
A tecnologia introduz um ruído muito pequeno nos pixels da fotografia. Para quem olha a imagem, a alteração deve ser praticamente imperceptível. Para alguns modelos de inteligência artificial, porém, ela pode dificultar o reconhecimento correto do rosto.
A proposta é fazer com que sistemas usados para criação de deepfakes identifiquem incorretamente determinadas informações da imagem, produzindo resultados deformados ou impedindo a manipulação.
É uma abordagem diferente daquela adotada por ferramentas que procuram descobrir posteriormente se uma fotografia foi alterada. Aqui, a intervenção acontece antes da distribuição do arquivo.
A origem da tecnologia também está relacionada a um problema concreto. Em 2024, a Universidade Nacional de Seul esteve no centro de um caso envolvendo o uso de fotografias de estudantes e ex-alunas para produção e distribuição de deepfakes sexuais. Segundo o fundador da StealCut, o episódio ajudou a motivar o desenvolvimento da ferramenta.
Funciona, mas não impede todos os deepfakes
Há uma limitação importante. Segundo os testes divulgados pela própria empresa, a tecnologia conseguiu bloquear aproximadamente 70% dos serviços gratuitos de geração de deepfakes avaliados. Quando entram na conta modelos mais avançados e pagos, a taxa informada cai para 53%.
Portanto, não se trata de uma blindagem da fotografia.
Os números são resultados apresentados pela desenvolvedora da tecnologia e mostram, principalmente, uma tentativa de aumentar a dificuldade para quem pretende manipular uma imagem. Novos modelos também podem encontrar maneiras de contornar proteções desenvolvidas para sistemas anteriores.
Esse detalhe torna o caso mais interessante do que simplesmente anunciar uma “solução contra deepfake”: começa uma disputa tecnológica entre sistemas capazes de manipular fotografias e ferramentas criadas para dificultar essa manipulação.
O que isso muda para quem trabalha com imagem?
O caso também interessa ao mercado fotográfico porque a proteção foi incorporada ao próprio fluxo de produção. O usuário não precisa receber sua fotografia e procurar depois uma ferramenta externa. O arquivo já pode chegar protegido.
É uma lógica que poderia aparecer futuramente em áreas que trabalham com grandes quantidades de retratos: fotografia escolar, formaturas, eventos, retratos corporativos e plataformas de distribuição de imagens.
Também acrescenta outra camada à discussão sobre o que é uma fotografia hoje.
No especial Fotografia Expandida: do real ao sintético, venho tratando justamente da passagem entre imagem capturada, imagem híbrida e produção inteiramente sintética. O caso coreano acrescenta uma questão diferente a esse cenário: o que acontece com a fotografia capturada depois que ela entra em um ambiente no qual outras IAs conseguem reutilizá-la?
Autoria e procedência continuam importantes, mas proteção também começa a entrar nessa conversa.
Uma fotografia profissional pode passar, portanto, a carregar mais do que tratamento, resolução e metadados. Tecnologias como a utilizada pela Universidade Nacional de Seul sugerem que decisões sobre segurança e reutilização do arquivo também podem começar a fazer parte da entrega.
A experiência ainda está longe de resolver o problema dos deepfakes. Mas os 5,8 mil retratos protegidos na Coreia mostram uma mudança relevante: a tentativa de combater a manipulação começa antes mesmo de a fotografia ser publicada.
O que é Essencial?
IA, novas tecnologias e mudanças na circulação das imagens estão criando questões que chegam rapidamente ao trabalho dos fotógrafos. No Essencial, acompanho esses movimentos e seus impactos no mercado, nos negócios e na produção profissional.
Comentários