PhotoGuard do MIT: Uma nova ferramenta para proteger suas fotos da manipulação de IA

Pesquisadores do Laboratório de Ciência da Computação e Inteligência Artificial (CSAIL) do MIT desenvolveram um programa chamado PhotoGuard que nega à IA a capacidade de manipular as fotos de um indivíduo de forma convincente

O programa “PhotoGuard” foi desenvolvido por pesquisadores do MIT’s Computer Science and Artificial Intelligence Laboratory (CSAIL) que introduz ruído imperceptível em uma imagem para impedir que a inteligência artificial (IA) faça edições convincentes em fotos.

O programa usa técnicas de envenenamento de dados para perturbar pixels dentro de uma foto e criar ruído invisível em uma imagem. Isso essencialmente torna os geradores de arte de IA incapazes de gerar deepfakes realistas com base nas fotos que o sistema foi alimentado e treinado.

Quando o PhotoGuard é aplicado a uma foto, ele age como uma barreira contra geradores de imagens de IA que tentam criar novas imagens com base nela. A imagem original se torna efetivamente imune às sofisticadas capacidades de manipulação da tecnologia de IA, enquanto permanece visualmente indistinguível.

O PhotoGuard não é à prova de falhas e tem suas limitações. Há uma possibilidade de que indivíduos tentem engenharia reversa em uma fotografia protegida usando diferentes técnicas, como adicionar ruído digital, cortar ou virar a imagem.

Embora o PhotoGuard represente um grande avanço na proteção de obras de arte online, ele também destaca o jogo do gato e do rato em andamento entre avanços tecnológicos e medidas de segurança. À medida que os pesquisadores se esforçam para ficar um passo à frente das ameaças potenciais, o campo da inteligência artificial e da proteção de imagens permanece dinâmico e em constante evolução.

Veja também >>> Fotograf.IA: guia prático de primeiros passos com inteligência artificial para fotógrafos(as) (enfbyleosaldanha.com)

>>> Segunda edição do "I.A. na Fotografia" - Garanta sua vaga no primeiro lote promocional até sexta (enfbyleosaldanha.com)

Se quiser entender e participar desta nova fase da fotografia conheça o NFoTo. Trata-se de uma comunidade com 100 membros e 50 horas de conteúdo até aqui que se conecta com as questões como essa da IA e inovação no mundo da fotografia. Faça parte clicando aqui >>> NFoTo: fotograf.IA, NFT e inovação