A empresa que controla as 3 redes sociais diz que está desenvolvendo ferramentas para detectar e marcar imagens, áudio e vídeo criados por IA, visando aumentar a transparência e a confiança dos usuários
Meta, a empresa que controla o Facebook, Instagram e Threads, anunciou que vai rotular o conteúdo gerado por inteligência artificial (IA) em suas plataformas nos próximos meses. A medida visa informar os usuários sobre a origem e a natureza do conteúdo que eles veem e interagem, especialmente em um contexto de eleições importantes em todo o mundo.
Em um comunicado, a Meta disse que está construindo as ferramentas para detectar o conteúdo gerado por IA, e que os rótulos serão aplicados em todos os idiomas suportados em suas redes sociais. O CEO do Instagram, Adam Mosseri, disse que o uso da IA no Instagram está crescendo muito e que dessa forma é necessário ter essas indicações mais responsáveis para todos os usuários.
“A diferença entre conteúdo humano e sintético está ficando cada vez mais difícil de perceber, e as pessoas querem saber onde está a linha”, disse o comunicado. “Muitas vezes, as pessoas encontram conteúdo gerado por IA pela primeira vez e nossos usuários nos disseram que valorizam a transparência em torno dessa nova tecnologia.”
A Meta afirmou que espera lançar o recurso em breve, já que há uma série de “eleições importantes” previstas para acontecer em diferentes países.
“Nesse período, esperamos aprender muito mais sobre como as pessoas estão criando e compartilhando conteúdo de IA, que tipo de transparência as pessoas consideram mais útil e como essas tecnologias evoluem. O que aprendermos vai orientar as melhores práticas do setor e nossa própria abordagem daqui para frente”, disse o comunicado.
Atualmente, as imagens criadas com a ferramenta de IA da própria Meta já têm um rótulo “Imagined with AI” que aparece quando são publicadas, mas isso ainda não se aplica ao trabalho gerado por IA feito com outras ferramentas.
Segundo a Meta, os novos alertas aparecerão “quando pudermos detectar indicadores padrão da indústria de que eles são gerados por IA”. Isso é algo que a Meta diz que está trabalhando com “parceiros da indústria” para desenvolver.
A empresa disse que também está em processo de construção de ferramentas que podem identificar marcadores invisíveis, como as marcas d’água embutidas em muitas criações de IA em larga escala – especificamente, as informações “geradas por IA” nos padrões técnicos C2PA e IPTC aos quais muitas empresas de IA aderem.
Imagem: Meta Imagem: Meta “Dessa forma, podemos rotular imagens do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock à medida que eles implementam seus planos para adicionar metadados a imagens criadas por suas ferramentas”, disse a Meta.
No entanto, a Meta admitiu que ainda é limitada com o que pode fazer com vídeo e áudio.
“Embora as empresas estejam começando a incluir sinais em seus geradores de imagem, elas ainda não começaram a incluí-los em ferramentas de IA que geram áudio e vídeo na mesma escala, então ainda não podemos detectar esses sinais e rotular esse conteúdo de outras empresas”, disse a empresa.
“Enquanto a indústria trabalha para esse recurso, estamos adicionando um recurso para as pessoas divulgarem quando compartilham vídeo ou áudio gerado por IA para que possamos adicionar um rótulo a ele.”
No entanto, como a Meta reconheceu, ainda não é possível identificar todo o conteúdo gerado por IA, e há formas de as pessoas removerem marcadores invisíveis.
OpenAi do ChatGPT e DALL-E disse que também vai criar rótulos melhores para identificar as imagens com IA. "As imagens geradas no ChatGPT e em nossa API agora incluem metadados usando especificações C2PA", A OpenAI postou nas plataformas sociais X e LinkedIn a partir de sua conta corporativa. "Isso permite que qualquer pessoa (incluindo plataformas sociais e distribuidores de conteúdo) veja que uma imagem foi gerada por nossos produtos."
A OpenAI disse que a mudança está em vigor para a web agora e será implementada para todos os usuários móveis do ChatGPT até 12 de fevereiro.
