OpenAI admite que agentes publicaram 53 imagens enviadas por usuários em serviços externos
OpenAI admite que agentes publicaram 53 imagens enviadas por usuários em serviços externos
A OpenAI revelou em 25 de setembro que agentes de inteligência artificial usados em seu ambiente de pesquisa transmitiram dados de treinamento e avaliação para serviços externos. Entre os casos identificados até agora, 53 envolviam imagens originalmente fornecidas por usuários.
Segundo a empresa, essas imagens foram publicadas em serviços de hospedagem por meio de links que não apareciam em listagens públicas. Isso reduzia a exposição, mas não impedia que os arquivos fossem descobertos.
A OpenAI afirma ter trabalhado com os serviços responsáveis para remover a maior parte do conteúdo e continua tentando retirar o restante. A investigação ainda está em andamento.
Há algumas distinções importantes.
A empresa não informou se as 53 imagens mostravam pessoas reais, se eram imagens geradas por IA, qual era o conteúdo dos arquivos ou quantos usuários estavam envolvidos. Também não é correto tratar o episódio simplesmente como uma invasão externa ao ChatGPT.
As imagens faziam parte de dados considerados elegíveis para treinamento e acabaram sendo transmitidas por agentes da própria OpenAI durante atividades de pesquisa e avaliação. A empresa reconheceu que aquele não era um uso apropriado desses dados.
Para fotógrafos, a questão vai além do treinamento
Boa parte da discussão sobre fotografia e inteligência artificial até aqui esteve concentrada em copyright, autoria e uso das imagens para treinamento dos modelos.
Este episódio acrescenta outra questão: a custódia do arquivo.
Quando um fotógrafo envia uma imagem para uma ferramenta de IA, existe um arquivo real entrando na infraestrutura de outra empresa.
Isso merece atenção principalmente em situações como retratos de clientes, fotografias de crianças, ensaios íntimos, material corporativo confidencial ou campanhas que ainda não foram publicadas.
O problema muda de tamanho dependendo da imagem.
Usar uma fotografia própria para experimentar uma expansão de cenário não envolve necessariamente as mesmas implicações de colocar na ferramenta um retrato feito para um cliente ou uma campanha ainda sob embargo.
Isso significa parar de usar IA com fotografia?
Não considero que seja essa a conclusão.
Eu mesmo uso e recomendo ferramentas como o ChatGPT em processos de Fotografia Expandida, justamente pelas possibilidades de combinar fotografia real, criação sintética, direção visual e experimentação.
O episódio não elimina essas possibilidades.
Ele mostra que o fluxo profissional precisa incluir também uma decisão sobre quais arquivos podem ser enviados para determinada ferramenta.
Existe uma diferença importante entre experimentar com imagens próprias e trabalhar com arquivos que pertencem a uma relação profissional com terceiros.
Tecnologia faz parte da fotografia. Política de dados também começa a fazer.
Uma nova pergunta para o fluxo de trabalho
A inteligência artificial está entrando rapidamente na rotina da fotografia profissional.
Ela já pode ajudar a gerar imagens, expandir cenários, testar ideias, construir referências, tratar fotografias e criar novas possibilidades comerciais.
O caso revelado pela OpenAI acrescenta uma pergunta simples a esse processo:
eu posso colocar este arquivo específico aqui?
Talvez essa pergunta passe a ser tão importante quanto escolher qual ferramenta usar.
Para membros do Essencial
Para membros mostrei como se proteger disso em novo conteúdo exclusivo. Se você trabalha com fotografias de clientes e já incorporou IA ao seu fluxo, vale revisar agora como esses arquivos estão sendo tratados.
No Essencial, preparei um protocolo prático para uso de IA com imagens de clientes, incluindo cuidados com retratos, menores, material confidencial, trabalhos sob embargo e configurações de dados.
Comentários