OpenAI adicionou uma nova ferramenta para detectar se uma imagem foi feita com seu gerador de imagens DALL-E AI, bem como novos métodos de marca d’água para sinalizar mais claramente o conteúdo gerado.
Em uma postagem no blog, a OpenAI anunciou que começou a desenvolver novos métodos de proveniência para rastrear conteúdo e provar se foi gerado por IA. Isso inclui um novo classificador de detecção de imagem que usa IA para determinar se a foto foi gerada por IA, bem como uma marca d’água resistente a violações que pode marcar conteúdo como áudio com sinais invisíveis.
O classificador prevê a probabilidade de uma imagem ter sido criada pelo DALL-E 3. OpenAI afirma que o classificador funciona mesmo se a imagem for cortada ou compactada ou se a saturação for alterada. Embora a ferramenta possa detectar se as imagens foram feitas com DALL-E 3 com cerca de 98% de precisão, seu desempenho em descobrir se o conteúdo era de outros modelos de IA não é tão bom, sinalizando apenas 5 a 10% das imagens de outros geradores de imagens. , como Meio da Jornada.
A OpenAI adicionou anteriormente credenciais de conteúdo aos metadados de imagem da Coalition of Content Provenance and Authority (C2PA). As credenciais de conteúdo são essencialmente marcas d’água que incluem informações sobre quem é o proprietário da imagem e como ela foi criada. OpenAI, juntamente com empresas como Microsoft e Adobe, é membro do C2PA. Este mês, a OpenAI também se juntou ao comitê diretor do C2PA.
Tanto o classificador de imagens quanto o sinal de marca d’água de áudio ainda estão sendo refinados. A OpenAI afirma que precisa obter feedback dos usuários para testar sua eficácia. Pesquisadores e grupos de jornalismo sem fins lucrativos podem testar o classificador de detecção de imagens aplicando-o à plataforma de acesso à pesquisa da OpenAI.
A OpenAI vem trabalhando na detecção de conteúdo gerado por IA há anos. No entanto, em 2023, foi necessário encerrar um programa que tentava identificar texto escrito por IA porque o classificador de texto de IA apresentava consistentemente baixa precisão.
theverge