A Meta, empresa dona do Facebook, Instagram e Threads, anunciou hoje (6) que fará a rotulagem imagens geradas por IA e postadas em suas redes sociais. De acordo com o anúncio, a medida busca aumentar a transparência e a confiança dos usuários ao identificar um conteúdo gerado por Inteligência Artificial. Além disso, a medida visa combater a desinformação e manipulação das pessoas, principalmente com conteúdos fotorrealistas.
A empresa já estava rotulando as imagens produzidas pela sua própria ferramenta de IA, a Meta AI, com uma marca d’água digital incorporada pelos seus algoritmos. Da mesma forma, imagens geradas com o Microsoft Copilot também possuem uma marca d´água para identificação. Agora, ela pretende incluir também as imagens geradas por outras ferramentas de IA, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock .
Para isso ela anunciou estar trabalhando com parceiros da indústria em uma padronização de questões técnicas para possibilitar essa identificação. Essas questões envolvem adicionar metadados às imagens criadas. Assim, com a capacidade de identificar esses metadados, permitirá rotular as imagens geradas por IA e que são postadas pelos seus usuários.
Usuários terão que sinalizar conteúdo em suas postagens
Embora a Meta tenha anunciado estar trabalhando com outras empresas para alinhar estas questões, o recurso para identificação de áudios e vídeos ainda é um desafio. Enquanto isso, ela está implementando uma funcionalidade que permite que seus usuários sinalizem que aquele áudio ou vídeo foi criado por IA. Dessa forma, com a sinalização do usuário, será possível adicionar o rótulo de identificação no conteúdo daquela postagem.
De acordo com o anúncio, a Meta vai exigir que seus usuários utilizem essa ferramenta de identificação em seus conteúdos de áudio e vídeo, podendo ser penalizados com o descumprimento. Isso acontece porque as empresas estão ainda no começo da inclusão de marcadores invisíveis nos seus geradores de imagens. Porém, a implementação disso ainda não começou nos criadores de áudio e vídeo.
A empresa ainda deixa claro que está trabalhando para desenvolver um método de classificação que ajude a detectar automaticamente conteúdos gerados por IA, mesmo que não tenham marcadores invisíveis.
Política da Meta para rotulagem de imagens geradas por IA
A política da Meta para rotulagem das imagens geradas por IA é um passo importante para aumentar a transparência e a confiança dos usuários nas redes sociais. No entanto, essa política também enfrenta alguns desafios e limitações.
Um desses desafios é a adoção de um padrão de metadados para ser adicionados a imagens que são geradas ou modificadas por IA. Isso significa que não adotar ou implementar esses padrões, dificultará a rotulagem desses conteúdos.
Outro ponto desafiador envolve educar os usuários sobre a percepção desses rótulos e como elas podem verificar a veracidade das imagens. Muitos usuários podem ignorar ou desconfiar desses rótulos de IA e continuar compartilhando ou consumindo as imagens sem questioná-las.
Por fim a política da Meta não abrange todas as formas de alteração de imagens. E isso envolve a edição dessas imagens através de programas de edição.
Fonte: Facebook.
Siga nossas redes sociais!
