O Google anunciou que começará a sinalizar imagens criadas por inteligência artificial (IA) em seus resultados de busca ainda em 2024. A medida faz parte de uma iniciativa mais ampla para fornecer mais transparência ao conteúdo digital, ajudando usuários a identificar se são imagens geradas por IA ou por humanos.
O Google utilizará metadados específicos para rotular as imagens e as plataformas que geram conteúdo visualmente sintético também poderão adicionar essas marcas diretamente.
Novo marco na transparência digital
Com a crescente utilização de inteligência artificial para criar imagens realistas, surgiu a necessidade de diferenciar imagens sintéticas de fotos autênticas. O Google está implementando esse sistema de marcação para melhorar a experiência dos usuários e evitar a disseminação de desinformação visual.
Isso porque, imagens geradas por IA, que podem ser manipuladas ou falsificadas, vêm sendo usadas em diversos contextos, desde o entretenimento até campanhas de desinformação política. O lançamento do Google, portanto, deve mitigar os impactos negativos dessas práticas, oferecendo aos usuários mais informações sobre a origem e autenticidade do conteúdo visual.
Como funcionará a sinalização
O sistema do Google usará metadados incorporados nas imagens para identificar quais foram criadas ou modificadas por IA. As ferramentas responsáveis por gerar esses arquivos também poderão incluir essa informação, facilitando o rastreamento. Além disso, a bigtech está colaborando com empresas do setor para definir padrões comuns que permitam a identificação mais eficiente desses conteúdos.
Quando uma imagem gerada por IA aparecer nos resultados de busca, o usuário verá uma notificação indicando que se trata de conteúdo sintético. Essa marcação pode aparecer tanto em imagens criadas diretamente por ferramentas de IA quanto em fotografias manipuladas por essas tecnologias.
Combate à desinformação visual
A disseminação de imagens falsas e manipuladas é um dos principais desafios enfrentados por plataformas digitais e redes sociais. A manipulação de fotos e vídeos pode enganar o público, distorcendo fatos e gerando desinformação.
O Google já tomou medidas para combater esses problemas com iniciativas como o “Fact Check”, lançado em 2023, e agora expande seus esforços ao lidar com o conteúdo visual.
Ao introduzir a marcação de imagens geradas por IA, o Google pretende criar um ecossistema de buscas mais confiável, onde os usuários podem ter mais confiança nas informações que consomem. A empresa acredita que essa medida ajudará a prevenir fraudes e reforçará a autenticidade das informações disponíveis na internet.
Repercussões para criadores e usuários
A introdução dessas etiquetas também impactará criadores de conteúdo e desenvolvedores que usam IA para gerar imagens.
A medida incentiva a transparência no uso de IA, mas também pode levantar preocupações sobre a perda de anonimato ou neutralidade ao publicar conteúdo. No entanto, o Google enfatiza que essa abordagem não visa restringir o uso da IA, mas sim dar ao usuário mais controle e contexto sobre o que está vendo.
Além disso, empresas que utilizam inteligência artificial para criar imagens realistas em setores como marketing, design e entretenimento deverão se adaptar às novas regras de transparência. Essa transição pode afetar como campanhas publicitárias e outros materiais visuais são percebidos, já que os consumidores estarão cientes de que o conteúdo foi gerado por uma máquina.
Ajuda de outras empresas
O Google também está desenvolvendo parcerias com outras companhias de tecnologia e organismos internacionais para criar padrões abertos que permitam a detecção global e unificada de conteúdo visual gerado por IA. A empresa prevê que essa mudança será um marco importante para garantir que os usuários estejam cientes da natureza do conteúdo com que interagem.
Espera-se que, à medida que a tecnologia de IA avança, os desafios relacionados à desinformação também aumentem. O Google acredita que a transparência é um passo essencial para enfrentar esses desafios e planeja continuar investindo em ferramentas que promovam a confiança nas informações online.
Aproveite e junte-se ao nosso canal no WhatsApp para receber conteúdos exclusivos em primeira mão. Clique aqui para participar. Startupi | Jornalismo para quem lidera inovação!
0 comentário