Pesquisar
Close this search box.
/
/
Como a Meta pretende rotular imagens geradas por IA generativa

Como a Meta pretende rotular imagens geradas por IA generativa

Para trazer mais transparência às redes sociais, Meta começará a aplicar rótulos a imagens geradas por ferramentas de IA de outras empresas.

Nos próximos meses, a Meta irá rotular imagens criadas por meio de Inteligência Artificial (IA) publicadas em suas redes sociais, Facebook, Instagram e Threads. Segundo a empresa, imagens fotorrealistas geradas com o recurso Meta AI, já recebem uma descrição de que foram “Criadas por IA”. O objetivo é expandir a classificação para imagens geradas por ferramentas de Inteligência Artificial de outras empresas.

Num momento em que a geração de deepfakes – uso de IA para alterar o rosto de pessoas em vídeos, assim como voz e expressões de forma que pareça autêntico – e informações falsas é foco de preocupação de diferentes entidades e governos em todo o mundo, a reposta da Meta parece uma construção possível para minimizar os riscos gerados pelo uso malicioso da tecnologia.

Marcadores invisíveis

A Meta também está construindo ferramentas que possam fazer essa identificação em larga escala, de forma a rotular de forma padronizada imagens geradas por programas de empresas como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock, à medida que as organizações implementem objetivos de adicionar metadados às imagens criadas por IA.

No entanto, a fundadora do Facebook acrescenta que ainda não consegue detectar áudios e vídeos gerados por meio de Inteligência Artificial. O motivo para isso é que as empresas ainda não começaram a incluir esse sistema de “etiquetas” e metadados em ferramentas que gerem esses artigos na mesma escala que a geração de imagens.

“Enquanto a indústria trabalha para alcançar esse recurso, estamos adicionando uma funcionalidade para que as pessoas sinalizem quando compartilharem vídeos ou áudios gerado por inteligência artificial, para que possamos adicionar o rótulo”, explica Clegg. “Passaremos a exigir que as pessoas utilizem essa ferramenta de divulgação e rotulagem quando publicarem conteúdos orgânicos com vídeo ou áudio realista que tenha sido criado ou alterado digitalmente, e poderemos aplicar penalidades caso não o façam”.

O comunicado também aponta que, caso a Meta determine que a imagem, áudio ou vídeo gerado ou alterado por meio de IA crie um risco elevado para enganar o público, a empresa poderá adicionar um rótulo ou descrição mais proeminente. Assim, demais usuários estão mais informados e terão mais contexto ao consumir aquela mídia.

Mais transparência em IA

Segundo a Meta, essas práticas representam o que há de mais atualizado no mercado hoje, além de tecnicamente viável no momento. Mas a empresa também ressalta que ainda não é possível identificar todo conteúdo produzido por meio de IA. Além disso, há formas de retirar os marcadores invisíveis – ou marcas d’água – das mídias digitais produzidos pelo uso da tecnologia.

“Estamos buscando uma série de opções”, afirma o comunicado. “Estamos trabalhando muito para desenvolver uma classificação que nos ajude a detectar automaticamente conteúdos gerados por inteligência artificial, mesmo que ele não tenha marcadores invisíveis. Simultaneamente, estamos procurando maneiras de dificultar a remoção ou alteração das marcas d’água invisíveis”.

Uma dessas possíveis soluções é a Stable Signature, uma tecnologia de marca d’água invisível explorada pelo FAIR, laboratório de pesquisa de Inteligência Artificial da Meta. Uma vez que essa assinatura integra o mecanismo de rotulagem na geração de fotos para alguns tipos de ferramentas, isso faz com que a marca d’água não possa ser removida ou alterada. Trata-se de uma solução que pode ser especialmente benéfica para modelos de código aberto (open source).

A Meta ainda acrescenta que IA já é utilizada para ajudar a detectar e endereçar discursos de ódio e demais conteúdos que violem os Padrões da Comunidade das plataformas. No entanto, a adoção de ferramentas de IA generativa para esse mesmo objetivo ainda é limitada.

“Começamos a testar grandes modelos de linguagem (LLMs), treinando-os com os nossos Padrões da Comunidade para nos ajudar a determinar se um conteúdo viola as nossas políticas”, explica Clegg. “Esses testes iniciais sugerem que os LLMs podem ter um desempenho melhor do que os modelos de aprendizado de máquina já existentes. Também estamos usando LLMs para remover conteúdo das filas de revisão em determinadas circunstâncias, quando temos certeza de que ele não é violador das nossas políticas”.

Recomendadas

MAIS MATÉRIAS

SUMÁRIO – Edição 285

As relações de consumo acompanham mudanças intensas e contínuas na sociedade e no mercado. Vivemos na era da Inteligência Artificial, dos dados e de um consumidor mais exigente, consciente e impaciente. Mais do que nunca, ele é o centro de tudo: das decisões, estratégias e inovações.
O consumidor é digital sem deixar de ser humano, inovador sem abrir mão do que confia. Ele quer respeito absoluto pela sua identidade, quer ser ouvido e ter voz.
Acompanhar cada passo dessa evolução é um compromisso da Consumidor Moderno, agora um ecossistema de Customer Experience (CX), com o mais completo, sólido e original conhecimento sobre comportamento do consumidor, inteligência relacional, tecnologias, plataformas, aplicações, processos e metodologias para operacionalizar a experiência de modo eficaz, conectando executivos e lideranças.

CAPA:
Rhauan Porfirio | Nathalia Parra


Publisher
Roberto Meir

Diretor-Executivo de Conhecimento
Jacques Meir
[email protected]

Diretora-Executiva
Lucimara Fiorin
[email protected]

COMERCIAL E PUBLICIDADE
Gerentes-Comerciais
Andréia Gonçalves
[email protected]

Angela Souto
[email protected] 

Daniela Calvo
[email protected]

Elisabete Almeida
[email protected]

Érica Issa
[email protected]

NÚCLEO DE CONTEÚDO
Head de Conteúdo e Comunicação
Verena Carneiro
[email protected]

Head de Conteúdo
Melissa Lulio
[email protected]

Editora-Assistente
Larissa Sant’Ana
[email protected]

Repórteres
Bianca Alvarenga
Danielle Ruas 
Jéssica Chalegra
Julia Fregonese
Marcelo Brandão

Designer
Melissa D’Amelio
Nathalia Parra | Zootz Comunicação

Revisão
Elani Cardoso

MARKETING
Coordenadora
Mariana Santinelli

TECNOLOGIA
Gerente

Ricardo Domingues

CX BRAIN
Data Analyst
Camila Cirilo
[email protected]


CONSUMIDOR MODERNO
é uma publicação da Padrão Editorial Eireli.
www.gpadrao.com.br
Rua Ceará, 62 – Higienópolis
Brasil – São Paulo – SP – 01234-010
Telefone: +55 (11) 3125-2244
A editora não se responsabiliza pelos conceitos emitidos nos artigos ou nas matérias assinadas. A reprodução do conteúdo editorial desta revista só será permitida com autorização da Editora ou com citação da fonte.
Todos os direitos reservados e protegidos pelas leis do copyright,
sendo vedada a reprodução no todo ou em parte dos textos
publicados nesta revista, salvo expresso
consentimento dos seus editores.
Padrão Editorial Eireli.
Consumidor Moderno ISSN 1413-1226

NA INTERNET
Acesse diariamente o portal
www.consumidormoderno.com.br
e tenha acesso a um conteúdo multiformato
sempre original, instigante e provocador
sobre todos os assuntos relativos ao
comportamento do consumidor e à inteligência
relacional, incluindo tendências, experiência,
jornada do cliente, tecnologias, defesa do
consumidor, nova consciência, gestão e inovação.

PUBLICIDADE
Anuncie na Consumidor Moderno e tenha
o melhor retorno de leitores qualificados
e informados do Brasil.

PARA INFORMAÇÕES SOBRE ORÇAMENTOS:
[email protected]

SUMÁRIO – Edição 285

As relações de consumo acompanham mudanças intensas e contínuas na sociedade e no mercado. Vivemos na era da Inteligência Artificial, dos dados e de um consumidor mais exigente, consciente e impaciente. Mais do que nunca, ele é o centro de tudo: das decisões, estratégias e inovações.
O consumidor é digital sem deixar de ser humano, inovador sem abrir mão do que confia. Ele quer respeito absoluto pela sua identidade, quer ser ouvido e ter voz.
Acompanhar cada passo dessa evolução é um compromisso da Consumidor Moderno, agora um ecossistema de Customer Experience (CX), com o mais completo, sólido e original conhecimento sobre comportamento do consumidor, inteligência relacional, tecnologias, plataformas, aplicações, processos e metodologias para operacionalizar a experiência de modo eficaz, conectando executivos e lideranças.

CAPA:
Rhauan Porfirio | Nathalia Parra


Publisher
Roberto Meir

Diretor-Executivo de Conhecimento
Jacques Meir
[email protected]

Diretora-Executiva
Lucimara Fiorin
[email protected]

COMERCIAL E PUBLICIDADE
Gerentes-Comerciais
Andréia Gonçalves
[email protected]

Angela Souto
[email protected] 

Daniela Calvo
[email protected]

Elisabete Almeida
[email protected]

Érica Issa
[email protected]

NÚCLEO DE CONTEÚDO
Head de Conteúdo e Comunicação
Verena Carneiro
[email protected]

Head de Conteúdo
Melissa Lulio
[email protected]

Editora-Assistente
Larissa Sant’Ana
[email protected]

Repórteres
Bianca Alvarenga
Danielle Ruas 
Jéssica Chalegra
Julia Fregonese
Marcelo Brandão

Designer
Melissa D’Amelio
Nathalia Parra | Zootz Comunicação

Revisão
Elani Cardoso

MARKETING
Coordenadora
Mariana Santinelli

TECNOLOGIA
Gerente

Ricardo Domingues

CX BRAIN
Data Analyst
Camila Cirilo
[email protected]


CONSUMIDOR MODERNO
é uma publicação da Padrão Editorial Eireli.
www.gpadrao.com.br
Rua Ceará, 62 – Higienópolis
Brasil – São Paulo – SP – 01234-010
Telefone: +55 (11) 3125-2244
A editora não se responsabiliza pelos conceitos emitidos nos artigos ou nas matérias assinadas. A reprodução do conteúdo editorial desta revista só será permitida com autorização da Editora ou com citação da fonte.
Todos os direitos reservados e protegidos pelas leis do copyright,
sendo vedada a reprodução no todo ou em parte dos textos
publicados nesta revista, salvo expresso
consentimento dos seus editores.
Padrão Editorial Eireli.
Consumidor Moderno ISSN 1413-1226

NA INTERNET
Acesse diariamente o portal
www.consumidormoderno.com.br
e tenha acesso a um conteúdo multiformato
sempre original, instigante e provocador
sobre todos os assuntos relativos ao
comportamento do consumidor e à inteligência
relacional, incluindo tendências, experiência,
jornada do cliente, tecnologias, defesa do
consumidor, nova consciência, gestão e inovação.

PUBLICIDADE
Anuncie na Consumidor Moderno e tenha
o melhor retorno de leitores qualificados
e informados do Brasil.

PARA INFORMAÇÕES SOBRE ORÇAMENTOS:
[email protected]