/
/
Algoritmo gerador de texto pode ter o efeito contrário: o de desinformar

Algoritmo gerador de texto pode ter o efeito contrário: o de desinformar

Estudo da Universidade de Georgetown, nos EUA, identificou potencial nocivo do GPT-3 - algoritmo capaz de gerar textos coerentes de maneira automatizada - de produzir mentiras

Em junho de 2020, a OpenAi —  instituição de pesquisa em inteligência artificial —  apresentou uma ferramenta de IA capaz de produzir textos inteligíveis e coerentes. Um incremento até então nunca visto no mundo da automatização. No entanto, à época, já se especulava que a ferramenta teria potencial nocivo: ao invés de informar, poderia servir como uma arma de desinformação online ou fake news de maneira serial.

E foi comprovado. Uma equipe de especialistas no assunto demonstrou que o algoritmo, denominado GPT-3, é capaz de enganar e desinformar. Segundo a pesquisa, a IA pode amplificar artifícios “desinformativos” difíceis de se detectar.

Um grupo do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown, nos EUA, utilizou, durante seis meses, o algoritmo GPT-3 para gerar informações falsas, utilizando-se de narrativas mentirosas e notícias modificadas com o auxílio do Twitter.

“Não acho que seja uma coincidência que a mudança climática seja o novo aquecimento global”, dizia um tuite composto pelo GPT-3, que visava alcançar usuários da rede social adeptos do ceticismo no que diz respeito às mudanças climáticas.”

Outra postagem cunhou a mudança climática como “o novo comunismo – uma ideologia baseada em uma falsa ciência que não pode ser questionada”.

Segundo Ben Cuchanan, professor da Universidade de Georgetown, com mensagens curtas e automatizadas, o GPT-3 é bastante eficaz na amplificação de falsidades, no que os pesquisadores chamam de desinformação one-to-many, ou, em tradução livre, de “um para muitos”.

Segundo o estudo, o GPT-3 tem o poder de influenciar opiniões dos leitores também sobre questões de diplomacia internacional. Eles mostraram a voluntários da pesquisa tuites escritos pelo GPT-3 sobre a retirada das tropas dos EUA do Afeganistão e as sanções dos EUA à China. Em ambos os casos, concluíram que os voluntários foram influenciados pelas mensagens: depois que os usuários leram postagens sobre oposição às sanções chinesas, por exemplo, o percentual os que disseram ser contra essa política dobrou.

Ao site Wired, Mike Gruszczynski, professor da Universidade de Indiana que estuda comunicações online, afirmou que não se surpreenderia se a Inteligência Artificial atingisse um grande papel nas campanhas de desinformação. Segundo ele, os bots têm desempenhado um papel fundamental na disseminação de narrativas falsas nos últimos anos

“Com bots, deepfakes e outras tecnologias, eu realmente acho que o céu é o limite, infelizmente”, disse.

Inteligência do algoritmo leva à imprevisibilidade

Pesquisadores de Inteligência Artificial vem desenvolvendo há algum tempo programas capazes de usar a linguagem de maneira automatizada; o consenso entre eles, porém, é que nenhum algoritmo se mostrou tão surpreendente quanto o GPT-3.

Criado pela OpenAI, o algoritmo foi alimentado por grandes quantidades de texto extraído de fontes da web, incluindo Wikipedia e Reddit. Assim, o sistema dominou a linguagem. No entanto, ficou imprevisível e com o poder de disseminar incoerências, linguagem ofensiva e odiosa.

A vicissitude é tanta que, até para quem usa o GPT-3 para gerar desinformação, há dificuldade em controlar seu comportamento. Segundo Buchanan, o algoritmo não parece capaz de gerar textos persuasivos de maneira confiável por muito mais tempo do que um tuite.

Buchanan alerta, porém, que o algoritmo pode ser aprimorado e, consequentemente, pode ter seu potencial nocivo amplificado. “Quem tem mais dinheiro, mais capacidades técnicas e menos ética pode usar melhor a IA. Além disso, as máquinas só vão ficar melhores”, diz.

A OpenAI diz que o trabalho de Georgetown destaca uma questão importante que a empresa espera mitigar. “Trabalhamos ativamente para lidar com os riscos de segurança associados ao GPT-3. Também revisamos cada uso de produção do GPT-3 antes de entrar em operação e temos sistemas de monitoramento para restringir e responder ao seu uso indevido”, ”, disse um porta-voz.

Com informações da Wired


+ Notícias

Estudo aponta que 90% dos clientes reclamam diretamente com a empresa – resolver é outra história

Câmara aprova projeto de lei do superendividamento

Recomendadas

MAIS MATÉRIAS

SUMÁRIO – Edição 288

As relações de consumo acompanham mudanças intensas e contínuas na sociedade e no mercado. Vivemos na era da Inteligência Artificial, dos dados e de um consumidor mais exigente, consciente e impaciente. Mais do que nunca, ele é o centro de tudo: das decisões, estratégias e inovações.
O consumidor é digital sem deixar de ser humano, inovador sem abrir mão do que confia. Ele quer respeito absoluto pela sua identidade, quer ser ouvido e ter voz.
Acompanhar cada passo dessa evolução é um compromisso da Consumidor Moderno, agora um ecossistema de Customer Experience (CX), com o mais completo, sólido e original conhecimento sobre comportamento do consumidor, inteligência relacional, tecnologias, plataformas, aplicações, processos e metodologias para operacionalizar a experiência de modo eficaz, conectando executivos e lideranças.

CAPA: Camila Nascimento / Rhauan Porfirio
BANCO DE IMAGENS: Adobe Stock / Shutterstock


Publisher
Roberto Meir

Diretor-Executivo de Conhecimento
Jacques Meir
[email protected]

Diretora-Executiva
Lucimara Fiorin
[email protected]

COMERCIAL E PUBLICIDADE
Gerentes-Comerciais
Angela Souto
[email protected] 

Daniela Calvo
[email protected]

Elisabete Almeida
[email protected]

Érica Issa
[email protected]

NÚCLEO DE CONTEÚDO
Head de Conteúdo e Comunicação
Verena Carneiro
[email protected]

Editora-Chefe 
Larissa Sant’Ana
[email protected]

Editora do Portal 
Júlia Fregonese
[email protected]

Repórteres
Bianca Alvarenga
Danielle Ruas 
Jéssica Chalegra
Marcelo Brandão

Head de Arte
Camila Nascimento
[email protected]

Designer
Melissa D’Amelio

Revisão
Elani Cardoso

MARKETING
Gerente de Marketing
Ivan Junqueira

Coordenadora
Mariana Santinelli

TECNOLOGIA
Gerente

Ricardo Domingues


CONSUMIDOR MODERNO
é uma publicação da Padrão Editorial Eireli.
www.gpadrao.com.br
Rua Ceará, 62 – Higienópolis
Brasil – São Paulo – SP – 01234-010
Telefone: +55 (11) 3125-2244
A editora não se responsabiliza pelos conceitos emitidos nos artigos ou nas matérias assinadas. A reprodução do conteúdo editorial desta revista só será permitida com autorização da Editora ou com citação da fonte.
Todos os direitos reservados e protegidos pelas leis do copyright,
sendo vedada a reprodução no todo ou em parte dos textos
publicados nesta revista, salvo expresso
consentimento dos seus editores.
Padrão Editorial Eireli.
Consumidor Moderno ISSN 1413-1226

NA INTERNET
Acesse diariamente o portal
www.consumidormoderno.com.br
e tenha acesso a um conteúdo multiformato
sempre original, instigante e provocador
sobre todos os assuntos relativos ao
comportamento do consumidor e à inteligência
relacional, incluindo tendências, experiência,
jornada do cliente, tecnologias, defesa do
consumidor, nova consciência, gestão e inovação.

PUBLICIDADE
Anuncie na Consumidor Moderno e tenha
o melhor retorno de leitores qualificados
e informados do Brasil.

PARA INFORMAÇÕES SOBRE ORÇAMENTOS:
[email protected]

SUMÁRIO – Edição 288

As relações de consumo acompanham mudanças intensas e contínuas na sociedade e no mercado. Vivemos na era da Inteligência Artificial, dos dados e de um consumidor mais exigente, consciente e impaciente. Mais do que nunca, ele é o centro de tudo: das decisões, estratégias e inovações.
O consumidor é digital sem deixar de ser humano, inovador sem abrir mão do que confia. Ele quer respeito absoluto pela sua identidade, quer ser ouvido e ter voz.
Acompanhar cada passo dessa evolução é um compromisso da Consumidor Moderno, agora um ecossistema de Customer Experience (CX), com o mais completo, sólido e original conhecimento sobre comportamento do consumidor, inteligência relacional, tecnologias, plataformas, aplicações, processos e metodologias para operacionalizar a experiência de modo eficaz, conectando executivos e lideranças.

CAPA: Camila Nascimento / Rhauan Porfirio
BANCO DE IMAGENS: Adobe Stock / Shutterstock


Publisher
Roberto Meir

Diretor-Executivo de Conhecimento
Jacques Meir
[email protected]

Diretora-Executiva
Lucimara Fiorin
[email protected]

COMERCIAL E PUBLICIDADE
Gerentes-Comerciais
Angela Souto
[email protected] 

Daniela Calvo
[email protected]

Elisabete Almeida
[email protected]

Érica Issa
[email protected]

NÚCLEO DE CONTEÚDO
Head de Conteúdo e Comunicação
Verena Carneiro
[email protected]

Editora-Chefe 
Larissa Sant’Ana
[email protected]

Editora do Portal 
Júlia Fregonese
[email protected]

Repórteres
Bianca Alvarenga
Danielle Ruas 
Jéssica Chalegra
Marcelo Brandão

Head de Arte
Camila Nascimento
[email protected]

Designer
Melissa D’Amelio

Revisão
Elani Cardoso

MARKETING
Gerente de Marketing
Ivan Junqueira

Coordenadora
Mariana Santinelli

TECNOLOGIA
Gerente

Ricardo Domingues


CONSUMIDOR MODERNO
é uma publicação da Padrão Editorial Eireli.
www.gpadrao.com.br
Rua Ceará, 62 – Higienópolis
Brasil – São Paulo – SP – 01234-010
Telefone: +55 (11) 3125-2244
A editora não se responsabiliza pelos conceitos emitidos nos artigos ou nas matérias assinadas. A reprodução do conteúdo editorial desta revista só será permitida com autorização da Editora ou com citação da fonte.
Todos os direitos reservados e protegidos pelas leis do copyright,
sendo vedada a reprodução no todo ou em parte dos textos
publicados nesta revista, salvo expresso
consentimento dos seus editores.
Padrão Editorial Eireli.
Consumidor Moderno ISSN 1413-1226

NA INTERNET
Acesse diariamente o portal
www.consumidormoderno.com.br
e tenha acesso a um conteúdo multiformato
sempre original, instigante e provocador
sobre todos os assuntos relativos ao
comportamento do consumidor e à inteligência
relacional, incluindo tendências, experiência,
jornada do cliente, tecnologias, defesa do
consumidor, nova consciência, gestão e inovação.

PUBLICIDADE
Anuncie na Consumidor Moderno e tenha
o melhor retorno de leitores qualificados
e informados do Brasil.

PARA INFORMAÇÕES SOBRE ORÇAMENTOS:
[email protected]