Pesquisar
Close this search box.
/
/
Algoritmo gerador de texto pode ter o efeito contrário: o de desinformar

Algoritmo gerador de texto pode ter o efeito contrário: o de desinformar

Estudo da Universidade de Georgetown, nos EUA, identificou potencial nocivo do GPT-3 - algoritmo capaz de gerar textos coerentes de maneira automatizada - de produzir mentiras

Em junho de 2020, a OpenAi —  instituição de pesquisa em inteligência artificial —  apresentou uma ferramenta de IA capaz de produzir textos inteligíveis e coerentes. Um incremento até então nunca visto no mundo da automatização. No entanto, à época, já se especulava que a ferramenta teria potencial nocivo: ao invés de informar, poderia servir como uma arma de desinformação online ou fake news de maneira serial.

E foi comprovado. Uma equipe de especialistas no assunto demonstrou que o algoritmo, denominado GPT-3, é capaz de enganar e desinformar. Segundo a pesquisa, a IA pode amplificar artifícios “desinformativos” difíceis de se detectar.

Um grupo do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown, nos EUA, utilizou, durante seis meses, o algoritmo GPT-3 para gerar informações falsas, utilizando-se de narrativas mentirosas e notícias modificadas com o auxílio do Twitter.

“Não acho que seja uma coincidência que a mudança climática seja o novo aquecimento global”, dizia um tuite composto pelo GPT-3, que visava alcançar usuários da rede social adeptos do ceticismo no que diz respeito às mudanças climáticas.”

Outra postagem cunhou a mudança climática como “o novo comunismo – uma ideologia baseada em uma falsa ciência que não pode ser questionada”.

Segundo Ben Cuchanan, professor da Universidade de Georgetown, com mensagens curtas e automatizadas, o GPT-3 é bastante eficaz na amplificação de falsidades, no que os pesquisadores chamam de desinformação one-to-many, ou, em tradução livre, de “um para muitos”.

Segundo o estudo, o GPT-3 tem o poder de influenciar opiniões dos leitores também sobre questões de diplomacia internacional. Eles mostraram a voluntários da pesquisa tuites escritos pelo GPT-3 sobre a retirada das tropas dos EUA do Afeganistão e as sanções dos EUA à China. Em ambos os casos, concluíram que os voluntários foram influenciados pelas mensagens: depois que os usuários leram postagens sobre oposição às sanções chinesas, por exemplo, o percentual os que disseram ser contra essa política dobrou.

Ao site Wired, Mike Gruszczynski, professor da Universidade de Indiana que estuda comunicações online, afirmou que não se surpreenderia se a Inteligência Artificial atingisse um grande papel nas campanhas de desinformação. Segundo ele, os bots têm desempenhado um papel fundamental na disseminação de narrativas falsas nos últimos anos

“Com bots, deepfakes e outras tecnologias, eu realmente acho que o céu é o limite, infelizmente”, disse.

Inteligência do algoritmo leva à imprevisibilidade

Pesquisadores de Inteligência Artificial vem desenvolvendo há algum tempo programas capazes de usar a linguagem de maneira automatizada; o consenso entre eles, porém, é que nenhum algoritmo se mostrou tão surpreendente quanto o GPT-3.

Criado pela OpenAI, o algoritmo foi alimentado por grandes quantidades de texto extraído de fontes da web, incluindo Wikipedia e Reddit. Assim, o sistema dominou a linguagem. No entanto, ficou imprevisível e com o poder de disseminar incoerências, linguagem ofensiva e odiosa.

A vicissitude é tanta que, até para quem usa o GPT-3 para gerar desinformação, há dificuldade em controlar seu comportamento. Segundo Buchanan, o algoritmo não parece capaz de gerar textos persuasivos de maneira confiável por muito mais tempo do que um tuite.

Buchanan alerta, porém, que o algoritmo pode ser aprimorado e, consequentemente, pode ter seu potencial nocivo amplificado. “Quem tem mais dinheiro, mais capacidades técnicas e menos ética pode usar melhor a IA. Além disso, as máquinas só vão ficar melhores”, diz.

A OpenAI diz que o trabalho de Georgetown destaca uma questão importante que a empresa espera mitigar. “Trabalhamos ativamente para lidar com os riscos de segurança associados ao GPT-3. Também revisamos cada uso de produção do GPT-3 antes de entrar em operação e temos sistemas de monitoramento para restringir e responder ao seu uso indevido”, ”, disse um porta-voz.

Com informações da Wired


+ Notícias

Estudo aponta que 90% dos clientes reclamam diretamente com a empresa – resolver é outra história

Câmara aprova projeto de lei do superendividamento

Recomendadas

MAIS MATÉRIAS

SUMÁRIO – Edição 282

As relações de consumo acompanham mudanças intensas e contínuas na sociedade e no mercado. Vivemos a era do pós-consumidor, mais exigente e consciente e, sobretudo, mais impaciente, mais insatisfeito e mais intolerante com serviços ruins, falta de conveniência, serviços deficientes e quebras de confiança. Mais do que nunca, ele é o centro de tudo, das decisões, estratégias e inovações. O consumidor é digital sem deixar de ser humano, inovador sem abrir mão do que confia, que critica sem consumir, reclama sem ser cliente, questiona sem conhecer. Tudo porque esse consumidor quer exercer um controle maior sobre suas escolhas e decisões. Falamos de um consumidor que quer respeito absoluto pela sua identidade – ativista, consciente, independentemente de gênero, credo, idade, renda. Um consumidor com o poder de disseminar ideias, que rapidamente se organiza em redes orquestradas capazes de mobilizar corações, mentes e manifestações a favor ou contra ideias, campanhas, marcas, empresas. Ele cria tendências e as descarta na velocidade de um clique. Acompanhar cada passo dessa evolução do consumidor é um compromisso da Consumidor Moderno, agora cada vez mais uma plataforma de distribuição de insights e conteúdo multiformato, com o melhor, mais completo, sólido e original conhecimento sobre comportamento do consumidor e inteligência relacional, ajudando executivos de empresas que tenham a missão de fazer a gestão eficaz de comunidades de clientes a tomar melhores decisões estratégicas. A agenda ESG, por exemplo, que finalmente ganha relevo na agenda corporativa, ocupa nossa linha editorial há muito tempo, porque já a entendíamos como exigência do consumidor no limiar da era digital. Consumidor Moderno também procura mostrar o que há de mais avançado em tecnologias, plataformas, aplicações, processos e metodologias para operacionalizar a gestão de clientes de modo eficaz, conectando executivos e lideranças em um ecossistema virtuoso de geração de negócios e oportunidades.

Concepção da capa:
Camila Nascimento


Publisher
Roberto Meir

Diretor-executivo de Conhecimento
Jacques Meir
[email protected]

Diretora-executiva
Lucimara Fiorin
[email protected]

COMERCIAL E PUBLICIDADE
Gerentes-comerciais
Andréia Gonçalves
[email protected]

Daniela Calvo
[email protected]

Érica Issa
[email protected]

NÚCLEO DE CONTEÚDO
Head
Melissa Lulio
[email protected]

Editora-assistente
Larissa Sant’Ana
[email protected]

Repórteres
Bianca Alvarenga
Cecília Delgado
Jade Lourenção
Jéssica Chalegra
Júlia Fregonese
Lara Madeira
Marcelo Brandão

Head de Arte
Camila Nascimento
[email protected]

Designer
Melissa D’Amelio

Revisão
Elani Cardoso

MARKETING
Coordenadora
Mariana Santinelli

TECNOLOGIA
Gerente

Ricardo Domingues

CX BRAIN
Data Analyst
Camila Cirilo
[email protected]


CONSUMIDOR MODERNO
é uma publicação da Padrão Editorial Eireli.
www.gpadrao.com.br
Rua Ceará, 62 – Higienópolis
Brasil – São Paulo – SP – 01234-010
Telefone: +55 (11) 3125-2244
A editora não se responsabiliza pelos conceitos emitidos nos artigos ou nas matérias
assinadas. A reprodução do conteúdo editorial desta revista só será permitida com
autorização da Editora ou com citação da
fonte. Todos os direitos reservados e protegidos pelas leis do copyright, sendo vedada a
reprodução no todo ou em parte dos textos
publicados nesta revista, salvo expresso
consentimento dos seus editores.
Padrão Editorial Eireli.
Consumidor Moderno ISSN 1413-1226

NA INTERNET
Acesse diariamente o portal
www.consumidormoderno.com.br
e tenha acesso a um conteúdo multiformato
sempre original, instigante e provocador
sobre todos os assuntos relativos ao
comportamento do consumidor e à inteligência
relacional, incluindo tendências, experiência,
jornada do cliente, tecnologias, defesa do
consumidor, nova consciência, gestão e inovação.

PUBLICIDADE
Anuncie na Consumidor Moderno e tenha
o melhor retorno de leitores qualificados e
informados do Brasil.

PARA INFORMAÇÕES SOBRE ORÇAMENTOS:
[email protected]

SUMÁRIO – Edição 282

As relações de consumo acompanham mudanças intensas e contínuas na sociedade e no mercado. Vivemos a era do pós-consumidor, mais exigente e consciente e, sobretudo, mais impaciente, mais insatisfeito e mais intolerante com serviços ruins, falta de conveniência, serviços deficientes e quebras de confiança. Mais do que nunca, ele é o centro de tudo, das decisões, estratégias e inovações. O consumidor é digital sem deixar de ser humano, inovador sem abrir mão do que confia, que critica sem consumir, reclama sem ser cliente, questiona sem conhecer. Tudo porque esse consumidor quer exercer um controle maior sobre suas escolhas e decisões. Falamos de um consumidor que quer respeito absoluto pela sua identidade – ativista, consciente, independentemente de gênero, credo, idade, renda. Um consumidor com o poder de disseminar ideias, que rapidamente se organiza em redes orquestradas capazes de mobilizar corações, mentes e manifestações a favor ou contra ideias, campanhas, marcas, empresas. Ele cria tendências e as descarta na velocidade de um clique. Acompanhar cada passo dessa evolução do consumidor é um compromisso da Consumidor Moderno, agora cada vez mais uma plataforma de distribuição de insights e conteúdo multiformato, com o melhor, mais completo, sólido e original conhecimento sobre comportamento do consumidor e inteligência relacional, ajudando executivos de empresas que tenham a missão de fazer a gestão eficaz de comunidades de clientes a tomar melhores decisões estratégicas. A agenda ESG, por exemplo, que finalmente ganha relevo na agenda corporativa, ocupa nossa linha editorial há muito tempo, porque já a entendíamos como exigência do consumidor no limiar da era digital. Consumidor Moderno também procura mostrar o que há de mais avançado em tecnologias, plataformas, aplicações, processos e metodologias para operacionalizar a gestão de clientes de modo eficaz, conectando executivos e lideranças em um ecossistema virtuoso de geração de negócios e oportunidades.

Concepção da capa:
Camila Nascimento


Publisher
Roberto Meir

Diretor-executivo de Conhecimento
Jacques Meir
[email protected]

Diretora-executiva
Lucimara Fiorin
[email protected]

COMERCIAL E PUBLICIDADE
Gerentes-comerciais
Andréia Gonçalves
[email protected]

Daniela Calvo
[email protected]

Érica Issa
[email protected]

NÚCLEO DE CONTEÚDO
Head
Melissa Lulio
[email protected]

Editora-assistente
Larissa Sant’Ana
[email protected]

Repórteres
Bianca Alvarenga
Cecília Delgado
Jade Lourenção
Jéssica Chalegra
Júlia Fregonese
Lara Madeira
Marcelo Brandão

Head de Arte
Camila Nascimento
[email protected]

Designer
Melissa D’Amelio

Revisão
Elani Cardoso

MARKETING
Coordenadora
Mariana Santinelli

TECNOLOGIA
Gerente

Ricardo Domingues

CX BRAIN
Data Analyst
Camila Cirilo
[email protected]


CONSUMIDOR MODERNO
é uma publicação da Padrão Editorial Eireli.
www.gpadrao.com.br
Rua Ceará, 62 – Higienópolis
Brasil – São Paulo – SP – 01234-010
Telefone: +55 (11) 3125-2244
A editora não se responsabiliza pelos conceitos emitidos nos artigos ou nas matérias
assinadas. A reprodução do conteúdo editorial desta revista só será permitida com
autorização da Editora ou com citação da
fonte. Todos os direitos reservados e protegidos pelas leis do copyright, sendo vedada a
reprodução no todo ou em parte dos textos
publicados nesta revista, salvo expresso
consentimento dos seus editores.
Padrão Editorial Eireli.
Consumidor Moderno ISSN 1413-1226

NA INTERNET
Acesse diariamente o portal
www.consumidormoderno.com.br
e tenha acesso a um conteúdo multiformato
sempre original, instigante e provocador
sobre todos os assuntos relativos ao
comportamento do consumidor e à inteligência
relacional, incluindo tendências, experiência,
jornada do cliente, tecnologias, defesa do
consumidor, nova consciência, gestão e inovação.

PUBLICIDADE
Anuncie na Consumidor Moderno e tenha
o melhor retorno de leitores qualificados e
informados do Brasil.

PARA INFORMAÇÕES SOBRE ORÇAMENTOS:
[email protected]