Pesquisar
Close this search box.
/
/
ChatGPT agora tem olhos e ouvidos – qual é o risco disso?

ChatGPT agora tem olhos e ouvidos – qual é o risco disso?

IA generativa dá mais um passo no desenvolvimento da tecnologia, mas ainda necessita de regras e responsáveis pelos seus erros

A semana começou com o anúncio de que o ChatGPT, ferramenta de Inteligência Artificial (IA) generativa da OpenAI, está lançando novas funcionalidades. Além do chat, que permite que usuários façam perguntas, revisem e escrevam textos e diversas outras ações com a ajuda do modelo de linguagem, a tecnologia agora também terá funções de voz e imagem.

Com o recurso de voz, o usuário agora é capaz de dar seus comandos por meio de áudios e receber respostas por meio de uma voz gerada artificialmente. Para isso, a OpenAI colaborou com dubladores profissionais para criar cada uma das vozes. Também utilizou o Whisper, ferramenta open-source da empresa de reconhecimento de voz, para transcrever falas em texto. No exemplo mostrado pela empresa, é possível pedir para que o ChatGPT conte uma história, pedindo mais detalhes sobre personagens, o ambiente e desenvolvimento da narrativa.

Leia mais: Microsoft e Google anunciam novas funcionalidades de suas IAs

Além disso, a ferramenta é agora capaz de “ver” imagens, analisando o seu conteúdo a partir do comando do usuário, respondendo a partir daquela informação, por meio do uso dos modelos de linguagem GPT3.5 e GPT-4. Como mostra a página do ChatGPT, um usuário envia uma foto e pede a ajuda da IA generativa para abaixar o assento de sua bicicleta. A IA, então, aponta qual parte da bicicleta deve ser solta e com qual ferramenta – confirmando sua localização na caixa de ferramenta do usuário, que enviou uma foto.

As novas funcionalidades, que estão sendo disponibilizadas ao público gradualmente, representam um grande avanço da tecnologia. Como aponta a própria desenvolvedora, os novos recursos representam um potencial para aplicações criativas e de acessibilidade. Mas também, aumenta os riscos gerados pelo uso da IA generativa, como sua aplicação para atos fraudulentos e de imitação de pessoas públicas. Por isso, o uso do recurso de voz hoje é restrito ao voice chat, ou chat de voz.

Já o recurso de imagem, por mais que possam ajudar pessoas cegas ou com deficiência visual em seu dia a dia, pode também gerar novas formas de alucinações. Ou seja, informações fornecidas pelas diversas ferramentas de Inteligência Artificial que apresentam dados incorretos, imprecisos ou tendenciosos.

A OpenAI afirma no comunicado que, por mais que tenha tomado precauções técnicas, por exemplo, para limitar a capacidade do ChatGPT em analisar ou oferecer constatações sobre as pessoas, também reafirma as limitações da ferramenta. Assim, desencoraja seus usuários de utilizar o ChatGPT para usos em casos de alto risco.

Assine nossa newsletter!
Fique atualizado sobre as principais novidades em experiência do cliente

Direito autoral e IA generativa

Em janeiro de 2023, três artistas se uniram em uma ação contra Stability AI – responsável pela ferramenta de IA generativa de arte Stable Diffusion –, Midjourney – outra ferramenta generativa de arte – e a plataforma DevianArt, que tem sua própria tecnologia, a DreamUp. Segundo Sarah Andersen, Kelly McKernan e Karla Ortiz, as organizações teria infringido os direitos autorais de milhões de artistas no treinamento de suas ferramentas de IA generativa sem o consentimento dos mesmos.

Em outro caso, um grupo autores de livros de ficção – entre eles, George R.R. Martin, escritor da série As Crônicas de Gelo e Fogo, que inspirou a série Guerra dos Tronos – também moveram uma ação contra a OpenAI por infrações de direito autoral. A ação cita que, quando comandado, o ChatGPT é capaz de gerar resumos detalhados de obras de Jonathan Franzen, que faz parte do grupo de autores.

De fato, ferramentas de IA generativa, como o próprio ChatGPT, utilizaram (ou ainda utilizam) em seu treinamento informações disponíveis de forma pública e gratuita na internet – até mesmo, conteúdos com direitos autorais, como confirmado numa rápida consulta no ChatGPT. Mas ainda não existe um consenso sobre o que uma infração de direitos autorais pode significar para uma IA generativa.

“Querendo ou não, as regras atuais de propriedade intelectual nem sempre irão conversar com a IA”, afirma Matheus Puppe, sócio na Maneira Advogados e especialista técnico do mercado na Comissão Especial sobre Direito Digital da Câmara dos Deputados. Ele lembra o caso da cantora norte-americana Grimes que afirmou estar disposta a dividir os ganhos gerados por músicas criadas por IA generativa que usassem sua voz. “Com a velocidade de troca de informações, fica pouco produtivo o controle da propriedade intelectual nesse sentido. Precisamos pensar em aspectos mais proativos”.

Em outro caso, a gravadora Universal Music Group lançou, em abril, uma nota em resposta à sua decisão de retirar de plataformas de streaming de música, como Spotify e SoundCloud, uma música criada por IA que utilizava as vozes dos cantores Drake e The Weekend. Na declaração, a gravadora afirmou que parte de seu sucesso se deu devido ao uso de tecnologias, incluindo sua própria inovação com IA. No entanto, alerta que o uso de músicas de seus artistas para o treinamento de IA generativa representa uma violação de direitos autorais da companhia.

Leia mais: ChatGPT: nova IA que pode substituir Google

Quem é responsável pela IA generativa?

No início do ano, duas big techsGoogle e Twitter, agora X – se viram diante da Suprema Corte dos Estados Unidos para entender se a responsabilidade pelas informações divulgadas em suas plataformas era das companhias. Nessa tese, por mais que as publicações em redes sociais como Instagram, Twitter ou YouTube sejam de autoria e, portanto, responsabilidade dos usuários, as empresas também teriam sua parcela de responsabilidade por divulgarem essas informações por meio de seus algoritmos.

O mesmo questionamento pode ser feito em relação à IA. Um exemplo claro dessa dúvida está num caso recente que envolveu um médico de Bauru, interior do estado de São Paulo. O profissional descobriu que o buscador da Microsoft, Bing, e que utiliza recursos da OpenAI em suas pesquisas, também gerou uma alucinação que o colocava no meio a uma investigação de assédio sexual – informação que, mais tarde, foi eliminada dos resultados por meio de decisão judicial.

Em casos como esse, ainda não está claro quem deveria ser responsabilizado pelas alucinações da ferramenta ou pela criação e disseminação de informação falsa – e que pode gerar até mesmo danos morais ou contra a honra. “Estamos ainda num momento de definição tanto acadêmica quanto prática sobre a responsabilidade da IA generativa”, explica Matheus Puppe. “Pode ser do desenvolvedor, das várias empresas que estão envolvidas nesse meio de caminho, que estão utilizando as APIs, ou então do Chief Technology Officer (CTO) de ambas as empresas. A IA depende muito do prompt que você dá a ela para evitar as alucinações, e essa também é uma competência técnica e profissional de quem está usando, e não só de quem desenvolveu”.

Regulamentação da IA

Em junho, o Parlamento europeu aprovou o AI Act, projeto de lei que visa controlar o uso de ferramentas baseadas em Inteligência Artificial generativa. A regra, ainda em tramitação, propõe a adoção de uma classificação para o uso da ferramenta em quatro categorias: Inaceitável (uso que podem ser proibidos), Alto, Limitado (com regras e limites para o uso) e Mínimo. Além disso, IAs devem ser transparentes, rastreáveis, seguras, respeitosas à privacidade dos cidadãos e não discriminatórias. Devem também ser supervisionadas por seres humanos.

No Brasil, há quatro projetos de lei que visam a regulamentação da IA generativa e que estão se fundindo para uma única entrega. Um deles é o Projeto de Lei (PL) 21/20, aprovado no ano passado pela Câmara dos Deputados, que definiu alguns princípios para o desenvolvimento e uso das plataformas de IA generativa no país.

Conheça o Mundo do CX

Seu relatório serviu também como base para outra proposta, o PL 2338/23. A proposta define duas classificações de risco: o Excessivo (e, portanto, proibido) e o Alto Risco, no qual a ferramenta deve ser avaliada e monitorada antes de ser lançada no mercado. Em julho, esses dois projetos e outros passaram a tramitar juntos para aprovar, enfim, uma regulamentação sobre o tema no Brasil.

Matheus Puppe aponta que, por mais que a tramitação dos projetos de lei seja mais lenta que a velocidade da inovação, ainda é um ritmo necessário para criar uma legislação robusta. “Estamos vivendo em uma era digital, e muitas das leis que temos hoje foram feitas para um mundo analógico”, define. “Não estão adequadas para a realidade de hoje, que tem uma velocidade de informações e capacidade de comunicação absurdas. Há uma incompatibilidade de leis em quase todo o nosso Direito, e alguns pontos precisam ser atualizados”.



+ NOTÍCIAS
ChatGPT para empresas: o que muda com lançamento da OpenAI?
A tecnologia é uma ameaça aos artistas?

Recomendadas

MAIS MATÉRIAS

SUMÁRIO – Edição 282

As relações de consumo acompanham mudanças intensas e contínuas na sociedade e no mercado. Vivemos a era do pós-consumidor, mais exigente e consciente e, sobretudo, mais impaciente, mais insatisfeito e mais intolerante com serviços ruins, falta de conveniência, serviços deficientes e quebras de confiança. Mais do que nunca, ele é o centro de tudo, das decisões, estratégias e inovações. O consumidor é digital sem deixar de ser humano, inovador sem abrir mão do que confia, que critica sem consumir, reclama sem ser cliente, questiona sem conhecer. Tudo porque esse consumidor quer exercer um controle maior sobre suas escolhas e decisões. Falamos de um consumidor que quer respeito absoluto pela sua identidade – ativista, consciente, independentemente de gênero, credo, idade, renda. Um consumidor com o poder de disseminar ideias, que rapidamente se organiza em redes orquestradas capazes de mobilizar corações, mentes e manifestações a favor ou contra ideias, campanhas, marcas, empresas. Ele cria tendências e as descarta na velocidade de um clique. Acompanhar cada passo dessa evolução do consumidor é um compromisso da Consumidor Moderno, agora cada vez mais uma plataforma de distribuição de insights e conteúdo multiformato, com o melhor, mais completo, sólido e original conhecimento sobre comportamento do consumidor e inteligência relacional, ajudando executivos de empresas que tenham a missão de fazer a gestão eficaz de comunidades de clientes a tomar melhores decisões estratégicas. A agenda ESG, por exemplo, que finalmente ganha relevo na agenda corporativa, ocupa nossa linha editorial há muito tempo, porque já a entendíamos como exigência do consumidor no limiar da era digital. Consumidor Moderno também procura mostrar o que há de mais avançado em tecnologias, plataformas, aplicações, processos e metodologias para operacionalizar a gestão de clientes de modo eficaz, conectando executivos e lideranças em um ecossistema virtuoso de geração de negócios e oportunidades.

Concepção da capa:
Camila Nascimento


Publisher
Roberto Meir

Diretor-executivo de Conhecimento
Jacques Meir
[email protected]

Diretora-executiva
Lucimara Fiorin
[email protected]

COMERCIAL E PUBLICIDADE
Gerentes-comerciais
Andréia Gonçalves
[email protected]

Daniela Calvo
[email protected]

Érica Issa
[email protected]

NÚCLEO DE CONTEÚDO
Head
Melissa Lulio
[email protected]

Editora-assistente
Larissa Sant’Ana
[email protected]

Repórteres
Bianca Alvarenga
Cecília Delgado
Jade Lourenção
Jéssica Chalegra
Júlia Fregonese
Lara Madeira
Marcelo Brandão

Head de Arte
Camila Nascimento
[email protected]

Designer
Melissa D’Amelio

Revisão
Elani Cardoso

MARKETING
Coordenadora
Mariana Santinelli

TECNOLOGIA
Gerente

Ricardo Domingues

CX BRAIN
Data Analyst
Camila Cirilo
[email protected]


CONSUMIDOR MODERNO
é uma publicação da Padrão Editorial Eireli.
www.gpadrao.com.br
Rua Ceará, 62 – Higienópolis
Brasil – São Paulo – SP – 01234-010
Telefone: +55 (11) 3125-2244
A editora não se responsabiliza pelos conceitos emitidos nos artigos ou nas matérias
assinadas. A reprodução do conteúdo editorial desta revista só será permitida com
autorização da Editora ou com citação da
fonte. Todos os direitos reservados e protegidos pelas leis do copyright, sendo vedada a
reprodução no todo ou em parte dos textos
publicados nesta revista, salvo expresso
consentimento dos seus editores.
Padrão Editorial Eireli.
Consumidor Moderno ISSN 1413-1226

NA INTERNET
Acesse diariamente o portal
www.consumidormoderno.com.br
e tenha acesso a um conteúdo multiformato
sempre original, instigante e provocador
sobre todos os assuntos relativos ao
comportamento do consumidor e à inteligência
relacional, incluindo tendências, experiência,
jornada do cliente, tecnologias, defesa do
consumidor, nova consciência, gestão e inovação.

PUBLICIDADE
Anuncie na Consumidor Moderno e tenha
o melhor retorno de leitores qualificados e
informados do Brasil.

PARA INFORMAÇÕES SOBRE ORÇAMENTOS:
[email protected]

SUMÁRIO – Edição 282

As relações de consumo acompanham mudanças intensas e contínuas na sociedade e no mercado. Vivemos a era do pós-consumidor, mais exigente e consciente e, sobretudo, mais impaciente, mais insatisfeito e mais intolerante com serviços ruins, falta de conveniência, serviços deficientes e quebras de confiança. Mais do que nunca, ele é o centro de tudo, das decisões, estratégias e inovações. O consumidor é digital sem deixar de ser humano, inovador sem abrir mão do que confia, que critica sem consumir, reclama sem ser cliente, questiona sem conhecer. Tudo porque esse consumidor quer exercer um controle maior sobre suas escolhas e decisões. Falamos de um consumidor que quer respeito absoluto pela sua identidade – ativista, consciente, independentemente de gênero, credo, idade, renda. Um consumidor com o poder de disseminar ideias, que rapidamente se organiza em redes orquestradas capazes de mobilizar corações, mentes e manifestações a favor ou contra ideias, campanhas, marcas, empresas. Ele cria tendências e as descarta na velocidade de um clique. Acompanhar cada passo dessa evolução do consumidor é um compromisso da Consumidor Moderno, agora cada vez mais uma plataforma de distribuição de insights e conteúdo multiformato, com o melhor, mais completo, sólido e original conhecimento sobre comportamento do consumidor e inteligência relacional, ajudando executivos de empresas que tenham a missão de fazer a gestão eficaz de comunidades de clientes a tomar melhores decisões estratégicas. A agenda ESG, por exemplo, que finalmente ganha relevo na agenda corporativa, ocupa nossa linha editorial há muito tempo, porque já a entendíamos como exigência do consumidor no limiar da era digital. Consumidor Moderno também procura mostrar o que há de mais avançado em tecnologias, plataformas, aplicações, processos e metodologias para operacionalizar a gestão de clientes de modo eficaz, conectando executivos e lideranças em um ecossistema virtuoso de geração de negócios e oportunidades.

Concepção da capa:
Camila Nascimento


Publisher
Roberto Meir

Diretor-executivo de Conhecimento
Jacques Meir
[email protected]

Diretora-executiva
Lucimara Fiorin
[email protected]

COMERCIAL E PUBLICIDADE
Gerentes-comerciais
Andréia Gonçalves
[email protected]

Daniela Calvo
[email protected]

Érica Issa
[email protected]

NÚCLEO DE CONTEÚDO
Head
Melissa Lulio
[email protected]

Editora-assistente
Larissa Sant’Ana
[email protected]

Repórteres
Bianca Alvarenga
Cecília Delgado
Jade Lourenção
Jéssica Chalegra
Júlia Fregonese
Lara Madeira
Marcelo Brandão

Head de Arte
Camila Nascimento
[email protected]

Designer
Melissa D’Amelio

Revisão
Elani Cardoso

MARKETING
Coordenadora
Mariana Santinelli

TECNOLOGIA
Gerente

Ricardo Domingues

CX BRAIN
Data Analyst
Camila Cirilo
[email protected]


CONSUMIDOR MODERNO
é uma publicação da Padrão Editorial Eireli.
www.gpadrao.com.br
Rua Ceará, 62 – Higienópolis
Brasil – São Paulo – SP – 01234-010
Telefone: +55 (11) 3125-2244
A editora não se responsabiliza pelos conceitos emitidos nos artigos ou nas matérias
assinadas. A reprodução do conteúdo editorial desta revista só será permitida com
autorização da Editora ou com citação da
fonte. Todos os direitos reservados e protegidos pelas leis do copyright, sendo vedada a
reprodução no todo ou em parte dos textos
publicados nesta revista, salvo expresso
consentimento dos seus editores.
Padrão Editorial Eireli.
Consumidor Moderno ISSN 1413-1226

NA INTERNET
Acesse diariamente o portal
www.consumidormoderno.com.br
e tenha acesso a um conteúdo multiformato
sempre original, instigante e provocador
sobre todos os assuntos relativos ao
comportamento do consumidor e à inteligência
relacional, incluindo tendências, experiência,
jornada do cliente, tecnologias, defesa do
consumidor, nova consciência, gestão e inovação.

PUBLICIDADE
Anuncie na Consumidor Moderno e tenha
o melhor retorno de leitores qualificados e
informados do Brasil.

PARA INFORMAÇÕES SOBRE ORÇAMENTOS:
[email protected]