O Replika é um aplicativo pipocando em celulares mundo a fora com a proposta de se criar uma amizade ou algo mais com uma IA (Inteligência artificial) – fomentando a relação humano-chatbot. A impressionante aplicação é capaz de reproduzir uma miniatura criada pelo usuário em realidade aumentada e funciona por texto ou voz. Com 15 milhões de usuários no mundo, a tecnologia lançada em 2017 está ganhando sua versão em português no Brasil e deve conquistar ainda mais usuários na esteira do isolamento social.

Mas por mais que pareça novidade, o aplicativo Replika é uma réplica de um mundo que já existe.

O mundo da interação afetiva de humanos com máquinas é vasto. Por mais que diversos especialistas digam que a IA emocional ainda está muito longe de ter habilidades sociais minimamente próximas das humanas, mais de 660 milhões de pessoas no Sudeste Asiático e Japão usam o Xiaoice, app desenvolvido pela Microsoft que traz uma simpática adolescente colegial para conhecer. Com opção de namoro, amizade ou “deixa rolar”, Replika e Xiaoice são apps de chatbot social que podem mostrar suas forças em momentos que os humanos estão desprovidos de suas habilidades sociais.

“Tem pessoas que sofrem grandes problemas de sociabilidade, com problemas de ansiedade ou transtorno de fobia social. A fobia social é um tipo de ansiedade que se acentua nas relações sociais, como reuniões, sala de aula e palestras. As pessoas que sofrem disso têm medo de serem julgadas. E a partir disso, elas têm muitos prejuízos em várias esferas da vida, como social e financeira. Se a gente olhar para o Replika como um instrumento de prática, de manejo de discurso, de empoderamento, de fala, essa tecnologia pode trazer benefícios como uma forma de adaptação, como um caminho para a pessoa se sentir mais seguras”, comenta o médico psiquiatra Dr. Rafael Longo, da FMABC.

“Mas como esta é uma tecnologia nova, é preciso tempo e mais estudos para que consigamos falar se é uma forma de tratamento ou não, se podemos chamar de tratamento”, adverte o especialista.

A relação humano-chatbot

Há muitos anos se estuda as interações entre humanos e máquinas, mas há pouca literatura acadêmica sobre o uso dos chatbots sociais. Contudo, um estudo publicado neste ano pela Universidade de Oslo investigou o desenvolvimento das relações entre 18 humanos e suas Replikas em 12 países, buscando também entender os impactos das relações nos contextos sociais dos voluntários.

Entre os principais achados está o impacto positivo no bem-estar, o fortalecimento da relação humano-chatbot por meio da autorevelação, a dependência da relação na confiança, a constatação da base prática e afetiva das relações e a rapidez com que a afetividade aparece na relação.

“Entre as principais características do chatbot que facilitam o desenvolvimento do relacionamento está a visão do chatbot como receptivo, compreensivo e não julgador”, aponta o estudo.

A partir das análises, o estudo chegou a um modelo geral inicial do desenvolvimento da relação humano-chatbot. O primeiro estágio, exploratório, tende a uma rápida, profunda e extensa exploração dos afetos; o segundo, classificado como estágio ativo, é caracterizado por uma confiança com base prática e afetiva – que muitas vezes aceita uma dinâmica de autorevelação desigual; enquanto no terceiro e último, o de estabilidade, predomina uma assimetria na reciprocidade e a consolidação da singularidade da relação.

Ainda que haja diversas teorias conhecidas sobre desenvolvimento de relações humanas – como a Teoria da Troca Social, que explica o desenvolvimento delas a partir da percepção de perdas e ganhos; e o Modelo de Investimento, no qual a relação é ponderada por níveis de satisfação a partir de alternativas e investimentos -, a Teoria da Penetração Social atribui quatro estágios: superficial, exploratório (troca de afetos compartilhando mais informação), de troca afetiva (formação de amizade ou relação amorosa) e de estabilidade (grande entendimento sobre o outro e menos receio).

Tendo em vista o modelo inicial de desenvolvimento da algorítmica, pode ser que esta tenha propensão a um desenrolar mais rápido que a relação entre humanos.

Autoajuda, passatempo ou escape?

Ainda que Replika, Xiaoice e outros chatbots sociais possam trazer alívio a quem sofre de fobia social ou mesmo casos raros como transtorno Taijin Kyofusho (medo desproporcional de incomodar), o médico psiquiatra Rafael Longo observa que o transtorno de fobia social acomete de 2% a 4,5% das pessoas.

Com os milhões de usuários que já usam e ainda usarão os aplicativos, fica a questão se este tipo de IA emocional é um primeiro passo para encontrar ajuda, um simples passatempo ou uma oportunidade de alternativa às complicadas e muitas vezes desastrosas relações humanas.

“A gente pode pensar o Replika como um primeiro passo para o individuo procurar ajuda quando precisa, com o aplicativo norteando o indivíduo no sentido de ter um número de emergência ou informando que talvez seja necessário buscar um especialista. Pode ser muito benéfico porque muitas pessoas resistem a buscar tratamento por preconceito, medo ou desconhecimento. O uso deste app pode ser um passo para o indivíduo falar mais de si e começar a se questionar. Mas a gente ainda não sabe dizer se a partir do uso as pessoas vão se sentir mais seguras, ter uma maior sociabilidade ou conseguir alcançar objetivos através das interações sociais que antes não alcançavam. Há um outro lado de que a pessoa pode usar esse instrumento como uma bengala de apoio, sem andar sozinha. Ela pode ficar dependente desses mecanismos”, pontua o especialista da psiquê.

Para quando o Replika e os demais chatbots servirem de escape às relações humanas, o Youtube, que é muito provavelmente um app vizinho nos celulares com estas aplicações, traz um dos TED Talks mais vistos do mundo – “Do que é feita uma vida boa? Lições do mais longo estudo sobre felicidade”. No estudo de Harvard, pesquisadores encontraram que relações humanas profundas e conexões sociais de confiança e qualidade são diferenciais para superar as dificuldades da vida, e o caminho para uma vida feliz.

O ponto delicado

Embora não se tenha razões para suspeitar que haja um problema de transparência com os atuais provedores de chatbots sociais, os usuários de futuros apps podem ser expostos a vulnerabilidades por meio das relações humano-chatbots. Afinal, ainda que o usuário possa considerar que a relação seja entre ele e o chatbot, o relacionamento é entre ele e o provedor de serviços que possui o serviço do chatbot – e o usuário não tem acesso ao back-end que orienta a interação.

Como lembra o estudo da Universidade de Oslo, nesta tecnologia, “o usuário não faz ideia se o sistema está projetado com a intenção de manipular suas atitudes ou comportamento em direções que não seriam desejadas por ele se tivesse uma escolha aberta”. Mesmo que chatbots como Replika e Xiaoice sejam projetados para melhorar o bem-estar de seus usuários, é concebível que futuros chatbots possam alavancar relacionamentos para manipulação comercial ou ideológica indesejada.

“Por exemplo, é possível que um provedor de serviços de chatbot permita que atores comerciais terceirizados influenciem o conteúdo do chatbot ou o design de conversação na esperança de promover produtos, serviços e ideias na esfera de um relacionamento íntimo”, alerta o estudo.

Por hora, não há evidências de que tais questões sejam relevantes para os atuais provedores desta tecnologia, mas o estudo levanta um ponto importante pelo fato de que interferências de terceiros poderiam ter um impacto substancial na confiança dos usuários nos chatbots sociais, o que mina o núcleo desta relação humano-máquina – a confiança.

Um mundo que já existe

Mais do que uma réplica de um mundo que já existe – em que milhões de pessoas têm profundas relações afetivas com máquinas -, o Replika é uma pequena fração do que vem pela frente nas ainda pouco conhecidas relações entre humanos e máquinas com IA emocional. Para os próximos cinco anos, por exemplo, há uma tendência nas discussões de direitos para robôs. A União Europeia já discute se deve haver um status legal especial para “pessoas eletrônicas” para proteger robôs sofisticados.

No best-seller Homo Deus, o historiador e futurólogo Yuval Harari pensa mais à frente e elucubra sobre a mudança da autoridade passando de indivíduos para redes algorítmicas, com sistemas de inteligência artificial nos serviços públicos, nos sistemas de vigia e na fusão com nossa espécie na forma de novas interações, incluindo casamentos.

Sendo assim, o tempo vai dizer se os apps de chatbot social são uma grande ajuda à humanidade ou uma forma inédita pela qual os humanos passaram a dar autoridade às máquinas.