O X (antigo Twitter) agora tem sua própria inteligência artificial (IA). Elon Musk, dono da rede social, anunciou a ferramenta de IA que pretende concorrer diretamente com o ChatGPT. A ferramenta do milionário se chama Grok. Ela vem com o objetivo de responder quase tudo e, até mesmo, sugerir quais perguntas devem ser feitas. De acordo com comunicado oficial da xAI, o Grok poderá dar suas respostas com um pouco de inteligência e tem uma “veia rebelde”.
Quem é Grok, a inteligência artificial de Elon Musk, e qual sua missão?
Inspirado no “Guia do Mochileiro das Galáxias”, o objetivo do Grok, a nova inteligência artificial de Elon Musk, é ser uma plataforma que auxilie na busca e compreensão do conhecimento. A missão da empresa é coletar feedbacks e garantir que todos sejam beneficiados com a ferramenta de IA, além de fornecer uma IA que atenda pessoas de todas as origens e opiniões políticas.
Além disso, outro objetivo é fazer com que o Grok seja um poderoso assistente de pesquisa para qualquer pessoa. Por ele, será possível acessar informações de forma mais rápida, processar dados e apresentar novas ideias. A empresa afirou no lançamento que acredita que a ferramenta poderá ter valor econômico e científico para a sociedade.
Como funcionará o Grok?
O Grok será alimentado pelo motor Grok-1, o Large Language Model (LLM) de fronteira da xAI desenvolvido nos últimos quatro meses. Esse protótipo, que passou por inúmeras interações durante seus testes, tem 33 milhões de parâmetros. O modelo inicial se assemelha com os recursos LLaMA 2 (70B) em benchmarks LM padrão, mas usa apenas metade de seus recursos de treinamento.
Nos últimos dois meses, os testes e melhorias levaram o Grok-1 a um modelo de linguagem de última geração. Para a empresa desenvolvedora do sistema, esse modelo é significativamente mais poderoso, e pode alcançar 63,2% na tarefa de codificação HumanEval e 73% no MMLU. Com o objetivo de compreender as melhorias de capacidades feitas com o Grok-1, uma série de avaliações usaram benchmarks padrão de aprendizado de máquina projetados para medir habilidades matemáticas e de raciocínio. Os resultados superaram modelos como o ChatGPT-3.5 e Inflection-1, mas não aqueles treinados com maior quantidade de dados computacionais, como o GPT-4.
Para que fosse criado o Grok, a xAI construiu uma pilha personalizada de treinamento e inferência baseada em Kubernetes, Rust e JAX. Ao treinar e sincronizar cálculos de GPUs, foi analisado o que pode causar falhas. Para evitá-las, o modelo emprega um conjunto de sistemas distribuídos que, garante Musk, é capaz de identificar todo tipo de erro e corrigi-los de forma rápida. A xAI usou uma maximização da computação útil por watt como foco desse trabalho. Nos meses de análise, foi possível reduzir o tempo de inatividade e manter uma alta utilização de modelo de flop (MFU), mesmo com hardware não confiável.
Rust foi escolhida por mostrar uma infraestrutura confiável e de fácil manutenção. O motivo da escolha se deu pelo alto desempenho, ecossistema rico e a possibilidade de evitar grande parte dos bugs encontrados no sistema. Ainda segundo a empresa, a Rust permite que qualquer modificação de código produza programas que podem ser executados por meses sem supervisão mínima.
No próximo passo da nova tecnologia lançada pela empresa será necessário testar as capacidades do modelo. Dentro disso, está a exigência de uma coordenação confiável de execução de treinamento e aceleradores, execução de pipelines de dados em escala de internet e a construção de novos tipos de capacidades e ferramentas no Grok.
Por ainda estar em fase de testes, a empresa de Elon Musk informou que o modelo pode gerar informações falsas ou contraditórias. O Grok tem acesso às ferramentas de pesquisa de informação em tempo real, e a xAI acredita que alcançar um raciocínio confiável é a direção de pesquisa mais importante para abordar as limitações dos sistemas atuais.
Os sentidos trabalhados pelo grupo de Musk
O primeiro passo será a supervisão eficiente e atualizada por ferramentas, monitorando a importância do feedback humano. Entretanto, manter uma consistência e precisão no feedback pode ser um desafio, especialmente ao lidar com códigos extensos ou etapas de raciocínio complexo. A inteligência artificial desempenha um papel crucial na supervisão escalonável, ao buscar referências em diversas fontes, verificar passos intermediários por meio de ferramentas externas e solicitar feedback humano quando necessário. Nesse sentido, a xAI busca otimizar a utilização do tempo dos tutores de IA com o auxílio de nossos modelos.
A empresa tem pensado também em uma integração com verificações formais de segurança, confiabilidade e fundamentação. Para desenvolver sistemas de IA capazes de raciocinar profundamente sobre o mundo real, planejou aprimorar as competências de cálculo em situações menos ambíguas e mais passíveis de verificação. Isso permite avaliar seus sistemas sem depender do feedback humano ou da interação com o mundo real. Um dos objetivos imediatos dessa abordagem é garantir formalmente a correção do código, especialmente no que diz respeito aos aspectos formalmente verificáveis da segurança da IA.
Outro ponto trabalhado será a criação de sistemas verdadeiramente inteligentes depende fundamentalmente de modelos de treinamento capazes de descobrir eficientemente conhecimentos úteis em contextos específicos. Além disso, o foco é particularmente na melhoria da resiliência de LLMs, modelos de recompensa e sistemas de monitoramento. Atualmente, o Grok se limita aos sentidos convencionais e não possui funcionalidades como visão e áudio. Para atender melhor às necessidades dos usuários, o plano da empresa de Musk é equipar o Grok com esses diferentes sentidos e, assim, possibilitar aplicações mais amplas, como interações e assistência em tempo real.
Como acessar o Grok?
Atualmente, o acesso à ferramenta é limitado a um número de usuários dos Estados Unidos. É necessário ainda entrar em uma lista de espera, onde somente aqueles que são verificados são admitidos. Mas, caso haja o interesse no selo de verificação da plataforma, basta ser assinante. Ainda segundo Elon Musk, o chatbot será um recurso do X Premium+, e terá um valor mensal de US$ 16.
