Escalando a criação de chatbots com IA usando Chatfuel

Originalmente publicado emnebius.com

Visão geral

Para empresas SaaS, oferecer uma experiência excepcional ao cliente é fundamental, pois estabelece a base para confiança e satisfação.

Usando o Nebius AI Studio para aproveitar uma cascata de modelos Llama-405B junto com um SDK personalizado, a Chatfuel, plataforma líder em automação de engajamento com cliente baseada em IA, alcançou ganhos significativos de eficiência com melhor qualidade de resposta e velocidade de interação para seus agentes chatbot de IA.

Fundada em 2015 por dois ex-alunos da Y Combinator, a plataforma no-code da Chatfuel baseada em IA foi projetada para automatizar a comunicação e melhorar o engajamento do cliente para empresas de serviços.

Em parceria com a Meta desde 2016, a empresa atende milhares de clientes, integrando seu software diretamente com as plataformas de mensagens do gigante da tecnologia e agilizando interações no WhatsApp, Facebook Messenger, Instagram e sites.

Os agentes de IA da Chatfuel são pré-treinados com bilhões de mensagens e liberam representantes humanos para focarem em crescimento e criatividade. Anteriormente, a Chatfuel dependia exclusivamente de modelos GPT-4 para seus agentes chatbot. No entanto, precisava de modelos mais confiáveis e de alto desempenho para otimizar processos de onboarding e melhorar as capacidades dos agentes. Isso exigia uma infraestrutura capaz de lidar com processos exigentes de treinamento e teste.

Através de nossa parceria, a Chatfuel aproveitou uma cascata de modelos Llama-405B de última geração usando a infraestrutura da Nebius para alcançar desempenho excepcional do chatbot. A equipe da Nebius desenvolveu esta cascata e SDK personalizado, permitindo que a Chatfuel alcançasse ganhos significativos de eficiência com melhor qualidade de resposta e velocidade de interação.

Equilibrando custo, desempenho e velocidade

O lançamento da cascata de modelos em produção levou apenas um mês usando o Nebius AI Studio. A equipe da Nebius teve um papel crucial no desenvolvimento e teste de múltiplas versões do modelo, ajudando a Chatfuel a identificar o melhor equilíbrio entre desempenho, custo e velocidade. Esta colaboração garantiu que os novos modelos da Chatfuel atendessem aos requisitos rigorosos necessários para o desempenho e escalabilidade do chatbot em tempo real.

A Chatfuel utilizou o Nebius AI Studio para servir os modelos Llama 405B, permitindo-lhes realizar várias tarefas (geração de texto restrita, classificação de texto, etc.) com qualidade de última geração. Além disso, a Chatfuel usou o Nebius Compute Cloud para hospedar os componentes das soluções e avaliar sua qualidade.

A adoção do modelo Llama-405b também melhorou a qualidade da análise das descrições em formato livre dos agentes desejados pelos clientes da Chatfuel e reduziu os custos associados ao LLM. Além disso, melhorou o desempenho em relação ao GPT-4o da OpenAI em 24% na tarefa de rotear a entrada do usuário para o agente correto.

Manipulação de dados

Anteriormente, criar chatbots eficazes baseados em IA requeria grandes quantidades de dados para ajustar os modelos. No entanto, muitos dos dados com os quais a Chatfuel trabalha inicialmente careciam de rotulação adequada, tornando difícil alcançar resultados de alta qualidade.

A equipe da Nebius apoiou na otimização do processo de treinamento, permitindo que a Chatfuel mantivesse excelentes resultados mesmo com amostras de dados menores e bem curadas. Esta abordagem não só melhorou a qualidade das soluções da Chatfuel, mas também economizou custos e recursos significativos, permitindo-lhes entregar soluções de chatbot poderosas de forma mais eficiente e eficaz.

Avaliação do modelo

A Chatfuel implementa um meticuloso processo de três etapas para avaliar seus modelos de chatbot e garantir resultados ótimos.

1. Avaliação da equipe Nebius: A equipe da Nebius realiza uma avaliação inicial usando métricas avançadas e avaliação humana básica para verificar o desempenho técnico e a confiabilidade dos modelos.

2. Revisão da equipe de produto da Chatfuel: A equipe de produto da Chatfuel avalia os modelos no contexto de casos de uso do mundo real, garantindo que se alinhem com os objetivos do produto e necessidades do cliente.

3. Feedback de clientes fiéis: Finalmente, envolvem seus clientes fiéis para testar os modelos em cenários práticos, coletando suas percepções para ajustar e melhorar ainda mais a experiência.

SDK personalizado

Para empresas SaaS, oferecer uma experiência excepcional ao cliente é fundamental, pois estabelece a base para confiança e satisfação. Um mau atendimento ao cliente acaba custando às empresas bilhões de dólares em receita a cada ano.

Reconhecendo isso, a equipe da Nebius desenvolveu um SDK personalizado que agilizou o processo de integração, permitindo que a equipe de engenharia da Chatfuel implementasse a solução completa em seu produto em apenas três dias.

Esta eficiência permitiu que a Chatfuel se concentrasse em refinar a jornada do cliente e garantir um desempenho perfeito desde o início.

Destaques da Chatfuel ao trabalhar com a Nebius

• Infraestrutura estável: A Nebius fornece uma plataforma altamente confiável e robusta para suportar operações de IA.

• Orientação especializada: A equipe da Nebius oferece suporte excepcional, auxiliando em processos críticos de tomada de decisão de produtos de IA.

• Melhores resultados comerciais: A colaboração com a Nebius impulsionou significativamente o desempenho do funil de produtos e melhorou a retenção de clientes.

Graças à sua colaboração com a Nebius, a Chatfuel agora pode criar diversos chatbots de IA rapidamente, melhorando os processos de onboarding de clientes. A empresa alcançou ganhos significativos de eficiência em IA com melhor qualidade de resposta, velocidade de interação e estabeleceu roteamento eficiente entre diferentes agentes chatbot.

Pioneira em soluções de engajamento com cliente baseadas em IA

Devido à parceria da Chatfuel com a Nebius, os clientes da empresa agora estão criando diversos agentes para diferentes tarefas de chatbot em minutos, sendo pioneiros em soluções de engajamento com cliente baseadas em IA.

Daqui para frente, a Chatfuel continuará utilizando o Nebius AI Studio e o SDK desenvolvido sob medida para criar experiências mais personalizadas para cada cliente. Isso inclui melhor reengajamento através de capacidades avançadas de chatbot, bem como processos aprimorados de treinamento e retreinamento para agentes chatbot.