Como a IA generativa já está transformando o atendimento ao cliente

Abra ai lançou chatgpt há menos de um ano, e as empresas em todos os setores estão explorando como AI generativa pode aumentar os recursos de seus centros de atendimento ao cliente. O público em geral começou rapidamente a testar as capacidades da IA ​​generativa, e a tecnologia está ganhando aceitação rapidamente, elogiada pela variedade e natureza das respostas que ela fornece.

The large language models (LLMs) upon which ChatGPT and other text-based generative AI applications are built give these apps the power to respond to prompts with human-like text and voice, answering complex questions with seeming ease. The general public has quickly begun testing generative AI’s capabilities, and the technology is rapidly gaining acceptance, lauded for the variety and nature of the responses it provides.

Isso o torna natural para operações de atendimento ao cliente; De fato, estimamos que a tecnologia, uma vez implementada em escala, pode aumentar a produtividade em 30% a 50% - ou mais. E, de acordo com uma pesquisa de 2022 BCG com líderes globais de atendimento ao cliente, 95% esperam que seus clientes sejam atendidos por um bot da IA ​​em algum momento de suas interações de atendimento ao cliente nos próximos três anos. Os chatbots baseados em LLM são treinados em dados que podem conter vieses intrínsecos e podem gerar imprecisões, um problema real nos contextos corporativos quando um erro ocasional pode resultar em custos significativos para os resultados e a reputação de uma empresa. Isso explica, em parte, por que todas as implantações atuais em grande escala de IA generativa em uma configuração de atendimento ao cliente têm algum nível de supervisão humana ou fornecem serviços não críticos, como oferecer idéias de férias em sites de viagens.

Yet questions and challenges remain. LLM-based chatbots are trained on data that may contain intrinsic biases and can generate inaccuracies, a real problem in corporate contexts when an occasional error can result in significant costs to a company’s bottom line and reputation. This explains, in part, why all the current full-scale deployments of generative AI in a customer service setting have some level of human oversight or provide noncritical services, such as offering vacation ideas on travel websites.

, mas isso mudará e em breve. As empresas que desejam incorporar essa poderosa nova tecnologia em suas funções de atendimento ao cliente precisam determinar quais casos de uso proporcionarão o maior valor e as etapas a serem tomadas para se preparar para o sucesso, evitando armadilhas. Aqui, analisamos a promessa e os desafios da IA ​​generativa e oferecemos um caminho a seguir para as empresas ansiosas para avançar suas funções de atendimento ao cliente. Ferramentas como resposta de voz interativa (IVR), assistência ao agente, automação de processos robóticos e chatbots já tornaram os agentes de atendimento ao cliente mais produtivos. Essas tecnologias não desencadearam um declínio significativo no número de agentes na maioria das contact centers, principalmente porque, como suas tarefas antigas foram automatizadas, os trabalhadores do contact center assumiram novas funções e responsabilidades, como educar os clientes sobre como usar serviços digitais.

The Promise

The contact center—the hub of most customer service operations—has come a long way in the past couple of decades. Tools such as interactive voice response (IVR), agent assist, robotic process automation, and chatbots have already made customer service agents more productive. These technologies have not triggered a significant decline in the number of agents at most contact centers, largely because, as their old tasks were automated, contact center workers took on new roles and responsibilities, such as educating customers on how to use digital services.

Mas os LLMs têm o poder de expandir significativamente o que pode ser automatizado, executando tarefas críticas de atendimento ao cliente que estão muito além das capacidades das tecnologias anteriores. Esses modelos são treinados em grandes quantidades de dados e podem reconhecer, classificar e criar texto e fala sofisticados com velocidade e precisão. maneiras. E quando os dados nos quais são treinados são ajustados, esses algoritmos podem ser ajustados para melhor atender às necessidades específicas da indústria e empresa. Por exemplo, este ano o Octopus Energy, especialista global em energia sustentável, adicionou recursos generativos de IA à sua plataforma de atendimento ao cliente para ajudar as equipes a redigir respostas de email ricas e completas mais rapidamente do que o anteriormente possível. Segundo a empresa, os e -mails elaborados pelo aplicativo de IA obtiveram pontuações de felicidade 18% mais altas do cliente em comparação com as respostas por e -mail geradas apenas por seres humanos. O aplicativo já responde a um terço de todos os e-mails de consulta ao cliente, criando capacidade para os agentes suportar produtos mais complexos e de alto crescimento, como veículos elétricos e geração de eletricidade em casa. (Consulte o Anexo 1.)

Driven by a host of enablers—new AI algorithms, increases in computing power, and cheaper cloud-computing infrastructure—emerging AI-powered customer care applications will be able to provide answers and solutions to customers faster and in a much more human-like manner. And when the data on which they are trained is adjusted, these algorithms can be fine-tuned to better suit specific industry and company needs.

Companies are already putting LLMs to work in their customer care centers. For example, this year Octopus Energy, a global specialist in sustainable energy, added generative AI capabilities to its customer service platform to help teams draft rich and thorough email responses more quickly than was previously possible. According to the company, emails drafted by the AI application achieved 18% higher customer happiness scores compared with email responses generated by humans alone. The application already responds to a third of all customer inquiry emails, creating capacity for agents to support more complex, high-growth products like electric vehicles and home electricity generation.

The Path to Maturity

Over time—and likely quite quickly—generative AI will become more and more embedded in the customer service function. (See Exhibit 1.)

It will soon reach stage 3 of the journey we outline, driving predominantly reactive use cases that will continue to include humans in the loop. It will be able to resolve increasingly complex customer queries. This capability, along with the ability to interact with customers just like a human agent in both tone of voice and responsiveness, will continue to improve the customer experience.

At stage 4, AI will be able to assist customers with most of their queries. Businesses will transition from reacting to queries to proactively solving problems, thereby improving the customer experience even more. AI-enabled assistants will reach out directly to customers, offering preventive solutions to common problems rather than responding to queries after the problem occurs. Traditional AI and predictive analytics will decide on the prompts and the messages to deliver to the customer while generative AI will deliver those prompts and messages in a nonintrusive, human-like, and personalized manner. As confidence in AI-enabled customer contact grows and trained actions become more accurate and bias-free, it will require far less human oversight.

Eventually, at stage 5, AI-enabled support will be available for virtually every user journey. Generative AI could support service bots customized to the specific needs of individual customers, acting as a personal assistant that fully understands customers’ relationship with the company, anticipating their needs and concerns, and interacting with other systems elsewhere in the company to develop a full picture of the customer life cycle.

Companies have yet to proceed through all of these stages, but many are already imagining how a fully AI-enabled customer care center might work.

Superando os desafios

Apesar de sua promessa, a IA generativa tem várias limitações bem conhecidas. Esse é um perigo específico no contexto do atendimento ao cliente, onde as respostas às perguntas dos clientes, oferecidas com um alto grau de confiança, podem estar erradas. Além disso, os aplicativos baseados em LLM podem incorporar vieses inerentes aos dados nos quais o modelo fundamental foi treinado e no ajuste fino de modelos com base em contextos específicos; Tais vieses podem levar ao tratamento injusto de certos clientes. Um risco adicional: a tecnologia pode revelar informações proprietárias e propriedade intelectual ou dados inadequados do cliente. Se você deve fazer isso provavelmente dependerá do tipo de interação do cliente. Algumas interações podem ser realizadas pelo LLMS de forma independente; Outros serviços premium de alto valor provavelmente exigirão supervisão humana direta. Algumas empresas estão tentando reduzir o risco de erro, criando ferramentas híbridas que usam uma mistura de LLMs e a IA mais tradicional e a tecnologia de automação para combinar a precisão das ferramentas tradicionais com a intimidade humana do LLMS.

Among the most significant are the occasional factual inaccuracies they might provide. This is a particular danger in the context of customer care, where answers to customers’ questions, offered with a high degree of confidence, might be wrong. Moreover, LLM-based applications can incorporate biases inherent in the data on which the foundational model was trained and in the fine-tuning of models based on specific contexts; such biases could lead to unfair treatment of certain customers. A further risk: the technology could reveal proprietary information and intellectual property or inappropriate customer data.

Currently, the most effective strategy for minimizing these risks is to keep human agents in the loop, checking the content produced by AI before it reaches the customer. Whether to do so will likely depend on the type of customer interaction. Some interactions could be carried out by LLMs independently; other, high-value, premium services will likely require direct human oversight. Some companies are trying to reduce the risk of error by building hybrid tools that use a mix of LLMs and more traditional AI and automation technology to combine the precision of traditional tools with the human-like intimacy of LLMs.

À medida que os aplicativos de atendimento ao cliente baseados em IA generativa se tornam mais maduros, as empresas ganharão confiança em seu desempenho, reduzindo a necessidade de supervisão humana e permitir que os clientes interajam diretamente com eles. Isso dependerá da relevância, qualidade e segurança dos dados de treinamento; a capacidade de eliminar imprecisões e preconceitos; e o caso de uso específico ao qual a IA é aplicada. Somente quando as empresas tenham entendido e gerenciado totalmente os riscos e limitações de cada caso de uso, caso passassem para o próximo nível. Eles também devem trabalhar com cuidado para garantir que, à medida que a tecnologia se desenvolva, ela mantém o "toque humano" e a capacidade de empatia precisavam ser eficazes no contexto de atendimento ao cliente, independentemente do nível de maturidade alcançado. Por fim, eles em breve terão que entender as implicações do aumento de seus clientes Maturidade da IA ​​ . (Veja a barra lateral, “ASSENTE DAS MÁQUINAS DE [NEGOCIAÇÃO].”)

Decisões, decisões

À luz dos benefícios generativos da IA, as empresas estão se movendo para incorporar a tecnologia ao atendimento ao cliente a uma velocidade sem precedentes, apesar de seus riscos e desafios. Essa é a questão crítica. As empresas devem comprar uma solução pronta para uso específica do setor ou um sistema de uma das principais empresas de tecnologia que oferece plataformas que incorporam recursos de LLM? Ou eles devem investir tempo e recursos para ajustar seu próprio modelo? O Anexo 2 estabelece a variedade de casos de uso em toda a jornada típica de atendimento ao cliente - do contato inicial do cliente até a resposta e a resolução final - que provavelmente serão aumentadas por IA generativa. A companhia aérea sediada nos EUA fez parceria com a ASAPP, um fornecedor de tecnologia, para implementar uma solução generativa de IA generativa embalada para impulsionar a automação e o aumento de seu canal de bate-papo, ajudando seu contact center a fornecer atendimento ao cliente. Como resultado, o contact center conseguiu economizar uma média de 280 segundos por bate -papo - o que gera um total de 73.000 horas de tempo de agente economizado em um único trimestre e significa que os agentes têm mais tempo para atender aos clientes com problemas complexos. tarefas. A versão inicial da ferramenta fornecerá suporte às solicitações relativamente simples que representam cerca de 30% do total de tickets de suporte, como guias de instruções e informações básicas de configuração do produto. A tecnologia amadurece, a empresa espera expandir a gama de casos de uso para cobrir solicitações mais complexas, como localização e fixação de falhas. Casos de uso não específicos de uso geral, o ajuste fino é desnecessário; É uma tarefa complexa que nem sempre garante maior precisão e geralmente requer um grande investimento em tempo, dinheiro e conhecimento técnico.

But how to proceed? That is the critical question. Should companies buy an industry-specific ready-to-use solution or a system from one of the major tech companies offering platforms that incorporate LLM capabilities? Or should they invest time and resources in fine-tuning their own model?

To find the answers to these questions, companies should start now with some relatively simple but high-value use cases that will allow them to test the technology and learn what works and what doesn’t from technical, functional, and business perspectives. Exhibit 2 lays out the variety of use cases across the typical customer service journey—from initial customer contact to final response and resolution—that will likely be augmented by generative AI.

That’s the approach JetBlue has taken. The US-based airline has partnered with ASAPP, a technology vendor, to implement a packaged generative AI–enabled solution to drive the automation and augmentation of its chat channel, helping its contact center provide customer service. As a result, the contact center has been able to save an average of 280 seconds per chat—which yields a total of 73,000 hours of agent time saved in a single quarter and means that agents have more time to serve customers with complex problems.

Meanwhile, a North American technology company is progressively deploying a generative AI “sidekick” that helps customers and support engineers complete technical support requests, gain access to product information, and automate routine tasks. The initial version of the tool will provide support on the relatively simple requests that make up about 30% of total support tickets, such as how-to guides and basic product configuration information. As the technology matures, the company hopes to expand the range of use cases to cover more complex requests such as fault finding and fixing.

The decision to buy either an off-the-shelf customer-service application based on generative AI and use it without fine-tuning or a foundational LLM and fine-tune it based on an individual organization’s data depends on the complexity of the use case and the industry context.

For general-purpose, nonspecific use cases, fine-tuning is unnecessary; it’s a complex task that doesn’t always ensure greater accuracy and usually requires a major investment in time, money, and technical expertise.

Atualmente, a abordagem mais adequada inclui a criação de um aplicativo voltado para o cliente com base em uma combinação de IA tradicional, como sistemas de aprendizado de máquina, LLMS e engenharia rápida. Esse elemento final envolve o desenvolvimento e otimização das informações e restrições fornecidas ao LLMS para melhorar a precisão das respostas-definindo palavras-chave específicas da empresa dentro do prompt, por exemplo. Esse processo permite que as empresas obtenham melhores níveis de controle, moderação e personalização.

But in highly regulated industries and in those with heightened data security requirements such as Serviços financeiros e Defesa -e geralmente para casos de uso mais complexos e personalizados-o ajuste dos modelos existentes se tornará uma opção mais popular para garantir tempos de resposta mais rápidos a solicitações de clientes mais complexas com maior controle da saída. Inscreva -se

---

Os recentes avanços rápidos na IA generativa já estão transformando as maneiras pelas quais as empresas gerenciam suas funções críticas de atendimento ao cliente. Agora, as empresas devem antecipar como as capacidades consideráveis ​​da tecnologia poderiam ainda mais profundamente seus modelos de negócios. Os sistemas de IA generativos aprendem mais sobre os produtos, operações e clientes de uma empresa, provavelmente poderão prever o comportamento do cliente e alcançar os clientes em antecipação de suas necessidades e desejos. Você está pronto?

We predict that today’s large customer service functions—which now typically interact with customers separately from the rest of the business—will become nimble, data-driven organizations that work closely with the rest of the business to create truly differentiating customer experiences. As generative AI systems learn more about a company’s products, operations, and customers, they will likely be able to predict customer behavior and reach out to customers in anticipation of their needs and desires.

As generative AI advances, it may also learn to use such information to reach deeper into other aspects of the business, such as production and resource planning and even working directly with suppliers.

Whatever happens, it will happen fast. Are you ready?

Os autores agradecem a Juan Martin Maglione, Marcus Wittig e Stuart McCann por suas contribuições para este artigo. Simon Bamberger