Quando a IA erra – Problemas do serviço automatizado

É cada vez mais comum ver o uso da IA no atendimento ao cliente, trazendo rapidez e disponibilidade 24/7. No entanto, recentemente o caso do Cursor tem vindo á tona, já que seu chatbot criou uma política que não existia. Neste post, nós vamos falar sobre os problemas do serviço automatizado, sobre outros casos e algumas dicas para usar a IA de forma segura.

Quando a IA erra – Problemas do serviço automatizado

Resumo da situação

O uso da inteligência artificial (IA) no atendimento ao cliente vem crescendo cada vez mais, já que traz promessas de rapidez e eficiência. No entanto, recente teve um problema com o Cursor, um editor de código que oferece suporte via chatbot. Esse problema mostrou uma das falhas desse modo de atendimento .

O Cursor é um editor de código popular, mas acabou enfrentando uma confusão por causa de um bug. Já que seu sistema desconectava diversos usuários que tentavam usá-lo em mais de um dispositivo ao mesmo tempo. E, ao pedir ajuda ao chatbot, ele informou que o uso do editor era restrito a um dispositivo único por vez. Entretanto, essa é uma regra que não existia. Assim, levando alguns usuários a cancelar suas assinaturas e migrar para outros  concorrentes, como o Copilot. Só depois de diversas reclamações públicas, o cofundador Michael Truell se pronunciou, dizendo que não havia essas limitações e oferecendo reembolsos aos assuntos abordados.

Casos semelhantes

Embora muitas pessoa pensem que o erro do Cursor é um caso isolado, na realidade, ele não é. Em 2024, na Air Canada, o seu chatbot inventou uma política de reembolso para tarifas de luto. Assim, enganando um passageiro, que acabou ficando no prejuízo. Por conta disso, esse caso foi parar na justiça, e o tribunal decidiu que a companhia aérea era responsável pelo oque a sua IA dizia, obrigando a empresa a indenizar o cliente.

Além disso, há diversos outros exemplos que podemos dar. Como um chatbot da empresa de entregas DPD que, ao ser testado, chegou ao ponto de criar poemas xingando a própria companhia. Ou um dos sistemas usados pela cidade de Nova York deu conselhos errados sobre leis trabalhistas. Desse modo, é importante que as empresas fiquem de olho nas suas IAs, para que evitem que seus chatbots virem fonte de confusão ou de processos judiciais.

Preferência dos clientes

Segundo diversos estudos, foi mostrado que 59% dos profissionais de suporte acham que humanos devem liderar o atendimento. Principalmente nas situações que precisam de empatia ou de um entendimento mais profundo. Entretanto, 60% dos profissionais reconhecem que a IA é ótima para coisas simples, como responder perguntas básicas ou estar disponível o tempo todo, sem pausas.

Além disso, outro fator decisivo na opinião das pessoas é a geração delas. Os Millennials e Gen Z, por exemplo, não se incomodam tanto em resolver coisas rápidas com IA, mas ainda querem um humano por perto para assuntos mais complicados. Além disso, a opinião popular entra em um consenso de que, os robôs cuidariam do básico e pessoas entrariam em cena quando fosse preciso. Algumas empresas já estão testando esse modelo com sucesso, juntando a eficiência da IA com a sensibilidade humana.

Dicas de melhores práticas para o uso da IA em atendimentos

Para que a IA funcione bem no atendimento ao cliente e evite problemas como o do Cursor, algumas práticas são indispensáveis. Primeiramente, a transparência. Já que os usuários precisam saber quando estão falando com um robô e quando estão falando com uma pessoa. Além disso, também é importante manter o chatbot atualizado e monitorar o que ele diz. Desse modo, a empresa evita possíveis respostas erradas ou desatualizadas que podem irritar os clientes.

Além disso, importante é ter um plano B. Ou seja, quaisquer questões mais complicadas ou que precisam de um toque humano devem ser encaminhadas para pessoas reais. Existe até algumas leis, como a Utah Artificial Intelligence Policy Act, de 2024, que já obrigam as empresas a avisar quando o atendimento é feito por IA.

Possível futuro da IA no atendimento ao cliente

Alguns estudos estimam que, até 2025, a IA vai interagir com 95% dos clientes. No entanto ainda há algumas preocupações, como a privacidade dos dados e a necessidade de não perder o lado humano em algumas interações. Sendo assim, o objetivo será criar um atendimento que seja ao mesmo tempo esperto e acolhedor.

Para chegar lá, as empresas precisam começar aos poucos, testando a IA em tarefas específicas e mostrando resultados que conquistem a confiança dos clientes. Além disso também é necessário ficar atento as leis, como a do Colorado, que exigem avisos sobre o uso de bots.

E esse foi o nosso post sobre o uso da IA no serviço de atendimento ao cliente e os problemas do serviço automatizado. Esperamos que você tenha gostado e, caso queira ver mais posts assim, dê uma olhada na nossa sessão de notícias!