Você já cogitou colocar uma IA respondendo no WhatsApp da empresa. E travou na mesma dúvida de sempre: e se ela inventar um preço errado, prometer um prazo que não existe, ou simplesmente falar bobagem pro seu cliente?
É uma preocupação legítima. A resposta honesta não é "não, isso nunca acontece" — acontece, sim. A pergunta certa não é se a IA pode errar. É por que ela erra, e o que reduz isso a quase zero.
Sim, IA no atendimento erra — mas quase nunca por limite da tecnologia. Na prática, o erro vem de duas falhas de configuração: a base de conhecimento está incompleta ou desatualizada, ou não existe uma regra clara de quando a IA deve parar e chamar um humano em vez de tentar responder sozinha.
Resolver isso não é trocar de ferramenta. É definir escopo fechado, fallback humano e revisão periódica antes de soltar a automação sozinha — o que ninguém te conta é que pular essa parte é o que causa 90% dos casos que viram piada na internet.
O que é alucinação de IA, em termos simples
Uma IA de atendimento não "consulta" a resposta certa por padrão. Ela prevê a palavra mais provável de vir a seguir, com base em padrão de linguagem — não numa checagem de fato. Quando ela tem a informação certa na base, isso funciona bem. Quando não tem, ela não costuma responder "não sei": ela completa a frase com algo que soa coerente. Isso é alucinação — a IA não está mentindo de propósito, está fazendo exatamente o que foi projetada pra fazer, prever texto plausível, só que sem grade de segurança por baixo.
É diferente do erro humano. Um atendente cansado erra por distração ou pressa — e geralmente sabe que não sabe algo, e pergunta. Uma IA sem fallback configurado não tem esse instinto: ela tenta ser útil até quando devia admitir que não tem certeza.
Casos reais de quando isso deu errado
Dois casos documentados mostram os dois jeitos mais comuns de uma automação sair do controle.
Air Canada, 2024. Um passageiro perguntou ao chatbot da companhia sobre a tarifa de luto depois da morte da avó. A IA respondeu que ele podia comprar a passagem no valor cheio e pedir o reembolso da diferença depois — só que a política real da empresa não permite isso, e a IA simplesmente inventou uma regra que não existia. O passageiro processou, e o tribunal canadense decidiu que a Air Canada era responsável pelo que o próprio chatbot afirmou no site dela. A empresa tentou argumentar que o robô era "uma entidade separada, responsável pelas próprias ações" — o tribunal rejeitou e a empresa teve que pagar. Base de conhecimento incompleta, sem checagem contra a política real.
DPD, 2024. A transportadora europeia teve que desligar o chatbot de IA depois que um cliente, só pedindo de um jeito diferente, conseguiu fazer o bot xingar e chamar a própria empresa de "pior transportadora de entregas do mundo". Não foi um bug no sentido técnico — foi ausência de limite. Ninguém tinha configurado com clareza o que o bot definitivamente não podia fazer, então quando alguém pediu de outro jeito, ele obedeceu.
Dois casos, duas causas diferentes — e é isso que interessa entender antes de automatizar o seu atendimento.
As duas causas por trás de quase todo erro
Praticamente todo caso de "IA respondeu besteira" se encaixa numa dessas duas raízes — raramente é falha da tecnologia em si.
| Causa do erro | O que reduz o risco |
|---|---|
| Base de conhecimento incompleta ou desatualizada | Alimentar a IA só com o que a empresa confirma — preço, prazo, política, exceção. Nada de deixar ela "generalizar" quando falta informação. |
| Escopo aberto demais — sem regra do que ela não pode falar | Definir por escrito os limites e testar tentando "confundir" a automação antes de colocar ela pra atender de verdade. |
| Sem fallback claro pra humano | Regra fixa: fora do que ela sabe com certeza, ela avisa que vai confirmar e chama alguém — nunca improvisa. |
| Ninguém revisa as conversas depois de configurada | Checagem periódica, principalmente nas primeiras semanas, pra pegar erro antes que vire reclamação pública. |
Isso reduz o risco — não zera. Nenhuma automação, por melhor configurada, tem garantia absoluta contra erro. O que muda é o tamanho do estrago quando ele acontece: com fallback bem definido, o pior cenário é "a IA demorou um pouco pra te chamar", não "a IA prometeu algo que a empresa não pode cumprir".
Como isso funciona na prática
O ponto central é simples de explicar e fácil de ignorar na hora de configurar: uma automação com escopo fechado não fica "mais inteligente" — ela fica mais disciplinada. Em vez de tentar responder tudo, ela responde só o que sabe com certeza e encaminha o resto.
Exemplo: automação com escopo bem definido, recebendo 50 mensagens por dia
Isso é uma simulação pra mostrar a lógica do escopo, não uma métrica de erro medida na prática — a Nexora ainda não tem caso fechado pra reportar um número real de conversas. O percentual de mensagens dentro e fora do escopo varia conforme o negócio e a qualidade do levantamento inicial.
Quando a automação total ainda não é uma boa ideia
Tem nicho em que o erro pesa mais do que em outros — não porque a IA piora, mas porque a consequência de errar é maior.
| Área | Por que pede mais supervisão humana |
|---|---|
| Jurídico | Orientação sobre um caso específico é atividade do profissional — uma automação pode agilizar triagem e dúvida institucional, mas não deveria ser a única voz opinando sobre a situação de alguém. |
| Saúde | Já existe movimento regulatório tratando IA em decisão clínica como área de alto risco, com exigência de supervisão humana — o Conselho Federal de Medicina já publicou orientação nesse sentido. |
| Situações emocionalmente sensíveis | Reclamação séria, luto, urgência — nesses momentos a pessoa quer ser ouvida, não filtrada por um roteiro. |
| Negociação de alto valor | Quanto maior o ticket, maior o custo de uma resposta genérica ou de uma promessa que a IA não devia ter feito. |
Isso não é a Nexora arrumando desculpa pra não vender automação nesses nichos — é reconhecer que, quando o erro tem peso jurídico, clínico ou emocional, o risco de deixar 100% na mão da IA supera o ganho de agilidade. Nesses casos a automação ainda ajuda, só que trabalhando num escopo mais estreito — agendamento, dúvida institucional, triagem — com revisão humana maior no que sobra.
Isso conecta direto com um ponto que já tratamos em outro artigo sobre automação e atendente humano: a pergunta nunca é "IA ou pessoa" — é qual fatia do atendimento pode ficar com a IA sem virar risco, e qual fatia continua precisando de alguém.
Como a Nexora configura pra reduzir o risco
- 01 — Mapeamento do que dá pra responder com certeza. Só entra no escopo o que a empresa confirma por escrito — preço, prazo, política, exceção conhecida.
- 02 — Definição do escopo e teste de limite. Documentar o que a IA pode e não pode falar, e tentar "confundir" ela de propósito antes de liberar pro cliente real.
- 03 — Fallback configurado antes do lançamento. A regra de quando ela chama um humano existe desde o primeiro dia, não é ajuste feito depois de um erro acontecer.
- 04 — Acompanhamento próximo no início. Período inicial com revisão das conversas reais, não hipotéticas — é aí que aparece o que o levantamento não previu.
- 05 — Revisão periódica contínua. Preço muda, serviço novo entra, pergunta nova aparece — sem revisão, a base que estava certa vira base desatualizada em poucos meses.
Ainda não temos um caso fechado da Nexora pra mostrar aqui — os primeiros projetos de automação estão em construção agora. O que dá pra garantir é o método: nenhuma automação sobe sem escopo definido por escrito e sem fallback testado, porque automação configurada às pressas é exatamente o tipo de coisa que vira captura de tela ruim.
Perguntas frequentes
Pode, se estiver mal configurada. Isso se chama alucinação — a IA completa a resposta com algo plausível quando não tem a informação certa, em vez de dizer que não sabe. É um risco real, documentado em casos como o da Air Canada, e a forma de reduzir é dar escopo fechado e fallback claro pra automação.
Quase sempre por duas falhas de configuração, não por limite da tecnologia: a base de conhecimento está incompleta ou desatualizada, ou não existe uma regra clara de quando a IA deve parar e chamar um humano em vez de tentar responder.
A empresa, não a ferramenta. Foi o que um tribunal decidiu no caso Air Canada em 2024: a companhia tentou argumentar que o chatbot era uma entidade separada e o tribunal rejeitou, obrigando a empresa a honrar o que a IA tinha prometido.
Quatro coisas, nesta ordem: escopo fechado (a IA só responde o que a empresa confirma), fallback claro pra humano fora desse escopo, revisão periódica das conversas reais, e lançamento gradual em vez de automatizar tudo de uma vez.
Não é recomendado. O período inicial serve pra ver como a IA se comporta com pergunta real, não hipotética, e ajustar antes de ampliar o escopo. Automatizar tudo de uma vez tira a chance de pegar erro antes que ele chegue no cliente.
É uma área que exige mais cautela. O erro nesses nichos pode virar orientação errada com consequência real, e quem responde por isso é o profissional, não a automação. Nesses casos a IA ainda ajuda, num escopo mais estreito — agendamento, dúvida institucional, triagem — com revisão humana maior no que sobra.
Só revisando as conversas de verdade, principalmente nas primeiras semanas. Erro de automação raramente vira reclamação formal — ele passa despercebido até virar um cliente insatisfeito que nunca contou o motivo. Revisão periódica é o que pega isso antes.
Em resumo
IA no atendimento erra quando alguém trata a configuração como formalidade — sobe rápido, sem escopo escrito, sem fallback testado, sem revisão depois. Erra bem menos quando o processo trata o risco como parte do trabalho, não como detalhe.
A diferença entre um caso que vira piada na internet e uma automação que funciona não é a tecnologia usada. É se alguém parou pra definir, por escrito, o que ela pode dizer, o que ela nunca deve inventar, e pra quem ela chama quando não sabe.
Se você está considerando automatizar e quer entender qual escopo faz sentido pro seu tipo de atendimento antes de decidir, manda uma mensagem contando como funciona hoje. Te digo com honestidade onde a automação ajuda e onde ela ainda não é a resposta certa pro seu caso.