Um estudo conduzido pela consultoria Tech for Humans identificou uma fragilidade estrutural na forma como empresas estão implementando inteligência artificial no atendimento ao cliente. Segundo a pesquisa, misturar instruções de negócio com regras técnicas de segurança pode fazer com que a IA erre em até 57,7% dos casos quando o usuário foge do assunto principal da conversa.
O levantamento analisou dezenas de milhares de execuções experimentais para entender por que assistentes baseados em modelos de linguagem vêm apresentando dois comportamentos extremos: ou deixam passar tentativas sofisticadas de manipulação, ou bloqueiam clientes legítimos por excesso de rigor.
Fonte: Ti Inside
Foto: Pixabay
Leia mais na notícia original:
https://tiinside.com.br/27/03/2026/ia-erra-ate-577-quando-empresas-misturam-seguranca-e-regra-de-negocio-aponta-estudo/?utm_source=akna&utm_medium=email&utm_campaign=TI-INSIDE-Online-30-03-2026-19-53
