A Inteligência Artificial passou a integrar os serviços de diversas empresas e em múltiplos seguimentos. Uma das discussões que você já deve ter tido ou ainda vai jogar na roda do bar, é sobre os excessos de ferramentas de IA e até que ponto o uso pode melhorar ou piorar a experiência.
No caso do Mercado Livre, uma das maiores plataformas de e-commerce do mundo, o uso desenfreado de IA está provocando reclamações por parte de funcionários, como mostra uma das discussões em alta no Reddit.
Segundo um funcionário, dentro do Mercado Livre a IA tem poder de decisão em relação aos humanos capacitados até mesmo para atividades como atendimento ao cliente.
O Mercado Livre vem cada vez mais enfiando IA em tudo, em processo interno e externo e em 90% dos casos ela passa informação errada e quem se ferra é o atendente…
E não para por aí.. a reclamação que já conta com 471 votos de apoio, afirma que a IA é quem toma decisão, mas o funcionário é quem paga pelos erros dela. Esse é mais um paradoxo no uso desenfreado de IA. Quem tem a responsabilidade da informação que o algoritmo gera?
Nos modelos de Chatbot, fica evidente a informação de que você deve sempre checar as informações geradas durante as conversas, pois elas podem conter dados falsos, derivados de alucinação e mal aprendizado. Mas e quando uma grande plataforma de e-commerce integra a IA até mesmo para disputas de produtos com defeitos e outros problemas?
Esse é um dos questionamentos que estão em alta quando se trata de integração de recursos de IA em serviços que antes eram majoritariamente decisivos por humanos. Quando a IA toma a régua de decisão, a plataforma precisa assumir que pode errar e construir mecanismos de backup e revalidação.
Quando isso não acontece, a experiência é ruim para o lado do cliente e também para o lado do funcionário, que acaba pagando o pato por uma decisão mal calculada por um algoritmo estatístico (e que nem sempre é Inteligência Artificial de verdade).
Eu, como consumidor, ODIEI! Para fazer devolução de algum item era tão simples… 3 botõeszinhos fáceis e já resolvia. Agora, abre um chatbot bugadíssimo, com a IA alucinando toda hora fazendo 5 mil perguntas até resolver liberar a devolução. Eu odeio empresa que quer enfiar IA em tudo
Mercado Pago também virou oásis de IA
No serviço financeiro do Mercado Livre, a onda de IA também não demorou para assumir posições de importância.
A sessão de ajuda do aplicativo Mercado Pago está dotada de IA. Tudo é resolvido e triado pela IA, mesmo que o resultado seja não satisfatório.
Para que você consiga atendimento com humanos, a paciência e o tempo devem estar em dia.
Em nossos testes, a IA até se mostrou esperta e com contexto bem afiado, mas tivemos muita dificuldade para acionar o suporte real, e isso é muito ruim para a experiência de usuário.
A IA é interessante para triar e gerar contexto de atendimento, mas ela deveria parar por aí. É muito importante entender o limiar dessas ferramentas de IA.
N
Créditos TecStudio
