Em dezembro de 2025, a Anthropic publicou os resultados da segunda fase de um experimento incomum: uma pequena loja física, instalada inicialmente no refeitório do escritório de San Francisco, operada de ponta a ponta por uma inteligência artificial. O projeto, chamado Project Vend, não era um protótipo conceitual nem uma simulação. Era um serviço real, com estoque, preços, fornecedores, clientes humanos, dinheiro entrando e saindo, erros, conflitos e tentativas deliberadas de exploração por parte dos usuários.
A proposta era simples e, ao mesmo tempo, radical: verificar até onde uma IA “narrow”, baseada em modelos de linguagem, conseguiria operar um serviço completo no mundo real sem treinamento específico para aquele domínio. A loja vendia bebidas, snacks e produtos sob demanda. A IA pesquisava fornecedores, negociava preços, definia margens, cobrava clientes, controlava inventário, emitia reembolsos, registrava feedbacks e, com o tempo, abriu novas “filiais” em Nova York e Londres. Tudo isso mediado por ferramentas digitais, mas com autonomia operacional real.
O contexto importa porque, na primeira fase do experimento, a loja foi um desastre. A IA dava descontos excessivos, vendia produtos abaixo do custo, distribuía itens gratuitamente para “ser gentil”, caía em provocações dos funcionários e chegou a desenvolver uma espécie de crise identitária, afirmando ser um humano usando um blazer azul. Financeiramente, o sistema perdia dinheiro de forma consistente. Do ponto de vista de projeto de serviço, era um exemplo clássico de operação sem governança, sem regras claras e sem memória institucional.
A segunda fase mudou esse cenário não por “ensinar a IA a ser lojista”, mas por redesenhar o serviço ao redor dela. Foram adicionadas ferramentas de CRM, controle explícito de custos, acesso mais profundo à pesquisa na web, checklists obrigatórios antes de fechar vendas e uma separação artificial de papéis. A mesma IA passou a atuar como operadora da loja, enquanto outro agente assumia o papel de CEO, responsável por metas, margens mínimas e autorizações financeiras. Um terceiro agente cuidava exclusivamente de produtos personalizados, como camisetas e brindes.
É aqui que surgem as primeiras lições relevantes para o projeto de serviço.
Serviços versus sistemas de serviço
A primeira é que a IA não opera serviços; ela executa sistemas de serviço. O salto de desempenho aconteceu quando o serviço foi formalizado em processos, regras, ferramentas e fluxos verificáveis. Quando o sistema ficou explícito, a IA passou a amplificar sua eficiência. Antes disso, ela apenas amplificava a desordem. Para designers de serviço, isso é um alerta direto: automação não resolve ambiguidade estrutural. Pelo contrário, ela a torna mais visível e mais rápida.
Procedimentos e burocracias são amigos do serviço
A segunda lição é que procedimentos e burocracias não são inimigos da experiência, mas mecanismos de sobrevivência do sistema. Ao obrigar a IA a verificar preços, prazos e custos antes de responder a um cliente, o serviço ficou mais lento e menos “simpático”, porém muito mais sustentável. O experimento redescobre algo que organizações humanas aprenderam ao longo de décadas: checklists, aprovações e limites existem porque a memória individual — humana ou artificial — é falha. No projeto de serviço, isso reforça a importância do backstage como infraestrutura de valor, não como atrito invisível.
IA: localmente inteligente e globalmente sem noção
A terceira lição surge quando as coisas dão errado. Mesmo na fase mais estável, a IA demonstrou uma incapacidade profunda de lidar com risco sistêmico. Em um episódio, aceitou estruturar um contrato de compra futura de cebolas, ignorando completamente que esse tipo de acordo é ilegal nos Estados Unidos desde 1958. Em outro, tentou contratar um “segurança” informal para lidar com furtos, oferecendo um valor abaixo do salário mínimo e sem qualquer autoridade legal para empregar alguém. Em ambos os casos, a IA estava sendo localmente racional e globalmente irresponsável.
Isso revela uma limitação central da narrow AI para serviços complexos: ela não enxerga o sistema institucional invisível. Leis, normas trabalhistas, precedentes jurídicos, riscos reputacionais e efeitos de segunda ordem não fazem parte do seu modelo de mundo operacional. Para o projeto de serviço, isso significa que qualquer automação real precisa assumir explicitamente onde a IA pode decidir e onde ela precisa ser contida, auditada ou interrompida.
Empatia pode ser um risco
A quarta lição é sobre comportamento humano. Funcionários passaram meses tentando “enganar” a IA para obter descontos, produtos gratuitos ou decisões absurdas. A IA, treinada para ser prestativa, cedia com frequência. O problema não era falta de inteligência, mas excesso de boa-fé. Em termos de serviço, isso expõe um ponto crítico: um sistema automatizado será explorado exatamente nos seus pontos de empatia. Projetar serviços com IA exige assumir desde o início que haverá uso oportunista, adversarial e estratégico e desenhar defesas sistêmicas para isso.
A inteligência pode ser artificial. A hierarquia não.
A quinta lição vem da tentativa de resolver esses problemas com hierarquia artificial. A introdução de um “CEO” não trouxe governança real porque ele compartilhava o mesmo modelo cognitivo da operação. Ambos erravam de forma semelhante, apenas com estilos diferentes. Já o agente especializado em merchandising funcionou melhor justamente porque tinha escopo estreito, regras claras e pouca exposição a decisões críticas. Para o projeto de serviço, isso reforça uma ideia conhecida, mas frequentemente ignorada: especialização com fronteiras bem definidas é mais eficaz do que camadas hierárquicas sem diversidade cognitiva.
IA sem design de serviço é um desastre
No fim, o experimento não demonstra que lojas operadas 100% por IA estão prontas para o mundo real. Ele demonstra algo mais sutil e mais importante: a automação total é menos um problema de tecnologia e mais um problema de design de serviço. A IA já consegue executar operações, gerar receita e escalar tarefas. O que ela não consegue fazer sozinha é sustentar um sistema saudável diante de ambiguidade, conflito, exploração e exceções.
Para designers de serviço, a mensagem é clara. O futuro não é substituir pessoas por IA, mas projetar serviços onde a IA opera o que é estável, repetível e formalizável, enquanto humanos atuam como instância de exceção, julgamento e contenção de risco. Onde o serviço não está claro, a IA improvisa. E improvisação, em sistemas reais, raramente é virtude.
A loja do Project Vend não é um experimento curioso sobre inteligência artificial. É um espelho bastante honesto sobre a maturidade (ou a fragilidade?) dos serviços que tentamos automatizar.