O problema com o usuário sintético não está necessariamente na sua existência, mas em como e quando ele é usado — e principalmente, no que ele não consegue fazer, apesar de parecer promissor. Vamos destrinchar os principais riscos e limitações:
⚠️ 1. Generalização sem profundidade
Por mais que seja baseado em 20 entrevistas, um modelo de linguagem não tem consciência, nem vivência. Ele aprende padrões médios, e tende a reproduzir consensos superficiais, deixando de lado contradições, tensões e exceções que são justamente onde moram os insights mais transformadores.
> Consequência: você valida ideias com um avatar de senso comum, que raramente questiona as premissas do próprio sistema.
⚠️ 2. Ilusão de validação
Conversar com um usuário sintético parece pesquisa, mas não é. É simulação. E simulações são ótimas para explorar possibilidades, mas não substituem a realidade complexa, mutável e contraditória dos usuários reais.
> Consequência: times tomam decisões confiando em um "validador artificial" que não sente, não muda de ideia, não tem contexto de vida.
⚠️ 3. Viés de confirmação turbinado
Você treinou o modelo com entrevistas que você mesmo conduziu. Isso significa que qualquer viés de recrutamento, condução ou interpretação foi replicado e amplificado. Pior: como o modelo vai parecer inteligente e responsivo, você pode achar que ele é mais confiável do que realmente é.
> Consequência: reforço dos mesmos pontos de vista, com menos margem para ser surpreendido.
⚠️ 4. Apagamento da diversidade
Um "portavoz permanente de um grupo" é uma abstração perigosa. Grupos homogêneos não existem na prática. Pessoas mudam de ideia, vivem momentos diferentes, sentem de formas distintas. O usuário sintético, por definição, apaga essa fluidez.
> Consequência: soluções mais eficientes, porém menos inclusivas, menos empáticas e menos adaptáveis.
⚠️ 5. Risco ético e epistemológico
Quando substituímos pesquisa com pessoas reais por modelos de linguagem, há uma perda do caráter dialógico e ético da pesquisa. Deixamos de escutar para apenas simular. E isso não é neutro: é uma mudança de paradigma que centraliza o controle do conhecimento nas mãos de quem constrói o modelo.
> Consequência: empobrecimento da prática de pesquisa e erosão da escuta como valor.
✅ Quando pode ser útil?
Para gerar hipóteses preliminares
Para explorar contradições de forma controlada
Para acelerar brainstorming em times experientes
Como ferramenta complementar, nunca substitutiva
🧠 Conclusão
O usuário sintético é uma ferramenta poderosa, mas não um substituto da realidade. Usado com senso crítico, pode ajudar a reduzir ruído e acelerar iterações. Usado sem crítica, pode transformar o design em uma fábrica de viés com cara de pesquisa.
> Simular não é escutar. Treinar um modelo não é entender um ser humano. Projetar para a média é projetar para ninguém.