DESIGN, IA E NARRATIVA

Os riscos de fazer o necessário

Design na era das interfaces de linguagem (LUI): as possibilidades da narrativa via IA e seus inúmeros riscos.

Entre o que podemos medir e o que precisamos entender. (Todas as imagens conceituais deste artigo foram geradas pelo autor utilizando IA.)

You can read this story in english.

Este texto faz parte de uma trilogia sobre design, IA e narrativa:

1. Criando uma IA para desacelerar em um mundo obcecado por performance Por que construí a Amia?

2. O que perdemos quando metrificamos a alma O custo oculto das métricas

3. Os riscos de fazer o necessário Design na era das interfaces de linguagem (você está aqui)

Existe um momento estranho na vida de um designer: quando você percebe que o problema que viveu na pele é exatamente o que está prestes a reproduzir.

Passei oito meses obcecado por métricas de sono. Quando finalmente me livrei do smartwatch, pensei que o problema estava resolvido. Mas, alguns meses depois, estava construindo uma ferramenta de autoconhecimento e me peguei desenhando exatamente o tipo de interface que havia me aprisionado: dashboards de “evolução emocional”, gráficos de progresso, streaks de consistência.

Este texto encerra uma trilogia de reflexões sobre design e subjetividade. Comecei contando por que decidi criar a Amia — uma ferramenta que usa IA para criar espaços de reflexão profunda através da fala — e segui explorando como as métricas podem destruir o que tentamos medir. Aqui, parto do ponto onde aquela investigação terminou: se o dado não dá conta da vida interior, qual é a alternativa – e que riscos ela carrega?

A encruzilhada é esta: como projetar para territórios sensíveis — luto, trauma, autoconhecimento — quando tudo que “funciona” no mercado os destrói?

Interfaces conversacionais com IA parecem oferecer saída. Este texto é sobre atravessar essa porta de olhos abertos.

­

Quando medir destrói o medido

Apps de bem-estar seguem uma receita fixa: pontuações de humor, medalhas de introspecção e rankings comparativos. É a tentativa de colocar você no ‘top 10% dos mais reflexivos’ — uma métrica que “certamente” Sócrates teria aprovado.

O problema é que tentar medir a vida interior com precisão matemática gera o que poderíamos chamar de **ansiedade de performance emocional**. Quando monitoramos nossos estados internos em busca de ‘progresso’, transformamos o autoconhecimento em mais uma tarefa produtiva. Um esforço de auto-otimização que gera esgotamento onde deveria haver profundidade.

­

A vantagem humana da narrativa

Se métricas não funcionam, o que funciona? A resposta vem de antes da psicologia, antes da neurociência: da forma mais antiga que temos de dar sentido à experiência humana: narrativa.

Do ponto de vista de design, a mudança é estrutural: saímos de hierarquias verticais — escadas onde você está sempre subindo ou caindo — para mapas horizontais.

Enquanto uma métrica serve para medir, um mapa serve para navegar. Ele não julga se você está melhor ou pior; ele apenas situa você no **território acidentado da sua própria história, mostrando como os pontos se conectam. Mas a diferença não está só em como você processa os dados, e sim em que tipo de dado você coleta desde o início**.

­

Compare

Veja duas abordagens para a mesma semana:

A: Métricas de autodeclaração

Todos os dias, você, de forma híbrida, responde perguntas fixas clicando em escalas e conversando com IA:

• Quão feliz você está hoje?
• Quão estressado você está?
• Quão calmo você se sente?

Seus cliques viram estes gráficos:

O que acontece quando autoconhecimento vira tarefa quantificável.

Esses números parecem objetivos. Mas olhe com atenção: 72% de calma e 98% de estresse, simultaneamente. Como isso é possível?

Os gráficos não explicam. Eles apenas registram que você clicou em botões. Você apertou “7 em calma” em um dia, “9 em estresse” em outro (ou no mesmo dia), e o sistema transformou seus cliques em barras.

O problema é que cliques não carregam contexto. Você declarou estar calmo e estressado ao mesmo tempo. Por quê? O app não sabe. Não pode saber. Você só clicou.

­

B: Conversas abertas com IA

Todos os dias, você conversa abertamente com IA sobre o que está na sua cabeça. Sem escalas. Sem categorias pré-definidas. Apenas fala.

Ao longo da semana, a IA identifica padrões nas suas próprias palavras:

“Pedro, essa semana você voltou algumas vezes ao mesmo assunto: quer começar um projeto novo, mas fica travado esperando ter clareza total antes de dar o primeiro passo.

O que é interessante é como isso aparece no seu corpo e na sua rotina. Você está calmo — no sentido de que não está ativamente tentando resolver agora. Mas o estresse continua alto porque a ideia não sai da sua cabeça, ela fica ali ocupando espaço mental mesmo quando você não está trabalhando nela.

Parece que você construiu uma proteção: só agir quando tiver mapeado o caminho inteiro. Mas isso acaba sendo um jeito de adiar indefinidamente.”

­

Viu a diferença?

Os gráficos mostram a contradição (calma + estresse). A narrativa explica por que ela existe.

No primeiro caso, você foi forçado a simplificar estados complexos em números. Mas a vida interior não cabe em cliques separados.

No segundo caso, você falou livremente. E a IA conectou: você está calmo porque desistiu temporariamente de resolver, mas estressado porque a questão não te deixa em paz. A contradição é a própria experiência.

A narrativa tem uma vantagem humana essencial: ela permite habitar o paradoxo.

Em um gráfico de barras, você precisa escolher um ponto. Na narrativa, você pode sustentar duas verdades contraditórias ao mesmo tempo: você pode amar alguém e, simultaneamente, sentir ressentimento. Pode desejar o sucesso e ter pavor dele. Pode sentir que está evoluindo enquanto lida com uma recaída.

­

A IA como motor da narrativa

Mas como projetar uma interface que comporte essa complexidade? Interfaces tradicionais, feitas de botões, sliders e menus, foram desenhadas para a precisão, não para o paradoxo. Elas nos forçam a escolher uma opção, a clicar em um estado, a simplificar a resposta.

É aqui que a IA generativa entra, não como uma funcionalidade, mas como **o próprio material de design**. Por ser baseada em linguagem, ela é a primeira tecnologia capaz de processar e devolver narrativa em escala.

No entanto, trocar números por palavras traz um novo desafio de design: como dar forma ao que é fluido?

A linha não captura o mar. A métrica não captura a experiência.

Estrutura sem pontuação

Abandonar métricas não significa abandonar estrutura. O maior inimigo da profundidade em um chat com IA é não saber por onde começar.

Muitas vezes, sabemos que queremos conversar, mas o território da mente é vasto demais e a abertura da conversa, por si só, intimida.

A primeira decisão necessária é garantir que o contato inicial seja um convite ao mergulho. Existe uma diferença abismal entre:

“Como foi seu dia?” e “Que medo te impede de viver a vida que você quer?”.

A primeira você responde no automático. A segunda te faz parar; a segunda é um momento de reflexão.

­

Diálogo como forma

A estrutura pode funcionar através de conversas guiadas. A IA faz perguntas de reflexão: sobre valores, medos, relações, memórias, e investiga as respostas com o usuário. É um diálogo aberto onde cada resposta abre novos territórios.

Foi ao estruturar essas conversas que o próximo desafio ficou claro. Retirar métricas eliminou um problema, mas expôs outro: nem toda profundidade é igual.

Existe diferença entre perguntar:

• “Que medo te impede de viver a vida que você quer?”, e
• “Que morte te mudou para sempre?”

A primeira é profunda, mas aberta, você escolhe o quanto revelar. A segunda não dá margem: ou você entra no território ou não responde.

Biblioteca de reflexões e desbloqueio progressivo.

A ética do desbloqueio progressivo

Estruturar essas conversas exige o que pode ser chamado de ‘Ética de Desbloqueio’. É como ensinar alguém a mergulhar: você não joga a pessoa direto no fundo do oceano. Primeiro você ensina a respirar na superfície, depois em águas rasas, só então em profundidade.

Algumas perguntas lidam com território pesado — luto, trauma, memórias dolorosas. Não se pode jogar alguém ali sem contexto prévio. É reconhecer que algumas conversas exigem preparação antes de aprofundar.

Por que essa progressão funciona? A lógica tem duas razões, uma técnica e outra ética:

Razão técnica: a IA funciona por contexto. Perguntar sobre luto na primeira conversa só gera respostas genéricas. Mas se a IA já sabe que você perdeu o pai recentemente, tem dificuldade em chorar em público, carrega culpa por não ter estado presente, aí a conversa muda de território. A reflexão deixa de ser sobre “o luto em geral” e passa a ser sobre esse luto específico, dessa pessoa específica.

A idéia é primeiro trazer perguntas mais leves: valores, rotinas, relações, porque a IA precisa entender como você pensa e se expressa antes de te convidar para territórios onde a vulnerabilidade não é opcional.

­

Compensar a cegueira técnica

Razão ética: O desbloqueio progressivo não é um excesso de zelo, mas uma resposta ao fato de que a IA é tecnicamente cega para sinais humanos básicos. Ela opera em um vácuo sensorial:

• Não vê microexpressões
• Não sente hesitação na voz
• Não percebe quando alguém está se forçando a continuar
• Não identifica dissociação em tempo real

Um psicoterapeuta experiente pode abordar um trauma diretamente porque possui “sensores” biológicos treinados para ler o momento de recuar. Ele nota a tensão corporal ou o silêncio que se prolonga por um segundo a mais. A IA não tem acesso a essa camada da realidade.

Por isso, avisos explícitos antes de perguntas profundas não servem para blindar adultos de “conteúdo sensível”. Eles servem para compensar uma deficiência técnica: a ferramenta não consegue ler a sala.

Ao emitir o aviso, o design transfere a decisão para quem realmente possui todos os dados contextuais: o usuário. É o reconhecimento de um limite técnico, não uma postura moral sobre a fragilidade humana.

Quando a ferramenta não consegue ler a sala, a decisão retorna para quem pode: você.

Reconhecimento em vez de pontuação

O desbloqueio progressivo dá tempo. Tempo para a IA construir contexto, tempo para o usuário construir confiança, tempo para ambos saberem se estão prontos.

E, quando há contexto suficiente, a IA pode devolver reconhecimento em vez de pontuação. Em lugar de gráficos de ‘evolução emocional’, oferece espelhamento:

“Você aprendeu a não depender. Essa força te protegeu, mas também te ensinou a pedir menos do que sente. Você virou a pessoa que todos procuram — e isso reforça a ideia de que você não pode precisar de ninguém. Será que você acredita que o seu único valor é ser útil?”

Números desaparecem. Fica o reconhecimento.

­

Os limites do próprio design

Mas o contexto não elimina o risco, apenas o modula. O grande perigo da IA é que ela é uma **fábrica de coerência**. Ela colhe fragmentos e constrói uma narrativa tão convincente que você pode aceitar interpretações simplesmente porque soam plausíveis.

E a narrativa pode virar um loop tanto quanto a métrica. A diferença entre uma reflexão que abre território novo e uma ruminação que cava o mesmo buraco mais fundo é sutil até para psicólogos experientes. Se profissionais treinados precisam de múltiplos sinais contextuais para fazer essa distinção, esperar que um algoritmo o faça de forma confiável é presumir a simplificação do que é inerentemente complexo.

­

O erro humano vs. o erro algorítmico

É claro que terapeutas humanos também erram e projetam. A diferença crucial, contudo, não está na infalibilidade, mas no loop de feedback.

• O termômetro biológico: O profissional tem o corpo e a reação imediata do paciente como sinais para recuar diante de uma interpretação equivocada.
• A cegueira do texto: A IA só tem o caractere. No silêncio do usuário, o algoritmo não lê uma hesitação dolorosa; ele lê apenas uma oportunidade estatística para continuar escrevendo.

Se a narrativa é um possível remédio para a **angústia da insuficiência e para a nossa obsessão em transformar a vida em um experimento permanente**, ela traz consigo o seu próprio efeito colateral: o risco da simulação.

Isso nos coloca diante de um dilema de interface que nenhum gráfico de barras precisou enfrentar:

Como calibrar a linguagem da IA para que ela facilite a reflexão sem performar uma intimidade que ela não possui?

Na névoa da simulação, intimidade e performance se tornam indistinguíveis.

A linha entre proximidade e simulação

Projetar interfaces de autoconhecimento exige entender o mercado que já existe.

Em 2023, o Surgeon General dos EUA declarou solidão como epidemia de saúde pública. Character.AI e Replika explodiram oferecendo “relacionamento sem as complicações de pessoas reais.” A proposta é explícita: evite o risco do atrito humano, consuma presença sob demanda.

O problema surge quando a IA performa um afeto que não possui:

“sinto sua falta”, “te entendo profundamente”, “estou aqui para você sempre.”

Essa presença fabricada funciona como um analgésico: ela mascara o desconforto da solidão, mas não oferece o alimento da conexão real.

­

O ciclo que se autoalimenta

E quanto melhor for a simulação desses sentimentos, menor o incentivo para enfrentar o contraditório nas relações humanas. O ciclo se autoalimenta: pessoas cada vez mais isoladas, consumindo doses maiores de companhia algorítmica, que as isolam ainda mais.

A distinção entre tom e simulação é inegociável.

Existe uma linha clara entre o tom e a intenção. Projetar uma IA acolhedora é uma escolha técnica para ajudar quem reflete. Já uma IA que declara sentimentos está apenas fingindo uma vida interior. Em um caso temos utilidade; no outro, apenas um teatro emocional.

Pode parecer um detalhe de linguagem, mas é aqui que o design deixa de servir ao usuário e passa a explorá-lo.

­

Por que construir isso?

Até aqui, apresentei crítica (métricas destroem autoconhecimento) e proposta (narrativa como alternativa). Mas a pergunta óbvia permanece: dada a complexidade e os riscos envolvidos, por que construir isso?

Porque reflexão guiada tem valor intrínseco.

O propósito aqui é o desenvolvimento de uma prática que altera a forma como nos relacionamos com o que vivemos. Confrontar perguntas profundas regularmente muda como nós habitamos nossa vida interior — onde a beleza do processo está na coragem de sustentar respostas incompletas e o incômodo que elas trazem.

­

O princípio socrático aplicado ao contemporâneo

Isso não é novidade. É princípio socrático aplicado a contexto contemporâneo. Sócrates não entregava respostas corretas. Ele fazia perguntas que obrigavam o interlocutor a examinar as próprias crenças. O valor estava no processo dialético, não na conclusão definitiva. O “saber que não se sabe” já era ganho filosófico.

A diferença entre apps de otimização e ferramentas de reflexão está exatamente aqui: otimização vende resultado externo mensurável (“você vai dormir melhor”, “vai ser mais produtivo”). Reflexão oferece mudança interna na relação com a própria experiência, que não é mensurável e não é promessa, é possibilidade.

Uma pessoa pode usar uma ferramenta de autoconhecimento e não “melhorar” em nada externo. Mas há ganhos reais.

O primeiro é criar espaço para pensar. Muitas pessoas vivem resolvendo o imediato — próximo prazo, próximo problema, próxima obrigação. Nunca param para perguntar: o que realmente valorizo? O que quero além do que devo fazer? Que vida estou construindo enquanto apago incêndios? Quem sou eu?

Reflexão regular muda isso. Você começa a acessar território interior que estava negligenciado.Muita gente nunca soube o que realmente queria porque nunca parou para perguntar. Com o tempo, surgem ganhos mais sutis: capacidade de habitar contradição, sustentar incerteza sem colapsar em simplificação, reconhecer padrões antes invisíveis.

Nada disso aparece em métrica, mas tudo isso é ganho real.

Conhecer padrões antes invisíveis — o tipo de ganho que nenhuma métrica captura.

A urgência: isso já está acontecendo

Enquanto escrevo isto, milhões de pessoas abrem ChatGPT, Claude, Gemini e despejam: “Meu casamento está acabando.” “Meu pai morreu e não sei lidar.” “Tenho pensamentos que me assustam há semanas.”

E o modelo responde. Claro que responde. Com lista de 8 passos. Com tom de autoridade. Com recomendações diretas sobre o que fazer com sua vida.

Sem progressão. Sem contexto. Sem avisos. Sem estrutura que diferencie reflexão produtiva de ruminação destrutiva.

A IA como espaço de reflexão pessoal profunda já é realidade de mercado. A diferença é que está acontecendo de forma completamente desestruturada, com ferramentas genéricas que performam autoridade sem ter as proteções mínimas que o território exige.

­

A pergunta mudou

A pergunta não é mais: “Devemos usar IA para autoconhecimento?”. Essa pergunta já foi respondida por uso massivo.

A pergunta real é:

“Como projetar essa mediação de forma que respeite complexidade humana em vez de reduzi-la?”

Não construir alternativa mais cuidadosa não impede o fenômeno. Apenas garante que a única opção disponível seja a pior versão dele.

Educação tem valor mesmo com professores imperfeitos. Literatura tem valor mesmo com livros que contêm ideias perigosas. O acesso ao pensamento profundo supera riscos individuais, se houver responsabilidade estrutural sobre como esse acesso é mediado.

­

Design como ética aplicada

Por isso, as escolhas de design não são ornamentais. São o que separa reflexão produtiva de ruminação danosa.

• O contexto progressivo minimiza a alucinação narrativa.
• A transparência sobre a origem das interpretações permite a discordância ativa.
• A detecção de padrões cria pontos de interrupção necessários.
• E os limites claros: o reconhecimento de que a ferramenta não substitui a rede de suporte humana — evitam a dependência nociva.

A questão não é “a ferramenta é perfeita?”. Nenhuma é. A questão é: “o valor fundamental justifica os riscos estruturais, se estes forem gerenciados conscientemente?”

Minha resposta é sim. Reconhecer esse valor exige enfrentar os riscos diretamente.

­

O papel do designer na era LUI (Language User Interface)

Se a narrativa vai realmente definir as interfaces nos próximos anos, os designers precisam entender os limites entre a narrativa que liberta e a que aprisiona.

A tecnologia pode até ser neutra em sua essência técnica, mas o design nunca é. A diferença emerge de quando escolhemos usar cada abordagem e de quem detém o controle sobre a interpretação. Toda tecnologia poderosa carrega ambivalência: pode ser usada para efeitos transformadores ou para fins de ética questionável. A questão não é se a ferramenta pode ser mal usada, mas se estamos fazendo essa avaliação de forma consciente antes que o padrão de uso já esteja estabelecido.

Diante da lei

Existe uma parábola de Kafka que continua voltando à minha mente enquanto penso sobre isso:

Um homem chega à porta da Lei. Ele quer entrar. Mas há um guarda ali, e o guarda diz: “Ainda não.”

A porta está aberta. O homem pode ver através dela. Mas o guarda disse: “não.”

­

Então ele senta. E espera.

Ele espera como se a palavra em si fosse um muro.

Anos passam. Sua barba cresce. Suas costas curvam. Sua visão desaparece. Mas ele fica ali, esperando que alguém lhe diga: “Agora você pode entrar.”

­

Antes de morrer, ele pergunta ao guarda: “Por que ninguém mais tentou entrar?”

O guarda responde: “Esta porta foi feita apenas para você. Agora vou fechá-la.”

Atravessar com os olhos abertos

Projetar na era LUI — seja uma ferramenta de autoconhecimento ou qualquer outra que ouse tocar a complexidade humana — é atravessar uma porta como essa.

Do outro lado, vislumbramos o que é possível: ferramentas que facilitam a reflexão sem corrompê-la, que ajudam a pensar sem pensar por você.

Mas o guarda está ali.

E a revelação mais dura é que, em última análise, o guarda sempre fomos nós. O guarda é feito do nosso medo, da dúvida e da necessidade de certeza. Ele usa os riscos reais — alucinação narrativa, ruminação destrutiva, simulação de intimidade — como argumentos para a nossa imobilidade. Ele aponta para o abismo e diz:

“Ainda não. Você precisa ter todas as respostas primeiro.”

A gente se torna o guardião dos próprios limites.

É tentador esperar. Esperar até que a tecnologia seja perfeita, até que todos os riscos estejam mapeados e neutralizados. Mas essa porta não espera para sempre.

Como designers e criativos, somos os arquitetos dessa mediação. Se ficarmos paralisados esperando a certeza, alguém estará, neste exato momento, construindo ferramentas que transformam intimidade em dado e vulnerabilidade em métrica de engajamento.

Não se trata apenas de produtos ruins no mercado, é a normalização de que seus pensamentos não filtrados, seu processo criativo, suas dúvidas existenciais, acontecem sob vigilância corporativa permanente. E quando essa infraestrutura estiver estabelecida, será tarde demais para perguntar se deveríamos ter construído diferente.

A porta se fechará porque permitimos que o nosso medo decidisse o nosso tempo, enquanto o mundo tomava suas próprias decisões sem a nossa presença.

A parábola termina com um aviso:

“Esta porta foi feita apenas para você”.

Minha porta é a construção de ferramentas para o autoconhecimento. A sua pode ser outra. Mas se não atravessarmos nossas próprias portas, ninguém mais o fará por nós.

Então eu atravesso.

Faço isso sabendo que pode dar errado, que vou cometer erros imprevisíveis e que não tenho todas as respostas. Mas atravesso de olhos abertos: consciente dos riscos, comprometido em questionar cada decisão e com a humildade de admitir quando falhar.

Esperar certeza é vestir paralisia com roupas de prudência.

Para continuar o diálogo

Obrigado por me acompanhar nesta reflexão. Este texto é parte de uma investigação contínua sobre design, IA e narrativa que transborda para a prática no meu estúdio e nas ferramentas que construo. Se as ideias ressoaram, adoraria continuar a conversa.

Onde me encontrar: Pedro Brêtas** **and pedro@reinostudio.com

Projetos: *Reino Studio e Fale com Amia*

Referências e leituras complementares

I. Psicologia narrativa e o “Eu”

A fundamentação da narrativa como ferramenta de integração da identidade e a distinção crítica entre reflexão produtiva e loops de ruminação.

• McADAMS, Dan P. Narrative Identity: What Is It? What Does It Do? How Do You Measure It? — Publicado na Imagination, Cognition and Personality, este artigo seminal define a identidade narrativa como o projeto autobiográfico que confere propósito e unidade à vida humana.
• MICHL, Louisa C.; McLAUGHLIN, Katie A. et al. Rumination as a Mechanism Linking Stressful Life Events to Symptoms of Depression and Anxiety — Estudo longitudinal da Harvard Medical School que detalha como a ruminação atua como um mecanismo de “loop” destrutivo em resposta ao estresse.

­

II. Design e a evolução das interfaces (LUI)

A transição do paradigma de botões (GUI) para a intenção através da linguagem e o impacto do automonitoramento constante.

• NIELSEN, Jakob. 2025 Year in Review: Themes, Trends, and the Death of GUI — Onde o “pai da usabilidade” discute a migração para a Language User Interface como o novo paradigma dominante de interação.
• LUPTON, Deborah. Self-tracking, health and medicine: Sociological Perspectives — Uma análise sobre como a prática do “Quantified Self” transforma a existência em um experimento permanente de dados e vigilância.

­

III. Crítica às métricas e a condição Humana

Fontes que sustentam a tese de que a obsessão por medir a performance emocional gera esgotamento e um sentimento de insuficiência.

• MULLER, Jerry Z. The Tyranny of Metrics — Obra publicada pela Princeton University Press que explora como a fixação em indicadores quantitativos corrompe os objetivos que eles pretendem medir.
• EHRENBERG, Alain. The Weariness of the Self — Uma análise sociológica sobre a “angústia da insuficiência” e como a depressão contemporânea está ligada à pressão de ser o autor e o executor da própria performance.
• OFFICE OF THE SURGEON GENERAL. Our Epidemic of Loneliness and Isolation — Relatório oficial do governo dos EUA (2023) sobre o impacto da solidão na saúde pública, contexto essencial para o surgimento de companheiros de IA.

­

IV. Literatura e metafísica

• NAILS, Debra. Socrates (Stanford Encyclopedia of Philosophy) — Uma referência rigorosa sobre a maiêutica socrática e o exame da vida como princípio de autoconhecimento.
• KAFKA, Franz. Before the Law (Diante da Lei) — Texto integral disponível através do The Kafka Project da San Diego State University.