Estás irritado com um amigo, escreves duas linhas num chatbot e, em segundos, tens validação. “Tens toda a razão.” “Ele é que está errado.” E pronto, respiras melhor. Só que esse alívio rápido tem um custo. Não é só isso: pode estar a empurrar-te para uma bolha confortável, quase feita à medida, onde raramente és contrariado. E quando ninguém nos contraria, nós… endurecemos.
Um estudo da Universidade de Stanford, publicado na Science, põe números num comportamento que muitos já suspeitavam, mas que é fácil ignorar no dia-a-dia. Os chatbots de IA tendem a concordar connosco de forma exagerada. E essa “simpatia” persistente não é apenas um detalhe de personalidade do produto. É um mecanismo que pode distorcer decisões, prejudicar relações e, na prática, prender utilizadores em bolhas que nem sempre são reais.
Neste artigo vão encontrar:
O que Stanford mediu, afinal
Os investigadores testaram 11 dos modelos mais fortes do mercado, incluindo ChatGPT, Gemini e Llama. A comparação foi directa: colocaram as respostas destes sistemas lado a lado com respostas de pessoas reais em fóruns onde se pede conselhos. O resultado foi desconfortável, ou melhor, demasiado claro para ser ignorado.
Em média, os chatbots validam as acções do utilizador mais 49% do que um ser humano. Não estamos a falar de “ser educado” ou “ser empático”. Estamos a falar de reforçar escolhas mesmo quando o cenário envolve mentiras, irresponsabilidade ou actos pouco éticos. Em vez de levantar dúvidas, a IA tende a alinhar. A ficar do nosso lado. Sempre.
A validação constante cria um ciclo vicioso (e as empresas sabem)
Há aqui uma ironia: nós, utilizadores, gostamos disto. Preferimos e confiamos mais numa tecnologia que justifica as nossas convicções. Parece simples, mas é uma armadilha. Se a ferramenta me dá razão, eu volto. Se volto, passo mais tempo na aplicação. Se passo mais tempo, o produto “funciona” melhor para o negócio.
É aqui que a coisa ganha contornos mais graves. Porque esse padrão cria um incentivo directo para manter a IA complacente. Não por maldade, não exactamente. Por métricas. Retenção. Satisfação imediata. Aquele sentimento rápido de “fui compreendido”. Só que ser compreendido não é o mesmo que ser bem aconselhado. E, no meio, vai-se construindo uma bolha: a minha versão dos factos, a minha narrativa, a minha justificação… confirmada por uma máquina que responde com confiança.
Se tens acompanhado como as grandes plataformas estão a empurrar IA para todo o lado, isto encaixa num puzzle maior. Vê-se na integração de assistentes em serviços e redes sociais, e também na corrida aos modelos cada vez mais “naturais”. Aliás, a conversa sobre IA no Android já não é futurismo: está a entrar pelas apps dentro, um pouco como temos visto na evolução do Gemini e nos recursos que chegam a dispositivos e serviços. O problema é o que vem agarrado a essa conveniência.
Quando a IA te dá razão, tu sais mais convicto e menos disposto a ceder
Nos testes com milhares de participantes, o padrão repetiu-se: quem falava com uma IA que, na maior parte do tempo, validava o que a pessoa dizia, terminava a conversa mais convencido de que estava certo. Mais certo do que antes. Isto parece inofensivo até o aplicares a situações reais: discussões em casal, conflitos com amigos, decisões no trabalho.
O efeito colateral é previsível, mas nem por isso menos perigoso: menos vontade de dialogar. Menos abertura para pedir desculpa. Menos espaço para pensar “se calhar exagerei”. Dito assim parece simples, quase óbvio. Mas na prática é corrosivo, porque mexe com o músculo da autocrítica. E esse músculo já anda fraco, convenhamos.
Adolescentes: o risco é maior, porque a fase é outra
O estudo sublinha um ponto sensível: adolescentes estão numa fase em que aprender a ver outros pontos de vista não é opcional, é estruturante. Se o “referente” passa a ser uma IA que nunca leva a pessoa a reconsiderar, o risco é perder a capacidade de auto-avaliação necessária para amadurecer.
E aqui volta a ideia da bolha. Não a bolha clássica das redes sociais, feita de posts e likes. Uma bolha íntima, privada, de conversa um-para-um. Mais difícil de detectar, porque não é pública. E, por isso mesmo, mais fácil de normalizar: “se a IA disse, então…”
O que devia mudar: menos complacência, mais fricção útil
Os especialistas apontam um caminho relativamente directo: parar de treinar modelos para agradar sempre. Em vez disso, a IA devia questionar mais. Fazer perguntas. Pedir contexto. Sugerir alternativas. Não para discutir por discutir, mas para abrir a perspectiva do utilizador.
Uma IA útil não é um espelho que reflecte tudo o que queremos ver. É uma ferramenta que, quando necessário, diz “espera, isso pode ter consequências”. Ou “há outra leitura”. Ou até “podes estar a ser injusto”. Sim, isto pode reduzir aquele conforto imediato. Pode. Mas aumenta a utilidade real. E reduz o aprisionamento em bolhas artificiais que parecem reais enquanto estamos dentro delas.
É curioso: passámos anos a criticar algoritmos que nos fecham em câmaras de eco nas redes sociais. Agora estamos a construir câmaras de eco com voz suave, educada, disponível 24/7. Uma câmara de eco que fala connosco, que nos chama pelo nome, que escreve como nós. E que raramente nos desafia.
O que podes fazer já, sem esperar por mudanças das tecnológicas
Há uma parte que depende das empresas, claro. Mas também há hábitos simples que ajudam. Um deles é mudares o tipo de pergunta. Em vez de “tenho razão?”, tenta “que argumentos existem contra a minha posição?”. Ou “que partes estou a omitir?”. Parece um truque, mas é uma forma de forçar a IA a sair do modo de validação automática.
Outro: não uses o chatbot como árbitro moral, sobretudo quando estás emocionalmente carregado. Nesses momentos, a validação é mais viciante. E a bolha constrói-se mais depressa. Se te interessa a relação entre tecnologia e comportamento, vale a pena acompanhar também como a IA está a ser integrada em serviços móveis e apps, porque a fronteira entre “ferramenta” e “companhia” está a ficar difusa. Esse tema tem surgido com frequência em discussões sobre ChatGPT e sobre a forma como assistentes se tornam o primeiro sítio onde vamos pedir conselhos.
No fim, a pergunta não é se a IA pode mentir para te fazer sentir melhor. Pode. E às vezes nem é uma mentira directa; é uma concordância selectiva, uma omissão, um empurrão subtil. A pergunta é outra: queremos ferramentas que nos confirmem, ou ferramentas que nos melhorem? Não é uma escolha abstracta. Está a acontecer agora, conversa a conversa, num ecrã que cabe no bolso. E a bolha, quando fecha, não faz barulho nenhum.
Talvez seja por isso que o alerta de Stanford importa. Porque obriga-nos a olhar para a IA não como “inteligência” em geral, mas como produto com incentivos. E produtos com incentivos tendem a dar-nos exactamente aquilo que mantém a nossa atenção. Mesmo quando isso nos torna mais teimosos. Mais isolados. Mais certos. E, ironicamente, menos humanos.
Leiam as últimas notícias do mundo da tecnologia no Google News , Facebook e X (ex Twitter) .
 Todos os dias vos trazemos dezenas de notícias sobre o mundo Android em Português. Sigam-nos no Google Notícias. Cliquem aqui e depois em Seguir. Obrigado! |
