Em uma reunião de diretoria, algo me incomodou mais do que qualquer número apresentado no relatório: ninguém discordou de nada. O material havia sido preparado com apoio de inteligência artificial. Todos confiavam na ferramenta. A discussão que normalmente levaria quarenta minutos terminou em oito. Ninguém questionou a premissa, pediu acesso ao dado bruto ou perguntou o que o modelo poderia estar deixando de fora. A reunião foi rápida, eficiente e, no fim, vazia de pensamento.
Um estudo da Microsoft Research em parceria com a Carnegie Mellon University ajuda a explicar o que aconteceu naquela sala. Os pesquisadores ouviram 319 profissionais do conhecimento e analisaram 936 exemplos reais de uso de IA no trabalho. A conclusão não é que a IA elimina o pensamento crítico, mas que ela pode reduzir o esforço dedicado a ele, sobretudo quando a tarefa parece simples, rotineira ou de baixo risco.
O achado mais relevante é outro: maior confiança na
IA esteve associada a menor engajamento crítico, enquanto maior confiança na
própria capacidade esteve associada a mais avaliação, revisão e questionamento
das respostas geradas. Microsoft
Research e Carnegie Mellon University
O que a confiança na IA está silenciando
Confiança na ferramenta e confiança na própria capacidade disputam o mesmo espaço mental. E, com frequência, a segunda perde. Quanto mais um time acredita que a IA “provavelmente acertou”, menos energia dedica a verificar se ela acertou de fato. O problema não aparece nas tarefas em que o erro é evidente. Aparece nas situações aparentemente banais, exatamente onde grande parte das decisões corporativas acontece: a estimativa que sustenta o orçamento, o resumo que orienta uma decisão de investimento, a análise de concorrência que ninguém tem tempo de refazer do zero.
É nesse ponto que a conveniência se torna perigosa. Não porque a IA esteja necessariamente errada, mas porque a velocidade da resposta pode criar uma falsa sensação de encerramento. A resposta chegou. Logo, o pensamento terminou. Não terminou.
O que estamos vendo não é um problema restrito a estudantes ou profissionais em início de carreira. É o mesmo mecanismo que pode se repetir em salas de diretoria, comitês de investimento e conselhos de administração: delegamos à máquina a etapa mais desconfortável do trabalho, que é duvidar, e preservamos para nós a etapa mais confortável, que é concordar.
Há pesquisas em educação que descrevem esse risco
como dependência epistêmica, quando o usuário passa a transferir gradualmente à
ferramenta a responsabilidade de avaliar, comparar e formar juízo. O ponto não
é condenar o uso da IA, mas compreender que eficiência sem criticidade pode
produzir dependência, e não capacidade. AI and
Society
O risco não é a IA pensar por nós
O risco é deixarmos de perceber quando paramos de
pensar.
Uma empresa não quebra porque um relatório gerado por IA errou uma vez. Ela se fragiliza quando, ao longo de dois ou três anos, o hábito de questionar premissas é silenciosamente substituído pelo hábito de aceitar respostas rápidas, e ninguém trata isso como um risco de governança.
Hoje, a maioria dos comitês de risco já audita segurança de dados, viés algorítmico e conformidade regulatória. Poucos se perguntam se as pessoas que tomam decisões ainda estão exercitando, de fato, a capacidade de analisar, contestar e decidir.
Esse deveria ser um tema de conselho. As empresas que lidarão melhor com esse desafio não serão as que proíbem ou restringem o uso de IA. Serão as que introduzem, deliberadamente, algum atrito no processo decisório.
Alguém formalmente designado para discordar antes de uma decisão ser fechada. Uma pergunta obrigatória sobre o que o modelo pode estar deixando de fora. Um momento em que o time precisa chegar à mesma conclusão por um caminho diferente daquele sugerido pela ferramenta.
Não se trata de desconfiar da tecnologia. Trata-se de proteger o músculo que a tecnologia pode enfraquecer quando a conveniência substitui o julgamento. Quando foi a última vez que sua equipe discordou de um relatório gerado por IA, não porque encontrou um erro evidente, mas porque decidiu pensar por conta própria antes de aceitar a resposta?
Se essa lembrança não vier rapidamente, talvez sua
organização já esteja pensando menos do que imagina.
Andrey Abreu - Conselheiro, mentor de líderes e organizações, palestrante e especialista em estratégia, inovação e transformação empresarial. Há 25 anos atua em empresas de base tecnológica, apoiando executivos e times de liderança na tomada de decisões em contextos de mudança, crescimento e alta complexidade. Atualmente, é COO da Softplan, uma das principais empresas de tecnologia para transformação digital de governo no Brasil. Também é autor do best-seller Além do Agora: A reinvenção do futuro, obra que estimula consciência e protagonismo em tempos acelerados, transformando complexidade em clareza e ação. Seu trabalho é dedicado a ajudar líderes e organizações a navegar pelas incertezas do futuro de forma simples, eficaz e humana, conectando governança, inovação e propósito.
Site: Link
LinkedIn: Link
Instagram: Link
E-mail: contato@andreyabreu.com.br
Nenhum comentário:
Postar um comentário