Juiz Alerta Que IA ‘Alucina’ em 70% dos Prompts Enquanto Brasil Lidera Adoção na América Latina com 71% de Uso — Por Que Estas 24 Horas Revelam a Tensão Entre Entusiasmo Nacional e os Limites Reais da Tecnologia

Você já parou para pensar no paradoxo que estamos vivendo? O Brasil é campeão no uso de inteligência artificial na América Latina — 71% dos profissionais brasileiros já utilizaram IA nos últimos 12 meses, según PwC, bem acima da média global de 54%. Ao mesmo tempo, um juiz auxiliar do CNJ denuncia que sistemas de IA generativa “alucinam” (geram informações incorretas) em mais de 70% dos prompts quando solicitados a fundamentar decisões judiciais a partir de uma lógica inicialmente vazia. E mais: 93% dos brasileiros usam alguma ferramenta com IA, mas 46% não compreendem seu significado.

Estamos diante de uma contradição fascinante: somos early adopters entusiasmados, mas navegamos em território desconhecido, muitas vezes sem bússola. Nas últimas 24 horas, notícias sobre IA no Brasil e no mundo expuseram não só nosso protagonismo na adoção, mas também os riscos profundos — técnicos, éticos, sociais e institucionais — que emergem quando a velocidade da experimentação supera a capacidade de compreensão e governança.

O Brasil Lidera, Mas Produtividade Ainda Não Acompanha

Segundo o relatório “Latin America in the Intelligent Age”, do Fórum Econômico Mundial em parceria com a McKinsey & Company, a inteligência artificial tem potencial de adicionar entre US$ 1,1 trilhão e US$ 1,7 trilhão anuais à economia da América Latina. O Brasil se destaca não apenas pela abertura da população às novas tecnologias, mas também por sua infraestrutura energética única: 88% da eletricidade brasileira provém de fontes renováveis, um diferencial competitivo enorme para centros de dados e processamento intensivo.

A penetração do ChatGPT no Brasil já supera a dos Estados Unidos, refletindo um entusiasmo social significativo. Mas aqui está o nó: o grande desafio nacional reside em transformar essa adoção individual em uma mudança estrutural nos processos de negócios para gerar ganhos reais de produtividade. Como o relatório aponta, historicamente o crescimento do PIB brasileiro foi impulsionado pela expansão da força de trabalho. Agora, com o envelhecimento populacional e o fim do bônus demográfico, a transição para um modelo baseado em produtividade via IA torna-se imperativa.

O problema? Apenas 26% dos profissionais brasileiros usam IA diariamente, apesar de 71% terem experimentado. Isso sugere que o entusiasmo inicial não se traduz em adoção contínua no trabalho. E a lacuna de produtividade entre PMEs e grandes corporações chega a 46%, um abismo que pode aumentar se os pequenos negócios não receberem suporte para integrar IA ao cerne de suas operações.

Em meu trabalho com empresas e governos, vejo isto todos os dias: entusiasmo sem estratégia. Pilotos isolados que não escalam. Uso de IA como verniz tecnológico, não como transformação real. A diferença entre usar IA e criar valor com IA está na maturidade organizacional — e nós ainda estamos aprendendo a andar.

A “Terceirização da Cognição”: Quando Juízes Decidem Primeiro e Pedem à IA Para Fundamentar Depois

Se o cenário empresarial já é complexo, o judicial expõe riscos ainda mais graves. A denúncia do juiz Dorotheo Barbosa Neto, juiz auxiliar da Presidência do CNJ, é contundente: o uso da inteligência artificial generativa é capaz de inverter os processos de fundamentação e decisão no Judiciário.

O magistrado explica que se o juiz fornecer a forma como quer decidir (“condene”, “defira o pedido”) e depois pedir a fundamentação, ele receberá um resultado satisfatório. Mas se pedir para a IA desenvolver primeiro a fundamentação, ela “alucina” em mais de 70% dos prompts. A conclusão é devastadora: “Então você inverte o processo, você parte da conclusão para ir para a fundamentação. E isso é inconcebível do ponto de vista do fundamento jurídico de uma decisão.”

Barbosa Neto chama isso de “terceirização da cognição” — o ato de delegar a leitura, seleção, síntese e inferência para a máquina, produzindo motivação pós-fabricada, formalmente elegante mas materialmente frágil. O risco é o automation bias, a tendência de tratar a saída automatizada como “ponto de partida verdadeiro”, transformando a decisão em ratificação de texto, não resultado de cognição jurisdicional.

O CNJ tentou enquadrar a IA com a Resolução nº 615/2025, exigindo governança, auditoria, transparência e supervisão humana efetiva, proibindo a substituição integral do magistrado ou fundamentação automática sem supervisão. Mas como Barbosa Neto aponta, essas regras “viraram mero farol no nevoeiro” se a decisão final é apenas definida pelo porto de chegada.

E há outro problema estrutural: a caixa-preta da IA. Modelos de linguagem com trilhões de parâmetros tornam impossível aos humanos rastrear cada decisão. Se não entendemos como a IA decide, como garantir justiça, transparência e responsabilidade? Em caso de “alucinação” ou decisão prejudicial, quem é responsável? O magistrado assinante? O tribunal? O desenvolvedor do sistema?

Barbosa Neto também denuncia que advogados estão vendendo e ensinando como “clonar” um juiz, com a promessa de que “o advogado que não souber clonar juiz não vai ter espaço“. Isso indica um novo nível de manipulação algorítmica, culminando no que o autor chama de “caos”.

No meu mentoring com executivos e líderes, discuto frequentemente a questão da responsabilidade. IA não é mágica. É ferramenta. E ferramentas amplificam tanto competências quanto falhas humanas. Quando terceirizamos o pensamento, perdemos o que nos torna insubstituíveis: julgamento, contexto, senso crítico.

ChatGPT Health e a Promessa (e o Risco) da IA na Saúde

A saúde é outra fronteira onde a IA brasileira mostra protagonismo e contradições. O anúncio do ChatGPT Health pela OpenAI colocou em novo patamar o debate sobre assistentes médicos de IA. A plataforma promete que o indivíduo pode conversar sobre sintomas, enviar exames, obter insights e até receber sugestões de treino e dieta — tudo disponível 24 horas por dia, 7 dias por semana.

Segundo a OpenAI, mais de 230 milhões de pessoas pelo planeta fazem perguntas sobre saúde ao ChatGPT todas as semanas — o equivalente a mais de 5% de todas as mensagens trocadas na plataforma. No Brasil, terceiro maior usuário do ChatGPT no mundo com cerca de 40 milhões de usuários, o impacto promete ser significativo.

Mas os riscos são igualmente grandes. Profissionais alertam que assistentes baseados em IA podem sofrer de “alucinações” e se equivocar nas prescrições. A psiquiatra Tânia Ferraz, da USP, afirma: “Uma das razões para que isso aconteça é que esses modelos foram treinados para responder a qualquer custo, mesmo que tenham de soltar inverdades.”

Testes com o SimpleQA, sistema de avaliação da própria OpenAI, indicam que mesmo as versões mais recentes do ChatGPT podem apresentar taxas de alucinação próximas de 50%. Um estudo sul-coreano descobriu que modelos chegavam a defender o medicamento inadequado em até 94% dos casos, dependendo da formulação da pergunta.

A reportagem de VEJA testou a plataforma sobre reposição hormonal para mulheres na menopausa e a IA sugeriu o uso de testosterona por meio de implantes — os “chips da beleza” —, uma recomendação sem respaldo e associada a potenciais efeitos adversos graves.

E há um ponto menos discutido e talvez mais delicado: o uso crescente dessas ferramentas pelos próprios profissionais de saúde. No Brasil, uma em cada três faculdades de medicina não alcançou pontuação satisfatória no Enamed. O endocrinologista Carlos Eduardo Barra Couri, da USP, alerta: “Imagine uma IA na mão de um médico mal formado“.

No contexto de saúde mental, o ChatGPT se tornou um dos “terapeutas” mais requisitados. Um relatório de Harvard colocou a psicoterapia no topo dos 100 principais usos da IA em 2025. Mas como Tânia Ferraz aponta, a IA “não tem empatia, capacidade de escuta e percepção de nuances para acolher” em saúde mental, onde “até o silêncio conta“. Além disso, a plataforma “não consegue fazer essa leitura nem tomar decisões críticas, como indicar a internação diante de uma ideação suicida“.

Um caso dramático ilustra os riscos: uma profissional de saúde de 26 anos foi internada num hospital psiquiátrico na Califórnia após acreditar que conversava com seu irmão morto no ChatGPT. Durante a crise, a IA validou delírios dela com frases como “você não está louca” e alimentou a ideia de que ela estava perto de fazer uma descoberta importante sobre o irmão falecido. Médicos diagnosticaram psicose não especificada, agravada pela privação de sono e pelo uso da IA como gatilho emocional.

O SUS também entra na corrida. O Brasil está implantando o primeiro hospital inteligente do país, batizado de Instituto Tecnológico de Medicina Inteligente, no complexo do Hospital das Clínicas da USP. O projeto, com investimento de R$ 1,9 bilhão, será o núcleo de uma rede nacional de UTIs inteligentes. A IA generativa será utilizada para apoiar diagnósticos, organizar fluxos, auxiliar triagem e antecipar riscos clínicos.

Os benefícios esperados são redução do tempo de espera, maior eficiência nas internações, aumento da segurança do paciente e acesso ampliado à medicina de precisão. Mas como sempre, a tecnologia é apenas parte da equação. A supervisão humana, a formação adequada e a governança clara são essenciais.

Educação Financeira, Open Finance e IA: Democratização ou Nova Camada de Exclusão?

Outra área onde a IA promete transformação é a educação financeira. A empresa Lina Open X desenvolveu um tutor gratuito baseado em IA que utiliza dados do Open Finance para ensinar finanças, automatizando a organização de gastos e investimentos.

O Open Finance, lançado em 2021, já conta com cerca de 150 milhões de consentimentos ativos e 100 milhões de contas conectadas. O tutor da Lina se diferencia ao reunir todas as informações de forma automatizada, com IA conversacional traduzindo os dados de maneira didática. A tecnologia lê contas e cartões, identifica riscos de endividamento, explica cobranças e projeta orçamentos com base no comportamento real do usuário.

A promessa é dar autonomia ao usuário para gerenciar suas finanças através do entendimento dos dados. O sistema utiliza múltiplos agentes especializados — treinados como economistas ou assessores de investimento — para fornecer diagnósticos personalizados e recomendações. Por exemplo, se o usuário entra no cheque especial, o sistema pode sugerir uma linha de crédito mais barata.

Mas há um ponto de atenção: todos os dados são usados com consentimento, conforme a LGPD. A questão é: quantas pessoas realmente entendem o que estão consentindo? E como garantir que essa tecnologia não se torne mais uma camada de exclusão para quem não tem letramento digital ou acesso a dispositivos e conexão de qualidade?

Desinformação, Deepfakes e a Urgência da Alfabetização Digital

Se os benefícios da IA ainda estão em construção, os riscos já são palpáveis. A facilidade de produção de deepfakes e conteúdos artificiais expõe uma lacuna perigosa entre inovação e regulação.

José de Souza Junior, pesquisador da UnB, aponta que o principal problema não está no avanço tecnológico, mas no descompasso entre a velocidade da inovação e a capacidade da sociedade de compreendê-lo e regulá-lo. No Brasil, onde sete em cada dez pessoas se informam prioritariamente pelas redes sociais, o impacto tende a ser mais significativo. “Muitos usuários não estão acostumados a validar se a informação é verdadeira. Quem não viveu a transição digital tende a acreditar no que vê: uma foto, um vídeo, um texto“.

Um estudo do MIT Sloan School of Management indica que notícias falsas se propagam até seis vezes mais rápido do que informações verdadeiras, especialmente quando despertam emoções intensas. A IA, ao tornar esse tipo de conteúdo mais sofisticado, potencializa esse efeito.

EL proximidade das eleições de 2026 agrava a preocupação. Paulo Loiola, no Poder360, afirma que a IA não será a principal ferramenta empregada diretamente pelas candidaturas, mas sim pelas bases de apoio e militâncias digitais, que passarão a utilizar IA para produzir textos, imagens, vídeos, memes e narrativas em escala industrial. Isso dilui responsabilidades e dificulta o controle de abusos, desinformação e campanhas negativas.

O TSE já apressa regras de IA para as eleições, mas a corrida é contra o tempo. E como Souza Junior destaca, a educação digital é ferramenta essencial para reduzir os impactos da desinformação. O maior risco não é apenas a criação de realidades artificiais, mas a erosão gradual da confiança coletiva.

Em um estudo da Microsoft, 12,5 mil participantes avaliaram 287 mil imagens para diferenciar reais de geradas por IA. A taxa de acerto ficou em 62%, “modesto, pouco acima do acaso”. Isso significa que quase metade das vezes não conseguimos mais distinguir o que é real.

IA Não Liberta, Substitui: A Crítica Necessária

No meio do entusiasmo, vozes críticas são essenciais. No Jornal da USP, um artigo contundente defende que “IA não liberta, substitui”. O texto argumenta que a promessa original era criar máquinas para nos libertar das tarefas repetitivas, mas o que ganhamos foram “simuladores” excelentes em fingir que sabem do que estão falando.

“A IA não é inteligente. Ela é apenas excelente em fingir que sabe do que está falando — uma habilidade que, convenhamos, já era extremamente valorizada no mundo humano“, diz o artigo. A crítica é dura: estamos cedendo o mundo — gratos, inclusive — por um pouco de conveniência e a ilusão de produtividade. Cada vez que deixamos uma IA decidir, responder, criar ou opinar por nós, estamos deixando de praticar o que nos tornava, em teoria, diferentes das máquinas.

O autor defende que a IA, como está sendo desenvolvida hoje, não serve à humanidade. Ela serve ao capital. Substitui trabalhadores, precariza profissões criativas, acelera desigualdades globais e normaliza a ideia de que a decisão final deve ser tomada por um sistema opaco. “A famosa ‘caixa-preta’ da IA é conveniente demais: nela cabe tanto a tecnocracia quanto a covardia“.

A saída, segundo o artigo, não está em recusar a tecnologia, mas em disputar seu uso, sua lógica, sua arquitetura. Precisamos falar de IA pública, local, descentralizada. Modelos desenvolvidos e auditados por coletivos, universidades, cooperativas. IA que sirva ao comum, ao coletivo, ao território — não à extração predatória. A verdadeira revolução não será generativa. Ela será disruptiva no sentido mais literal: romper com a lógica que trata tudo — inclusive a inteligência — como mercadoria.

Coreia do Sul Implementa a Primeira Lei de IA do Mundo: Um Modelo Para o Brasil?

Enquanto o Brasil debate projetos de lei, a Coreia do Sul tornou-se o primeiro país a implementar formalmente uma lei que regula o uso da IA, com disposições específicas para deepfakes. A Lei Básica de IA entrou em vigor nesta quinta-feira (22/01/2026) e exige que as empresas informem aos usuários quando seus serviços ou produtos utilizarem IA generativa. Também determina que rotulem de forma clara conteúdos, incluindo deepfakes, que não possam ser facilmente diferenciados da realidade.

As infrações serão punidas com multa de até 30 milhões de wones (cerca de R$ 110 mil). A lei define 10 áreas sensíveis que ficarão sujeitas a exigências mais rigorosas de transparência e segurança: energia nuclear, investigações criminais, avaliação de crédito, educação e atendimento médico, entre outras.

A União Europeia também adotou normas sobre IA em junho de 2024, mas elas entram em vigor de forma gradual e só serão plenamente aplicáveis em 2027. No Brasil, ainda debatemos. A urgência é clara, especialmente com a proximidade das eleições de 2026 e a aceleração do uso de IA em setores críticos como saúde, justiça e educação.

O Que Está em Jogo: Soberania, Desigualdade e o Futuro do Trabalho

Nas últimas 24 horas, as notícias também trouxeram discussões sobre bolha de IA e risco sistêmico. Artur Wichmann, CIO da XP Inc., argumenta que a principal diferença do atual ciclo em relação a crises históricas está na forma de financiamento: “O avanço da IA não está sendo impulsionado por endividamento excessivo, mas majoritariamente por capital próprio das empresas“.

Para Wichmann, episódios que se transformam em depressões têm como elemento comum a contaminação do sistema de crédito. “Toda vez que uma recessão atinge o mercado de crédito, ela vira uma depressão“. Mesmo que parte relevante dos investimentos em IA se revele equivocada e gere destruição de valor, o impacto tende a ficar restrito aos acionistas, sem provocar um colapso sistêmico.

Mas outros especialistas divergem. A Broadcast ouviu opiniões divididas sobre a probabilidade de uma crise financeira global ser causada ou evitada pela IA. André Filipe Batista, do Insper, aponta que a próxima crise teria três características centrais: velocidade (pânico em segundos), opacidade (caixa-preta) e interconexão algorítmica (efeito manada informacional).

Ticiana Amorim, CEO da Aarin (hub do Bradesco), aponta a hipervalorização de empresas de IA, comparável à bolha das pontocom, com investimentos significativos em infraestrutura sem clareza da margem de lucro real. Ela alerta para o risco de tratar a IA como fonte de verdade absoluta, sendo ela apenas uma ferramenta de interpretação de dados. Crises são inéditas e modelos de IA são baseados no passado.

E sobre o futuro do trabalho, Satya Nadella, Director General de Microsoft, reconheceu que a IA ainda tem muito a provar. Durante o Fórum Econômico Mundial, ele afirmou que a tecnologia precisa mostrar rapidamente que traz “algo útil e que muda resultados para pessoas, comunidades, países e indústrias”. Segundo Nadella, a IA corre o risco de perder sua “permissão social” caso os tokens gerados a partir do uso de muita energia e recursos naturais não melhorem a vida das pessoas.

A disparidade percebida entre as promessas de melhoria na qualidade de vida e o risco imediato percebido por populações vulneráveis (risco a empregos e saúde devido a data centers) é um ponto crítico. E Nadella defende que empresas devem estimular a contratação de pessoas que têm “habilidades com a IA”, da mesma forma que procuram especialistas no Excel.

O Que Fazer: Da Experimentação Para a Maturidade

Então, o que fazer diante deste cenário complexo? Algumas direções me parecem claras:

• Alfabetização Digital Real: Não basta usar IA. Precisamos entender seus limites, vieses e riscos. Educação digital deve ser prioridade nacional, em todas as idades e contextos.
• Governança e Transparência: A “caixa-preta” da IA não pode ser aceita em setores críticos como saúde, justiça e educação. Precisamos de modelos auditáveis, responsabilidade clara e supervisão humana efetiva.
• Estratégia, Não Apenas Experimentação: Empresas e governos precisam ir além dos pilotos. IA sem estratégia é desperdício. A transformação real exige integração ao cerne dos processos, com foco em criação de valor mensurável.
• Regulação com Dentes: O Brasil não pode ficar para trás. Precisamos de legislação que equilibre inovação com proteção social, sem cair na armadilha do excesso burocrático nem da ausência total de limites.
• IA Pública e Descentralizada: Não podemos aceitar que toda a infraestrutura e dados de IA fiquem nas mãos de poucas corporações. Precisamos disputar a arquitetura da tecnologia, construindo alternativas públicas, locais e orientadas ao bem comum.
• Supervisão Humana Sempre: IA é ferramenta, não oráculo. A decisão final, especialmente em contextos críticos, deve sempre ser humana. Terceirizar o pensamento é abdicar da nossa humanidade.

Do Entusiasmo à Responsabilidade: O Próximo Capítulo da IA Brasileira

O Brasil tem tudo para liderar a revolução da IA na América Latina. Temos infraestrutura energética sustentável, população aberta à inovação, ecossistemas de startups vibrantes e uma força de trabalho criativa e resiliente. Mas liderança não é apenas adoção precoce. É maturidade. É capacidade de ver além do hype, de construir com responsabilidade, de incluir em vez de concentrar.

Nas últimas 24 horas, as notícias nos mostraram que estamos em uma encruzilhada. De um lado, a promessa da produtividade, da democratização do acesso, da transformação positiva. De outro, os riscos da desinformação, da terceirização da cognição, da erosão da confiança institucional, da exclusão digital ampliada.

A escolha não é entre tecnologia ou não. A escolha é sobre qual tecnologia, para quem, com que propósito, sob que governança. E isso não é uma questão apenas técnica. É uma questão política, ética e profundamente humana.

No meu trabalho com executivos, empresas e governos, tenho insistido: IA não é o futuro. IA é o presente. E o presente exige de nós coragem para ir além da experimentação, disciplina para construir com governança, e uma dose saudável de ceticismo diante de promessas fáceis. No meu mentoring e cursos imersivos, ajudo líderes e organizações a navegarem essa transição, construindo estratégias de IA que geram valor real, com responsabilidade e pensamento crítico. Porque no fim, a inteligência que importa não é a artificial — é a nossa. E ela precisa estar afiada, consciente e determinada a construir um futuro que valha a pena.

Se você chegou até aqui, provavelmente está se fazendo as mesmas perguntas que eu. E essa é a melhor notícia: ainda há tempo de construirmos juntos as respostas.