As decisões invisíveis por trás das nossas escolhas

Guilherme Cintra analisa como decisões humanas e algoritmos moldam a visibilidade dos estudantes e discute os desafios éticos da inteligência artificial na educação

Quando eu era diretor de escola, percebia que, na escola que eu dirigia, uma minoria dos alunos realmente era vista.

Tínhamos mil alunos. Um belo dia, perguntei à minha equipe pedagógica cerca de dez pessoas na época: quantos desses alunos vocês investem ao menos dez minutos atendendo por semana?

Uma pessoa falou oitenta. Outra falou vinte. Outras chutaram entre os dois.

“Vamos dizer que sejam oitenta”, respondi.

Fui para o quadro, cortei os zeros, chegamos a 8%.

A pergunta seguinte saiu sozinha.

“Cadê os outros 92%?”

Um deles respondeu o que ninguém queria dizer em voz alta.

“Estão invisíveis.”

A partir dali, criamos um processo para atender, em um mês e meio, todos os alunos da escola, entender suas histórias e pensar em quem precisava de mais proximidade. Mudar a cultura. Ninguém poderia ser invisível.

Mas demorou pouco para eu perceber que, por trás de cada processo, cada pergunta, formulário, formação e atendimento, existiam decisões. E essas decisões embutiam julgamentos éticos que raramente eram explicitados.

Priorizamos os alunos em risco de evasão? Os com pior comportamento? Os com melhores notas? Os com piores notas? Um índice composto por várias variáveis? A intuição da gestão?

Cada uma dessas escolhas é uma posição sobre o que importa. E cada uma produz um efeito no mundo.

—————————-

A atenção que damos importa, e importa de um jeito sutil, mas estruturante. Em uma síntese clássica da literatura, Jussim e Harber revisaram décadas de pesquisa sobre expectativas de professores e mostraram que profecias autorrealizadoras são um dos diversos fatores que moldam trajetórias de estudantes. E há um achado especialmente incômodo: o efeito é maior justamente para alunos de grupos estigmatizados, aqueles que historicamente são, na linguagem da minha escola, os invisíveis. A atenção do educador, e mais ainda a expectativa que carrega ao olhar para o aluno, opera com mais força sobre quem já está em desvantagem.

Há um desdobramento desconfortável nessa literatura que precisa ser explicitado. A intuição humana é maravilhosa em muitas dimensões, e quem trabalha em educação sabe disso. Mas a mesma intuição que enxerga potencial onde uma planilha não enxerga também carrega vieses inconscientes que nem sempre conseguimos auditar.

No Brasil, um estudo de Fernando Botelho, Ricardo Madeira e Marcos Rangel, publicado em 2015 no American Economic Journal, mostra isso com nitidez incômoda. Os autores compararam notas dadas por professores de matemática em São Paulo com o desempenho dos mesmos alunos em provas padronizadas corrigidas às cegas, sem que o avaliador soubesse quem estava sendo avaliado. Mantendo constante o desempenho real e as características comportamentais dos alunos, encontraram viés racial sistemático na avaliação dos professores. Alunos negros recebem notas piores que alunos brancos com proficiência equivalente.

Aqui aparece um ponto que muda a forma de olhar para a questão. O viés se manifesta com mais força quando o professor sabe pouco sobre o aluno. Quando há histórico, observação acumulada e conhecimento da pessoa para além do rótulo, a diferença diminui. Em outras palavras, o que neutraliza o viés humano é o oposto da decisão apressada feita à distância. É a informação que só se acumula com o tempo, é o conhecimento que vem da convivência, é a presença que enxerga o aluno antes de enxergar a categoria.

Esse achado importa muito para o debate sobre IA. Costumamos pensar nos algoritmos apenas como promotores de viés. E são, frequentemente. Mas raramente lembramos do outro lado: nós, humanos, também carregamos vieses, e, em escala individual, eles são tão invisíveis quanto os de uma caixa-preta. O que o estudo brasileiro sugere é que existe um caminho para mitigá-los, e esse caminho passa por preservar o tipo de conhecimento sobre o aluno que só a convivência humana produz, não substituí-lo por atalhos.

Juntando minha experiência na escola com esse tipo de literatura, fica uma pergunta que volta com frequência: com algoritmos cada vez mais relevantes para nos apoiar em tomadas de decisão, será que estamos terceirizando elementos com impactos profundos na vida dos estudantes, e talvez fazendo isso sem a reflexão adequada?

Estamos começando a entender quais são as implicações práticas dessa pergunta, e o que tem aparecido na literatura merece atenção.

Em 2025, um grupo de pesquisadores da UC Santa Barbara e da Rutgers publicou um estudo testando nove modelos de IA de fronteira no papel de professor personalizado. Os modelos recebiam o perfil demográfico de um aluno (raça, etnia, gênero, status de deficiência, renda, origem nacional) e eram instruídos a gerar explicações educacionais adequadas. Foram analisadas mais de dezessete mil explicações, em diferentes tópicos e níveis de dificuldade.

O achado central foi que todos os modelos de fronteira testados apresentam vieses significativos no conteúdo educacional que produzem para perfis diferentes. O viés é maior para renda e status de deficiência, e menor (embora ainda presente) para gênero e raça, possivelmente porque esses são os eixos em que os modelos foram mais explicitamente treinados para terem cuidado. Há um detalhe especialmente revelador: os modelos não apenas perpetuam estereótipos típicos; em alguns casos, os invertem de forma igualmente problemática. Sobrecorrigem para certas demografias, gerando conteúdo exageradamente adaptado, o que é, em si, uma forma de discriminação.

(Cabe uma ressalva. O estudo mostra que o conteúdo gerado pelos modelos é diferente para perfis diferentes, mas não mede o efeito disso em sala de aula. Sabemos que há vieses, mas não necessariamente seus efeitos concretos.)

Juntando a literatura sobre vieses, profecias autorrealizadoras e o que estamos descobrindo sobre algoritmos em educação, dá para arriscar uma hipótese de trabalho.

Humanos carregam vieses inconscientes que pesam mais sobre os invisíveis e que se atenuam à medida que conhecem melhor cada aluno. Modelos carregam vieses cristalizados em camadas que nem seus desenvolvedores conseguem auditar, e esses se aplicam em escala, simultaneamente, em todas as escolas que usam aquela ferramenta. A pergunta não é se vamos usar um ou outro. Há valor na coexistência. A pergunta é qual deve ser a divisão de tarefas entre os dois. Que decisões pedem o tempo da convivência, que decisões pedem o processamento em escala e onde traçamos a linha. Cada parte cuidando do que faz melhor, e cada parte corrigindo o ponto cego da outra, só acontece quando alguém decide intencionalmente onde traçá-la.

Depende ainda de tornar visível como o modelo está tomando suas decisões, para que possamos discutir, contestar e corrigir. Depende de medir não apenas se a ferramenta entrega resultado, mas se ela entrega resultado equânime para os diferentes grupos de alunos que atende. Justiça em sistemas que combinam humanos e máquinas não emerge da boa vontade dos envolvidos. Emerge da intencionalidade com que esses sistemas são desenhados.

Na escola em que trabalhei, a invisibilidade tinha solução conhecida. Era um problema de processo, e processo se redesenha. Fizemos planilhas, distribuímos atendimentos, criamos rotinas. Em um mês e meio, mudamos a foto. A invisibilidade que um algoritmo produz é diferente. Não é um problema do tipo “ninguém decidiu decidir”; é uma propriedade do próprio jeito como a ferramenta foi construída. Você não conserta isso com um formulário novo, nem com uma reunião de equipe. Os critérios que o modelo usa para decidir já vieram embutidos, vindos de escolhas feitas por outras pessoas, em outros países, com outras prioridades e, quase sempre, sem que ninguém possa abrir a caixa e olhar dentro.

Há um agravante. Quando os critérios estão cristalizados no algoritmo, eles se aplicam de uma vez só, em todas as escolas que usam aquela ferramenta. Os invisíveis passam a ser os mesmos, em todo lugar. Encontrar quem foi deixado de fora deixa de ser problema da gestão da escola e vira problema estrutural de quem desenhou o sistema. E essa pessoa raramente está na sala.

A educação no Brasil tem uma escala que mil alunos não têm. Os quase 47 milhões de matriculados na educação básica não cabem em planilha, nem em equipe pedagógica olhando caso a caso. A IA, nesse contexto, deixa de ser luxo e vira condição operacional para que alguma forma de visibilidade exista. O problema não é se usamos algoritmos, mas como.

Educação é um campo em que as decisões têm implicações de longo prazo. A IA pode nos ajudar, e provavelmente vai. Mas isso depende de entendermos que há julgamentos morais embutidos em cada decisão, humana ou algorítmica, e que esses julgamentos precisam de envolvimento humano explícito para serem dignos da palavra ética. Depende, mais ainda, de protegermos os espaços de relação que são exatamente o que nos torna capazes de corrigir o que vemos errado, ao mesmo tempo em que desenhamos com intencionalidade os sistemas que nos ajudam a enxergar o que sozinhos não enxergaríamos.

A pergunta da minha escola continua valendo, só que em outra escala.

Cadê os outros 92%? E quem está decidindo isso?