O caso da armadilha docente

Na Coluna Transformação Continuada de agosto, George Stein analisa os desafios da IA generativa e o risco de transformar a avaliação em uma caça aos alunos

Este é um estudo de caso sobre como a instituição pode se preparar para os desafios práticos da IA Generativa: quando o educador investe mais energia em flagrar alunos mal-intencionados do que em ensiná-los.

De onde surgiu a ideia

Iniciei o segundo semestre conduzindo uma atividade formativa inovadora para lideranças educacionais. A proposta nasceu durante uma reunião de planejamento do Grupo de Inovação em Aprendizagem (GIA) da instituição: a partir de um mapeamento prévio de desafios e necessidades, a diretora sugeriu adotarmos um formato semelhante ao de um estudo de caso. E assim fizemos.

Desenvolvi uma dinâmica de duas horas baseada em três cenários de uma escola hipotética, refletindo os desafios reais da instituição e os riscos atrelados ao uso da Inteligência Artificial Generativa (IAGen). Entre as reflexões propostas, havia uma questão norteadora fundamental: E se fosse aqui na escola?

Os diálogos, o engajamento propositivo e a energia voltada para a ação gerados por essa atividade foram tão marcantes que decidi adaptar o formato para esta coluna, utilizando um caso prático para impulsionar transformações.

O caso em questão (hoje, uma história real)

Em julho, a imprensa no Brasil e nos Estados Unidos noticiou o caso de um professor universitário americano que viralizou no TikTok após relatar uma de suas aulas. De forma resumida: o docente disponibilizou uma tarefa no ambiente virtual de aprendizagem, algo normal e esperado, mas com um “algo a mais”. O professor inseriu no enunciado — usando fonte branca sobre fundo branco, tornando o texto invisível aos alunos — uma instrução oculta. A frase exigia que os estudantes incluíssem em suas respostas um trecho sem sentido contendo a palavra “Madagascar”.

O intuito da armadilha era verificar se os alunos estavam copiando e colando o enunciado diretamente em uma IAGen para burlar o trabalho. Ao receber as entregas, a constatação: de 35 trabalhos, 32 apresentavam a frase sem sentido com a palavra Madagascar. Mais do que provar o uso de Inteligência Artificial, a estratégia do professor evidenciou que os estudantes sequer revisaram o texto gerado com a devida atenção.

O episódio ganhou notoriedade após o desabafo do educador nas redes sociais. A notícia ultrapassou as fronteiras americanas, ganhando amplo destaque na mídia brasileira. A maioria dos veículos repercutiu o fato focando na “armadilha”, na atitude dos alunos e na técnica utilizada, conhecida como prompt injection (a inserção, direta ou indireta, de instruções ocultas para manipular o comportamento da IAGen).

E se fosse aqui na escola?

Como este espaço difere de uma oficina presencial, infelizmente não teremos a facilitação de um diálogo em tempo real. Contudo, adaptei o formato para conduzir você, leitor(a), por meio de perguntas reflexivas.

Vale adiantar que apenas ler as perguntas não garantirá mudanças. Meu objetivo é provocar reflexões e inspirar ações que mitiguem o risco de episódios semelhantes na sua instituição, servindo de insumo para a definição de políticas e para o desenvolvimento profissional de lideranças e educadores. Vamos às questões:

a) A instituição possui diretrizes claras de conduta que explicitem as expectativas sobre o uso da IAGen, em alinhamento ao propósito, ao perfil do egresso e à proposta pedagógica?

Pesquisei a missão da universidade americana envolvida no caso e encontrei o seguinte trecho: “Oferece acesso e oportunidade para que estudantes diversos se destaquem intelectualmente, construam caráter e superem barreiras para que possam se tornar líderes produtivos que façam contribuições significativas para a sociedade.”

Ao observar o compromisso de que os estudantes “construam caráter” e “se tornem líderes”, questiono-me: como uma postura investigativa focada em uma “armadilha” e com viés punitivo contribui para essa missão? Não sabemos os detalhes de como o professor vinha lidando com o uso indevido da IAGen ao longo do tempo, mas as narrativas indicam que a intenção punitiva se sobrepôs à educadora.

Além disso, o desabafo nas redes sociais expôs a faculdade e os estudantes de forma desnecessária e prejudicial. Qual foi a intenção do educador com essa exposição? Como isso contribui para a aprendizagem real da turma?

Uma escola que norteia o uso da IAGen ancorada em seus compromissos públicos (propósito, missão e valores) estabelece um guia claro de conduta, minimizando erros ou atitudes inadequadas decorrentes da simples falta de orientação.

b) Os docentes têm clareza das expectativas de aprendizagem e as comunicam de forma transparente aos alunos?

As reportagens trazem o resumo do enunciado, mas não evidenciam se os alunos sabiam exatamente o que se esperava que aprendessem com a tarefa. Ainda que haja clareza pedagógica por parte do professor, é imperativo que as atividades estejam diretamente vinculadas a esses objetivos. Quando o que deve ser aprendido está nítido, a consciência sobre o uso adequado da tecnologia aumenta.

Ao definir e comunicar com precisão os objetivos de aprendizagem, o docente consegue justificar o uso ético da IAGen, demonstrando aos alunos que pegar atalhos terceirizando respostas compromete o próprio desenvolvimento. Mas ter clareza de expectativas, por si só, não elimina os riscos. O que nos leva à próxima pergunta:

c) Os professores estão recebendo formação contínua para repensar a elaboração de tarefas e os métodos avaliativos?

Se uma avaliação pode ser integralmente resolvida por uma IAGen, ela possivelmente precisa ser redesenhada ou realizada presencialmente, sem o uso da ferramenta. Quando 32 de 35 estudantes recorrem a esse subterfúgio, a falha também pode estar no processo de ensino. Trata-se de um modelo ainda fortemente instrucionista, que muitas vezes cobra um grande volume de entregas cujo sentido e relevância não ficam claros para os jovens.

O risco de condutas semelhantes continuará existindo se os educadores não estiverem preparados para reestruturar suas práticas. Por mais sólidas que sejam as diretrizes e por mais claras que sejam as expectativas, a natureza humana tende a buscar o caminho de menor esforço. Tarefas burocráticas, que não fazem sentido prático para o aluno e que podem ser respondidas por um robô, sempre serão um convite aberto ao mau uso da IAGen.

O que fazer?

Com base nas suas respostas às reflexões acima, é possível traçar alguns caminhos para ação:

• No melhor dos cenários: Um caso como esse não aconteceria na sua escola, pois você respondeu afirmativamente a todas as perguntas. Ainda assim, é crucial reconhecer que, apesar da existência de políticas e formações, o ritmo acelerado e a escassez de tempo no ambiente escolar podem gerar não conformidades. Pessoas erram e contextos mudam — ou seja, na prática, a teoria costuma ser outra. Portanto, convém monitorar o quanto as diretrizes teóricas estão, de fato, refletindo a vivência nas salas de aula.
• Nos demais cenários: O caminho mais seguro é reunir um grupo diverso de profissionais da escola para debater essas questões e formular sugestões conjuntas para a tomada de decisão. O simples ato de reconhecer os riscos, abrir espaços estruturados de escuta e convidar educadores com diferentes perspectivas já gera valor, sinergia e insumos inestimáveis para a mudança.

Espero que este estudo de caso sirva para que você incentive a criação de um GIA (Grupo de Inovação em Aprendizagem) na sua instituição, e assuma o protagonismo para  iniciar uma jornada contínua de transformação. Fica aqui o convite e o estímulo para traçar um caminho que tenha início em oportunidades e desafios, continue por definições e direcionamentos, gere esforços de desenvolvimento e principalmente se transformem em uma nova maneira de ser e fazer a escola. Como sempre, conte comigo.