A regulação de IA e as edtechs

Como equilibrar inovação e responsabilidade em educação?

É difícil duvidar que o mundo está mudando rapidamente. A integração de IA em essencialmente todas as facetas de nossa vida gera dilemas que vão muito além apenas da pedagogia: segurança e privacidade, soberania cognitiva, o próprio papel humano…

É natural portanto, que a discussão assuma contornos regulatórios.

A entrevistada da semana, Ingrid Soares, é quem eu sempre recorro para aprender e entender mais sobre as implicações e discussões regulatórias que impactam o mundo educacional.

Ao estudar sobre as diferentes regulações ao redor do mundo, tornou-se capaz de refletir sobre o modelo que queremos para o Brasil e isso a capacitou para atualmente coordenar a implementação do sandbox regulatório de IA junto ao MEC.

No papo falamos sobre como os países estão lidando com o desafio da regulação, o que é exatamente um sandbox regulatório e o desafio de regular em um ambiente de intensa mudança.

Além disso, olhamos para algumas edtechs que têm feito um bom trabalho em se adaptar às implicações de uso de IA e outras que, nem tanto…

Espero que aprendam tanto quanto eu sempre aprendo com a Ingrid!

1 – Conte sobre a sua trajetória até aqui.

Minha trajetória profissional foi construída na interseção entre Direito, tecnologia e educação, mas meu interesse por essa última área começou antes mesmo de eu me tornar advogada.

Eu cheguei a cursar História na Universidade de Brasília, embora não tenha concluído a graduação. Foi durante a licenciatura que me apaixonei pela educação e comecei a me interessar não apenas pelo conteúdo que ensinamos, mas também pelas estruturas, pelas políticas e pelas escolhas que determinam como as pessoas aprendem e quais oportunidades têm ao longo da vida.

Depois, fui para o Direito e encontrei na área de tecnologia uma maneira de continuar explorando essas questões. Comecei a trabalhar com regulação tecnológica, proteção de dados e inteligência artificial, inicialmente com uma perspectiva mais ampla, mas fui direcionando cada vez mais meu olhar para os impactos dessas tecnologias na educação.

Acho que essa conexão aconteceu de forma bastante natural. A educação é um dos setores em que a tecnologia pode produzir transformações profundas, mas também é um espaço em que precisamos ter muito cuidado com as consequências dessas transformações. Quando falamos de inteligência artificial na educação, não estamos falando apenas de ferramentas ou de eficiência. Estamos falando de aprendizagem, desenvolvimento humano, desigualdades, autonomia de professores e estudantes e, em última análise, de oportunidades de vida.

Minha experiência profissional, incluindo mais de cinco anos no Mattos Filho, foi fundamental para construir minha base jurídica e entender como as organizações lidam com os desafios regulatórios da tecnologia. Ao mesmo tempo, busquei uma formação interdisciplinar, com estudos em Stanford, na área de tecnologia e políticas públicas, e na Harvard Kennedy School, porque sentia que compreender o Direito, embora essencial, não era suficiente para enfrentar todas essas questões.

Hoje, trabalho com governança e regulação de inteligência artificial no VLK Advogados e também atuo em discussões de políticas públicas e educação. Um dos projetos mais significativos dessa trajetória é a coordenação técnica do sandbox regulatório de inteligência artificial na educação do Ministério da Educação, desenvolvido com o NEES/UFAL.

Neste trabalho, tenho a oportunidade de aproximar todas essas dimensões: o conhecimento jurídico, a compreensão dos riscos tecnológicos e a preocupação com os objetivos pedagógicos e com a realidade da educação pública brasileira. É um exercício de pensar como podemos permitir que novas soluções sejam desenvolvidas e testadas sem perder de vista os direitos e as pessoas que essas tecnologias devem servir.

Olhando para trás, vejo que minha trajetória não foi necessariamente linear, mas existe uma continuidade muito clara entre as coisas que me interessavam quando comecei a estudar História, as perguntas que me levaram ao Direito e o trabalho que faço hoje. No fundo, continuo interessada em entender como as instituições e as tecnologias transformam a sociedade. Hoje, faço isso especialmente a partir da inteligência artificial e de seus impactos na educação.

2 – Por que importa regular IA na educação?

Acredito que a educação é um dos campos em que precisamos ter uma discussão especialmente cuidadosa sobre inteligência artificial, porque estamos falando de uma tecnologia que pode influenciar não apenas o que uma pessoa aprende, mas também como ela aprende, como é avaliada e quais oportunidades terá ao longo da vida.

Existe um potencial enorme. A IA pode ajudar professores a personalizar atividades, apoiar estudantes com deficiência, ampliar o acesso a recursos educacionais e reduzir parte da carga administrativa dos profissionais da educação. Em sistemas públicos com grandes desigualdades, isso pode ser particularmente relevante.

Mas os riscos também são muito concretos. Imagine um sistema que prevê quais estudantes têm maior probabilidade de abandonar a escola. Ele pode ajudar a identificar quem precisa de apoio, mas também pode estigmatizar estudantes, reproduzir desigualdades históricas ou fazer com que uma previsão estatística seja tratada como se fosse um destino.

Por isso, para mim, a questão não é simplesmente decidir se a IA deve ou não entrar na educação. Ela já está entrando, muitas vezes sem que escolas, professores, famílias e estudantes tenham clareza sobre como os sistemas funcionam ou quais dados estão sendo utilizados.

Regular é criar condições para que os benefícios sejam aproveitados sem transferir os riscos para quem tem menos capacidade de identificá-los ou contestá-los. Isso envolve proteção de dados, transparência, avaliação de impactos, acessibilidade, prevenção de discriminação e, sobretudo, a preservação da autonomia pedagógica dos professores.

E existe uma dimensão que considero fundamental, pois não podemos discutir IA na educação apenas como uma ferramenta para tornar o ensino mais eficiente. Precisamos discutir que tipo de educação queremos oferecer e quais capacidades humanas queremos desenvolver.

A IA pode apoiar o processo educacional, mas não podemos confundir uma ferramenta que produz respostas com uma ferramenta que necessariamente promove aprendizagem. Também precisamos preparar os estudantes para compreender criticamente essa tecnologia, e não apenas para utilizá-la.

No fundo, regular IA na educação é garantir que a inovação esteja subordinada aos objetivos da educação e não o contrário.

3 – Conte sobre algumas regulações em diferentes países e suas implicações.

Acho que, quando falamos de regulação de inteligência artificial, é muito comum que a conversa comece imediatamente pelos Estados Unidos e pela União Europeia. São referências fundamentais, mas, cada vez mais, tenho procurado acompanhar também o que está acontecendo na China, Coreia do Sul e na Índia, porque acredito que essas experiências trazem perspectivas extremamente ricas para o debate.

A União Europeia construiu um modelo abrangente, baseado em riscos e em obrigações jurídicas, enquanto os Estados Unidos têm uma trajetória mais fragmentada, com diferentes instrumentos regulatórios e setoriais. Mas, quando olhamos para outros contextos, percebemos que existem outras perguntas importantes sendo feitas sobre como governar a inteligência artificial.

Singapura é um exemplo interessante. O país tem investido em frameworks de governança que procuram traduzir princípios em práticas concretas, além de ferramentas de testes, como o AI Verify. O que me chama a atenção nessa experiência é a preocupação em construir instrumentos que ajudem as organizações a avaliar seus sistemas e demonstrar como estão lidando com riscos. É uma perspectiva que vai além de discutir o que a lei deve proibir ou exigir: trata também de como transformar a governança em algo operacional, verificável e incorporado ao desenvolvimento da tecnologia.

Na Índia, tenho acompanhado especialmente a estratégia de democratização do acesso à inteligência artificial e a conexão entre governança, desenvolvimento tecnológico e infraestrutura pública digital. A iniciativa IndiaAI, por exemplo, combina investimentos em capacidade computacional, bases de dados, desenvolvimento de modelos, formação de talentos e aplicações voltadas a diferentes setores. As diretrizes indianas de governança de IA, publicadas em novembro de 2025, também articulam infraestrutura, capacitação, regulação, mitigação de riscos, responsabilização e fortalecimento institucional.

Acho que isso traz uma contribuição importante para países como o Brasil. Muitas vezes, discutimos regulação como se o problema fosse apenas estabelecer obrigações para quem desenvolve ou utiliza sistemas de IA. Mas existe uma questão anterior: quem tem condições de desenvolver essas tecnologias, acessar os recursos necessários e participar dos benefícios que elas podem produzir?

É aqui que entra a importância da infraestrutura pública digital. Se deixamos toda a infraestrutura tecnológica, a capacidade computacional, os dados e os instrumentos de desenvolvimento nas mãos de poucos atores privados, criamos relações de dependência que também precisam ser consideradas quando pensamos em soberania, concorrência e inclusão.

Infraestrutura pública digital, nesse contexto, não significa necessariamente que o Estado precise desenvolver tudo ou substituir a iniciativa privada. Significa pensar em componentes compartilhados, interoperáveis e confiáveis que permitam ampliar o acesso a serviços e capacidades digitais, com salvaguardas adequadas de privacidade, segurança e governança.

Na educação, essa discussão é particularmente importante. Escolas públicas, universidades, pesquisadores e organizações menores nem sempre têm os mesmos recursos que grandes empresas de tecnologia. Se quisermos que a IA produza benefícios educacionais de forma mais equitativa, precisamos pensar não apenas em como regular as ferramentas disponíveis no mercado, mas também nas condições para que diferentes instituições possam desenvolver, avaliar e utilizar soluções adequadas às suas necessidades.

Acho que essa é uma das grandes lições que podemos extrair dessas experiências. A política de IA não se resume à regulação dos riscos. Ela também envolve a construção das capacidades necessárias para que a sociedade possa participar do desenvolvimento tecnológico e se beneficiar dele.

Não acho que devamos simplesmente importar o modelo de Singapura ou da Índia. Os contextos institucionais, econômicos e sociais são diferentes. Mas acredito que olhar para essas experiências nos ajuda a sair de uma discussão limitada à escolha entre regular mais ou regular menos e pensar em uma questão mais ampla que é: que capacidades precisamos construir para governar a IA de forma responsável, inclusiva e compatível com as nossas prioridades?

Para mim, esse olhar é especialmente relevante para o Brasil, porque temos desafios próprios de desigualdade, escala territorial e capacidade institucional. Precisamos encontrar um caminho que proteja direitos, estimule a inovação e, ao mesmo tempo, não deixe a definição do nosso futuro tecnológico inteiramente condicionada às prioridades de outros países ou de grandes empresas.

4 – Como tem sido a discussão de regulação de um tema tão novo e que se move tão rápido?

Esse é um dos maiores desafios de trabalhar com regulação de inteligência artificial hoje. E acho que a dificuldade não é apenas a velocidade com que a tecnologia evolui. É também o fato de que, muitas vezes, estamos tentando regular algo cujos usos, impactos e modelos de negócio ainda estão se consolidando.

Quando uma tecnologia muda rapidamente, existe uma tentação de tentar antecipar todos os cenários possíveis e criar regras suficientemente detalhadas para dar conta deles. O problema é que uma regulação muito específica pode ficar desatualizada rapidamente ou acabar restringindo usos que nem sequer conseguimos prever hoje.

Mas o extremo oposto também é problemático. Se esperarmos ter evidências completas sobre todos os riscos antes de agir, podemos deixar pessoas expostas a danos que já são previsíveis, especialmente em contextos sensíveis, como educação, saúde e acesso a serviços essenciais.

Por isso, acredito que precisamos separar algumas coisas. Há princípios e direitos que não deveriam depender da tecnologia do momento, como a proteção contra discriminação, a privacidade e a possibilidade de contestar decisões que afetam significativamente a vida de alguém. Já os mecanismos técnicos para concretizar esses princípios precisam ser mais adaptáveis.

Na prática, isso significa combinar regras jurídicas com padrões técnicos, avaliações de impacto, auditorias, monitoramento contínuo e mecanismos de revisão. Também significa reconhecer que a governança não pode terminar no momento em que um sistema é aprovado ou colocado em funcionamento. Os riscos podem mudar à medida que o sistema é atualizado, passa a ser utilizado por mais pessoas ou é introduzido em um contexto diferente.

O trabalho com o sandbox de IA na educação do MEC me faz pensar muito nisso. Ambientes de experimentação permitem observar como soluções se comportam em contextos concretos, identificar riscos, testar salvaguardas e produzir evidências para decisões futuras. Não substituem a regulação, mas podem ajudar a torná-la mais informada e proporcional.

Também acho que precisamos abandonar a ideia de que regular e inovar são necessariamente forças opostas. Uma regulação mal desenhada pode, de fato, dificultar a inovação. Mas a ausência de regras claras também pode produzir insegurança, reduzir a confiança e prejudicar justamente as organizações que querem desenvolver soluções responsáveis. No fim, não acho que o objetivo seja escrever uma norma capaz de prever o futuro da inteligência artificial. O objetivo é construir instituições e mecanismos que consigam responder ao futuro sem abandonar os direitos que precisamos proteger no presente.

5 – Alguma crença forte que tinha e que sua trajetória mostrou estar errada?

Acho que uma coisa que mudou bastante na minha forma de pensar foi a relação entre ter boas regras e conseguir produzir bons resultados. Quando a gente vem do Direito, existe uma tendência natural de acreditar que, se conseguirmos formular bem uma obrigação, definir direitos e estabelecer responsabilidades, teremos dado um passo importante para resolver determinado problema. E, claro, isso continua sendo fundamental.

Mas, trabalhando com tecnologia, fui percebendo cada vez mais que existe uma distância enorme entre uma regra bem formulada e a capacidade de implementá-la na prática. Você pode ter princípios excelentes de transparência, segurança, proteção de dados e supervisão humana. Mas o que significa, concretamente, garantir supervisão humana em um sistema de IA? Quem é essa pessoa? Ela tem conhecimento para avaliar a decisão? Tem autonomia para discordar do sistema? Tem tempo e informação suficientes para intervir? O que acontece quando identifica um problema?

Essas perguntas parecem operacionais, mas, na verdade, são profundamente jurídicas e institucionais. Elas determinam se a proteção existe de verdade ou apenas no papel.

Isso também mudou a maneira como penso sobre regulação. Passei a valorizar muito mais a experimentação, a avaliação de impactos e a construção de mecanismos de governança que consigam funcionar dentro das organizações e dos contextos em que a tecnologia é utilizada.

Acho que essa é uma das razões pelas quais gosto tanto de trabalhar na interface entre Direito, tecnologia e políticas públicas. Ela exige que a gente saia da resposta juridicamente correta em abstrato e pergunte se aquela solução vai funcionar no mundo real. Talvez eu não tenha abandonado uma crença, mas tenha aprendido a desconfiar de respostas que parecem completas demais. Hoje, acho que uma boa solução regulatória não é aquela que resolve tudo no papel. É aquela que consegue proteger direitos quando encontra a complexidade da realidade.

Edtechs

SAVIA – Sistema de sinalização de risco de viés em questões de provas

Brasil

O SAVIA, Sistema de Sinalização de Risco de Viés em Itens Avaliativos, foi desenvolvido pelo Cebraspe, associação sem fins lucrativos de Brasília que elabora e aplica concursos públicos, vestibulares e avaliações educacionais. A ferramenta apoia quem elabora e revisa questões de exames de larga escala, sinalizando itens com risco de viés para que fiquem mais precisos, acessíveis e atentos à diversidade de contextos culturais de quem faz a prova. Pelo que o Cebraspe divulgou, a IA fica a serviço dos elaboradores, que seguem responsáveis pela questão final.

Em junho de 2026, o SAVIA foi um dos oito projetos selecionados, entre 38 propostas, para o piloto do Sandbox Regulatório de IA na Educação do MEC. Explicabilidade, auditabilidade e supervisão humana estavam entre os critérios de seleção. O Cebraspe ainda não publicou detalhes técnicos do funcionamento nem resultados da fase de testes. A entrevistada desta edição atua na coordenação técnica do sandbox. O caso encaixa no argumento da entrevistada de que a IA na educação mexe também com a forma como cada pessoa é avaliada, e de que ambientes de experimentação servem para produzir evidência antes da regra. A pergunta que fica para o fim do piloto é a que ela mesma faz sobre supervisão

SoapBox Labs – Reconhecimento de voz feito para crianças

Irlanda

A SoapBox Labs foi criada em Dublin, em 2013, para desenvolver reconhecimento de fala treinado em vozes infantis, de 2 a 12 anos, com sotaques e dialetos variados. A premissa é que os assistentes de voz treinados com adultos erram mais com crianças. O motor não chega direto ao aluno: é licenciado para empresas como Scholastic, McGraw Hill e Amplify, que o usam em triagens de leitura, avaliação de fluência e identificação precoce de dislexia.

Em novembro de 2023, a empresa foi comprada pela Curriculum Associates e virou o núcleo de pesquisa em IA do grupo. Em 2022, foi a primeira empresa de IA a receber a certificação de equidade racial no design de IA do ecossistema da Digital Promise. Em 2025, recebeu também a certificação Responsibly Designed AI, que exige política de dados pública, plano de resposta a incidentes, rótulo para conteúdo gerado por IA e a possibilidade de o educador contrariar ao menos uma decisão do sistema. Um dos requisitos conversa diretamente com a entrevistada: a empresa precisa mostrar dois casos em que seu monitoramento encontrou viés e o que mudou depois. É a governança operacional e verificável que ela destaca na experiência de Singapura, aplicada a um produto. O limite também é o que ela aponta: o selo descreve como o produto foi desenhado, mas a própria certificadora avisa que ele não atesta eficácia.

Edmodo – Rede social educativa para professores, alunos e famílias (fora do ar desde 2022)

Estados Unidos

O Edmodo nasceu em 2008 como uma rede social de sala de aula, com um mural no formato de microblog onde professores publicavam tarefas, avisos e materiais e alunos e famílias acompanhavam. Gratuito, virou ferramenta complementar em milhares de escolas e chegou a dizer que passou de 100 milhões de usuários desde a fundação. Em 2018, foi comprado pela chinesa NetDragon por US$ 137,5 milhões, e em setembro de 2022 a versão gratuita saiu do ar.

Em 2023, a FTC, agência americana de defesa do consumidor, concluiu que a empresa coletou dados de crianças menores de 13 anos sem consentimento dos pais, usou essas informações para publicidade e guardou os dados por mais tempo que o necessário. A ordem também apontou que o Edmodo dizia às escolas que obter o consentimento era responsabilidade delas, sem informar o que coletava. Foi a primeira vez que a FTC tratou como prática desleal a forma como um fornecedor se relaciona com escolas. A multa de US$ 6 milhões foi suspensa porque a empresa não tinha como pagar. A entrevistada define regular como aproveitar os benefícios sem transferir os riscos para quem tem menos capacidade de identificá-los ou contestá-los. O Edmodo fez o movimento inverso: empurrou a obrigação para a ponta mais frágil da cadeia. O detalhe que interessa à era da IA está na ordem: ela exige apagar os modelos e algoritmos treinados com dados de crianças coletados sem consentimento. A correção alcança também o que foi construído com os dados.

Illuminate Education – Plataforma de dados de alunos para redes escolares

Estados Unidos

A Illuminate Education foi fundada em 2009, na Califórnia, para reunir num só lugar os dados que as redes escolares guardam sobre cada aluno: frequência, notas, avaliações, comportamento, perfil socioeconômico e necessidades de educação especial. Em 2018, um fundo de investimento juntou a empresa a outras quatro do setor, e em 2022 o grupo dizia atender 17 milhões de estudantes em 5.200 escolas e redes. Em agosto daquele ano, foi comprada pela Renaissance.

No fim de 2021, um invasor entrou nos bancos de dados da empresa usando as credenciais de um ex-funcionário que tinha saído três anos e meio antes. Foram expostos dados de 10,1 milhões de alunos, incluindo endereços, datas de nascimento, histórico escolar e informações de saúde. Segundo a FTC, a empresa tinha sido alertada sobre as falhas quase dois anos antes e levou quase dois anos para avisar parte das redes afetadas. Nova York disse que o contrato previa criptografia. A Illuminate foi a primeira empresa excluída do Student Privacy Pledge, compromisso voluntário de proteção de dados do setor, pagou US$ 5,1 milhões em acordo com três estados e está sob ordem da FTC que exige programa de segurança, menos coleta e calendário público de exclusão de dados.

O caso ilustra a distância que a entrevistada descreve entre uma regra bem formulada e a capacidade de cumpri-la. Havia contrato, compromisso público e promessa de prazo para notificação, e a proteção existia só no papel. Também confirma o ponto dela de que a governança não termina quando o sistema é contratado: o acesso esquecido de um ex-funcionário é exatamente o tipo de risco que aparece com o tempo de uso.