SP: Deputada aciona MP contra uso de IA para vigiar alunos em escolas estaduais

247 - A deputada estadual Professora Bebel (PT-SP), que também é segunda presidenta da APEOESP (Sindicato dos Professores do Ensino Oficial do Estado de São Paulo), protocolou uma representação no Ministério Público de São Paulo (MP-SP) contra o uso de inteligência artificial para vigiar estudantes em escolas estaduais.

O alvo da denúncia é o Sistema de Autoavaliação de Desenvolvimento Inteligente (SADI), desenvolvido pelo Instituto de Tecnologia Anexo (GO) e já testado em 11 unidades da rede pública paulista. O recurso utiliza três câmeras por sala de aula para captar expressões faciais, movimentos e interações de alunos e professores. Os dados são processados por algoritmos que classificam os estudantes em categorias como “atento” (verde) ou “desatento” (laranja).

Para Bebel, a medida representa um risco à comunidade escolar: “é inaceitável transformar a escola em um espaço de vigilância permanente, expondo estudantes e professores a mecanismos de controle e assédio. Acionaremos todos os canais políticos e jurídicos para barrar mais esse ataque à educação pública e aos direitos da comunidade escolar”, declarou.

Coleta de dados sem respaldo legal

Segundo a denúncia, a implementação ocorreu sem respaldo legal específico e com fragilidades no processo de consentimento. Pais de alunos relataram ter recebido contratos genéricos para autorizar o uso da imagem dos filhos, sem menção clara ao SADI ou ao instituto responsável.

Há também relatos de que os resultados do sistema estariam sendo utilizados para pressionar professores, por meio de índices de “engajamento” das turmas. Uma docente, por exemplo, teria sido cobrada pela direção por manter índices baixos de engajamento, segundo informações publicadas em reportagem de Davi Nogueira no Diário do Centro do Mundo (DCM). A forma como o sistema obtém tais índices, no entanto, não é clara. Ou seja: não há, até agora, dados públicos que detalhem de que maneira as métricas avaliadas pelo sistema, como “taxa de engajamento”, “taxa de ocupação da sala”, “interação com o professor”, “utilização de celular” - entre outras - são processadas pelo algoritmo da inteligência artificial. 

Especialistas em educação e direito digital também levantaram questionamentos. Para o professor Daniel Cara, da Faculdade de Educação da USP, a iniciativa fere a Lei Geral de Proteção de Dados (LGPD) e o Estatuto da Criança e do Adolescente (ECA). “Essa inteligência artificial transforma o ambiente educacional em um laboratório para experimentos tecnológicos que usam crianças de escolas públicas como cobaias”, afirmou ao DCM.

Críticas à "plataformização" da educação

A APEOESP vê a medida como parte da política de “plataformização” da educação pública paulista, sob gestão do governador Tarcísio de Freitas (Republicanos) e do secretário de Educação Renato Feder. Para o sindicato, essa estratégia estaria sendo usada como mecanismo de controle, vigilância e assédio, em detrimento da qualidade pedagógica.

“A plataformização da educação pública, usada como ferramenta de controle e esvaziamento do ensino, é uma ameaça grave. Estudantes, professores, funcionários e pais já estão se mobilizando, e nosso compromisso é estar ao lado deles para impedir que a escola se transforme em um espaço de vigilância e opressão”, disse Bebel.

Na representação, a deputada pede que o MP-SP investigue o caso e adote medidas para impedir a implementação do SADI em toda a rede estadual. O objetivo é garantir a proteção da privacidade de crianças e adolescentes, além da autonomia pedagógica dos professores.

A Secretaria de Educação de São Paulo reconhece que o SADI está em fase de testes, mas alega que se trata de um “projeto piloto, laboratorial”, com anuência das escolas e de parte dos pais. Não há, até o momento, contrato formalizado com a empresa responsável, ainda segundo o DCM.