O senador Jader Barbalho apresentou um projeto de lei que pretende estabelecer regras éticas nacionais para o uso da inteligência artificial em instituições de ensino públicas e privadas no Brasil. A proposta cria um marco específico para disciplinar o uso de sistemas de IA nas escolas e universidades, com foco na proteção de crianças e adolescentes, na transparência dos algoritmos e na preservação do papel dos professores no processo educacional.

O texto estabelece que a inteligência artificial deverá atuar apenas como ferramenta de apoio ao docente, nunca como substituta da mediação humana em sala de aula. O projeto define princípios como “centralidade humana”, “transparência algorítmica”, “não discriminação” e “explicabilidade educacional”, exigindo que alunos, pais e educadores saibam quando e como ferramentas automatizadas estão sendo utilizadas para personalizar conteúdos, recomendar estudos ou avaliar desempenho acadêmico.

Na justificativa da proposta, o senador afirma que “a educação brasileira atravessa uma transformação digital irreversível” e alerta que sistemas de aprendizagem adaptativa, correções automatizadas e softwares capazes de simular conversas humanas já estão presentes no cotidiano escolar “operando em um vácuo normativo que coloca em risco direitos fundamentais”.

Segundo o parlamentar, a ausência de regras claras pode permitir que decisões importantes sobre a vida acadêmica de estudantes sejam tomadas por processos obscuros. O texto menciona as chamadas “caixas-pretas algorítmicas”, expressão usada para definir sistemas cujo funcionamento não é plenamente compreendido pelos usuários.

Lei Geral de Proteção de Dados

A proposta também endurece regras para o tratamento de dados de estudantes. O projeto determina que as instituições deverão seguir as normas previstas na Lei Geral de Proteção de Dados (LGPD) e no chamado ECA Digital. Entre os pontos previstos estão a coleta mínima de informações, a proibição do uso de dados de estudantes para publicidade ou perfilamento comercial e o direito à exclusão das informações após o encerramento do ciclo escolar.

Outro ponto central da proposta é a obrigatoriedade de auditorias de viés em todos os sistemas de IA utilizados no ambiente escolar. O objetivo é evitar discriminações relacionadas a raça, gênero, condição social, origem regional ou neurodiversidade.

Na justificativa, Jader Barbalho afirma que “algoritmos alimentados por bases de dados viciadas tendem a replicar preconceitos estruturais” e diz que o projeto busca impedir que a inteligência artificial se transforme em “uma barreira invisível que penalize estudantes por sua origem étnico-racial, regional ou socioeconômica”.

O texto também proíbe o uso de inteligência artificial para vigilância biométrica e análise emocional de estudantes com fins disciplinares ou punitivos. Para o senador, crianças e adolescentes são “hipervulneráveis a mecanismos de manipulação comportamental e vício tecnológico”, razão pela qual a escola não pode se transformar em “um laboratório de extração de dados”.

Relatórios de Impacto Ético

Outro dispositivo obriga empresas de tecnologia a apresentarem Relatórios de Impacto Ético antes da adoção de sistemas considerados de “alto risco” nas escolas. Entram nessa categoria ferramentas utilizadas para avaliação de desempenho, monitoramento de comportamento, admissão de alunos ou diagnósticos de dificuldades de aprendizagem.

O projeto também reforça o papel do professor dentro da nova realidade tecnológica. Na justificativa, o senador afirma que “a IA deve funcionar como um ‘copiloto’ pedagógico”, ajudando a reduzir tarefas burocráticas para que o docente possa se concentrar “na mediação humana, essencial para a formação cidadã e socioemocional”.

Além disso, a proposta prevê incentivo à formação continuada de professores em letramento digital e inteligência artificial, além da obrigação de que ferramentas de IA sejam acessíveis a estudantes com deficiência.

Pelo texto, escolas e empresas que descumprirem as regras poderão sofrer sanções previstas na LGPD e no ECA Digital, incluindo multas administrativas e até suspensão do uso das ferramentas tecnológicas.

Após ser protocolado no Senado Federal, o projeto será encaminhado para análise das comissões temáticas da Casa, onde receberá pareceres e poderá sofrer alterações. Caso seja aprovado pelos senadores, seguirá para votação na Câmara dos Deputados. Se o texto também for aprovado pelos deputados sem mudanças, seguirá para sanção presidencial.