Publicidade
O Conselho Nacional de Educação (CNE) aprovou nesta terça-feira (1º) diretrizes para o uso de inteligência artificial (IA) na educação. Entre outros pontos, as normas estabelecem níveis de risco para a utilização da tecnologia em diferentes atividades educacionais. Agora, o documento segue para homologação do Ministério da Educação (MEC).
O CNE elaborou uma escala de risco para orientar escolas e universidades no uso da inteligência artificial. Os níveis variam de “baixo risco” até “risco excessivo ou incompatível com as finalidades educacionais”, a depender da aplicação. As redes de ensino terão até 12 meses para se adequar às normas após a homologação do texto.
A intenção do conselho é orientar gestores e instituições para um uso responsável dessas ferramentas, sem prejuízos aos estudantes.
Veja abaixo as atividades vinculadas a cada nível de risco:
Os usos considerados de baixo risco são, em geral, aqueles relacionados ao planejamento e à organização, sem impacto direto em avaliações ou decisões acadêmicas. Entre eles:
- organização de materiais didáticos;
- apoio à acessibilidade;
- revisão textual sem finalidade avaliativa;
- ferramentas auxiliares de planejamento;
- sistemas sem perfilização individual significativa.
O CNE classificou como risco moderado os usos que promovem algum nível de interação com os estudantes. Nessa categoria estão mecanismos de apoio à aprendizagem, produção de conteúdo e fornecimento de feedback. Nesses casos, é obrigatória a revisão humana e o monitoramento frequente.
Continua depois da publicidade
- sistemas de tutoria;
- ferramentas de feedback formativo;
- assistentes institucionais;
- apoio à produção textual;
- mecanismos de recomendação acadêmica sem efeito decisório automático.
Foram classificadas como atividades de alto risco aquelas que podem impactar a vida acadêmica dos estudantes ou restringir direitos, como processos de seleção automatizada. A resolução também inclui aplicações que envolvam tratamento de dados sensíveis.
- sistemas de correção automatizada de avaliações com repercussão acadêmica;
- “proctoring biométrico”, ferramenta que utiliza IA para verificar características físicas dos estudantes em tempo real;
- perfilização acadêmica individualizada;
- sistemas relacionados à seleção, certificação, concessão de benefícios ou análise disciplinar;
- aplicações que envolvam tratamento de dados pessoais sensíveis ou inferências comportamentais relevantes.
“O juízo avaliativo é do professor, ele não pode ser substituído pela IA. São decisões que afetam o futuro do estudante e tem que haver mediação humana”, afirmou o relator do texto, Celso Niskier.
O grau mais alto de alerta, definido pelo CNE como risco excessivo ou incompatível com as finalidades educacionais, inclui atividades que, segundo o colegiado, podem ser discriminatórias e resultar em violações de direitos dos estudantes.
Continua depois da publicidade
Nessa categoria, o conselho inclui:
- sistemas de pontuação social;
- vigilância emocional;
- exploração de vulnerabilidades de estudantes;
- perfilização psicológica ou biométrica para fins classificatórios ou disciplinares;
- decisões exclusivamente automatizadas com efeitos relevantes sobre promoção, retenção, certificação, permanência, concessão de benefícios ou desligamento.
Para evitar esses riscos, o parecer destaca a importância da atuação dos professores em todo o processo de uso da inteligência artificial nas escolas e universidades. As diretrizes ressaltam a necessidade de protagonismo pedagógico dos docentes na adoção dessas ferramentas.
Após a aprovação, o presidente do CNE, Cesar Callegari, afirmou que a medida representa um marco para a educação e exigirá engajamento dos sistemas de ensino.
Continua depois da publicidade
“É um material de grande importância pela complexidade do tema tratado, transformando um assunto de alta complexidade em algo bastante didático. É um avanço importante. Estamos em um momento em que nunca foi tão importante compreender o nosso próprio processo de pensamento. A interação com a máquina, com a ferramenta, exige um passo muito mais ousado”, disse.
