Vieses algorítmicos da Inteligência Artificial e seus impactos na educação

Ana Luiza Silva Oliveira, Linceu Editorial, São José dos Campos, SP, Brasil.

Mariana Silva Oliveira, Linceu Editorial, São José dos Campos, SP, Brasil.

O surgimento de novas tecnologias e sua incorporação ao cotidiano da sociedade exercem impactos diretos nas relações sociais, bem como nas diversas dimensões da vida em cidadania. Após a ascensão das Inteligências Artificiais (IAs), o cenário não foi diferente. O uso dessas ferramentas se tornou parte integrante dos sistemas utilizados diariamente, incluindo aqueles relacionados à educação.

Apesar da otimização de tempo e do fornecimento de soluções práticas para a rotina educacional, as IAs também estão sujeitas a erros e vieses que podem comprometer uma educação baseada na equidade e na justiça.

Essa contradição é discutida por João Marcos Heggler, Romeu Miqueias Szmoski e Awdry Feisser Miquelin no artigo As dualidades entre o uso da Inteligência Artificial na educação e os riscos de vieses algorítmicos, publicado no periódico Educação & Sociedade (vol. 46, 2025).

Inteligência Artificial é o termo utilizado para nomear as tecnologias que buscam reproduzir o raciocínio humano. Para isso, o desenvolvimento desses mecanismos envolve a criação de algoritmos capazes de aprender com dados já inseridos, de maneira que as respostas se otimizem. Entretanto, a falta de verificação e validação das informações fornecidas, tanto no momento de criação do programa quanto disponibilizadas pelos usuários, pode gerar vieses algorítmicos.

Tais vieses podem ser responsáveis pela reprodução de preconceitos e ideias discriminatórias sobre determinados grupos. Dessa forma, no contexto da educação, os autores do estudo citado levantaram a hipótese de que os vieses algorítmicos seriam capazes de comprometer os processos educativos.

Imagem: Pexels

Nesse sentido, foi conduzida uma revisão sistemática da literatura disponível sobre o tema em bancos de dados e periódicos científicos. Os resultados encontrados evidenciaram que, apesar da importância das inovações tecnológicas e da IA para o cotidiano e autonomia dos estudantes, a presença dos vieses algorítmicos pode ter profundas consequências, afetando o desempenho e o comportamento dos alunos, podendo influenciar desde a avaliação acadêmica até as recomendações personalizadas de aprendizagem.

A principal questão apresentada no estudo é essa dualidade, entre os riscos apresentados pelos vieses e as vantagens do uso das ferramentas na educação.

A análise de diversos autores possibilitou um conjunto de sugestões para mitigação das vulnerabilidades na incorporação da IA no ambiente educacional. Entre elas, destacam-se a adoção de estratégias para minimizar os vieses nas etapas iniciais de desenvolvimento dos algoritmos, a ideia de reparação algorítmica, a necessidade de desenvolvimento de softwares de supervisão de exames dos alunos, a abertura de canais de comunicação e de alerta, a necessidade de discussões aprofundadas sobre a temática e outras.

A relevância dos debates contínuos e das pesquisas envolvendo esses temas confirma-se na ideia de que é essencial que sejam buscadas soluções viáveis e urgentes para garantir a eficácia da IA na educação. A conscientização dos usuários sobre os riscos e o treinamento dos algoritmos são o caminho encontrado pelos autores para aperfeiçoar os sistemas e evitar a reprodução de injustiças sociais.

Para ler o artigo, acesse

HEGGLER, J.M., SZMOSKI, R.M. and MIQUELIN, A.F. As dualidades entre o uso da Inteligência Artificial na educação e os riscos de vieses algorítmicos. Educação & Sociedade [online]. 2025, vol. 46, e289323 [viewed 8 May 2025]. https://doi.org/10.1590/ES.289323. Available from: https://www.scielo.br/j/es/a/qrTryFvZR9Y9WsRpG5fWGHB/

Links Externos

Educação & Sociedade – ES

Faculdade de Educação da Universidade de São Paulo (FEUSP)

Educação & Sociedade – Redes sociais: Facebook | X | LinkedIn | Instagram