Explicabilidade dos modelos de aprendizado de máquina no cenário educacional: uma revisão sistemática

Resumo

Com a crescente aplicação da Inteligência Artificial (Artificial Intelligence – AI) na educação para apoio às partes interessadas na tomada de decisão, se faz necessário melhor entendimento do porquê dos resultados obtidos, visto que o domínio educacional exige decisões seguras. Nesse sentido, a presente revisão sistemática tem o objetivo de investigar estudos primários da literatura que abordaram a explicabilidade da AI (eXplainable Artificial Intelligence - XAI) na educação. A busca por estudos foi realizada no período de 2012 a 2024, em bases de dados nacionais e internacionais e fez uso de uma metodologia para realizar revisões sistemáticas. Os resultados mostraram a predominância de estudos que utilizaram modelos baseados em Árvore de Decisão e Redes Neurais, correspondendo a 40% e 27,5%, respectivamente. Quanto aos métodos de XAI, houve predominância dos métodos SHAP e LIME, correspondendo a 40% e 35%, respectivamente. A pesquisa revelou que nos últimos seis anos cresceu o interesse da comunidade científica no uso de abordagens de XAI na educação, embora tenha constatado que tais iniciativas ainda são incipientes. Em geral, houve cobertura significativa das abordagens de XAI nos estudos, com destaque para aquelas categorizadas como escopo (48% dos estudos) e agnósticas (33% dos estudos).