As explicações utilizadas por sistemas de inteligência artificial para justificar suas decisões podem mudar com o passar dos anos, mesmo quando os métodos empregados permanecem os mesmos. O fenômeno foi investigado por pesquisadores da Universidade Estadual do Maranhão (Uema), em um estudo que analisou 17.733 textos científicos e conquistou o prêmio de Melhor Artigo no KDMiLe 2026, simpósio realizado durante a Conferência Brasileira de Sistemas Inteligentes (BRACIS 2026). 

A pesquisa foi desenvolvida pelo estudante de Engenharia de Computação Pedro Luís Carneiro Jovino e pelo professor Ewaldo Eder Carvalho Santana, do Laboratório de Análise e Processamento de Sinais (LAPS) da Uema. O trabalho investiga o chamado explanation drift, fenômeno em que as palavras consideradas mais importantes para explicar as classificações realizadas por modelos de IA se modificam ao longo do tempo.

Para identificar essas mudanças, os pesquisadores analisaram resumos de artigos científicos publicados entre 2014 e 2024, disponíveis nas bases internacionais arXiv, nas áreas de computação, e PubMed, na área biomédica. O estudo comparou a variação das palavras mais relevantes nos próprios textos com a variação da importância atribuída a elas pelos modelos de inteligência artificial.

Os resultados mostraram que, nos textos de computação, as explicações associadas aos modelos apresentaram instabilidade média 3,33 vezes maior do que aquela observada diretamente nos textos. Na área biomédica, foi identificada uma tendência semelhante, mas sem diferença estatisticamente significativa.

A descoberta chama atenção para um desafio no acompanhamento da inteligência artificial: um sistema pode continuar produzindo classificações, enquanto as explicações utilizadas para interpretá-las se modificam. Isso não significa necessariamente que suas respostas estejam erradas, mas pode dificultar a comparação dos resultados e a identificação de mudanças no comportamento dos modelos.

Além de identificar o fenômeno, os pesquisadores propuseram um procedimento para medir essas alterações e indicar quando uma revisão pode ser necessária. Nos testes, nenhuma mudança ultrapassou o limite estabelecido para gerar alertas automáticos. Premiado como Melhor Artigo Científico (Best Paper), o estudo contribui para o desenvolvimento de métodos de monitoramento de sistemas de IA que analisam informações ao longo do tempo.