Ilustração gerada por IA de IA transparente versus “caixa preta”.
A inteligência artificial que não consegue explicar como toma decisões – muitas vezes chamada de IA de “caixa negra” – poderá em breve ser substituída por sistemas mais transparentes, sugere a investigação.
Um estudo da Universidade de Loughborough, publicado em Física D: Fenômenos Não Linearesdescreve um novo modelo matemático para a construção de IA que pode revelar como ela aprende, lembra e toma decisões.
A equipe desenvolveu um protótipo de sistema com um “cérebro” e uma memória. Ao contrário da IA convencional, pode aprender continuamente sem perder conhecimentos anteriores, evitar a formação de memórias falsas ou enganosas e imitar aspectos do pensamento humano – como o fortalecimento ou o esquecimento de informações ao longo do tempo – de uma forma clara e controlável.
“A inteligência tem sido tratada há muito tempo como algo que emerge dentro de uma caixa preta”, disse a autora principal, Dra. Natalia Janson, do Departamento de Ciências Matemáticas da Universidade de Loughborough. “Queríamos repensar a IA desde o início – e construímos um sistema onde o funcionamento interno da cognição é totalmente transparente.”
Nos primeiros testes, o protótipo apresentou resultados promissores. Em demonstrações simples, aprendeu notas musicais e frases musicais curtas sem supervisão e identificou e armazenou cores a partir de dados visuais, como imagens de desenhos animados. Em todas as tarefas, comportou-se de forma previsível e rastreável, evitando problemas comuns observados na IA, incluindo “esquecimento catastrófico” e a formação de falsas memórias.
Os investigadores dizem que um grande obstáculo à IA transparente tem sido uma compreensão limitada de como a memória, o comportamento e a estrutura física interagem na inteligência natural. Essa lacuna tornou difícil projetar sistemas que possam executar tarefas complexas e explicar como o fazem.
No centro da nova abordagem está um conceito matemático denominado “campo vetorial plástico”, que modela como a informação muda ao longo do tempo de uma forma que reflete como o cérebro a processa e armazena. Isto permite que cada estágio de aprendizagem e cognição da IA seja rastreado, com transparência incorporada desde o início, em vez de adicionada posteriormente.
“Para construir sistemas inteligentes que se comportem de forma transparente e conforme pretendido, precisamos de abordar algumas questões fundamentais”, disse o Dr. Janson. “Como reconhecemos a inteligência nos seres humanos? Através do comportamento. O que impulsiona esse comportamento? Atividade cerebral. Mas o que está por trás da própria atividade cerebral? Qual é o ‘código’ do cérebro e como a memória e a estrutura física estão conectadas? Estas são as perguntas que tentamos responder.”
A equipe também examinou as redes neurais artificiais existentes e descobriu que muitas de suas limitações podem resultar da forma como são projetadas.
“O que é emocionante – e um pouco surpreendente – é que agora podemos ver claramente por que as redes neurais atuais lutam com a explicabilidade”, disse um dos autores do estudo, Professor Alexander Balanov, do Departamento de Física da Universidade de Loughborough. “Não é apenas um obstáculo técnico. Seu design torna impossível controlar totalmente como eles aprendem e armazenam informações. É por isso que novas abordagens como a nossa são tão importantes.”
O sistema protótipo ainda é relativamente simples e precisa ser ampliado para uso no mundo real. A equipa de Loughborough planeia desenvolvê-lo ainda mais e explorar como poderia ser aplicado de forma mais ampla – incluindo em novos tipos de hardware – com o objetivo de criar uma IA que seja poderosa e mais fácil de compreender e confiar.
O professor Balanov disse: “Em última análise, esta pesquisa nos aproxima de tecnologias nas quais as pessoas podem confiar com segurança na vida cotidiana – desde ferramentas de saúde mais seguras até tomadas de decisão automatizadas mais responsáveis”.
O jornal, intitulado “Projetando sistemas cognitivos explicáveis e explicando redes neurais com sistemas dinâmicos plásticos”pode ser lido na íntegra online.
Notas para editores
Número de referência do comunicado de imprensa: 26/87
Loughborough é uma das principais universidades do país, com reputação internacional em pesquisas importantes, excelência no ensino, fortes vínculos com a indústria e realizações incomparáveis no esporte e nas disciplinas acadêmicas que o sustentam.
Foi premiada com cinco estrelas no esquema independente de classificação universitária QS Stars e eleita a melhor universidade do mundo em disciplinas relacionadas ao esporte no 2025 QS World University Rankings – o nono ano consecutivo.
Loughborough foi classificada em sétimo lugar no Guia Universitário Completo 2026 – entre 130 instituições. Este marco marca uma década entre os dez primeiros de Loughborough – um feito partilhado apenas pelas universidades de Oxford, Cambridge, LSE, St Andrews, Durham e Imperial.
Loughborough também foi nomeada Universidade do Ano para o Esporte no Times e no Sunday Times Good University Guide 2025 – a quarta vez que recebeu o prestigioso título.
No Research Excellence Framework (REF) 2021, mais de 90% da sua investigação foi classificada como “líder mundial” ou “excelente internacionalmente”. Em reconhecimento à sua contribuição para o setor, Loughborough recebeu oito Prêmios Queen Elizabeth para Ensino Superior e Continuado.
O campus da Loughborough University London está localizado no Parque Olímpico Rainha Elizabeth e oferece educação de pós-graduação e nível executivo, bem como oportunidades de pesquisa e empreendimentos. É o lar de líderes de pensamento influentes, pesquisadores pioneiros e inovadores criativos que oferecem aos alunos a mais alta qualidade de ensino e o que há de mais moderno no pensamento moderno.
