Pesquisadores da Skoltech e do Centro de Inteligência Artificial Prática do Sberbank, braço de inteligência artificial do banco russo Sber, introduziram a técnica TOHA (Topology-based Hallucination Detection Algorithm), um método inovador para identificar alucinações em sistemas de IA que empregam grandes modelos de linguagem, validando seu desempenho em tarefas de perguntas e respostas e resumo de textos com precisão equivalente ou superior às abordagens convencionais.
Desenvolvimento e Validação Científica da Tecnologia TOHA
A proposta técnica foi formalizada em artigo submetido aos Anais da 64ª Reunião Anual da Associação de Linguística Computacional, onde os pesquisadores explicaram que o TOHA opera por meio da análise das matrizes de atenção internas do modelo, estruturando-as em diagramas gráficos para calcular a métrica MTop-Div, que quantifica divergências entre o conteúdo original fornecido e a resposta gerada pela IA.
A validação empírica revelou que o método alcançou resultados comparáveis ou superiores aos de técnicas consolidadas como o SelfCheckGPT, especialmente por demandar menor volume de exemplos para treinamento e não depender da geração repetida de respostas, otimizando recursos computacionais e ampliando sua aplicabilidade prática em ambientes industriais.
O método TOHA detecta alucinações com desempenho equivalente ou superior ao das abordagens existentes, usando apenas matrizes de atenção internas do modelo sem necessidade de múltiplas gerações.
Aplicações Setoriais e Desafios Regulatórios
As implicações da tecnologia se estendem a setores críticos onde erros de IA podem acarretar prejuízos financeiros ou danos à reputação, como bancos, escritórios jurídicos e seguradoras, que utilizam sistemas de IA com RAG para acesso a bases corporativas.
Especialistas apontam que, embora o SIRIN – biblioteca open‑source do Sberbank que hospeda o TOHA – já esteja disponível publicamente, a adoção em escala nacional dependerá de adaptações regulatórias e da integração com protocolos de segurança internos das instituições financeiras.
