Pesquisadores da Universidade de Toronto e da LG AI Research desenvolveram um algoritmo de inteligaªncia artificial "explica¡vel" (XAI) que pode ajudar a identificar e eliminar defeitos nas telas de exibição.

O novo algoritmo , que superou abordagens compara¡veis ​​em benchmarks da indaºstria, foi desenvolvido por meio de uma colaboração de pesquisa de IA conta­nua entre a LG e a U of T que foi expandida em 2019 com foco em aplicativos de IA para empresas.

Os pesquisadores dizem que o algoritmo XAI pode ser potencialmente aplicado em outros campos que exigem uma janela de como o aprendizado de ma¡quina toma suas decisaµes, incluindo a interpretação de dados de exames médicos.

"A explicabilidade e a interpretabilidade referem-se ao cumprimento dos padraµes de qualidade que estabelecemos para nosmesmos como engenheiros e são exigidos pelo usua¡rio final", disse Kostas Plataniotis, professor do departamento de engenharia elanãtrica e de computação de Edward S. Rogers Saªnior na Faculdade de Aplicação Ciência e Engenharia. "Com o XAI, não existe um tamanho aºnico para todos." Vocaª tem que perguntar para quem estãodesenvolvendo. a‰ para outro desenvolvedor de aprendizado de ma¡quina? Ou épara um médico ou advogado? "

A equipe de pesquisa também incluiu o recente graduado em Engenharia da U of T, Mahesh Sudhakar, e o candidato a mestrado Sam Sattarzadeh, bem como pesquisadores liderados por Jongseong Jang da LG AI Research Canada - parte do braa§o global de pesquisa e desenvolvimento da empresa.

O XAI éum campo emergente que aborda problemas com a abordagem de 'caixa preta' das estratanãgias de aprendizado de ma¡quina.

Em um modelo de caixa preta, um computador pode receber um conjunto de dados de treinamento na forma de milhões de imagens rotuladas. Ao analisar os dados, o algoritmo aprende a associar certos recursos da entrada (imagens) a certas saa­das (ra³tulos). Eventualmente, ele pode anexar ra³tulos corretamente a imagens que nunca viu antes.

A ma¡quina decide por si mesma a quais aspectos da imagem prestar atenção e quais ignorar, o que significa que seus designers nunca sabera£o exatamente como ela chega a um resultado.

Mas esse modelo de "caixa preta" apresenta desafios quando éaplicado a áreas como saúde, direito e seguros.

"Por exemplo, um modelo [de aprendizado de ma¡quina] pode determinar que um paciente tem 90 por cento de chance de ter um tumor", diz Sudhakar. "As consequaªncias de agir com base em informações imprecisas ou tendenciosas são literalmente vida ou morte. Para entender e interpretar totalmente a previsão do modelo, o médico precisa saber como o algoritmo chegou a ela."

Em contraste com o aprendizado de ma¡quina tradicional, o XAI foi projetado para ser uma abordagem de "caixa de vidro" que torna a tomada de decisão transparente. Os algoritmos XAI são executados simultaneamente com os algoritmos tradicionais para auditar a validade e onívelde seu desempenho de aprendizagem. A abordagem também oferece oportunidades para realizar a depuração e encontrar eficiências de treinamento.

Sudhakar diz que, falando de maneira geral, existem duas metodologias para desenvolver um algoritmo XAI - cada uma com vantagens e desvantagens.

O primeiro, conhecido como retropropagação, depende da arquitetura de IA subjacente para calcular rapidamente como a previsão da rede corresponde a  sua entrada. A segunda, conhecida como perturbação, sacrifica alguma velocidade pela precisão e envolve a alteração das entradas de dados e o rastreamento das saa­das correspondentes para determinar a compensação necessa¡ria.

“Nossos parceiros da LG desejavam uma nova tecnologia que combinasse as vantagens de ambas”, diz Sudhakar. "Eles tinham um modelo existente [de aprendizado de ma¡quina] que identificava pea§as defeituosas em produtos LG com monitores, e nossa tarefa era melhorar a precisão dos mapas de calor de alta resolução de possa­veis defeitos, mantendo um tempo de execução aceita¡vel."

O algoritmo XAI resultante da equipe, Semantic Input Sampling for Explanation (SISE), édescrito em um artigo recente para a 35ª Conferência AAAI sobre Inteligaªncia Artificial.

“Vemos potencial no SISE para aplicação generalizada”, diz Plataniotis. "O problema e a intenção do cena¡rio especa­fico sempre exigira£o ajustes no algoritmo - mas esses mapas de calor ou 'mapas de explicação' poderiam ser interpretados mais facilmente, por exemplo, por um profissional médico."

“O objetivo da LG em fazer parceria com a University of Toronto ése tornar um lider mundial em inovação de IA”, disse Jang. "Esta primeira conquista no XAI fala dos esforços conta­nuos de nossa empresa para fazer contribuições em várias áreas, como funcionalidade dos produtos LG, inovação na fabricação, gerenciamento da cadeia de suprimentos, eficiência na descoberta de materiais e outros, usando IA para aumentar a satisfação do cliente."

A professora Deepa Kundur, chefe do departamento de engenharia elanãtrica e de computação, diz que sucessos como esse são um bom exemplo do valor da colaboração com parceiros da indaºstria.

“Quando ambos os grupos de pesquisadores vão a  mesa com seus respectivos pontos de vista, muitas vezes pode acelerar a resolução de problemas”, diz Kundur. "a‰ inestima¡vel para os alunos de pós-graduação serem expostos a esse processo."

Embora tenha sido um desafio para a equipe atingir a precisão agressiva e as metas de tempo de execução dentro do projeto de um ano - ao mesmo tempo em que fazia malabarismos com os fusos hora¡rios de Toronto / Seul e trabalhava sob as restrições do COVID-19 - Sudhakar diz que a oportunidade de gerar uma solução prática para um fabricante de renome mundial, valeu a pena o esfora§o.

“Foi bom para nosentender como funciona exatamente a indaºstria”, diz Sudhakar. "Os objetivos da LG eram ambiciosos, mas tivemos um apoio muito encorajador deles, com feedback sobre ideias ou analogias para explorar. Foi muito empolgante."