Tecnologia Científica

Uma rede neural de crença profunda baseada em sinapses memristivas de silício
Embora os modelos de inteligência artificial (IA) estejam se tornando cada vez mais avançados, treinar e executar esses modelos em hardware de computador convencional consome muita energia. Engenheiros em todo o mundo têm tentado...
Por Ingrid Fadelli - 11/01/2023


Memristors medidos em uma estação de sonda. Crédito: Departamento de porta-vozes do Technion.

Embora os modelos de inteligência artificial (IA) estejam se tornando cada vez mais avançados, treinar e executar esses modelos em hardware de computador convencional consome muita energia. Engenheiros em todo o mundo têm tentado criar hardware alternativo inspirado no cérebro que poderia suportar melhor a alta carga computacional dos sistemas de IA.

Pesquisadores do Technion–Israel Institute of Technology e do Peng Cheng Laboratory criaram recentemente um novo sistema de computação neuromórfica que suporta redes neurais de crença profunda (DBNs), uma classe generativa e gráfica de modelos de aprendizado profundo. Este sistema, descrito na Nature Electronics , é baseado em memristores baseados em silício, dispositivos energeticamente eficientes que podem armazenar e processar informações.

Os memristores são componentes elétricos que podem alternar ou regular o fluxo de corrente elétrica em um circuito, lembrando também a carga que passou por ele. Como suas capacidades e estruturas se assemelham mais às das sinapses no cérebro humano do que as memórias convencionais e unidades de processamento, elas podem ser mais adequadas para a execução de modelos de IA.

“Nós, como parte de uma grande comunidade científica, trabalhamos em computação neuromórfica há algum tempo”, disse Shahar Kvatinsky, um dos pesquisadores que realizou o estudo, ao TechXplore. "Normalmente, os memristors são usados ??para realizar cálculos analógicos. Sabe-se que existem duas limitações principais no campo neuromórfico - uma é a tecnologia memristive que ainda não está amplamente disponível. A segunda é o alto custo dos conversores necessários para converter a computação analógica para os dados digitais e vice-versa."

Ao desenvolver seu sistema de computação neuromórfica, Kvatinsky e seus colegas decidiram superar essas duas limitações cruciais dos sistemas baseados em memristor . Como os memristors não estão amplamente disponíveis, eles decidiram usar uma tecnologia Flash disponível comercialmente desenvolvida pela Tower Semiconductor, projetando-a para se comportar como um memristor. Além disso, eles testaram especificamente seu sistema com um DBN recém-projetado, pois esse modelo específico não requer conversões de dados (ou seja, seus dados de entrada e saída são binários e inerentemente digitais.

"DBNs são um antigo conceito teórico de aprendizado de máquina", explicou Kvatinsky. "Nossa ideia era usar neurônios binários (ou seja, com um valor de 0 ou 1) (entrada/saída). Existem várias propriedades únicas (em comparação com redes neurais profundas ), incluindo que o treinamento de tal rede depende do cálculo a atualização acumulada do modelo desejado e atualizá-lo somente ao atingir um determinado limite."

As sinapses artificiais criadas pelos pesquisadores foram fabricadas usando processos comerciais de semicondutores de óxido de metal complementar (CMOS). Essas sinapses memristivas baseadas em silício têm vários recursos vantajosos, incluindo sintonização analógica, alta resistência, longo tempo de retenção, degradação cíclica previsível e variabilidade moderada em diferentes dispositivos.

Kvatinsky e seus colegas demonstraram seu sistema treinando um tipo de DBN, conhecido como máquina de Boltzmann restrita, em uma tarefa de reconhecimento de padrões. Para treinar este modelo (uma máquina Boltzmann restrita de 19x8 memristive), eles usaram duas matrizes de 12x8 dos memristors que eles projetaram.

"A simplicidade do DBN os torna atraentes para implementação de hardware", disse Kvatinsky. "Mostramos que, embora DBN sejam simples de implementar (devido à sua natureza binária), podemos alcançar alta precisão (> 97% de reconhecimento preciso de dígitos manuscritos) ao usar memristores baseados em Y-Flash."

A arquitetura apresentada por esta equipe de pesquisadores oferece uma nova solução viável para executar máquinas Boltzmann restritas e outros DBNs. No futuro, poderia inspirar o desenvolvimento de sistemas neuromórficos semelhantes, ajudando coletivamente a executar sistemas de IA com mais eficiência energética.

“Agora planejamos ampliar essa arquitetura, explorar tecnologias memristivas adicionais e explorar mais arquiteturas de redes neurais”.


Mais informações: Wei Wang et al, Uma rede neural de crença profunda memristiva baseada em sinapses de silício, Nature Electronics (2022). DOI: 10.1038/s41928-022-00878-9

Informações do jornal: Nature Electronics 

 

.
.

Leia mais a seguir