A medida que la IA continúa impregnando nuestra vida diaria, las demandas de procesamiento del hardware subyacente se vuelven más estrictas. Hoy en día, nuestros modelos de IA más sofisticados y a gran escala existen en la nube, como los que están detrás de ChatGPT. Para desbloquear completamente el potencial de la IA, muchos creen que será necesario llevar estos modelos al límite. Lograr este objetivo requerirá una combinación de modelos de IA ligeros y altamente optimizados, así como recursos informáticos densos y potentes.
Esta semana, los investigadores de la USC ocuparon los titulares de la industria con la publicación de un nuevo artículo que afirma tener «la mejor memoria de cualquier chip para IA de borde». En este artículo, analizaremos la necesidad de una memoria mejorada para la IA perimetral y la nueva tecnología memristiva de la USC.
El equipo de la USC cree que su descubrimiento de la memoria podría permitir que potentes algoritmos de IA se ejecuten incluso en pequeños dispositivos portátiles. Imagen cortesía de la Escuela de Ingeniería USC Viterbi
Necesidad de IA para una mejor memoria
A medida que los algoritmos de IA se vuelven más complejos, la necesidad de tecnologías de memoria más rápidas y eficientes se vuelve cada vez más importante. Sin embargo, las tecnologías de memoria tradicionales, como la memoria dinámica de acceso aleatorio (DRAM) y la memoria flash, no son adecuadas para aplicaciones de IA debido a su capacidad limitada, alto consumo de energía y velocidades lentas de lectura y escritura.
Un memristor se caracteriza tanto por la carga como por el flujo. Imagen cortesía de CMC
Una tecnología prometedora para aplicaciones de IA son los memristores, que son dispositivos de conmutación resistivos que se pueden usar para la memoria no volátil y la computación neuromórfica. Los memristores ofrecen muchos beneficios, que incluyen alta densidad, bajo consumo de energía y velocidades rápidas de lectura y escritura. Además, los memristores se pueden usar para implementar redes neuronales, que son fundamentales para muchas aplicaciones de inteligencia artificial.
Para llevar la IA al límite, las tecnologías memristor mejoradas deben ser compatibles con la programación de alta precisión y garantizar un rendimiento uniforme y preciso en una gran cantidad de dispositivos. Los memristores de alta precisión son esenciales para descargar los pesos sinápticos obtenidos del entrenamiento en la nube y programarlos directamente en los memristores. Esto haría que fuera práctico entrenar modelos de redes neuronales desde cero e implementarlos en miles de millones de redes neuronales memristivas en el borde.
Desafíos de Memristor
Los dispositivos de conmutación memristivos son conocidos por su rango dinámico de conductancia relativamente grande, que puede permitir una gran cantidad de niveles discretos de conductancia dentro del dispositivo. Estos niveles de conductancia únicos dentro de un solo dispositivo podrían ser la clave para lograr una memoria de alta densidad para aplicaciones de IA perimetral.
Un esquema común de redes neuronales memristivas para computación perimetral a gran escala. Imagen cortesía de Yang et al.
A pesar del potencial teórico para un número infinito de niveles de conductancia, el número más alto de niveles de conductancia informado hasta la fecha no ha superado los doscientos. Una de las principales razones de esto es la fluctuación del dispositivo que se produce en cada nivel de conductancia, lo que limita el rango de conductancia alcanzable.
Para garantizar un rendimiento fluido y preciso en una gran cantidad de redes memristivas, los desarrolladores deben tener acceso a una programación de alta precisión. Esta capacidad puede permitir muchos niveles de conductancia distinguibles en cada dispositivo memristivo.
USC desbloquea 2000 niveles de conductancia Memristor
Esta semana, los investigadores de la USC publicaron un nuevo artículo que describe un gran avance en la tecnología memristiva para aplicaciones de IA perimetral.
En el documento publicado en Naturaleza, los investigadores informan haber logrado más de 2048 niveles de conductancia para dispositivos memristivos, un número que representa la mayor cantidad de niveles de conductancia discretos entre todos los tipos de memoria jamás informados. Los investigadores han descubierto que la fluctuación memristiva se puede reducir significativamente mediante la aplicación de estímulos eléctricos específicos como un proceso de eliminación de ruido.
Un estímulo eléctrico elimina con éxito los niveles de conductancia del memristor. Imagen cortesía de Yang et al.
Usando este proceso de eliminación de ruido, que no requiere circuitos adicionales, los investigadores programaron con éxito un memristor comercial fabricado por un fabricante de semiconductores en 2048 niveles de conductancia, correspondientes a una resolución de 11 bits. Es importante destacar que esta hazaña se logró en dispositivos memristor completamente integrados en un chip en una fundición comercial, lo que demuestra la viabilidad comercial del prototipo.
Con este éxito inicial, los investigadores esperan haber allanado el camino para que los modelos masivos de IA operen en plataformas informáticas más pequeñas.