Sistema en chip de IA versátil y energéticamente eficiente

El chip optimizado de inteligencia artificial (AI) admite visión artificial avanzada y chatbot AI con el mayor rendimiento y eficiencia energética.

Rebellions Inc ha lanzado un chip de inteligencia artificial (IA), ATOM, que, según afirma, está configurado para provocar un cambio revolucionario en la tecnología de IA. La compañía afirma que el chip está optimizado para aplicaciones de IA de visión por computadora y chatbot. Al centrarse en tareas específicas, el chip solo consume alrededor del 20% de la energía que requieren otros chips similares para esas tareas específicas. El chip conecta tareas de aprendizaje automático (ML) sensibles a la latencia y servicios de ML de hiperescala. La compañía afirma que System on Chip (SoC) es un motor de inferencia de alta velocidad ideal para entrenar modelos utilizados en aplicaciones de IA generativa como ChatGPT. El chip admite redes de IA de última generación, incluidos modelos de lenguaje GPT de última generación, con el mayor rendimiento y eficiencia energética. El chip está diseñado para satisfacer las rigurosas demandas de los servicios de IA complejos mediante la integración de particiones de múltiples instancias y capacidades de arranque seguro.

Según la compañía, el SoC acelera de manera eficiente varias redes neuronales, como las redes neuronales convolucionales (CNN), la memoria a corto plazo (LSTM), las representaciones de transformadores de codificador bidireccional (BERT) y las redes de transformadores más nuevas, como T5, GPT, etc. ATOM habilita El particionamiento eficiente permite el soporte simultáneo de hasta 16 trabajos aislados en diferentes niveles de hardware y software. La máxima eficiencia energética se logra mediante la implementación de una metodología de diseño de bajo consumo y el uso de estructuras de núcleo limpias. El núcleo de IA puede admitir redes de diversa profundidad y complejidad, que van desde pequeñas aplicaciones hasta servicios de centros de datos de alto nivel.

ATOM funciona con el nodo de proceso EUV (ultravioleta extremo) de última generación de Samsung Electronics, que garantiza un rendimiento óptimo y eficiencia energética. Con tecnologías avanzadas como Peripheral Component Interconnect Express (PCIe) Generation 5 (Gen5) y Graphics Double Data Rate 6 (GDDR6) de E/S de alta velocidad, el procesador cubre varios mercados, desde la computación perimetral hasta los centros de datos.

Las especificaciones técnicas del chip AI incluyen:

• FP16: 32 TFLOPS
• INT8 / INT4: 128 TOPS / 256 TOPS
• SRAM en chip: 64 MB
• Potencia máxima de diseño térmico (TDP): 60 – 150 W (configurable)
• Memoria: 16 GB, GDDR6 (ECC habilitado), 256 GB/s
• Interfaz de host/chip a chip: PCIe Gen5, 64 GB/s
• NPU de múltiples instancias: aislamiento HW para hasta 16 tareas independientes

Para más información, haga clic aquí.