AI芯片

微纳核芯AI芯片系列包括端侧大模型推理芯片等。

存储:2GB DRAM

算力:≥20T@INT8(单颗),支持多颗级联

性能:150 tokens/s @llama-3b-int4,最高300 tokens/s

功耗:平均功耗<2W

接口:LPDDR,支持内存共享

优势:高TPS性能,低功耗,极致性价比

应用:AI 手机、IOT、服务器