LP-CIM™系列AI推理芯片
存储:2GB DRAM 算力:≥20T@INT8(单颗),支持多颗级联 性能:150 tokens/s @llama-3b-int4,最高300 tokens/s 功耗:平均功耗<2W 接口:LPDDR,支持内存共享 优势:高TPS性能,低功耗,极致性价比 应用:AI 手机、IOT、服务器
LP-CIM™系列AI推理芯片
存储:2GB DRAM 算力:≥20T@INT8(单颗),支持多颗级联 性能:150 tokens/s @llama-3b-int4,最高300 tokens/s 功耗:平均功耗<2W 接口:LPDDR,支持内存共享 优势:高TPS性能,低功耗,极致性价比 应用:AI 手机、IOT、服务器