端侧大模型推理芯片-杭州微纳核芯电子科技有限公司-

端侧大模型推理芯片

- 20~50TOPS@int8

- 4GB LPDDR

- 100tokens/s@llama7b-int4

- PCIe 4

- 散热设计功率TDP<5W

- 非常适用于AI手机、AI PC和机器人等应用领域