NPU 性能介绍
优质
小牛编辑
130浏览
2023-12-01
NPU 200M,SNPU 120M, npu_compiler 1.0.14 版本下测试
ASR模型 (FC320 LSTM400 LSTM400 LSTM400 LSTM400 FC211)
时间 | 内存大小 | |
---|---|---|
NPU | 2.4ms | 2.7M |
SNPU | 5.8ms | 3.4M |
- Lenet5 (1x28x28 -> Conv2D 5x5x1x32卷积核 -> Relu -> MaxPool -> Conv2D 5x5x32x64卷积核 -> Relu -> MaxPool -> FC 3136x1024权重 -> FC 1024x10权重)
时间 | 内存大小 | |
---|---|---|
NPU | 7.4ms | 4.6M |
SNPU | 13.6ms | 4.8M |
- AlexNet (3x112x112 -> Conv2D 11x11x1x64卷积核 -> Relu -> MaxPool -> Conv2D 5x5x64x192卷积核 -> Relu -> MaxPool -> Conv2D 3x3x192x384卷积核 -> Relu -> Conv2D 3x3x384x384卷积核 -> Relu -> Conv2D 3x3x384x256卷积核 -> Relu -> MaxPool)
时间 | 内存大小 | |
---|---|---|
NPU | 221ms | 35.1M |
SNPU | 359ms | 36.1M |
- MobileNet V2 (模型结构如下)
时间 | 内存大小 | |
---|---|---|
NPU | 502ms | 36.7M |
SNPU | 1019ms | 38.1M |