硬件支持及示例

ARM CPU

Paddle Lite 支持 ARM Cortex-A 系列处理器，支持列表如下:

32bit (ARMv7a)

  • Cortex-A5

  • Cortex-A7

  • Cortex-A8

  • Cortex-A9

  • Cortex-A12

  • Cortex-A15

  • Cortex-A17 (RK3288)

  • Cortex-A32

64bit (ARMv7a, ARMv8a)

  • Cortex-A35

  • Cortex-A53 (树莓派 3)

  • Cortex-A55

  • Cortex-A57 (Nvidia tx1，Nvidia tx2， 高通 810 等)

  • Cortex-A72 (麒麟 95X，高通 820, RK3399，树莓派 4 等)

  • Cortex-A73 (麒麟 960，麒麟 970，高通 835, 联发科 X30 等)

  • Cortex-A75 (高通 845等)

  • Cortex-A76 (麒麟 980，麒麟 990，高通 855，高通 730，联发科 G90 等）

  • Cortex-A77

  • ARMv8-A compatible (Apple A 系列处理器, Nvidia tegra, Qualcomm Kryo, Falkor, Samsung Mongoose)

ARM CPU 环境准备及示例程序

X86 CPU

Paddle Lite 当前支持 AVX 及 FMA 指令集的 X86 CPU，正在完善 SSE 指令集的实现。因为 X86 设备众多，不一一列举。

  • 下面列举判断当前 CPU 是否同时支持 AVX 及 FMA 指令集（判断 Paddle Lite 是否支持该 CPU）的方法：

    • 目标设备是 linux：执行命令 cat /proc/cpuinfo 查看

    • 目标设备是 windows：利用免费工具 CPU-Z 查看

X86 CPU 环境准备及示例程序

移动端 GPU

Paddle Lite 支持多种移动端 GPU，包括 ARM Mali、Qualcomm Adreno、Apple A Series 等系列 GPU 设备，支持列表如下：

  • ARM Mali G 系列

  • Qualcomm Adreno 系列

  • Apple A 系列

移动端 GPU 环境准备及示例程序

FPGA

Paddle Lite 支持 百度 FPGA，支持列表如下：

  • 百度 Edgeboard 系列：ZU9, ZU5, ZU3

Paddle Lite 支持 英特尔 (Intel) FPGA，支持列表如下：

  • 支持芯片：英特尔 FPGA Cyclone V 系列芯片

  • 支持设备：

    • 海运捷讯 C5MB（英特尔 FPGA Cyclone V）开发板

    • 海运捷讯 C5CB（英特尔 FPGA Cyclone V）开发板

    • 海运捷讯 C5TB（英特尔 FPGA Cyclone V）开发板

FPGA 环境准备及示例程序

百度 (Baidu) XPU

Paddle Lite 支持百度 XPU，支持列表如下：

  • 百度昆仑 818-100 芯片

  • 百度昆仑 818-300 芯片

百度 (Baidu) XPU 环境准备及示例程序

华为 (Huawei) 麒麟 NPU

Paddle Lite 支持华为达芬奇架构麒麟 NPU，支持列表如下：

  • 支持芯片：Kirin 810/990/985/9000

  • 支持设备：

    • Kirin 9000：HUAWEI Mate40 pro 系列

    • Kirin 9000E：HUAWEI Mate40 系列

    • Kirin 990 5G：HUAWEI Mate30 pro 系列，P40 pro 系列

    • Kirin 990：HUAWEI Mate30 系列, 荣耀 V20 系列, nova6 系列，P40 系列，Mate Xs

    • Kirin 985：HUAWEI nova7 5G，nova7 Pro 5G，荣耀 30

    • Kirin 820：HUAWEI nova7 SE 5G，荣耀 30S

    • Kirin 810：HUAWEI nova5 系列，nova6 SE，荣耀 9X 系列，荣耀 Play4T Pro

华为 (Huawei) 麒麟 NPU 环境准备及示例程序

华为 (Huawei) 昇腾 NPU

Paddle Lite 已支持华为昇腾 NPU（Ascend310）在 X86 和 ARM 服务器上进行预测部署

  • 支持设备：

    • Ascend 310：Atlas 300I 推理卡（型号：3000/3010)

    • Atlas 200 DK 开发者套件

    • Atlas 800 推理服务器（型号：3000/3010）

华为 (Huawei) 昇腾 NPU 环境准备及示例程序

瑞芯微 (Rockchip) NPU

Paddle Lite 支持 瑞芯微 (Rockchip) NPU，支持列表如下：

  • 支持芯片：RK1808, RK1806，暂不支持 RK3399Pro

  • 支持设备：RK1808/1806 EVB，TB-RK1808S0

瑞芯微 (Rockchip) NPU 环境准备及示例程序

联发科 (MediaTek) APU

Paddle Lite 支持 联发科 (MediaTek) APU，支持列表如下：

  • 支持芯片：MT8168/MT8175，及其他智能芯片

  • 支持设备：MT8168-P2V1 Tablej

联发科 (MediaTek) APU 环境准备及示例程序

晶晨（Amlogic）NPU

Paddle Lite 支持 晶晨（Amlogic）NPU, 支持列表如下：

  • 支持芯片：C308X，A311D，S905D3(Android 版本)

晶晨（Amlogic）NPU 环境准备及示例程序

颖脉 (Imagination) NNA

Paddle Lite 支持 颖脉 (Imagination) NNA，支持列表如下：

  • 支持芯片：紫光展锐虎贲 T7510

  • 支持设备：海信 F50，Roc1 开发板(基于 T7510 的微型电脑主板)

颖脉 (Imagination) NNA 环境准备及示例程序

比特大陆（Bitmain）TPU

Paddle Lite 支持比特大陆（Bitmain）TPU，支持列表如下：

  • 支持芯片：Sophon BM1682，Sophon BM1684

  • 支持设备：

    • Sophon SC3 加速卡 (BM1682 X86 PCI-E)

    • Sophon SC5 加速卡 (BM1684 X86 PCI-E)

比特大陆（Bitmain）TPU 环境准备及示例程序