原标题：基于NXP i.MX8MQ的人工智能效能验证软体整合测试解决方案

　　现今各大产业都逐渐往人工智能的领域开发，品佳集团提出了全新智能学习解决方案，为整个产业提供了快速并且简单的方式来开发人工智能。人工智能难以进入的首要原因为: 需要服务器等级的运算能力来制作机器学习的经验(即Model)，此举旷时费工，非大型企业等级的公司所能承受的成本，而成为进入人工智能的第一道巨型门槛。在此因之下，许多开源公司开始开发自有的学习模型并提供产业界使用，但仍亟需解决的问题为如何整合各家开源公司所提供的学习模型。

　　eIQ: edge Intelligence Quotient。意指在edge端直接inference(推理) 学习模型，并得出计算结果。不须强力的服务器等级运算能力，即可在终端产品上实现机器学习以及人工智能的功能。

　　品佳集团提供了整合完成的开发环境以供客人快速地进入开发领域。同时提供了目前流行的开源学习模组包括opencv, tensorflow, tensorflow-lite, caffe 等。根据各家开源学习模组所擅长的领域，可以直接在i.MX8MQ上执行并且完全不受干扰可独立的进行运作，替客户节省成本以及开发时程。使用品佳集团整合完成的SDK可以立即协助客户进入测试阶段，不须再为开源程式的结合而烦恼，直接使用即可得出运算结果。客户只需考虑应用场景，软体整合的部分皆可以此方案做解决。i.MX8MQ的优势为拥有4颗Cortex-A53 以及1颗GC7000+的GPU来处理影像辨识，机器学习，资料运算等复杂且沉重的资源消耗。举凡人工智能的使用范例: 影像辨识，物件辨认，人脸识别，物品分类，结果预测，都可以直接使用品佳集团所提供的SDK上做执行并且进一步的应用。

　　硬体系统说明:

　　将所要辨识物件的图片经由网路或是储存装置输入(USB/SD CARD..)至iMX8MQ的系统

　　iMX8MQ的系统基于eIQ的架构，并启动已经训练好的物件辨别模型

　　由HDMI输出画面中，即可以发现物件辨别出来的结果。

　　实体应用图如下：

实作流程:

　　以Linux Kernel 4.14.98为基础，使用Yocto Project做开发环境

　　首先在local.conf中编译Opencv, tensorflow-lite等应用程式及学习库

编译完成后，下载opencv执行范例压缩包

　　github.com/opencv/opencv_extra/tree/4.0.1

　　解压缩完后使用python下载学习模组

　　$cd opencv_extra-4.0.1/testdata/dnn/

　　$python download_models.py

　　将所需档案复制到/usr/share/OpenCV/samples/bin资料夹中

以影像辨识学习模型squeezeNet执行物件辨识的结果

　　$./example_dnn_classification --input=dog416.png --zoo=models.yml squeezenet

　　我们使用流行的dog416.png作为输入元素，并得出结果:

执行辨识的时间约300ms

　　使用物件辨识Yolov3学习模组所得出的结果

　　$./example_dnn_object_detection -width=1024 -height=1024 -scale=0.00392 -input=dog416.png -rgb -zoo=models.yml yolo

　　可得出结果

以上证明使用品佳所提供的平台

　　只需下载pre-trained模组后

　　即可直接执行影像辨识，物件辨认的机器学习行为

　　此方案可协助客户立即进入软体开发阶段，省去整合的麻烦工作。

　　硬体设计部分:

详细硬体设计可以参考附件的硬体资料

　　场景应用图

展示板照片

方案方块图

核心技术优势

　　i.MX8M:

　　◆ 高速四核⼼A53搭配微处理器M4单独执⾏，可完整弹性分配效能运用。

　　◆ 内建4K的硬体decoder。音源品质最高可支持DOLBY ATMOS与DTSX，不论影音皆可达最高规需求。

　　◆ ⽀持众多输出输入介⾯，GbEthernet, MIPI-CSI, DSI, SDIO, USB3.0, PCI-E2.0

　　搭配由品佳独家提供的软体整合平台，可快速帮助客户进入测试以及免去繁琐的软体移植作业。

　　此方案的软硬体结合之下，概括人工智能各领域的应用皆可直接进行效能测试，为客户评估专案的最佳利器。

　　方案规格

　　4核 ARM Cortex-A53+1 Cortex-M4

　　OpenCV 4.0.1

　　Arm Compute Library 19.02

　　Arm NN 19.02

　　ONNX runtime 0.3.0

　　TensorFlow 1.12

　　TensorFlow Lite 1.12

　　Linux® OS, Android™, FreeRTOS®