Tengine Lite 由 OPEN AI LAB 主导开发，该项目实现了深度学习神经网络模型在嵌入式设备上快速、高效部署。为实现众多 AIoT 应用中跨平台部署，本项目基于原有 Tengine 项目使用 C 语言进行重构，针对嵌入式设备资源有限的特点进行深度框架裁剪。同时采用完全分离的前后端设计，利于 CPU、GPU、NPU 等异构计算单元快速移植和部署。同时兼容 Tengine 框架原有 API 和 模型格式 tmfile，降低评估、迁移成本。
Tengine Lite 核心代码由 4 个模块组成：
- dev： NN Operators 后端模块，当前提供 CPU 代码，后续逐步开源 GPU、NPU 参考代码；
- lib：框架核心部件，包括 NNIR、计算图、硬件资源、模型解析器的调度和执行模块；
- op：NN Operators 前端模块，实现 NN Operators 注册、初始化；
- serializer：模型解析器，实现 tmfile 格式的网络模型参数解析。
架构简析
如何使用
编译
- 快速编译 基于 cmake 实现简单的跨平台编译。
示例
- examples 提供基础的分类、检测算法用例，根据 issue 需求持续更新。
模型仓库
- Tengine model zoo 兼容原有 Tengine 的模型示例仓库（密码：hhgc）。
转换工具
- 预编译版本：提供 Linux 系统上预编译好的模型转换工具；
- 在线转换版本：基于 WebAssembly 实现（浏览器本地转换，模型不会上传）；
- 源码编译：参考 Tengine-Convert-Tools 项目编译生成。
速度评估
- Benchmark 基础网络速度评估工具，欢迎大家更新。
Roadmap
-
前言 本文将介绍在Jeston Tx2上部署Tengine-lite模型的方法 以及这几天来踩的坑。 采用CUDA部署的方法而非openCL 内容简洁有效 一、Tengine是什么？ Tengine 由 OPEN AI LAB 主导开发，该项目实现了深度学习神经网络模型在嵌入式设备上的快速、高效部署需求。为实现在众多 AIoT 应用中的跨平台部署，本项目基于原有 Tengine 项目使用 C 语言
-
https://tengine-docs.readthedocs.io/zh_CN/latest/source_compile/compile_linux.html https://blog.csdn.net/weixin_40920183/article/details/107373945 https://github.com/OAID/Tengine Tengine支持GPU / CPU异构调
-
整体神经网络的加载以及运行Tengine-EAIDK310使用_KernStarc的博客-CSDN博客 EAIDK310资料 （史上最强）EAIDK-310入门资源汇总 - 极术社区 - 连接开发者与智能计算生态 Tengine推理实现 基于tengine实现yolov4推理 - 知乎 protobuf的交叉编译使用 protobuf 的交叉编译使用（C++）_大橙子疯的博客-CSD
-
一.OpenCL部署Tengine 1.安装OpenCL sudo apt install rockchip-mali-midgard14 sudo apt install rockchip-mali-midgard-dev sudo apt install ocl-icd-opencl-dev opencl-headers sudo apt install clinfo clinfo #显示O
-
嵌入式设备C SDK C SDK 快速开始 开发环境准备 安装Ubuntu16.04 安装必备软件 获取设备激活凭证 创建产品 添加测试设备 编译样例程序 解压缩 SDK 填入设备信息 编译SDK产生样例程序 服务同步调用能力开发 能力概述 设备端实现 运行样例程序 执行样例程序 观察消息上报 观察消息下推 观察设备状态和设备日志 设备量产 嵌入式设备C SDK 更新时间：2018-03-23 1
-
我打算通过RESTAPI将数据从嵌入式设备加载到BigQuery。 我的BigQuery初始化已经完成，我正在使用python库访问相同的初始化。 我的嵌入式设备使用这些与我的服务号JSON散列的参数创建JWT 我试图使用TCP终端应用程序测试相同的。请向我解释配方是否有任何问题。 我首先需要知道BigQuery是否允许这样的访问。 请告诉我JSON字符串中的子应该是什么。 如果我做错了，请告诉我
-
更新时间：2018-09-14 20:15:43 本示例旨在为开发者展示如何让设备快速与阿里云端的 LD（Link Develop）平台相连，把设备端属性上报到云端展示，手机APP，或者云端远程更新设备的属性和状态，操控设备。 该示例使用到了开发板 ESP32-devkitC 板上的 LED 灯，因此需要 ESP32-devkitC 开发板：goouuu-esp-32f，当然，也可以使用其他参考板
-
主要内容：嵌入式系统硬件,嵌入式系统软件在学习物联网或在物联网上构建项目时，了解嵌入式设备非常重要。嵌入式设备是构建独特计算系统的对象。这些系统可能连接也可能不连接到Internet。 嵌入式设备系统通常作为单个应用程序运行。但是，这些设备可以通过互联网连接进行连接，并且可以通过其他网络设备进行通信。 嵌入式系统硬件 嵌入式系统可以是微控制器型或微处理器型。这两种类型都包含集成电路(IC)。 嵌入式系统的基本组件是RISC系列微控制器，
-
问题内容： 我正在ARM Cortex-A8上使用ELinux内核。 我知道引导加载程序的工作方式以及正在执行的工作。但是我有一个问题-为什么我们需要引导加载程序， 为什么引导加载程序诞生了 ？ 为什么在没有引导加载程序的情况下不能直接从闪存将内核加载到RAM？如果我们加载它，将会发生什么？实际上，处理器将不支持它，但是为什么要遵循该程序？ 问题答案： 引导加载程序是一种计算机程序，可以在自检完成
-
我试图配置与。但得到这么多的麻烦与版本不同的包我想出了这个 这是的依赖项，它是的依赖项。 当我启动服务器时，一切都正常，但是当我试图用这段代码访问neo4j服务器时。 通过在控制器中调用方法，我得到了拒绝的连接。 我认为嵌入式neo4j没有启动，这就是原因。那么如何启动嵌入式服务器呢。我想如果我使用spring boot，它会自动启动，但事实并非如此。 注：文件包含这是我遵循的项目https://
-
问题内容： 我正在尝试为连接到RabbitMQ代理的Scala / Java应用程序创建集成测试。为了实现这一点，我希望有一个嵌入式经纪人讲我在每次测试之前启动和停止的AMQP。最初，我试图将ActiveMQ引入AMQP作为嵌入式代理，但是该应用程序使用RabbitMQ，因此仅使用AMQP 0.9.3版，而ActiveMQ需要AMQP 1.0版。 我可以使用其他嵌入式代理代替ActiveMQ吗？
-
问题内容： 编辑：改写问题： 我想将ActiveMQ用作服务器和客户端应用程序之间的信使服务。 我正在尝试在服务器内设置嵌入式代理（即不是单独的进程），以处理产生的消息供我的客户使用。该队列被保留。 经纪人初始化如下： 修补之后，我最终得到了服务器部分： 客户端非常相似，看起来像这样： main方法只是在线程中启动其中的每一个，以开始生成/接收消息。 …但是我在每个线程的开头都遇到以下问题： 看来