[Android] [TensorFlow Lite]TensorFlow Lite 介绍

阎涵忍
2023-12-01

TensorFlow Lite 指南

TensorFlow Lite 是一组工具,可帮助开发者在移动设备、嵌入式设备和 IoT 设备上运行 TensorFlow 模型。它支持设备端机器学习推断,延迟较低,并且二进制文件很小。

TensorFlow Lite 包括两个主要组件:

  • TensorFlow Lite 解释器,它可在手机、嵌入式 Linux 设备和微控制器等很多不同类型的硬件上运行经过专门优化的模型。
  • TensorFlow Lite 转换器,它可将 TensorFlow 模型转换为高效形式以供解释器使用,并可引入优化以减小二进制文件的大小和提高性能。

边缘机器学习

TensorFlow Lite 旨在让您轻松地在网络“边缘”的设备上执行机器学习,而无需在设备与服务器之间来回发送数据。对开发者来说,在设备端执行机器学习有助于:

  • 缩短延迟:数据无需往返服务器
  • 保护隐私:任何数据都不会离开设备
  • 减少连接:不需要互联网连接
  • 降低功耗:网络连接非常耗电

TensorFlow Lite 支持各种设备,从超小的微控制器到功能强大的手机

 

创建您自己的Android应用程序

如果您想快速编写您的Android代码, 我们推荐使用 Android 图像分类代码例子 作为起始点。

下面的部分包含了一些有关如何在Android上使用TensorFlow Lite的有用信息。

使用JCenter中的TensorFlow Lite AAR

如果您要在您的Android应用程序中使用TensorFlow Lite,我们推荐使用 在JCenter中托管的TensorFlow Lite AAR

您可以像下面这样在您的build.gradle依赖中指定它:

dependencies {
    implementation 'org.tensorflow:tensorflow-lite:0.0.0-nightly'
}

这个AAR包含了 Android ABIs中的所有的二进制文件。您可以通过只包含您需要支持的ABIs来减少您应用程序的二进制文件大小。

我们推荐大部分的开发者删简 x86x86_64,和arm32 的ABIs。您可以通过如下的Gradle配置实现,这个配置只包括了 armeabi-v7aarm64-v8a,该配置能涵盖住大部分的现代Android设备。

android {
    defaultConfig {
        ndk {
            abiFilters 'armeabi-v7a', 'arm64-v8a'
        }
    }
}
 类似资料: