如何将TensorFlow Lite构建为一个静态库，并从一个单独的（CMake）项目链接到它？

Question

通过将源代码添加到tensorflow/Lite/examples中，我成功地构建了一个运行TF Lite模型的简单C++应用程序，类似于官方C++TF指南对完整TF的建议。现在，我想将它构建为一个单独的项目（共享库），静态链接到TF Lite，并使用CMake作为构建系统。

我尝试向我的cmakelists.txt添加一个自定义目标，它将使用Bazel构建TF Lite：

set(TENSORFLOW_DIR ${CMAKE_SOURCE_DIR}/thirdparty/tensorflow)
add_custom_target(TFLite
    COMMAND bazel build //tensorflow/lite:framework
    COMMAND bazel build //tensorflow/lite/kernels:builtin_ops
    WORKING_DIRECTORY ${TENSORFLOW_DIR})

set(TFLite_INCLUDES
    ${TENSORFLOW_DIR}
    ~/.cache/bazel/_bazel_azymohliad/ec8567b83922796adb8477fcbb00a36a/external/flatbuffers/include)

set(TFLite_LIBS
    ${TENSORFLOW_DIR}/bazel-bin/tensorflow/lite/libframework.pic.a)
    
target_include_directories(MyLib ... PRIVATE ... ${TFLite_INCLUDES})
target_link_libraries(MyLib ... ${TFLite_LIBS})

通过这种配置，我在链接过程中得到了许多对TFLite内容的未定义引用。我检查了nm，在libframework.pic.a中确实缺少这些符号，我在Bazel输出中的各种.o文件中找到了一些。手动选择所有这些.o文件似乎是错误的。

那么，有没有可能像我正在尝试的那样，从CMake中很好地链接到TF Lite呢？也许有什么神奇的Bazel query include_dirs(//tensorflow/lite:framework)命令可以给我提供所有必需的include dirs的路径，还有一个类似的命令可以用于库链接，以便我可以将这些信息传递给cmake？

Answer 1

最后，我手动列出了cmake的target_link_libraries（在tflite_libs中）所需的所有TFLite对象文件，它可以工作了。

我使用了一个简单的shell脚本来获取必要的对象文件列表。首先，我将构建日志中所有未定义的引用收集到一个bash数组中，如下所示：

SYMBOLS=(\
    'tflite::CombineHashes('\
    'tflite::IsFlexOp('\
    'tflite::ConvertArrayToTfLiteIntArray('\
    'tflite::EqualArrayAndTfLiteIntArray('\
    ...
    'tflite::ConvertVectorToTfLiteIntArray(')

然后，对于该数组中的每个符号，我检查了bazel构建输出中的每个*.o文件：

for SYMBOL in $SYMBOLS[@]; do
    for OBJ in $(find -L /path/to/tensorflow/bazel-bin/ -name '*.o'); do
        nm -C $OBJ | grep "T $SYMBOL" > /dev/null && echo $OBJ
    done
done | sort | uniq

对于include位置，我用${TENSORFLOW_DIR}/bazel-tensorflow/external/flatbuffers/include/替换了bazel缓存中flatbuffers的硬编码路径。谢谢jdehesa的提示。

Update:
本机构建无所不包的TF Lite静态库可以非常类似于RPi、iOS或ARM64的官方构建指令，使用简单的旧make:
1。./tensorflow/lite/tools/make/download_dependencies.sh
2。make-f tensorflow/lite/tools/make/makefile

输出库将存储为 /tensorflow/lite/tools/make/gen/ /lib/libtensorflow-lite.a 。外部依赖关系及其头部将进入 /tensorflow/tensorflow/lite/tools/make/downloads （例如，flatbuffers头部位于 /tensorflow/tensorflow/lite/tools/make/downloads/flatbuffers/include )。

Guide没有提到make可以直接调用。对于不同的交叉编译目标，有包装器脚本，它们只是设置适当的变量并运行make。但默认情况下，make只进行本机构建。这个make调用可以作为自定义命令添加到cmakelists.txt中。