tensorflow lite模型的安全性

Question

我正在开发一个Android应用程序，该应用程序将包含用于离线推理的张量流精简模型。

我知道要完全避免有人偷我的模型是不可能的，但我想让尝试它的人很难受。

我想将我的. tflite模型保留在. apk中，但没有顶层的权重。然后，在执行时，我可以下载最后一层的权重并将其加载到内存中。

因此，如果有人试图窃取我的模型，他会得到一个无用的模型，因为它无法使用，因为最后一层的权重缺失。

1. 是否可以在没有最后一层权重的情况下生成tflite模型？
2. 是否可以将这些权重加载到内存中已加载的模型中？

这是我加载.tflite模型的方式：

    tflite = new Interpreter(loadModelFile(), tfliteOptions);

    // loads tflite grapg from file
    private MappedByteBuffer loadModelFile() throws IOException {
        AssetFileDescriptor fileDescriptor = mAssetManager.openFd(chosen);
        FileInputStream inputStream = new FileInputStream(fileDescriptor.getFileDescriptor());
        FileChannel fileChannel = inputStream.getChannel();
        long startOffset = fileDescriptor.getStartOffset();
        long declaredLength = fileDescriptor.getDeclaredLength();
        return fileChannel.map(FileChannel.MapMode.READ_ONLY, startOffset, declaredLength);
    }

Answer 1

如果我们谈论的是Keras模型(或TF中的任何其他模型)，我们可以轻松地删除最后一层，然后用< code > TF . Lite . tflite converter 将其转换为TF Lite模型。这应该不成问题。

现在，在Python中，获取最后一层的权重，并将其转换为一个漂亮的JSON文件。这个JSON文件可以托管在云上(比如Firebase云存储)，可以通过应用程序下载。

权重可以解析为ray（）对象。来自TF Lite模型的活动可以与从JSON解析的权重相乘。最后，我们应用激活来提供预测，这是我们确实需要的！

该模型经过如此精确的训练，以至于它很少用于任何其他用例。所以，我认为我们不需要担心这一点。

还有，如果我们使用一些云托管平台会更好，这些平台使用请求和API，而不是直接加载一个raw模型。