生产中的TensorFlow可在高流量应用中实时预测-如何使用？
在高流量应用中使用TensorFlow进行实时预测的正确方法是什么。
理想情况下，我将让一个运行tensorflow的服务器/集群在一个或多个端口上侦听，我可以在这些端口上从应用程序服务器进行连接并获得类似于数据库使用方式的预测。培训应通过cron作业通过网络将培训数据馈送到同一服务器/集群来完成。
一个人如何在生产中实际使用张量流？我是否应该在将python作为服务器运行的地方建立安装程序，并使用python脚本获取预测？我对此还不陌生，但是我认为此类脚本需要打开会话等。（我说的是每秒100的预测）。
任何指向相关信息的指针将不胜感激。我找不到。
问题答案：
今天早上，我们的同事在GitHub上发布了TensorFlow
Serving
，解决了您提到的一些用例。它是TensorFlow的分布式包装器，旨在支持多种模型的高性能服务。它支持批量处理和来自应用服务器的交互式请求。
有关更多信息，请参见基本和高级教程。
-
问题内容： 我一直在尝试使用Google发布的经过预先训练的inception_resnet_v2模型。我正在使用他们的模型定义（https://github.com/tensorflow/models/blob/master/slim/nets/inception_resnet_v2.py）和给定的检查点（http://download.tensorflow.org/models/incepti
-
问题内容： 我一直在使用babel-node和带有babelify转换的browserify开发站点，以支持ES6语法。 我只是想知道，我是否可以在生产环境中运行它， 而不是 在节点中运行ES6还需要其他哪些选项？ 这是我正在运行的用于构建和开始开发的命令 这是我的开发依赖 问题答案： 对于客户端代码 ，您正在做正确的事情。并将其运送给客户。 对于服务器端代码 ，我将使用babel- cli 进行
-
问题内容： 我对大多数代码都有单元测试。但是我无法弄清楚如何为main包中的main（）中的某些代码生成单元测试覆盖率。 主要功能非常简单。它基本上是一个选择块。它读取标志，然后调用另一个函数/执行某些操作，或仅在屏幕上打印帮助。但是，如果命令行选项设置不正确，它将退出并显示各种错误代码。因此，需要进行子过程测试。 我尝试了子流程测试技术，但修改了代码，以使其包括覆盖率标志： 这是原始代码： ht
-
问题内容： 今天，我第一次在“生产”模式下运行Node.js应用程序，并收到以下警告： 我只需要运行一个进程，但是应该使用什么呢？我希望我的会话驻留在RAM中以便快速访问。我还希望能够通过仅关闭Node应用程序来丢弃所有会话。 仅安装Redis，MongoDB或其他数据库来完成此简单任务似乎是过大的选择。我也不明白为什么不应该真正使用Node中包含MemoryStore？ 问题答案： Memory
-
本文向大家介绍TensorFlow如何用于在Python中对Fashion MNIST数据集进行预测？，包括了TensorFlow如何用于在Python中对Fashion MNIST数据集进行预测？的使用技巧和注意事项，需要的朋友参考一下 Tensorflow是Google提供的一种机器学习框架。它是一个开放源代码框架，可与Python结合使用，以实现算法，深度学习应用程序等等。它用于研究和生产目
-
在这个博客里，他们说。net标准2.0它有一个一致性状态。 在官方网站上，没有说如果。net standard 2.0是预览版或最终版。 但我想，.net标准2.0是最终版本，因为EF Core 2.0最终版已经过时，这使用了.net标准2.0.也许EF Cor可以是最终版，而.net标准1.0仍然是预览版，但我想这会很奇怪。 另外，我知道要使用.net标准，我必须使用VS2017 15.3，这是
-
我有一个使用分布式TensorFlow的计划，我看到TensorFlow可以使用GPU进行训练和测试。在集群环境中，每台机器可以有0个或1个或多个GPU，我想在尽可能多的机器上将我的TensorFlow图运行到GPU中。 我发现在运行TensorFlow在日志消息中提供有关GPU的信息，如下所示： 我的问题是如何从TensorFlow获取当前可用GPU的信息？我可以从日志中获取加载的GPU信息，但
-
问题内容： 在高流量的应用程序中，是否有可能返回错误的ID，或使ID 几乎同时执行的两个查询之间混淆？ 问题答案： No. 返回当前连接上最新查询中的最大值。例如，它将永远不会与另一个连接相混淆。