当前位置: 首页 > 软件库 > 大数据 > 其他 >

TonY

构建在 Hadoop YARN 上的 TensorFlow 框架​​​​​​​
授权协议 BSD
开发语言 Java Python
所属分类 大数据、 其他
软件类型 开源软件
地区 不详
投 递 者 冷正青
操作系统 跨平台
开源组织 LinkedIn
适用人群 未知
 软件概览

TensorFlow on YARN (TonY) 是一个构建在 Hadoop YARN 上的 TensorFlow 框架。

TonY 可以将单节点或分布式 TensorFlow 训练作为 Hadoop 应用程序运行。此原生连接器与其他 TonY 功能一起,旨在可靠,灵活地运行 TensorFlow 训练。


在 YARN 的 TonY 上运行 TensorFlow


TonY 的架构

TonY 主要包含三个要素:Client、ApplicationMaster 和 TaskExecutor。运行 TonY 作业的端到端处理过程如下:

  1. 用户向 Client 提交 TensorFlow 模型训练代码、参数及其 Python 虚拟环境(包含 TensorFlow 依赖)。

  2. Client 设置 ApplicationMaster(AM)并将其提交给 YARN 集群。

  3. AM 与 YARN 基于用户资源请求的资源管理(Resource Manager)进行资源协商(参数服务器及线程、内存和 GPU 的数量)。

  4. 一旦 AM 收到分配,它就会在分配的节点上生成 TaskExecutor。

  5. TaskExecutor 启动用户的训练代码并等待其完成。

  6. 用户的训练代码启动,TonY 定期在 TaskExecutor 和 AM 之间跳动,以检查其活性。

 相关资料
  • 本文向大家介绍在Visual Studio上构建C++的GUI框架wxWidgets的开发环境,包括了在Visual Studio上构建C++的GUI框架wxWidgets的开发环境的使用技巧和注意事项,需要的朋友参考一下 本文使用的Unicode+DLL+Debug的方式,因为不想最后生成的exe文件太大。 环境搭建步骤如下: 1、下载wxWidgets包: 登录wxWidgets的下载页面:h

  • 我正在尝试使用bazel 0.18.0构建tenorflow工具包 以下步骤可以 直到尝试运行这个命令行 它显示错误,所以我应该给别的东西然后quantize_graph?我可以使用或找到什么? root@24663fb1018d:/srv/wu/tensorflow src/tensorflow#bazel build--config=cuda//tensorflow/contrib/quant

  • 本文向大家介绍用 Composer构建自己的 PHP 框架之构建路由,包括了用 Composer构建自己的 PHP 框架之构建路由的使用技巧和注意事项,需要的朋友参考一下 上一篇中我们已经建立了一个空的 Composer 项目,本篇将讲述如何构建路由。 久负盛名的 CodeIgniter 框架是很多人的 PHP 开发入门框架,同样也是我开始学习如何从头构建一个网站的框架。在 CI 中我学到了很多,

  • 本文向大家介绍tensorflow构建BP神经网络的方法,包括了tensorflow构建BP神经网络的方法的使用技巧和注意事项,需要的朋友参考一下 之前的一篇博客专门介绍了神经网络的搭建,是在python环境下基于numpy搭建的,之前的numpy版两层神经网络,不能支持增加神经网络的层数。最近看了一个介绍tensorflow的视频,介绍了关于tensorflow的构建神经网络的方法,特此记录。

  • 我目前正在按照这里的说明使用bazel从源代码构建tenorflow。 设置配置并尝试构建配置后,出现以下错误: Cuda配置错误:将C:/Program Files/NVIDIA GPU Computing读取到olkit/Cuda/v9时出错。0/include/cudnn。h:爪哇。伊奥。IOException:错误:src/main/native/win-dows/processes jn

  • 我能够在Ubuntu18.04和Bazel以及openJDK 10.0.1上成功地构建并使用TensorFlow,但是当我尝试构建TensorFlow Java库时,我遇到了以下错误: 错误:缺少输入文件“@local_jdk/:jre/lib/resources”。jar' 错误:/home/kim/tensorflow/tensorflow/java/BUILD:20:1: ///tensor