Petuum

 机器学习算法和计算机领域的其他算法相比，有自己的一些独特特点， （1）迭代性：模型的更新并非一次完成，需要循环迭代多次； （2）容错性：即使在每个循环中产生一些错误，模型最终的收敛不受影响； （3）参数收敛的非均匀性：模型中有些参数经过几个循环便不再改变，其他参数需要很长时间收敛。 这些特点决定了分布式机器学习系统的设计和其他分布式计算系统（例如Spark）的设计有很大不同。 Petuum是一个

Petuum - Careers Cloudformation

http://yinxusen.github.io/blog/2014/01/17/petuum-source-code-read-and-initial-test-result/ Petuum: Source Code Read and Initial Test Result JAN 17TH, 2014 这几天为了测好Petuum，花了一点时间看了一下Petuum源码，把其中的精华跟大家分享一

在介绍安装Petuum之前，首先介绍一下Petuum。Petuum 是卡耐基梅隆大学教授邢波组的项目。Petuum 是一个分布式机器学习平台,目标是为大规模机器学习提供一个通用的算法和系统接口,简化分布式机器学习程序的实现。 详细介绍:http://petuum.github.io/index-zh.html 相关技术细节:http://petuum.github.io/research.html

有关TensorFlow与其他框架的详细对比可以阅读： https://zhuanlan.zhihu.com/p/25547838   01 TensorFlow的编程模式 编程模式分为两种：命令式编程与符号式编程 前者是我们常用的C++，java等语言的编程风格如下 命令式编程看起来逻辑非常清晰，易于理解。而符号式编程涉及较多的嵌入和优化，如下 执行相同的计算时c，d可以共用内存，使用Tenso

每次将一个类别作为正类，其余类别作为负类。此时共有（N个分类器）。在测试的时候若仅有一个分类器预测为正类，则对应的类别标记为最终的分类结果。 【例】当有4个类别的时候，每次把其中一个类别作为正类别，其余作为负类别，共有4种组合，对于这4中组合进行分类器的训练，我们可以得到4个分类器。对于测试样本，放进4个分类器进行预测，仅有一个分类器预测为正类，于是取这个分类器的结果作为预测结果，分类器2预测的结果是类别2，于是这个样本便属于类别

监督学习使用标记数据对 (x,y) 学习函数：X\rightarrow Y 。但是，如果我们没有标签呢？这类没有标签的学习方式被称为无监督学习。 无监督学习：如果训练样本全部无标签，则是无监督学习。例如聚类算法，就是根据样本间的相似性对样本集进行聚类试图使类内差距最小化，类间差距最大化。 主要用途： 自动组织数据。 理解某些数据中的隐藏结构。 在低维空间中表示高维数据。

Python 有着海量的可用于数据分析、统计以及机器学习的库，这使得 Python 成为很多数据科学家所选择的语言。 下面我们列出了一些被广泛使用的机器学习及其他数据科学应用的 Python 包。 Scipy 技术栈 Scipy 技术栈由一大批在数据科学中被广泛使用的核心辅助包构成，可用于统计分析与数据可视化。由于其丰富的功能和简单易用的特性，这一技术栈已经被视作实现大多数数据科学应用的必备品了。

主要内容 前言 课程列表 推荐学习路线 数学基础初级 程序语言能力 机器学习课程初级 数学基础中级 机器学习课程中级 推荐书籍列表 机器学习专项领域学习 致谢 前言 我们要求把这些课程的所有Notes,Slides以及作者强烈推荐的论文看懂看明白，并完成所有的老师布置的习题，而推荐的书籍是不做要求的，如果有些书籍是需要看完的，我们会进行额外的说明。 课程列表 课程 机构 参考书 Notes等其他资

机器学习与人工智能学习笔记，包括机器学习、深度学习以及常用开源框架（Tensorflow、PyTorch）等。 机器学习算法 _图片来自scikit-learn_。 机器学习全景图 _图片来自http://www.shivonzilis.com/_。

机器学习与人工智能学习笔记，包括机器学习、深度学习以及常用开源框架（Tensorflow、PyTorch）等。

“三个臭皮匠顶个诸葛亮”。集成学习就是利用了这样的思想，通过把多分类器组合在一起的方式，构建出一个强分类器；这些被组合的分类器被称为基分类器。事实上，随机森林就属于集成学习的范畴。通常，集成学习具有更强的泛化能力，大量弱分类器的存在降低了分类错误率，也对于数据的噪声有很好的包容性。