当前位置: 首页 > 知识库问答 >
问题:

Word2Vec : 阿帕奇火花和张量流实现

白飞飙
2023-03-14

阅读 https://github.com/apache/spark/blob/master/mllib/src/main/scala/org/apache/spark/mllib/feature/Word2Vec.scala 这种实现的文字是谷歌Word2Vec的一个端口 https://code.google.com/archive/p/word2vec/

这是“向量空间中单词表示的有效估计”一文的实现吗https://arxiv.org/abs/1301.3781 ?

张量流Word2Vec确实参考了论文“向量空间中单词表示的高效估计”。

那么,阿帕奇火花和张量流Word2Vec的实现之间有什么区别,每种实现应该在什么条件下使用?

共有1个答案

阮昊阳
2023-03-14
  1. 有不同的方法来实现word2vec,但是根据pyspark的说法,他们是通过跳过克(https://spark.apache.org/docs/2.1.0/mllib-feature-extraction.html#word2vec)来实现的。Tensorflow文档说他们也使用跳过克模型(https://www.tensorflow.org/tutorials/word2vec)。仅仅看一眼这两个文档,似乎他们的计算方式也是一样的。
  2. Spark在分布式环境中表现得非常好,据我所知,随着数据变得越来越大,Tensorflow分布式是相当新的。
 类似资料:
  • 我在尝试将spark数据帧的一列从十六进制字符串转换为双精度字符串时遇到了一个问题。我有以下代码: 我无法共享txs数据帧的内容,但以下是元数据: 但当我运行这个程序时,我得到了一个错误: 错误:类型不匹配;找到:MsgRow需要:org.apache.spark.sql.行MsgRow(row.getLong(0),row.getString(1),row.getString(2),hex2in

  • 目前我正在研究Apache spark和Apache ignite框架。 这篇文章介绍了它们之间的一些原则差异,但我意识到我仍然不理解它们的目的。 我的意思是,哪一个问题更容易产生火花而不是点燃,反之亦然?

  • 我对Apache Spark的世界比较陌生。我正在尝试使用LinearRegressionWithSGD()来估计一个大规模模型,我希望在不需要创建庞大的设计矩阵的情况下估计固定效果和交互项。 我注意到在决策树中有一个支持分类变量的实现 https://github.com/apache/spark/blob/master/mllib/src/main/scala/org/apache/spark

  • 我处理了像这样存储的双精度列表: 我想计算这个列表的平均值。根据文档,: MLlib的所有方法都使用Java友好类型,因此您可以像在Scala中一样导入和调用它们。唯一的警告是,这些方法采用Scala RDD对象,而Spark Java API使用单独的JavaRDD类。您可以通过对JavaRDD对象调用.RDD()将JavaRDD转换为Scala RDD。 在同一页面上,我看到以下代码: 根据我

  • 我正在使用Flink从Apache Pulsar读取数据。我在pulsar中有一个分区主题,有8个分区。在本主题中,我生成了1000条消息,分布在8个分区中。我的笔记本电脑中有8个内核,因此我有8个子任务(默认情况下,并行度=#个内核)。在执行Eclipse中的代码后,我打开了Flink UI,发现一些子任务没有收到任何记录(空闲)。我希望所有8个子任务都能得到利用(我希望每个子任务都映射到我的主