1. 版本: Cascalog 2.0.0
2. 搭建Hadoop集群
3. 安装Leiningen 或 Maven
如何在你的项目中增加Cascalog依赖
Clojure 组件发布在Clojars repository.
增加Cascalog依赖
[cascalog "2.0.0"]
在你的项目文件project.clj
中增加对Hadoop的开发依赖
:profiles{ :dev {:dependencies[[org.apache.hadoop/hadoop-core "1.1.2"]]}}
在
project.clj
中,为在local mode运行Hadoop提高heap大小,确保heap size 至少 768 MB
:jvm-opts ["-Xms768m" "-Xmx768m"]
用Maven替代Leiningen,为你的repositories增加Clojars
<repository>
<id>clojars.org</id>
<url>http://clojars.org/repo</url>
</repository>
为你的项目添加Cascalog依赖
<dependency>
<groupId>cascalog</groupId>
<artifactId>cascalog</artifactId>
<version>2.0.0</version>
</dependency>
Cascalog以Clojure原生实现,但Cascalog提供了名为JCascalog的纯Java接口可与Clojure版本的互操作,选择适合自己的接口。
JCascalog
Basics
首先看些简单查询,我们查询的数据集在here, 所有的实例代码均在此文件可用this file。下面的查询获取所有25岁的人:
Api.execute(
new StdoutTap(),
new Subquery("?person")
.predicate(Playground.AGE, "?person", 25));
执行如上查询,获得如下结果:
RESULTS
-----------------------
david
emily
-----------------------
解析上述查询:
StdoutTap
的实例StdoutTap是一类cascading.tap.Tap
,对数据读写的抽象,StdoutTap将
tuples写入stdout.一个Subquery
代表在其他tuple集合上进行计算获得的tuple集合,上述Subquery
为:
Subquery
包含一个"output fields declaration",subquery输出tuple的名字和若干定义、约束这些输出变量的predicates。任何数据操作均可通过predicates实现:获取数据源、function、过滤、汇总、分组和二次排序等。稍微复杂的查询,查出所有小于30岁的人:
Api.execute( new StdoutTap(), new Subquery("?person") .predicate(Playground.AGE, "?person", "?age") .predicate(new LT(), "?age", 30));
query 解析:
此
Subquery
says "emit含有一个名为'?person' tuple的field
读取AGEdataset并绑定第一个field至"?person"和第二个field至"?age"
第二个predicate在tuple创建一个过滤器,保留'?age' 小于30"的tuple
上述查询仅仅输出名字,如果也包含年龄,仅仅在输出field声明中增加"?age",如下:
Api.execute( new StdoutTap(), new Subquery("?person", "?age") .predicate(Playground.AGE, "?person", "?age") .predicate(new LT(), "?age", 30));
This query will print out:
RESULTS
-----------------------
david 25
emily 25
kumar 27
alice 28
gary 28
-----------------------
在查询中通过一个function创建新变量的例子:将上述查询中输出年龄改为输出年龄的两倍。
Api.execute( new StdoutTap(), new Subquery("?person", "?double-age") .predicate(Playground.AGE, "?person", "?age") .predicate(new Multiply(), "?age", 2).out("?double-age"));执行
function Multiply,
?age
和
2
作为输入,
emit
名为
?double-age
的变量作为输出。
如下predicate以一组fields作为输入、一组fields作为输出。 在Cascalog中你可用两种类型的fields:
"Vars":以"?","!", or "!!"开头的字符串,绑定于一个predicate输出的var代表由此predicateemit的所有此部分的tuple值。
"Constants":常量。
JCascalog可以Options/DISTINCT作为使用predicate来emit一组去重tuples,比如,FOLLOWSdataset:
["alice" "david"]
["alice" "bob"]
["alice" "emily"]
["bob" "david"]
["bob" "george"]
["bob" "luanne"]
["david" "alice"]
["david" "luanne"]
["emily" "alice"]
["emily" "bob"]
["emily" "george"]
["emily" "gary"]
["george" "gary"]
["harold" "bob"]
["luanne" "harold"]
["luanne" "gary"]
取出所有第一个field的值:
Api.execute( new StdoutTap(), new Subquery("?person") .predicate(Playground.FOLLOWS, "?person", "_") .predicate(Option.DISTINCT, true));
结果如下:
RESULTS
-----------------------
alice
bob
david
emily
george
harold
luanne
-----------------------
"Option predicates" 是一种特殊的predicate,执行查询时自动调整许多方面。注意绑定于第二个field的下划线"_"意味着忽略此field。
Join两个datasetsFOLLOWS和GENDER "emily" follows中所有的男性:
Api.execute( new StdoutTap(), new Subquery("?person") .predicate(Playground.FOLLOWS, "emily", "?person") .predicate(Playground.GENDER, "?person", "m"));
Cascalog 中,Joins是隐含的,通过共享一个变量名实现。上例中,var?person
在
FOLLOWS和GENDER的输出中共享,在这两个dataset中实现innerjoin。"emily"是此查询中的常量。
多层子查询:
查询所有followsrelationships中多于两个follow的人员:
Subquery manyFollows = new Subquery("?person") .predicate(Playground.FOLLOWS, "?person", "_") .predicate(new Count(), "?count") .predicate(new GT(), "?count", 2); Api.execute( new StdoutTap(), new Subquery("?person1", "?person2") .predicate(manyFollows, "?person1") .predicate(manyFollows, "?person2") .predicate(Playground.FOLLOWS, "?person1", "?person2"));
首先创建subquery "manyFollows",而后在一个query中join此"manyFollows"来过滤FOLLOWS。
"multi level" queries的关键在于在查询内subqueries和taps以相同方式工作,它们是tuples源,Cascalog把每一个tuple源称为一个"generator".
最后,使得最后的查询更为精确:
Subquery manyFollows = new Subquery("?person") .predicate(Playground.FOLLOWS, "?person", "_") .predicate(new Count(), "?count") .predicate(new GT(), "?count", 2); Api.execute( new StdoutTap(), new Subquery("?person1", "?person2") .predicate(Api.each(manyFollows), "?person1", "?person2") .predicate(Playground.FOLLOWS, "?person1", "?person2"));
注意
Api.each
,它创建
"predicatemacro",在此查询的第一个实现上将manyFollows
应用为
predicate
的每个
input var ,将一个predicate拓展为两个predicates。
在SENTENCEdataset中获取去重单词,需要一个operation将sentence分割为组成单词。此operation定义如下:
public class Split extends CascalogFunction { public void operate(FlowProcess flowProcess, FunctionCall fnCall) { String sentence = fnCall.getArguments().getString(0); for(String word: sentence.split(" ")) { fnCall.getOutputCollector().add(new Tuple(word)); } } }
此operation获取input的第一个field,作为sentence并且作为单个fieldemits每一个单词。使用此function:
Api.execute( new StdoutTap(), new Subquery("?word") .predicate(Playground.SENTENCE, "?sentence") .predicate(new Split(), "?sentence").out("?word") .predicate(Option.DISTINCT, true));
在SENTENCEdataset实现单词统计,典型的MapReduce查询,实现如下:
Api.execute( new StdoutTap(), new Subquery("?word", "?count") .predicate(Playground.SENTENCE, "?sentence") .predicate(new Split(), "?sentence").out("?word") .predicate(new Count(), "?count"));
唯一不同在于增加了"Count"predicate,在哪里执行了GROUP-BY呢?在Cascalog中Grouping是隐含实现的,可以在here了解更多关于Group和Aggragate的信息。
可在JCascalog中实现6中operations:
CascalogFunction
:一次一个tuple并产生0或多个tuple作为输出。若为0,则输入tuple被过滤,若为多个,输入tuple被复制为多份。
CascalogFilter
:如果输入tuple被保留则返回True,否则为False。
CascalogAggregator
:一种aggregator,参看Cascadingaggregators
CascalogBuffer
:另一种aggregator,不能与其他aggregators链接起来,同Cascadingbuffers
ParallelAgg
:一种更为严格的aggregator,在map-side自动实现combiners加快计算。
ClojureOp
: 引用Clojure编写的operations,一个namespace和一个var名。
jcascalog.op
保含有一些列有用的常用
operations。
上述操作皆为内存中的读写操作。此例查询读取目录"src/java/jcascalog/example"下所有的text文件并emit单个tuple,包含所有文件的行数,输出在"/tmp/myresults"目录下的一个textfile:
Api.execute( Api.hfsTextline("/tmp/myresults"), new Subquery("?count") .predicate(Api.hfsTextline("src/java/jcascalog/example"), "_") .predicate(new Count(), "?count"));
Api.hfsTextline
作为一
helper
function来创建一个CascadingTap以TextLine
格式
读取HDFS,任何Cascading tap 均可用于Cascalog 查询。
JCascalog API 是jcascalog.Api
类中的
staticmethods
,这些方法
wrap在api.clj和ops.clj可用的functionality。一些其他functions:
union
和combine
,用于将两个或多个单独的
数据集合并为一个数据集,要求每个 dataset包含由相同field数的tuples。union
增加去重操作。
firstN
:排序取出firstN。
setApplicationConf
:以一map的JobConf
parameters自动用于以后的每个查询。