入门示例 - hello world

优质
小牛编辑
133浏览
2023-12-01

和绝大多数 IT 技术介绍一样,我们以一个输出 “hello world” 的形式开始我们的 logstash 学习。

运行

在终端中,像下面这样运行命令来启动 Logstash 进程:

  1. # bin/logstash -e 'input{stdin{}}output{stdout{codec=>rubydebug}}'

然后你会发现终端在等待你的输入。没问题,敲入 Hello World,回车,然后看看会返回什么结果!

结果

  1. {
  2. "message" => "Hello World",
  3. "@version" => "1",
  4. "@timestamp" => "2014-08-07T10:30:59.937Z",
  5. "host" => "raochenlindeMacBook-Air.local",
  6. }

没错!你搞定了!这就是全部你要做的。

解释

每位系统管理员都肯定写过很多类似这样的命令:cat randdata | awk '{print $2}' | sort | uniq -c | tee sortdata。这个管道符 | 可以算是 Linux 世界最伟大的发明之一(另一个是“一切皆文件”)。

Logstash 就像管道符一样!

输入(就像命令行的 cat )数据,然后处理过滤(就像 awk 或者 uniq 之类)数据,最后输出(就像 tee )到其他地方。

当然实际上,Logstash 是用不同的线程来实现这些的。如果你运行 top 命令然后按下 H 键,你就可以看到下面这样的输出:

  1. PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
  2. 21401 root 16 0 1249m 303m 10m S 18.6 0.2 866:25.46 |worker
  3. 21467 root 15 0 1249m 303m 10m S 3.7 0.2 129:25.59 >elasticsearch.
  4. 21468 root 15 0 1249m 303m 10m S 3.7 0.2 128:53.39 >elasticsearch.
  5. 21400 root 15 0 1249m 303m 10m S 2.7 0.2 108:35.80 <file
  6. 21403 root 15 0 1249m 303m 10m S 1.3 0.2 49:31.89 >output
  7. 21470 root 15 0 1249m 303m 10m S 1.0 0.2 56:24.24 >elasticsearch.

小贴士:logstash 很温馨的给每个线程都取了名字,输入的叫xx,过滤的叫|xx

数据在线程之间以 事件 的形式流传。不要叫,因为 logstash 可以处理多行事件。

Logstash 会给事件添加一些额外信息。最重要的就是 @timestamp,用来标记事件的发生时间。因为这个字段涉及到 Logstash 的内部流转,所以必须是一个 joda 对象,如果你尝试自己给一个字符串字段重命名为 @timestamp 的话,Logstash 会直接报错。所以,请使用 filters/date 插件 来管理这个特殊字段

此外,大多数时候,还可以见到另外几个:

  1. host 标记事件发生在哪里。
  2. type 标记事件的唯一类型。
  3. tags 标记事件的某方面属性。这是一个数组,一个事件可以有多个标签。

你可以随意给事件添加字段或者从事件里删除字段。事实上事件就是一个 Ruby 对象,或者更简单的理解为就是一个哈希也行。

小贴士:每个 logstash 过滤插件,都会有四个方法叫 add_tag, remove_tag, add_fieldremove_field。它们在插件过滤匹配成功时生效。

推荐阅读