使用Apache NiFi进行带有数据操作的JSON转换

Question

我想对下面的示例JSON进行一些基本的转换，我想将时间戳标记的值更改为日期格式，并想使用NiFi将值为< code>current_timestamp的新标记< code>created_ts添加到我预期的JSON输出中。

示例JSON：

{"name": "SAMPLE_NAME","timeStamp": "1477307252000","value": "-0.06279052","quality": "1090"}

预期的JSON:

{"name": "SAMPLE_NAME","timeStamp": "2016-11-08 14:46:13.674","value": "-0.06279052","quality": "1090","created_ts":"2016-11-08 14:46:13.674"}

您能否帮助了解Apache NiFi/HDF中要遵循的详细步骤。

Answer 1

未实现数据转换。

查看官方文档：

https://github.com/bazaarvoice/jolt#stock-transforms

股票转换

股票转换是：

shift       : copy data from the input tree and put it the output tree
default     : apply default values to the tree
remove      : remove data from the tree
sort        : sort the Map key values alphabetically ( for debugging and human readability )
cardinality : "fix" the cardinality of input data.  Eg, the "urls" element is usually a List, 
                    but if there is only one, then it is a String

目前，所有的股票转换只是影响数据的“结构”。

要进行数据操作，您需要编写Java代码。

如果您编写Java“数据操作”代码来实现Transform接口，那么您可以将代码插入到转换链中。

因此，为了完成您的任务，我看到了两个主要变体：

第1版：

使用以下处理器的顺序:

评估JsonPath-

在 EvaluateJsonPath 中为每个字段定义属性，并使用 $.name、$.timeStamp、...

在更新属性中转换时间戳的格式并定义新属性：

attribute  |   value/expression
-----------------------------------------------------------
timeStamp  |   timeStamp:format('yyyy-MM-dd HH:mm:ss.SSS')
created_ts |   now():format('yyyy-MM-dd HH:mm:ss.SSS')

在＜code＞AttributesToJSON＜/code＞中定义＜code＞要作为json对象存储到文件内容中的属性列表

V2：将执行脚本处理器与以下代码一起使用：

import groovy.json.JsonSlurper
import groovy.json.JsonBuilder

def ff = session.get()
if(!ff)return
ff = session.write(ff, {rawIn, rawOut->
    // transform streams into reader and writer
    rawIn.withReader("UTF-8"){reader->
        rawOut.withWriter("UTF-8"){writer->
            //parse reader into Map
            def json = new JsonSlurper().parse(reader)
            //change/set values
            json.timeStamp = new Date(json.timeStamp as Long).format('yyyy-MM-dd HH:mm:ss.SSS')
            json.created_ts = new Date().format('yyyy-MM-dd HH:mm:ss.SSS')
            //write changed object to writer
            new JsonBuilder(json).writeTo(writer)
        }
    }
} as StreamCallback)
session.transfer(ff, REL_SUCCESS)