无法读取Storm喷口中的输入文件

Question

我有一个Storm喷口，可以从日志文件中读取。因此，当我在本地测试代码时，它工作得很好，因为我在运行作业时传递了运行时参数。

public void open(Map conf, TopologyContext context, SpoutOutputCollector collector) {
        collector_out = collector;

        try {
            this.context = context;
            this.filereader = new FileReader(conf.get("logfile").toString());
        } catch (FileNotFoundException e) {
            throw new RuntimeException("Error reading file ["+conf.get("logfile")+"]");
        }

}

public void nextTuple() {
    try {
        br = new BufferedReader(filereader);
        line = br.readLine();           
        while(line != null){
            count++;
            collector_out.emit(new Values(line));
            Thread.sleep(2);
            line = br.readLine();
        }
    } catch (IOException e) {
        e.printStackTrace();
    } catch (InterruptedException e) {
        e.printStackTrace();
    } 
    finally{
        completed = true;
    }
}

因此，如果有任何想法如何让它进行，这将是一个很大的帮助。

Answer 1

在群集模式下，当您在open方法中读取文件时，每个节点都转到其本地路径，并且可能并不是所有节点中都有该文件。

解决此问题的好方法是在集群中安装nfs系统，在集群节点之间共享一个目录，并将文件放入该目录。我有一个像你一样的喷口是这样工作的。