为什么OpenNLP的文档分类器训练得这么快？

Question

OpenNLP的性能明显低于我测试过的其他文档分类器，所以在我放弃它之前，我决定确保我在玩所有的刻度盘和旋钮。对我来说最突出的一件事是OpenNLP，它可以非常快地训练我的模型（大约1.2秒）。我使用过的其他NLP工具可能需要几分钟甚至几个小时的训练。我的培训档案中有大约12k条记录。

我试图将迭代次数从10次增加到10000次，不幸的是，它似乎对训练时间或准确性没有任何影响。

奇怪的是OpenNLP的文档中关于训练持续时间的陈述如下：“现在可能是巡航到Hulu或其他地方的好时机，因为如果您有一个大型训练集，这可能需要一段时间”。这让我觉得我做错了什么。

            int TRAINING_ITERATIONS = 10000;

            InputStreamFactory dataIn = new MarkableFileInputStreamFactory(new File(dataSetFileName));
            ObjectStream<String> lineStream = new PlainTextByLineStream(dataIn, "UTF-8");
            ObjectStream<DocumentSample> sampleStream = new DocumentSampleStream(lineStream);

            // define the training parameters
            TrainingParameters params = new TrainingParameters();
            params.put(TrainingParameters.ITERATIONS_PARAM, TRAINING_ITERATIONS+"");
            params.put(TrainingParameters.CUTOFF_PARAM, 0+"");
            params.put(AbstractTrainer.ALGORITHM_PARAM, NaiveBayesTrainer.NAIVE_BAYES_VALUE);

            FeatureGenerator[] featureGenerators = { new NGramFeatureGenerator(1,1),
                    new NGramFeatureGenerator(2,3) };
            DoccatFactory factory = new DoccatFactory(featureGenerators);


            // create a model from training data
            StopWatch stopWatch = new StopWatch();

            // Start the watch, do some task and stop the watch.
            stopWatch.start();


            model = DocumentCategorizerME.train("en", sampleStream, params, factory);
            stopWatch.stop();
            System.out.println("Training Time: " + stopWatch.getTime()+"ms"); // finishes in 1.2 second!!! 

这是我得到的结果

Indexing events with TwoPass using cutoff of 0

    Computing event counts...  done. 2407 events
    Indexing...  done.
Collecting events... Done indexing in 0.84 s.
Incorporating indexed data for training...  
done.
    Number of Event Tokens: 2407
        Number of Outcomes: 12
      Number of Predicates: 44219
Computing model parameters...
Stats: (455/2407) 0.18903199002908183
...done.
Training Time: 1241ms

迭代参数有什么作用吗？

Answer 1

好吧，我想出来了，朴素贝叶斯是一个非常快速的算法，因为它没有优化步骤。迭代次数参数实际上没有太多作用。如果你使用其中的任何其他训练算法，训练确实需要很长时间。令人惊讶的是，对于我的数据集，其他算法也会导致更差的准确性，尽管我对它进行了数小时的训练。