如何测试Weka文本分类（FilteredClassifier）

Question

我们看了很多这样的例子，但到目前为止没有运气。我想对自由文本进行分类。

1. 配置文本分类器。使用StringToWordVector和LibSVM筛选分类器
2. 训练分类器（添加大量文档，训练过滤文本）
3. 序列化Filtered分类器到磁盘，退出应用程序

那以后吧

1. 加载序列化的Filtered分类器
2. 分类东西！

当我试图从磁盘中读取并分类东西时，它就可以了。所有文档和示例都显示了正在同时构建的训练列表和测试列表，在我的例子中，我试图在事后构建一个测试列表。

一个FilteredClassifier本身不足以创建一个测试实例，它的“字典”与原始训练集相同，那么我如何保存所有需要在以后分类的内容呢？

http://weka.wikispaces.com/UseJava代码中的WEKA只是说“从某处加载的实例”，而没有提到使用类似的字典。

ClassifierFramework cf = new WekaSVM();
if (!cf.isTrained()) {
  train(cf); // Train, save to disk
  cf = new WekaSVM(); // reloads from file
}
cf.test("this is a test");

最后会呕吐

java.lang.ArrayIndexOutOfBoundsException: 2
at weka.core.DenseInstance.value(DenseInstance.java:332)
at weka.filters.unsupervised.attribute.StringToWordVector.convertInstancewoDocNorm(StringToWordVector.java:1587)
at weka.filters.unsupervised.attribute.StringToWordVector.input(StringToWordVector.java:688)
at weka.classifiers.meta.FilteredClassifier.filterInstance(FilteredClassifier.java:465)
at weka.classifiers.meta.FilteredClassifier.distributionForInstance(FilteredClassifier.java:495)
at weka.classifiers.AbstractClassifier.classifyInstance(AbstractClassifier.java:70)
at ratchetclassify.lab.WekaSVM.test(WekaSVM.java:125)

Answer 1

序列化包含训练数据定义的实例——类似字典？-序列化分类器时：

Instances trainInstances = ... //

Instances trainHeader = new Instances(trainInstances, 0);
trainHeader.setClassIndex(trainInstances .classIndex());

OutputStream os = new FileOutputStream(fileName);
ObjectOutputStream objectOutputStream = new ObjectOutputStream(os);
objectOutputStream.writeObject(classifier);
if (trainHeader != null)
    objectOutputStream.writeObject(trainHeader);
objectOutputStream.flush();
objectOutputStream.close();

使渴望：

Classifier classifier = null;
Instances trainHeader = null;

InputStream is = new BufferedInputStream(new FileInputStream(fileName));
ObjectInputStream objectInputStream = new ObjectInputStream(is);
classifier = (Classifier) objectInputStream.readObject();
try { // see if we can load the header
    trainHeader = (Instances) objectInputStream.readObject();
} catch (Exception e) {
} 
objectInputStream.close();

使用trainHeader创建新的实例：

int numAttributes = trainHeader.numAttributes();
double[] vals = new double[numAttributes];

for (int i = 0; i < numAttributes - 1; i++) {
    Attribute attribute = trainHeader.attribute(i);

    //If your attribute is nominal or string:       
    double value = attribute.indexOfValue(myStrVal); //get myStrVal from your source

    //If your attribute is numeric
    double value = myNumericVal; //get myNumericVal from your source

    vals[i] = value;
}

vals[numAttributes] = Instance.missingValue();

Instance instance = new Instance(1.0, vals);
instance.setDataset(trainHeader);
return instance;