关于使用朴素贝叶斯进行分类，改进结果

Question

我有一个数据集，有10个类，每个类40个示例（总共400个示例）
我为每个示例提取了大约27个特征。我使用了朴素贝叶斯分类器，使用十倍交叉验证，获得了大约96.75%的准确率。

我从混淆矩阵中注意到，十个类中只有两个类混淆了几个示例，而其余的类总是分类正确。然后，我决定删除除这两个类之外的所有其他类，保留相同数量的特征，并重新运行朴素贝叶斯分类器；它总是能够将示例正确地分为两类。

我很困惑为什么会发生这种情况，以及如何改进我的总体分类器。我真的没想到贝叶斯分类器能够更好地预测这两个类。我尝试了各种折叠组合，百分比分割，它总是在没有其他8个类的情况下正确地分类这两个“问题”类。我是不是在谈论分类的增强/装袋/集成方法的想法？我的策略应该是使用一个分类器处理“问题”类，而使用另一个分类器处理其余的类吗？我想我本想做一个分类器，它可以处理所有的事情。

Answer 1

这两门难学的课程有可能被另一门课程完全或部分掩盖。删除其他类可能允许您区分这两个类，但可能仍然很难将这两个类从整个数据中分离出来。

你可以想象下面的情况是真的（蓝点被红色遮住了）。移除红点使蓝点和黑点很容易分开。

为了看看您是否会从多个分类器中受益（如您所建议的），我会将两个困难的类合并为一个，并在其他类存在的情况下检查您的分类能力。如果您能够准确地做到这一点，那么您可以放心地继续使用您的多个分类器。