SkLearning SVM：SVR和SVC，对每个输入获得相同的预测

Question

下面是一个粘贴的代码：SVM示例代码

我查了这个问题的其他几个答案。。。这个问题的具体迭代似乎有点不同。

首先，我的输入是标准化的，每个点有五个输入。这些值的大小都是合理的（正常的0.5s和0.7s等——几乎没有接近0或接近1的数字）。

我有大约70 x输入对应于他们的70 y输入。y输入也被归一化（它们是我的函数在每个时间步长后的百分比变化）。

我初始化我的SVR（和SVC），训练它们，然后用30个样本输入测试它们。。。并对每个输入进行完全相同的预测（并且输入的变化量是合理的——0.3、0.6、0.5等等）。我认为分类器（至少）会有一些区别。。。

以下是我得到的代码：

# train svr

my_svr = svm.SVR()
my_svr.fit(x_training,y_trainr)

# train svc

my_svc = svm.SVC()
my_svc.fit(x_training,y_trainc)


# predict regression

p_regression = my_svr.predict(x_test)
p_r_series = pd.Series(index=y_testing.index,data=p_regression)

# predict classification

p_classification = my_svc.predict(x_test)
p_c_series = pd.Series(index=y_testing_classification.index,data=p_classification)

以下是我的输入示例：

x_training = [[  1.52068627e-04   8.66880301e-01   5.08504362e-01   9.48082047e-01
7.01156322e-01],
              [  6.68130520e-01   9.07506250e-01   5.07182647e-01   8.11290634e-01
6.67756208e-01],
              ... x 70 ]

y_trainr = [-0.00723209 -0.01788079  0.00741741 -0.00200805 -0.00737761  0.00202704 ...]

y_trainc = [ 0.  0.  1.  0.  0.  1.  1.  0. ...]

而x_检验矩阵（5x30）在输入量和方差方面与x_训练矩阵相似。。。同样适用于y\u testr和y\u testc。

目前，所有测试的预测都完全相同（回归为0.00596，分类为1…）

如何让SVR和SVC函数吐出相关预测？或者至少根据输入做出不同的预测...

至少，分类器应该能够做出选择。我的意思是，即使我没有为回归提供足够的维度。。。

Answer 1

在我的例子中，我需要使用sklearn包中的StandardScaler来缩放数据。

此外，我必须独立缩放每一组特征，在我的案例中，每种距离都是单独缩放的两种类型。

from sklearn.preprocessing import StandardScaler
ss = StandardScaler()
ss.fit(X[:,0:10])
X[:,0:10] = ss.transform(X[:,0:10])
ss = StandardScaler()
ss.fit(X[:,10:20])
X[:,10:20] = ss.transform(X[:,10:20])

Answer 2

我有同样的问题，但原因完全不同，因此寻找解决方案的地方也完全不同。

如果您的预测输入因任何原因缩放不正确，您可以体验到此处发现的相同症状。这可能是在以后的预测中忘记（或错误编码）输入值的缩放，或者是由于输入的顺序错误。

Answer 3

尝试增加你的C从默认值。看来你不合身。

my_svc = svm.SVC(probability=True, C=1000)
my_svc.fit(x_training,y_trainc)

p_classification = my_svc.predict(x_test)

然后，p_分类变成：

array([ 1.,  0.,  1.,  0.,  1.,  1.,  1.,  1.,  1.,  1.,  0.,  0.,  0.,
        1.,  0.,  0.,  0.,  0.,  0.,  1.,  1.,  0.,  1.,  1.,  1.,  1.,
        1.,  1.,  1.,  1.])

对于SVR情况，您还需要减少epsilon。

my_svr = svm.SVR(C=1000, epsilon=0.0001)
my_svr.fit(x_training,y_trainr)

p_regression = my_svr.predict(x_test)

p_regression变成：

array([-0.00430622,  0.00022762,  0.00595002, -0.02037147, -0.0003767 ,
        0.00212401,  0.00018503, -0.00245148, -0.00109994, -0.00728342,
       -0.00603862, -0.00321413, -0.00922082, -0.00129351,  0.00086844,
        0.00380351, -0.0209799 ,  0.00495681,  0.0070937 ,  0.00525708,
       -0.00777854,  0.00346639,  0.0070703 , -0.00082952,  0.00246366,
        0.03007465,  0.01172834,  0.0135077 ,  0.00883518,  0.00399232])

您应该使用交叉验证来优化您的C参数，以便它能够在对您最重要的指标上表现最佳。您可能需要查看GridSearchCV来帮助您做到这一点。