Python 之 LIBSVM 使用小结（三）

系统管理员 2022-08-03 12:51 199阅读 0赞

1.  **准备数据**：一种方法是通过**svm\_read\_problem**方法直接读取libsvm格式的文件，返回分类标签(\[\])和数据(\[\[\]\])。如：labels, datas =**svm\_read\_problem**(‘filename’) ,还有一种方法是直接python格式的，这种方法适用于在程序执行过程中动态产生的data，我要用到的就是这种，没必要把大量的数据都写入文件(这两天搞infominer算法挖掘序列数据模式并看预测效果是个苦力活呀)。python的libsvm处理数据也分为两种，一种是特征值连续的不用手动去表明各个属性值的index,即是说省掉了 label index1:value1 index2:value2……中的index值，例如labels, datas = \[1,-1\], \[\[1,0,1\], \[-1,0,-1\]\],还有一种就是带index的，适合处理那些数据比较稀疏的，即好多特征值木有。labels, datas = \[\{1:1, 3:1\}, \{1:-1,3:-1\}\]
2.  **通过训练集training得到模型**：用到**svm\_train**方法，传入labels，datas必要的参数，返回model。也有两三种方案，一是直接调用model =**svm\_train**(labels,data, ‘-h 0′)，将必要的参数’-h 0’传入(这个参数-h shrinking 默认为1，我开始跑的时候时间太久了，程序提示我better设置0，说是可以跑faster)。另外的一/两种是先labels和data作为一个整体prob传入，整体构成通过**svm\_problem**(labels, datas)得到，然后再调用**svm\_train**(prob, param)训练得到model，这里的param可以直接以’-h 0’字符串的形式，也可以通过param = svm\_parameter(‘-c 4 -b 1′)得到，因此说这是第二或者三种方案。通过调用此方法，在svmutil内部会将部分信息直接打印到控制台，跟前面说的用windows命令行train时的信息一样，效果可以看[这个图片][Link 1]。
3.  **利用model进行预测：**这里的model可以是上一步返回的model，或者从外部文件载入的model。预测的方法是**svm\_predict**(testClassfier,testSeqVector,model),参数分别是测试集的实际labels，测试数据特征向量，训练模型，当然还有一个可选的参数就是predict的是否需要评估概率的参数-b 0 or 1,默认为0，还说对于一类的SVM(**可能**用于检测outlier吧)，只能用默认的0。例如p\_label, p\_acc, p\_val = **svm\_predict**(y, x, m, ‘-b 1′)，这里返回了3个值，分别是预测的label列表(\[\]),准确率p\_acc(三元组())用于分类的准确率,回归的mean-squared error和squared correlation coefficient,具体的我还得补充下统计学相关知识,p\_val的值是概率估计值(如果传入了参数-b 1)，否则就决策值(\[\[\]\])，注意返回的其中每一个元素是一个包含k\*(k-1)/2个float的数组\[\],k代表label的类别，其中每一个float就是预测属于哪一类的概率(其下标顺序与传入的labels数组一样)。官方里还介绍了ACC, MSE, SCC = **svmutil.evaluations**(true\_val, predict\_val)这个方法，说是计算准确率啊啥啥的(跟前面提到的svm\_predict返回结果的第二个值的三元组**不一样**哦)，猜测是用于回归的吧，我就没研究过了。注意这里的predict是个一维数组\[\]，不能利用上面svm\_predict产生的结果第三个值。
4.  源码示例

import numpy
    import os
    #os.chdir(‘C:\Program Files\libsvm-3.16\python’)
    os.chdir("F:\\wfpdm\\20150727_1010\\libsvm\\libsvm-3.12\\python")
    import sys
    sys.path.append('F:\\wfpdm\\20150727_1010\\libsvm\\libsvm-3.12\\python')
    from svmutil import *
    
    #y, x = svm_read_problem('../heart_scale')
    #m = svm_train(y[:200], x[:200], '-c 10 -t 0 -p 10')
    #p_label, p_acc, p_val = svm_predict(y[200:], x[200:], m)
    
    Data_Set = []
    Data_Lab = []
    for k in range(5):
        arr = numpy.random.random([30,45])
        lab = [k]*30
        for i in numpy.arange(0,30):
            j = i%3
            arr[i,k*9+j*3:k*9+j*3+3] = arr[i,k*9+j*3:k*9+j*3+3]+100
        print arr.shape
        Data_Set.append(arr)
        Data_Lab.append(lab)
    train = Data_Set[0].tolist()
    m = svm_train(Data_Lab[0], Data_Set[0].tolist(), '-c 10 -t 0 -p 10')
    p_label, p_acc, p_val = svm_predict(Data_Lab[0], Data_Set[0].tolist(), m)

[Link 1]: http://www.tanglei.name/wp-content/uploads/2012/03/clip_image0061.jpg