系统学习图像算法Day.27——C++应用——复现机器学习中的PLA算法

小咪咪 2023-06-13 04:57 7阅读 0赞

学习机器学习的第一个接触的算法，该算法叫做PLA算法（Perceptron Learning Algorithm），该算法是解决线性可分的二分类问题。

#include <iostream>
    #include <fstream>
    #include <vector>
    
    using namespace std;
    const int DIMS = 5;
    
    int step = 0;   //修正了几次W
    int index = 0;   //处于数据集的第几个X
    
    char *file = "PLA_data.txt";
    
    struct training_unit    //每个X数据结构体
    { 
        double x[DIMS];
        int y;
    };
    
    vector <training_unit> training;   //用来保存X
    
    int sign( double signx )    //sign函数，正为1，负为-1
    { 
        int signy; 
        if (signx > 0) signy = 1;
        else signy = -1;
    
        return signy;
    }
    
    int judge(training_unit xy,double ww[5])    //判决是否需要修正w
    { 
     double sum = 0;
     for (int k=0; k<5; k++)
            sum += ( xy.x[k] * ww[k] );
     if ( sign(sum) == xy.y ) return 1;
     else return 0;
    }
    
    void file_to_vector( char *filename, vector <training_unit>& vectorname )  
    //将数据文件中的数据读取到vector中去
    { 
     ifstream inFile;
     inFile.open(filename);
     if (!inFile.is_open())
       { 
           cerr <<"Could not open"<<file<<endl;
           exit(EXIT_FAILURE);
       }
        
        training_unit x4y1_model;
    
     while (!inFile.eof())      //把x、y数据读入vector容器
       { 
            x4y1_model.x[0] = 1; 
            for(int i=1;i<DIMS;i++)
              { 
                  inFile >> x4y1_model.x[i] ;
                  inFile >> x4y1_model.y;
              }
             vectorname.push_back(x4y1_model); 
        }
    
      inFile.close();
    }
    
    void cout_the_result( double w[DIMS], int step )
    { 
     cout <<"w= { "<<w[0]<<", "<<w[1]<<", "<<w[2]<<", "<<w[3]<< ", }" <<endl;
     cout <<"step = "<<step<<endl;
    }
    
    void PLA(  )     //算法核心
    { 
         file_to_vector(file,training);
         double w[DIMS] = { 0};
         int nums = training.size(),j = 0;
         int true_nums = 0;    //正确分类的的数据个数
         while( j<nums )
           { 
               index = j;
               
               if( !judge(training[j], w) )
                      {  
                          for(int i=0; i<DIMS; i++)
                               w[i] += ( training[j].y * training[j].x[i] );
                          step ++;
                       }
               else true_nums++;
               j++;
    
               if ( j==nums )  
                  { 
                    if( !(true_nums==nums) ) j=true_nums=0;
                   }
    
                cout << "judging the "<< index <<"th data"<<endl;
                cout << step << "th"<<" correction" <<endl;
           }
    
         cout_the_result( w, step );
    }
    
    int main()
    { 
       PLA();
       cin.get();
       return 0;
    }

这个只针对于线性可分得情况，如果线性不可分，那么该算法修改后的PLA称为Packet Algorithm，主要思想是贪心算法，找到最优解，使正确分类尽可能多的数据。