MATLAB人工神经网络ANN代码

清疚 2024-03-16 12:28 75阅读 0赞

本文介绍基于**MATLAB**实现**人工神经网络**（**ANN**）回归的详细代码与操作。

*  [1 分解代码][1]
    
     *  [1.1 循环准备][1.1]
     *  [1.2 神经网络构建][1.2]
     *  [1.3 数据处理][1.3]
     *  [1.4 模型训练参数配置][1.4]
     *  [1.5 神经网络实现][1.5]
     *  [1.6 精度衡量][1.6]
     *  [1.7 保存模型][1.7]
 *  [2 完整代码][2]

在之前的文章[MATLAB实现随机森林（RF）回归与自变量影响程度分析][MATLAB_RF]中，我们对基于**MATLAB**的**随机森林**（RF）回归与变量影响程度（重要性）排序的代码加以详细讲解与实践。本次我们继续基于**MATLAB**，对另一种常用的机器学习方法——**神经网络**方法加以代码实战。

首先需要注明的是，在**MATLAB**中，我们可以直接基于“**APP**”中的“**Neural Net Fitting**”工具箱实现在无需代码的情况下，对神经网络算法加以运行。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3poZWJ1c2hpYmlhb3NoaWZ1_size_16_color_FFFFFF_t_70][]

基于工具箱的神经网络方法虽然方便，但是一些参数不能调整；同时也不利于我们对算法、代码的理解。因此，本文不利用“**Neural Net Fitting**”工具箱，而是直接通过代码将神经网络方法加以运行——但是，本文的代码其实也是通过上述工具箱运行后生成的；而这种生成神经网络代码的方法也是**MATLAB**官方推荐的方式。

另外，需要注意的是，本文直接进行神经网络算法的执行，省略了前期数据处理、训练集与测试集划分、精度衡量指标选取等。因此建议大家先将文章[MATLAB实现随机森林（RF）回归与自变量影响程度分析][MATLAB_RF]阅读后，再阅读本文。

本文分为两部分，首先是将代码分段、详细讲解，方便大家理解；随后是完整代码，方便大家自行尝试。

## 1 分解代码 ##

### 1.1 循环准备 ###

由于机器学习往往需要多次执行，我们就在此先定义循环。

%% ANN Cycle Preparation
    
    ANNRMSE=9999;
    ANNRunNum=0;
    ANNRMSEMatrix=[];
    ANNrAllMatrix=[];
    while ANNRMSE>400

其中，`ANNRMSE`是初始的**RMSE**；`ANNRunNum`是神经网络算法当前运行的次数；`ANNRMSEMatrix`用来存储每一次神经网络运行后所得到的**RMSE**结果；`ANNrAllMatrix`用来存储每一次神经网络运行后所得到的皮尔逊相关系数结果；最后一句表示当所得到的模型**RMSE**`>400`时，则停止循环。

### 1.2 神经网络构建 ###

接下来，我们对神经网络的整体结构加以定义。

%% ANN
    
    x=TrainVARI';
    t=TrainYield';
    trainFcn = 'trainlm';
    hiddenLayerSize = [10 10 10];
    ANNnet = fitnet(hiddenLayerSize,trainFcn);

其中，`TrainVARI`、`TrainYield`分别是我这里训练数据的自变量（特征）与因变量（标签）；`trainFcn`为神经网络所选用的训练函数方法名称，其名称与对应的方法对照如下表：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3poZWJ1c2hpYmlhb3NoaWZ1_size_16_color_FFFFFF_t_70 1][]

`hiddenLayerSize`为神经网络所用隐层与各层神经元个数，`[10 10 10]`代表共有三层隐层，各层神经元个数分别为`10`，`10`与`10`。

### 1.3 数据处理 ###

接下来，对输入神经网络模型的数据加以处理。

ANNnet.input.processFcns = {'removeconstantrows','mapminmax'};
    ANNnet.output.processFcns = {'removeconstantrows','mapminmax'};
    ANNnet.divideFcn = 'dividerand';
    ANNnet.divideMode = 'sample';
    ANNnet.divideParam.trainRatio = 0.6;
    ANNnet.divideParam.valRatio = 0.4;
    ANNnet.divideParam.testRatio = 0.0;

其中，`ANNnet.input.processFcns`与`ANNnet.output.processFcns`分别代表输入模型数据的处理方法，`'removeconstantrows'`表示删除在各样本中数值始终一致的特征列，`'mapminmax'`表示将数据归一化处理；`divideFcn`表示划分数据训练集、验证集与测试集的方法，`'dividerand'`表示依据所给定的比例随机划分；`divideMode`表示对数据划分的维度，我们这里选择`'sample'`，也就是对样本进行划分；`divideParam`表示训练集、验证集与测试集所占比例，那么在这里，因为是直接用了先前随机森林方法（可以看这篇[博客][Link 1]）中的数据划分方式，那么为了保证训练集、测试集的固定，我们就将`divideParam.testRatio`设置为`0.0`，然后将训练集与验证集比例划分为`0.6`与`0.4`。

### 1.4 模型训练参数配置 ###

接下来对模型运行过程中的主要参数加以配置。

ANNnet.performFcn = 'mse';
    ANNnet.trainParam.epochs=5000;
    ANNnet.trainParam.goal=0.01;

其中，`performFcn`为模型误差衡量函数，`'mse'`表示均方误差；`trainParam.epochs`表示训练时**Epoch**次数，`trainParam.goal`表示模型所要达到的精度要求（即模型运行到`trainParam.epochs`次时或误差小于`trainParam.goal`时将会停止运行）。

### 1.5 神经网络实现 ###

这一部分代码大多数与绘图、代码与**GUI**生成等相关，因此就不再一一解释了，大家可以直接运行。需要注意的是，`train`是模型训练函数。

% For a list of all plot functions type: help nnplot
    ANNnet.plotFcns = {'plotperform','plottrainstate','ploterrhist','plotregression','plotfit'};
    [ANNnet,tr] = train(ANNnet,x,t);
    y = ANNnet(x);
    e = gsubtract(t,y);
    performance = perform(ANNnet,t,y);
    % Recalculate Training, Validation and Test Performance
    trainTargets = t .* tr.trainMask{1};
    valTargets = t .* tr.valMask{1};
    testTargets = t .* tr.testMask{1};
    trainPerformance = perform(ANNnet,trainTargets,y);
    valPerformance = perform(ANNnet,valTargets,y);
    testPerformance = perform(ANNnet,testTargets,y);
    % view(net)
    % Plots
    %figure, plotperform(tr)
    %figure, plottrainstate(tr)
    %figure, ploterrhist(e)
    %figure, plotregression(t,y)
    %figure, plotfit(net,x,t)
    % Deployment
    % See the help for each generation function for more information.
    if (false)
        % Generate MATLAB function for neural network for application
        % deployment in MATLAB scripts or with MATLAB Compiler and Builder
        % tools, or simply to examine the calculations your trained neural
        % network performs.
        genFunction(ANNnet,'myNeuralNetworkFunction');
        y = myNeuralNetworkFunction(x);
    end
    if (false)
        % Generate a matrix-only MATLAB function for neural network code
        % generation with MATLAB Coder tools.
        genFunction(ANNnet,'myNeuralNetworkFunction','MatrixOnly','yes');
        y = myNeuralNetworkFunction(x);
    end
    if (false)
        % Generate a Simulink diagram for simulation or deployment with.
        % Simulink Coder tools.
        gensim(ANNnet);
    end

### 1.6 精度衡量 ###

%% Accuracy of ANN
    
    ANNPredictYield=sim(ANNnet,TestVARI')';
    ANNRMSE=sqrt(sum(sum((ANNPredictYield-TestYield).^2))/size(TestYield,1));
    ANNrMatrix=corrcoef(ANNPredictYield,TestYield);
    ANNr=ANNrMatrix(1,2);
    ANNRunNum=ANNRunNum+1;
    ANNRMSEMatrix=[ANNRMSEMatrix,ANNRMSE];
    ANNrAllMatrix=[ANNrAllMatrix,ANNr];
    disp(ANNRunNum);
    end
    disp(ANNRMSE);

其中，`ANNPredictYield`为预测结果；`ANNRMSE`、`ANNrMatrix`分别为模型精度衡量指标**RMSE**与皮尔逊相关系数。结合本文**1.1**部分可知，我这里设置为当所得神经网络模型**RMSE**在`400`以内时，将会停止循环；否则继续开始执行本文**1.2**部分至**1.6**部分的代码。

### 1.7 保存模型 ###

这一部分就不再赘述了，大家可以参考文章[MATLAB实现随机森林（RF）回归与自变量影响程度分析][MATLAB_RF]。

%% ANN Model Storage
    
    ANNModelSavePath='G:\CropYield\02_CodeAndMap\00_SavedModel\';
    save(sprintf('%sRF0417ANN0399.mat',ANNModelSavePath),'TestVARI','TestYield','TrainVARI','TrainYield','ANNnet','ANNPredictYield','ANNr','ANNRMSE',...
        'hiddenLayerSize');

## 2 完整代码 ##

完整代码如下：

%% ANN Cycle Preparation
    ANNRMSE=9999;
    ANNRunNum=0;
    ANNRMSEMatrix=[];
    ANNrAllMatrix=[];
    while ANNRMSE>1000
    
    %% ANN
    x=TrainVARI';
    t=TrainYield';
    trainFcn = 'trainlm';
    hiddenLayerSize = [10 10 10];
    ANNnet = fitnet(hiddenLayerSize,trainFcn);
    ANNnet.input.processFcns = {'removeconstantrows','mapminmax'};
    ANNnet.output.processFcns = {'removeconstantrows','mapminmax'};
    ANNnet.divideFcn = 'dividerand';
    ANNnet.divideMode = 'sample';
    ANNnet.divideParam.trainRatio = 0.6;
    ANNnet.divideParam.valRatio = 0.4;
    ANNnet.divideParam.testRatio = 0.0;
    ANNnet.performFcn = 'mse';
    ANNnet.trainParam.epochs=5000;
    ANNnet.trainParam.goal=0.01;
    % For a list of all plot functions type: help nnplot
    ANNnet.plotFcns = {'plotperform','plottrainstate','ploterrhist','plotregression','plotfit'};
    [ANNnet,tr] = train(ANNnet,x,t);
    y = ANNnet(x);
    e = gsubtract(t,y);
    performance = perform(ANNnet,t,y);
    % Recalculate Training, Validation and Test Performance
    trainTargets = t .* tr.trainMask{1};
    valTargets = t .* tr.valMask{1};
    testTargets = t .* tr.testMask{1};
    trainPerformance = perform(ANNnet,trainTargets,y);
    valPerformance = perform(ANNnet,valTargets,y);
    testPerformance = perform(ANNnet,testTargets,y);
    % view(net)
    % Plots
    %figure, plotperform(tr)
    %figure, plottrainstate(tr)
    %figure, ploterrhist(e)
    %figure, plotregression(t,y)
    %figure, plotfit(net,x,t)
    % Deployment
    % See the help for each generation function for more information.
    if (false)
        % Generate MATLAB function for neural network for application
        % deployment in MATLAB scripts or with MATLAB Compiler and Builder
        % tools, or simply to examine the calculations your trained neural
        % network performs.
        genFunction(ANNnet,'myNeuralNetworkFunction');
        y = myNeuralNetworkFunction(x);
    end
    if (false)
        % Generate a matrix-only MATLAB function for neural network code
        % generation with MATLAB Coder tools.
        genFunction(ANNnet,'myNeuralNetworkFunction','MatrixOnly','yes');
        y = myNeuralNetworkFunction(x);
    end
    if (false)
        % Generate a Simulink diagram for simulation or deployment with.
        % Simulink Coder tools.
        gensim(ANNnet);
    end
    
    %% Accuracy of ANN
    ANNPredictYield=sim(ANNnet,TestVARI')';
    ANNRMSE=sqrt(sum(sum((ANNPredictYield-TestYield).^2))/size(TestYield,1));
    ANNrMatrix=corrcoef(ANNPredictYield,TestYield);
    ANNr=ANNrMatrix(1,2);
    ANNRunNum=ANNRunNum+1;
    ANNRMSEMatrix=[ANNRMSEMatrix,ANNRMSE];
    ANNrAllMatrix=[ANNrAllMatrix,ANNr];
    disp(ANNRunNum);
    end
    disp(ANNRMSE);
    
    %% ANN Model Storage
    ANNModelSavePath='G:\CropYield\02_CodeAndMap\00_SavedModel\';
    save(sprintf('%sRF0417ANN0399.mat',ANNModelSavePath),'AreaPercent','InputOutput','nLeaf','nTree',...
        'RandomNumber','RFModel','RFPredictConfidenceInterval','RFPredictYield','RFr','RFRMSE',...
        'TestVARI','TestYield','TrainVARI','TrainYield','ANNnet','ANNPredictYield','ANNr','ANNRMSE',...
        'hiddenLayerSize');

至此，大功告成。

[1]: https://www.cnblogs.com/fkxxgis/p/17104601.html#1-%E5%88%86%E8%A7%A3%E4%BB%A3%E7%A0%81
[1.1]: https://www.cnblogs.com/fkxxgis/p/17104601.html#11-%E5%BE%AA%E7%8E%AF%E5%87%86%E5%A4%87
[1.2]: https://www.cnblogs.com/fkxxgis/p/17104601.html#12-%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E6%9E%84%E5%BB%BA
[1.3]: https://www.cnblogs.com/fkxxgis/p/17104601.html#13-%E6%95%B0%E6%8D%AE%E5%A4%84%E7%90%86
[1.4]: https://www.cnblogs.com/fkxxgis/p/17104601.html#14-%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83%E5%8F%82%E6%95%B0%E9%85%8D%E7%BD%AE
[1.5]: https://www.cnblogs.com/fkxxgis/p/17104601.html#15-%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%AE%9E%E7%8E%B0
[1.6]: https://www.cnblogs.com/fkxxgis/p/17104601.html#16-%E7%B2%BE%E5%BA%A6%E8%A1%A1%E9%87%8F
[1.7]: https://www.cnblogs.com/fkxxgis/p/17104601.html#17-%E4%BF%9D%E5%AD%98%E6%A8%A1%E5%9E%8B
[2]: https://www.cnblogs.com/fkxxgis/p/17104601.html#2-%E5%AE%8C%E6%95%B4%E4%BB%A3%E7%A0%81
[MATLAB_RF]: https://www.cnblogs.com/fkxxgis/p/17095368.html
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3poZWJ1c2hpYmlhb3NoaWZ1_size_16_color_FFFFFF_t_70]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/994c2ea5e3a24194bd51b7b9d3e83bff.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3poZWJ1c2hpYmlhb3NoaWZ1_size_16_color_FFFFFF_t_70 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/16/dda2e36b9849421081ac8056529c3ba8.png
[Link 1]: https://blog.csdn.net/zhebushibiaoshifu/article/details/114806478