0.   引言

瓦斯灾害是煤矿生产过程中的重大灾害之一，《煤矿安全规程》明确规定，新建矿井或生产矿井新水平都必须进行瓦斯涌出量预测，以确定新矿井、新水平、新采区投产后瓦斯涌出量的大小，将预测结果作为矿井和采区通风设计、瓦斯抽采及瓦斯管理的依据^[1-3]。回采工作面是矿井瓦斯涌出的主要场所，精准预测回采工作面的瓦斯涌出量，进而有针对性地提出防治措施，对保证矿井安全生产具有重要意义。

应用最广泛的矿井工作面瓦斯涌出量预测方法包括分源预测法和矿山统计法 ^[1]。分源预测法以煤层瓦斯含量为主要基础数据，结合煤层开采情况进行工作面瓦斯涌出量预测。矿山统计法以瓦斯带内煤层相对瓦斯涌出量与开采深度的关系为基础，利用线性梯度预测延伸水平的瓦斯涌出量。这2种方法虽然操作性强，现场应用广泛，但在预测过程中考虑的影响因素有限^[4]。矿井瓦斯涌出规律和涌出量因地而异，且影响瓦斯涌出量的地质因素较多，各因素之间的非线性关系错综复杂，难以控制。随着信息与计算科学的发展，学者们将灰色理论、神经网络、支持向量机等非线性映射方法用于瓦斯涌出量预测^[5-8]。赵建会等^[9]运用灰色预测理论，分析了回采工作面瓦斯涌出量的关键影响因素，建立了工作面瓦斯涌出量预测模型。熊祖强等^[10]利用无偏灰色模型代替传统灰色模型，建立了动态无偏灰色马尔科夫模型，消除了传统灰色模型自身固有的偏差，提高了预测精度。李树刚等^[11]构建了因子分析与BP神经网络相结合的瓦斯涌出量预测模型，采用因子分析法对瓦斯涌出量影响因素进行分析降维，解决了因预测指标过多导致瓦斯涌出量预测精度降低的问题。付华等^[12]采用蚁群聚类算法获取最优Elman神经网络权值和阈值，完成了瓦斯涌出量与影响因素之间的非线性逼近，并提出了基于蚁群聚类（Ant Colony Clustering，ACC）和Elman 神经网络（Elman Neural Network，ENN）算法的绝对瓦斯涌出量预测模型，实现了动态预测目标。

在实际工程应用中，工作面瓦斯涌出量的影响因素众多且复杂，灰色理论往往精度相对较低，支持向量机预测方法对超参数的选取有较高要求，神经网络算法预测精度依赖于样本容量，且训练速度慢，泛化能力相对较差，在进行工作面瓦斯涌出量预测时有一定局限性^[13]。随机森林回归算法能处理高纬度的离散型及连续性数据，具有较强的抗噪声能力和准确性，且理论易于理解，计算简单，故也被应用于工作面瓦斯涌出预测中^[14-16]。本文在前人研究的基础上，以工作面实测瓦斯涌出量数据为原始样本，通过Bootstrap抽样方法进行样本选取，以袋外数据（Out-of-Bag，OOB）作为测试集，通过OOB评估分数oob_score进行模型参数调优，建立最优化的随机森林回归模型，进行回采工作面的瓦斯涌出量预测，从而提高预测精度及预测效率。

1.   瓦斯涌出量预测方法

1.1   随机森林回归算法原理

随机森林回归算法是由多个决策树构成的一种基于引导聚集算法（Bootstrap aggregating，Bagging）的集成算法^[17]，能够有效地在大数据集上运行，处理分类和回归问题。

随机森林回归算法原理如图1所示。首先，利用Bootstrap抽样方法从原始训练集中抽取k个与原始训练集样本容量一致的样本；其次，针对k个样本，从M个输入特征中随机选择m个作为决策树分支节点的备选特征（M >m）；然后，根据特征不纯度指标确定最佳节点和最佳分支，分别建立k个决策树回归模型，得到k个回归预测结果；最后，根据k个回归预测结果求得平均值P，作为最终预测结果。

图  1  随机森林回归算法原理

Figure  1.  Principle of random forest regression algorithm

下载: 全尺寸图片 幻灯片

1.2   模型性能评估方法

Bootstrap抽样方法通过有放回的随机抽样技术形成不同的训练数据。在一个含有K个样本的原始训练集中进行随机采样，每次采样1个样本，并在抽取下一个样本之前将该样本放回原始训练集中，共采集K次，最终得到1个与原始训练集大小相同的由K个样本组成的自助集。由于是随机采样，每次的自助集和原始数据集均不相同，这样即可获得互不相同的自助集。由于是有放回的抽样，某些样本可能在同一自助集中反复出现，而其他有些样本则可能会被忽略。每一个样本被抽到自助集中的概率为$1-\left(1-\dfrac{1}{K}\right)^K $。

当K趋向于无穷大时，概率收敛域为1−1/e，其值约为0.632，即数据集中会有36.8%的训练数据没有参与建模，这一部分数据为OOB。这些OOB可作为模型的测试集来评估模型性能。评估结果以oob_score表示，oob_score返回R²：

式中：u为残差平方和；v为总平方和；N为样本数量；i为样本序号；f_i为模型回归值；y_i为样本点真实数值标签；$\hat{y} $为真实数值标签的平均值。

按照式（1），随机森林中每棵决策树都会产生一个oob_score，将所有决策树的oob_score进行平均，可得随机森林的oob_score，以此来评估模型性能。

1.3   特征变量重要性评估

数据集中往往特征较多，特征变量重要性评估对模型的降维具有重要作用。用随机森林进行特征重要性评估的思想是判断每个特征在随机森林中每棵树上所作的贡献，而评价贡献大小通常使用基尼指数Gini或袋外数据错误率oob_error作为评估指标，本文以oob_error为例进行说明。

首先，对随机森林中的每一棵决策树，使用相应的OOB来计算误差，记为$ {\varepsilon _1} $；其次，随机对OOB所有样本的特征I加入噪声干扰，再次计算OOB误差，记为$ {\varepsilon _2} $；由于在特征I中加入噪声后，OOB数据预测准确率会有一定程度下降，假设随机森林中有T棵树，那么特征I的重要性可通过$\displaystyle \sum\left(\varepsilon_2-\varepsilon_1\right) / T $计算得出，其值越大，说明特征I对样本回归结果的影响越大，即重要性越高。

2.   数据测试分析

2.1   数据样本

影响工作面瓦斯涌出量的因素众多，根据资料查阅及现场考察，选取14种特征，包括瓦斯含量X₁、煤层埋深X₂、开采层厚度X₃、煤层倾角X₄、回采高度X₅、日进尺X₆、工作面长度X₇、采出率X₈、日产量X₉、顶板管理方式X₁₀、邻近层瓦斯含量X₁₁、邻近层煤层厚度X₁₂、邻近层与本煤层间距X₁₃、邻近层与本煤层层间岩性X₁₄。测试数据来源于相关文献中山西、江西、安徽等地多个矿井的72组回采工作面的瓦斯涌出量及相关特征数据^[16,18-19]，部分样本数据见表1，其中Y为瓦斯涌出量。为了便于准确对比分析，将每个矿井80%的数据用于模型训练，20%的数据作为模型验证测试对比样本。

表  1  回采工作面瓦斯涌出量特征样本数据

Table  1.  Sample data of gas emission characteristics in the mining face

序号	X1/（m³·t−1）	X2/m	X3/m	X4/（°）	X5/m	X6/m	X7/m	X8	X9/t	X10	X11/（m³·t−1）	X12/m	X13/m	X14	Y/（m³·min−1）
1	1.92	408	2.0	10	2.0	4.42	155	0.96	1825	1	2.02	1.5	20	5.03	3.34
2	2.15	411	2.0	8	2.0	4.16	140	0.95	1527	1	2.1	1.21	22	4.87	2.97
3	2.14	420	1.8	11	1.8	4.13	175	0.95	1751	1	2.64	1.62	19	4.75	3.56
4	2.58	432	2.3	10	2.3	4.67	145	0.95	2078	1	2.4	1.48	17	4.91	3.62
5	2.40	456	2.2	15	2.2	4.51	160	0.94	2104	1	2.55	1.75	20	4.63	4.17
6	3.22	516	2.8	13	2.8	3.45	180	0.93	2242	1	2.21	1.72	12	4.78	4.6
7	2.80	527	2.5	17	2.5	3.28	180	0.94	1979	1	2.81	1.81	11	4.51	4.92
8	3.35	531	2.9	9	2.9	3.68	165	0.93	2288	1	1.88	1.42	13	4.82	4.78
9	3.61	550	2.9	12	2.9	4.02	155	0.92	2352	1	2.12	1.6	14	4.83	5.23
10	3.68	563	3.0	11	3.0	3.53	175	0.94	2410	1	3.11	1.46	12	4.53	5.56

下载: 导出CSV 

| 显示表格

2.2   模型构建及参数调整

随机森林回归模型以Python语言为基础，借助Sklearn机器学习中的RandomForestRegressor进行构建。Sklearn中随机森林回归模型的待调参数共有16项，其中最主要的待调参数见表2。

表  2  随机森林回归模型主要待调参数

Table  2.  The main parameters to be adjusted in the random forest regression model

序号	参数	参数说明
1	n_estimators	随机森林中决策树的数量
2	criterion	回归树衡量回归质量的指标
3	random_state	生成的森林模式
4	max_features	最佳分支时的特征个数
5	max_depth	决策树剪枝参数，防止模型过拟合。本次 原始样本数量较少，不进行剪枝
	Min_sample_leaf
	Min_sample_spit
	Min_impurity_decrease

下载: 导出CSV 

| 显示表格

通过试算表明，随机森林回归模型中的n_estimators，criterion，random_state，max_features都对计算结果有一定的影响。由于回采工作面瓦斯涌出量预测数据样本量较少，所以模型将不进行剪枝，只对n_estimators，criterion，random_state，max_features进行调参。利用Python语言编制程序， 设置n_estimators为1～200，criterion分别为mse，mae和friedman_mse，random_state 为1～200，max_features为1～14，计算模型的最大obb_score，结果见表3。

表  3  随机森林回归模型调参结果

Table  3.  Parameter adjustment results of random forest regression model

criterion	n_estimators	max_ features	random_state	最大obb_score
mse	23	11	165	0.91575566
mae	20	14	70	0.92116429
friedman_mse	34	14	34	0.91395423

下载: 导出CSV 

| 显示表格

由表3可看出，当criterion为mae，n_estimators为20，max_features为14，random_state为70时，根据数据样本所建立的随机森林回归模型obb_score最大，其值为0.921 164 29。

为了更直观地说明模型所调各参数之间的关系，绘制criterion为mae，max_features为14时， n_estimators、random_state与obb_score的关系热力图，如图2所示。

图  2  随机森林回归模型参数关系热力图

Figure  2.  Thermodynamic diagram of random forest regression model parameter relationship

下载: 全尺寸图片 幻灯片

由图2可看出，针对工作面瓦斯涌出量数据样本，总体上各种调参组合的obb_score可达80%以上，只有在n_estimators较小时，会出现obb_score较低的情况，但也并非呈现n_estimators越大，obb_score越高的趋势。从图2（a）中可明显看到，当random_state不同时，纵向条带分布较为明显，故调整适当的random_state能够在一定程度上提高模型预测的准确性。

当random_state为70时，不同的max_features 所对应的n_estimators与obb_score的关系曲线如图3所示。由图3可看出，针对该数据集，随着n_estimators的增大，obb_score先急剧增大，后降低至某一水平并逐渐趋于稳定。无论max_feature为何值，n_estimators在20左右，obb_score达到最大值。

图  3  n_estimators与obb_score的关系曲线

Figure  3.  The relationship curves of n_estimators and obb_score

下载: 全尺寸图片 幻灯片

2.3   特征变量分析

对回采工作面瓦斯涌出量样本数据涉及的14种特征变量进行重要性评估，重要性占比如图4所示。按特征重要性排序依次为瓦斯含量X₁（33.51%）、煤层埋深X₂（21.40%）、日进尺X₆（12.97%）、回采高度X₅（6.93%）、邻近层与本煤层间距X₁₃（6.57%）、煤层倾角X₄（3.21%）、邻近层瓦斯含量X₁₁（2.83%）、开采层厚度X₃（2.60%）、邻近层与本煤层层间岩性X₁₄（2.25%）、采出率X₈（2.11%）、日产量X₉（2.10%）、工作面长度X₇（1.87%）、邻近层煤层厚度X₁₂（1.65%）。由于本次数据采集中所有工作面顶板管理方式一致，均设置为1，特征含有效信息，所以顶板管理方式X₁₀的重要性评估为0。

图  4  特征变量重要性占比

Figure  4.  The proportion of importance of characteristic variables

下载: 全尺寸图片 幻灯片

分析图4可知，与本煤层相关的特征变量重要性占比总和为86.7%，与邻近层相关的特征变量重要性占比总和为13.3%。可见在依托本数据集建立的随机森林回归模型中，本煤层开采时的数据对于工作面瓦斯涌出量的预测更为重要。

为了分析特征变量的数量对预测模型的影响，按照特征变量重要性排序，分别计算前2～14个特征变量所构建的13个随机森林回归模型的最大oob_score，结果如图5所示。可看出随机森林回归模型的性能随着特征变量数的增加并不会呈现规律性的变化，特征变量数的增加有时降低了模型性能。

图  5  特征变量数与oob_score关系

Figure  5.  The relationship between the number of characteristic variables and oob_score

下载: 全尺寸图片 幻灯片

分析图5中不同特征变量数对应的obb_score可知，特征变量个数为2时oob_score最低，为0.858 15，当特征变量个数为3或者4时，oob_score为0.94以上，明显高于其余得分，所以当特征变量个数为3或4时，可能存在过拟合的情况。

2.4   预测结果分析

按照特征重要性排序，构建特征变量个数为3～14时的随机森林回归模型，对14个工作面的瓦斯涌出量预测样本进行预测，预测值与实测值的误差见表4。

表  4  随机森林回归模型预测误差

Table  4.  Prediction error of random forest regression model

特征变量个数	平均绝对误差/（m³·min−1）	平均相对误差/%
3	0.228	5.030
4	0.174	3.72
5	0.109	3.21
6	0.091	2.36
7	0.090	2.32
8	0.147	3.38
9	0.124	3.05
10	0.083	2.15
11	0.053	1.72
12	0.109	2.73
13	0.026	1.28
14	0.005	0.77

下载: 导出CSV 

| 显示表格

分析表4可知，当特征变量个数为3或4时，虽然在训练集中的obb_score均大于0.94，但在测试集中平均绝对误差和平均相对误差均相对较大，说明当特征变量个数为3或4时，存在一定过拟合。当特征变量个数为14时，平均绝对误差仅为0.005 m³/min，平均相对误差仅为0.77%，预测效果最好。

特征变量数与平均绝对误差、平均相对误差的关系曲线如图6所示。可看出预测值与实测值的平均绝对误差、平均相对误差随着特征变量数的增加呈下降趋势，增加特征变量数可在一定程度上提高随机森林回归模型的预测效果。

图  6  特征变量数与误差平均值关系曲线

Figure  6.  The relationship between the number of characteristic variables and mean value of error

下载: 全尺寸图片 幻灯片

将特征变量个数为14时建立的工作面瓦斯涌出量随机森林回归模型与文献[20]提出的主成分回归分析法进行对比，结果见表5。由表5可知，随机森林回归模型最小相对误差为1.63%，最大相对误差为5.97%，平均相对误差为4.26%，具有较高的准确性，完全能够满足现场瓦斯涌出量预测需求。与主成分回归分析法相比，随机森林回归模型的平均相对误差降低了14.29%，预测效果更好。此外，相比主成分分析法，随机森林回归模型原理更简单，调参更容易，计算速度更快，能够快速高效地为矿井回采工作面瓦斯涌出量预测提供有力的理论支撑。

表  5  不同预测模型预测结果对比

Table  5.  Comparison of prediction results of different prediction models

实测值/ （m³·min−1）	随机森林回归模型				主成分回归分析法
	预测值/ （m³·min−1）	绝对误差/ （m³·min−1）	相对误差/%		预测值/ （m³·min−1）	绝对误差/ （m³·min−1）	相对误差/%
4.06	3.85	−0.21	5.17		4.01	−0.05	1.23
4.92	4.84	−0.08	1.63		5.30	0.38	7.72
8.04	7.56	−0.48	5.97		7.56	−0.48	5.97

下载: 导出CSV 

| 显示表格

3.   结论

1） 以矿井实际工作面瓦斯涌出量数据样本为基础，通过随机森林回归模型进行工作面瓦斯涌出量预测。以Bootstrap抽样方法随机抽取样本，通过oob_score作为模型调参的标准，得到随机森林回归模型的最优参数。

2） 计算各特征变量的重要性占比并进行排序，按照重要性排序进行随机森林回归模型性能分析，结果表明，随着特征变量数的增加，模型性能不会呈现规律性的变化。当特征变量数较少时，可能存在过拟合的情况。

3） 测试结果表明，所创建的随机森林回归模型预测值与实测值的平均绝对误差、平均相对误差随着特征变量数的增加呈下降趋势，特征变量数的增加可在一定程度上提高模型的预测效果。

4） 针对同一组数据，与主成分回归分析法相比，随机森林回归模型平均相对误差降低了14.29%，预测效果更好，且原理更简单、调参更容易、计算速度更快，能够为矿井回采工作面瓦斯涌出量预测提供有力的理论支撑。