引用本文

郑念祖, 丁进良. 基于Regression GAN的原油总氢物性预测方法. 自动化学报, 2018, 44(5): 915-921. doi: 10.16383/j.aas.2018.c170485

ZHENG Nian-Zu, DING Jin-Liang. Regression GAN Based Prediction for Physical Properties of Total Hydrogen in Crude Oil. ACTA AUTOMATICA SINICA, 2018, 44(5): 915-921. doi: 10.16383/j.aas.2018.c170485

http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.2018.c170485

关键词

回归生成对抗网络，原油物性预测，生成对抗网络，核磁共振氢谱 

摘要

针对生成对抗网络（Generative adversarial network，GAN）不适用于原油物性回归预测的问题，本文提出一种回归生成对抗网络（Regression GAN，RGAN）结构，该结构由生成模型G、判别模型D及回归模型R组成.通过判别模型D与生成模型G间的对抗学习，D提取原油物性核磁共振氢谱（1H NMR）谱图的潜在特征.首层潜在特征是样本空间的浅层表示利于解决回归问题，采用首层潜在特征建立回归模型R，提高了预测的精度及稳定性.通过增加条件变量和生成样本间的互信息约束，并采用回归模型R的MSE损失函数估计互信息下界，生成模型G产生更真实的样本.实验结果表明，RGAN有效地提高了原油总氢物性回归预测精度及稳定性，同时加快了生成模型的收敛速度，提高了谱图的生成质量.

文章导读

核磁共振氢谱(¹H nuclear magnetic resonance spectroscopy, ¹H NMR)可用于检测有机化合物中氢原子与周围化学官能团的相互作用, 在化学、中药材质量及药物分析方面早已得到广泛研究[1-2].近年来, 该技术得到迅速发展.作为新的原油物性预测手段之一, 该技术制样简单、灵敏度与分辨率较高, 提供结构信息丰富, 具有良好的发展潜力与应用前景[3-5].

由于原油物性复杂多变, 常用的建模方法诸如偏最小二乘回归(Partial least square regression, PLSR)、支持向量机(Support vector machine, SVM)、卷积神经网络(Convolutional neural network, CNN)等往往无法适用于实际复杂的非线性关系, 因此模型的泛化能力在一定程度上受到限制[6-8].近年来, 生成对抗网络(Generative adversarial network, GAN)以其对抗学习成为人工智能领域的一个热门方向[9], 其基本思想在于判别模型D通过对抗学习提取样本空间的潜在特征表示, 迫使生成器G的概率分布匹配于未知的真实的数据分布.与传统的生成模型不同, GAN不是直接对样本空间中每个样本点进行概率密度估计, 而是通过生成器G对样本分布进行隐式表达.因此, 如何将GAN对抗学习获得的潜在特征表示充分利用以提高回归模型的泛化能力是一个值得思考的问题.

本文尝试解决预测回归问题, 同时能够学习得到一个生成模型.近年来, 在分类任务中采用生成模型的研究受到了广泛的关注, 并取得了许多进展. Kingma等[10]采用变分方法改进深度生成模型和近似贝叶斯推理, 使得生成方法适用于半监督分类问题; Radford等[11]将判别模型D中全部特征层应用于分类, 取得了不错的效果, 但其存在判别模型D与分类模型C不能同时联合训练的问题; Springenberg等[12]提出CatGAN (Categorical generative adversarial networks)对GAN进行半监督形式拓展, 通过引入类别损失来进行指导GAN的学习, 其基于熵损失的无监督学习方法表现较好.然而, 以上工作均是应用于分类问题中, 为此, 我们提出一种回归生成对抗网络(Regression generative adversarial network, RGAN)对GAN进行拓展, 从而应用于回归问题中, 该模型同时训练得到回归模型R与生成模型G, 且R与判别模型D共享首层潜在特征, 在RGAN框架下, G, D及R相互促进, 使得RGAN模型的预测精度及生成质量均得到提高.

图 1  RGAN模型结构示意图

图 2  基于不同特征层RGAN回归模型R的表现

图 3  原油样本核磁共振氢谱

近年来, GAN在图像生成领域中已取得令人瞩目的成就, 本文提出一种新的GAN网络的拓展结构——RGAN, 将GAN模型由图像领域应用到核磁共振氢谱原油物性定量分析中. RGAN通过判别模型与生成模型的对抗学习, 使得判别模型提取了NMR谱图的一系列的潜在特征, 采用判别模型的首层潜在特征建立回归模型, 提高回归模型预测精度及泛化能力.通过增加互信息约束, 采用回归模型估计其下界, 生成模型产生更类似于真实的生成样本. RGAN各模型联合训练, 相互促进, 趋于各自最优.实验表明, RGAN提高了原油物性回归模型的预测精度及其稳定性, 同加快了生成模型的收敛速度, 提高了谱图的生成质量.

作者简介

郑念祖

东北大学流程工业综合自动化国家重点实验室硕士研究生.2016年获得东北大学学士学位.主要研究方向为生成对抗网络, 人工智能与机器学习.E-mail:skyznz@163.com

丁进良  

东北大学流程工业综合自动化国家重点实验室教授.主要研究方向为复杂工业过程的建模与运行优化控制, 计算智能及应用.本文通信作者.E-mail:jlding@mail.neu.edu.cn