维普资讯 http://www.cqvip.com ２００４年５月 控 制 工 程 Ｃｏｎｔｒｏｌ Ｅｎｇｉｎｅｅｒｉｎｇ ｏｆ Ｃｈｉｎａ Ｍａｙ ２ ０ ０ ４ 第１１卷第３期 Ｖｏ１．１１，Ｎｏ．３ 文章编号：１６７１—７８４８（２００４）０３．０２１２—０４ 基于ＰＣＡ．ＧＡＢＰ神经网络的ＢＯＤ软测量方法 冉维丽．乔俊飞 （北京工业大学电子信息与控制工程学院，北京１０００２２） 摘 要：针对污水处理过程中关键水质参数无法在线监测的问题，提出基于ＰＣＡ－ ＧＡＢＰ神经网络的污水水质软测量方法。该方法由两部分组成：主元分析ＰＣＡ和ＧＡＢＰ 神经网络。其中。ＧＡＢＰ算法采用局部改进遗传算法优化神经网络权值，并采用自适应学 习速率动量梯度下降算法对神经网络进行训练，建立软测量模型。仿真结果表明该软测 量模型稳定性好、精度高，可用于污水处理厂对ＢＯＤ进行在线预测。 关键词：软测量；神经网络；主元分析（ＰｃＡ）；遗传算法（ＧＡ）；污水处理 中图分类号：ＴＰ ２７３ 文献标识码：Ａ １引言 ２软测量模型 １）模型结构 基于ＰＣＡ－ＧＡＢＰ神经网络的 污水水质ＢＯＤ在线预测软测量模型如图１所示。 Ｂ（）Ｄ（生化需氧量）是污水处理重要的水质参 数，也是污水处理过程中直接控制的参数，能否对 ＢＯＤ进行实时监测已成为提高治污质量的关键。 但是，由于测量手段的欠缺…，目前污水处理厂 从图中可以看出整个模型由两部分组成：主元分 析ＰＣＡ和ＧＡＢＰ神经网络。其中，ＰＣＡ部分实 现过程变量的降维和去相关，达到简化神经网络 输入的目的；ＧＡＢＰ神经网络实现污水水质ＢＯＤ 与经ＰＣＡ处理后的主元值之间的映射关系，是整 个模型的核心部分。 可 ＰＲ１ 采用大滞后的离线分析法：ＢＯＤ５离线分析测定 周期为５天，不能及时反映污水处理实际情况，不 能实现对ＢＯＤ进行在线测量 Ｊ。而现存的生物 传感器不但造价高、仪器寿命短，而且测量范围 窄、稳定性差。因而ＢＯＤ的实时监测几乎成为污 水水质监测的空白点，从而了污水处理闭环 控制系统的投用。 为解决上述问题，本文研究了污水水质ＢＯＤ 测 辅 助 变 量 主元分析 ＰＲ２ ｆＰｃＡ） ： ＰＲｑ 神经网络 ＧＡＢＰ 在线预测软测量的新方法。由于污水处理过程的 生产条件恶劣，随机干扰严重，具有强非线性、大 图１基于ＰＣＡ－ＧＡＢＰ神经网络ＢＯＤ软测量模型 ２）主元分析（ＰＣＡ） 主元分析（ＰＣＡ）又名 主成分分析，作为输入数据集降维和揭示变量间 线性相关关系的工具，是一种统计相关分析技 时变、严重滞后的特点，难以建立精确的数学模 型。因此，采用传统的机理模型建立软测量模型 是行不通的。而且水污染控制系统是一个多变 量、多目标、多层次的包含海量信息的复杂系统， 术［引。主元分析的基本思想就是在保证数据信 息丢失最少的原则下，对高维变量空间进行降维 处理，使低维特征向量中的主成分变量保留原始 各种水质参数之间存在着强耦合和关联的情 况【３Ｊ，因此本文选择基于ＰＣＡ时间延迟神经网络 变量的特征信息而消除冗余信息。ＰＣＡ算法的 主要步骤如下。 的软测量方法来实现污水水质ＢＯＤ的在线预测。 本文从主元分析ＰＣＡ及ＧＡＢＰ神经网络２个方 面来说明该软测量技术。并通过仿真结果，证明此 测量方法稳定性好，精度高。 ①样本集数据用零均值标准化方法进行归一 化处理： （ 巧一 ）／啊， ＝１，２，…， ； ＝１，２， 收稿日期：２００３—０９－２３；收修定稿日期：２００３．１１—０７ 基金硬目：国家自然科学基金资助项目（５０２７４００３和６０３０４０１２）；北京市科技新星计划资助项目（１－１０２０８２１２１０１２０） 作者简介：冉维丽（１９７６一），女，河北献县人，硕士研究生，主要研究方向为智能控制与智能预测及智能优化算法等。 维普资讯 http://www.cqvip.com 第３期 冉维丽等：基于ＰＣＡ．ＧＡＢＰ神经网络的ＢＯＤ软测量方法 ·２１３· 式中，ｉ为样本数； 为样本分量； 巧为第ｉ个样本 的第ｊ个分量； ｊ为第 个分量样本的均值；ｓｊｊ为 的主元变量为４维，因此确定神经网络拓扑结构 为４输入，隐含层的神经元定为８个，输出层只有 变量 的标准差。 ②将归一化后的过程变量按列组成原始数 据矩阵 ＝［ １， ２，ｏ ｏ ｏ 户］，并求得矩阵ｚ的协 个神经元Ｂ０Ｄ，建立一个ＭＩＳＯ系统模型以实 现主导变量ＢＯＤ的软测量。其中隐含层和输出 层的激励函数分别为双曲正切Ｓｉｇｍｏｉｄ函数和线 性函数。 方差矩阵ｓ。矩阵ｓ的特征根依次排列为 １≥ ２ ≥… ≥０，与其对应的单位正交特征向量组成 的矩阵（即负荷矩阵）为Ｌ＝［Ｌ１，Ｌ２，…，Ｌ ］。将 矩阵 分解成主成分得分矩阵Ｔ，负荷矩阵Ｌ的 外积加上残差项Ｅ，即： ＝ＴＬ ＋Ｅ＝ＴａＬ ＋Ｔ２Ｌ ＋…＋Ｔ ｑ 户 由于标准ＢＰ算法收敛速度慢，容易陷入局 部极小，数值稳定性差，而遗传算法又存在过早收 敛的缺点【 ，６Ｊ。本文采用局部改进的ＧＡＢＰ算法 训练神经网络。采用局部改进的遗传算法来优化 ＋Ｅ 神经网络权值，其中采用自适应学习速率动量梯 度下降算法对神经网络进行训练，计算适应度函 ③求累计方差贡献率７１＝∑ ／∑ ＞ ８５％所需的最小主元个数ｑ的值，并在Ｔ中选出 相应子主元的ｑ个向量作为神经网络训练的样本 数据。 数。最后用与最大适应度函数对应的权值计算神 经网络输出。 ＧＡＢＰ算法具体操作如下： ①将神经网络权值和阈值统一起来，将阈值 看作是输入为一１的连接权。对神经网络权值和 阈值进行二进制编码，将４０个权值和９个阈值对 应的ｏ／１串联在一起，得到一个很长的二进制字 符串，即一个基因链（染色体），如图２所示，代表 网络的一种权值组合，即一个个体。设定种群规 模为Ｎ，随机产生一个初始种群。 由于污水处理过程中过程变量复杂且存在强 烈耦合和互相关，本文利用ＰＣＡ解决该问题，文 献［３］也说明了ＰＣＡ是污水处理过程分析、监测、 诊断的有力工具，使得只用少数主元变量就可以 表示多个过程变量的动态信息。 ３）神经网络结构及其算法经ＰＣＡ降维后 图２神经网络权值编码方案图 本文尝试了对标准遗传算法的二进制编码方 案进行局部改进。二进制数编码实际上是用离散 值尽量逼近权值，这就有可能导致某些实数权值 不能精确表达而使网络训练失败［刮。为提高遗 传算法搜索精度和速度，设定神经网络权值范围 ［一３，３］，存在负实数，为简化编码程序，将每个连 维普资讯 http://www.cqvip.com ２１４· 控 制 工 程 第１１卷 接权加上３，再乘以１Ｏ，然后用二进制表示。这种 局部改进的二进制编码方案既简单，精度又高。 ②用相应的解码方法，将Ｎ个个体解码为Ｎ 组网络权值，得到具有相同结构的Ｎ个网络。 ③将给定的输入输出样本集分为训练样本和 测试样本，用改进的ＢＰ算法即自适应学习速率 动量梯度下降法对这Ｎ组网络权值分别进行训 练，求得Ｎ组网络权值对应的Ｎ个网络输出，若 经过训练后这Ｎ组权值至少已有一组满足精度 要求，则算法结束；否则转入程序④。 ④设定网络的目标函数为误差函数： Ｅ＝吉∑∑（＿ ｍ ｋ ， 一 ， ） 适应度函数：Ｆ＝Ｃ—Ｅ（Ｃ为常数） 将Ｎ个网络的输出值转换为适应度，按照个 体适应度大小，从种群中选择适应度较大的一些 个体构成交配池。 ⑤由交叉、变异这两个遗传算子对交配池中 的个体进行操作，得到新一代种群。 ⑥返回步骤②，ｉ＝ｉ＋１，达到设定的遗传 代数时中止。 ３仿真实验及软测量模型的性能检验 本文实验数据来源于黑龙江某污水处理厂水 质监测分析，其中可测辅助变量包括ｐＨ值及ＳＳ， ｃＥ ，ＣＯＤ，ＮＨ３一Ｎ，ＮＯ２一Ｎ，Ｎ０３一Ｎ，ＣＮ一， Ａｒ ＨＤＯ，ｃｒ６ ＡＳ的数据。利用ＰＣＡ技术，按 累计方差贡献率９Ｏ％选取主元，将原来的１２维 输入变量降到了４维。用降维后的数据建立软测 量模型时，神经网络隐含层神经元为８，而当不采 用ＰＣＡ直接利用可测辅助变量集建模时神经网 络需２Ｏ个隐层神经元，可见ＰＣＡ技术简化了软 测量模型的结构。同时，神经网络过拟合现象减 少，泛化能力增强。这是由于神经网络预测能力 依赖于训练样本的质量，若训练样本中存在噪音 和不确定性，会出现过拟合现象，而ＰＣＡ能实现 从含噪音数据中提取出必要信息，减少了过拟合 现象。 为了清楚地说明遗传算法在神经网络权值优 化设计中的性能，本文将标准ＢＰ算法、自适应学 习速率动量梯度下降算法和ＧＡＢＰ算法进行比 较，将每种算法分别训练２Ｏ次，收敛次数和收敛 速度比较结果参见表１，并对３种算法的收敛速 度和精度进行比较，如图３所示。 表１ ３种算法的训练结果比较 Ｉ ｌ’ ｆ 日 算津 ｝ ＼ 孽壁学 速专动Ｉ 梯藤 磅陇 训练步披 图３ ３种算法的均方误差比较 从仿真结果可以看出自适应学习速率动量梯 度下降算法比标准ＢＰ算法的收敛性好，但权值 的随机初始化对这两种算法的最后结果和收敛速 度有很大影响，当权值太大或太小时将导致不收 敛或收敛极慢。这是由于ＢＰ算法对神经网络初 始权值有强烈依赖性，当初始权值太大时，ＢＰ算 法一开始就工作在Ｓｉｇｍｏｉｄ函数的饱和部分，导 致不收敛；当初始权值太小时，则所有的Ｓｉｇｍｏｉｄ 函数几乎都处于线性部分，导致收敛速度降低。 而ＧＡＢＰ算法建立的软测量模型既能体现出全 局收敛的优越性又具有表现出ＢＰ算法的局部搜 索能力，收敛性能要远远超过单纯的ＢＰ算法。 遗传算法中最佳个体的均方误差变化曲线如 图４所示，可以看出遗传算法在遇到局部极值时， 搜索并没有停止，而是不断得到新的最优个体即 神经网络权值组。这是由于遗传算法不是从单个 权值，而是从多个较大范围的权值组构成的初始 种群开始全局搜索，克服了单纯ＢＰ算法容易陷 入局部极小、收敛速度慢、精度低的缺陷。 对神经网络而言，由于训练样本集的大小有 限，网络训练后对样本集外输入的响应直接决定 了网络的性能。本文以２８组测试样本来检验神 经网络的性能，对Ｂ０Ｄ软测量值与离线分析值 维普资讯 http://www.cqvip.com 第３期 冉维丽等：基于ＰＣＡ—ＧＡＢＰ神经网络的ＢＯＤ软测量方法 ·２１５· ＢＯＤ５作线性回归分析，如图５所示，其中丁代表 传算法优化神经网络权值达到了很好的效果，由 ＢＯＤ离线分析值，Ａ代表ＢＯＤ软测量值。可以 ＧＡＢＰ算法构造的神经网络软测量模型具有较高 看出两者的相关系数达到０．９３２，说明了应用遗 的预测精度。 娄 芝 １ ２ ３ ４ ５ 图４最佳个体的均方误差变化曲线 图５ ＢＯＤ软测量值线性回归分析 ４结论 键作用。 ④可与虚拟仪器结合起来，使软测量的实现 ＯＰＣＡ—ＧＡＢＰ算法训练神经网络的方法性 有利于实用化和在线应用。 能远远优于ＢＰ算法 既克服了传统ＢＰ算法训练 速度慢、易陷入局部极小值、出现过拟合现象的缺 参考文献： 点，又避免了遗传算法过早收敛的缺点。经过遗 商敏儿，杜树新，吴铁军．活性污泥法污水处理过 传算法优化权值的神经网络在收敛速度、收敛精 程自动控制的研究现状［Ｊ】．环境污染治理技术与 设备，２００２，３（１）：８３—８７． 度、稳定性等方面均有很大程度的改善。 杨平，彭道刚，韩璞．神经网络预测控制算法及其 ②本文基于遗传神经网络软测量模型的实 应用［Ｊ】．控制工程，２００３，１０（４）：３４９—３５１． 现，不仅能进一步推动污水处理过程实时闭环控 杨斌，田永青，朱仲英．智能建模方法中的数据预 处理［Ｊ］．信息与控制，２００２，３１（４）：３８０—３８４． 制的实现，而且对于开发其他工业过程的具有智 ＹａｏＸ，ＬｉｕＹ．Ａｎｅｗ ｅｖｏｌｕｔｉｏｎａｒｙ ｓｙｓｔｅｍｆｏｒ ｅｖｏｌｖ— 能优化算法的软测量仪表具有一定的启发意义。 ｉｎａｇ ａｒｔｉｆｉｃｉａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ［Ｊ］．ＩＥＥＥ Ｔｒａｍ ＮＮ， ③进一步研究智能系统建模中的预处理问 １９９７，８（２）：６９４—７１３． 阎平凡，张长水．人工神经网络与模拟进化计算 题，提高样本集的数量和质量对于研究智能计算 ［Ｍ】．北京：清华大学出版社。２０００。 技术，建立具有自组织能力的软测量模型将起关 罗文辉．遗传算法在神经网络优化中的应用［Ｊ］． 控制工程，２００３，１０（５）：４０１—４０３． Ｓｏｆｔ—ｍｅａｓｕｒｉｎｇ Ｔｅｃｈｎｉｑｕｅ ｔＯ Ｐｒｅｄｉｃｔ ＢＯＤ Ｂａｓｅｄ ｏｎ ＰＣＡ—ＧＡＢＰ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ ＲＡＮ Ｗ —Ｚ ，Ｑ ＡＯ．， 一ｆｅｉ （Ｓｃｈｏｏｌ ｏｆ Ｅｌｅｃｔｒｏｎｉｃ ａｎｄ Ｃｏｎｔｒｏｌ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｂｅｉｊｉｎｇ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｔｅｃｈｎｏｌｏｇｙ，Ｂｅｉｊｉｎｇ １０００２２。Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｔｏ ｔｈｅ ｐｒｏｂｌｅｍ ｔｈａｔ ｏｎ—ｌｉｎｅ ｉｎｆｏｒｍａｔｉｏｎ ｏｆ ｓｏｍｅ ｅｓｓｅｎｔｉａｌ ｗａｓｔｅｗａｔｅｒ ｐａｒａｍｅｔｅｒｓ ｉｓ ｉｎａｃｅｅａｓｉｂｌｅ ｉｎ ｍｏｎｉｔｏｒｉｎｇ ａｎｄ ｃｏｎｔｒｏｌｌｉｎｇ ｗａｓｔｅｗａｔｅｒ ｔｒｅａｔｍｅｎｔ ｐｒｏｃｅｓｓｅｓ．Ａ ｓｏｆｔ－ｍｅａｓｕｒｉｎｇ ｔｅｃｈｎｉｑｕｅ ａｐｐｌｉｅｄ ｔｏ ｗａｓｔｅｗａｔｅｒ ｑｕａｌｉｔｙ ｍｅａｓｕｒｅｍｅｎｔ ｉｓ ｐｕｔ ｆｏｒ．． ｗａｒｄ ｂａｓｅｄ ｏｎ ＰＣＡ ｇｅｎｅｔｉｃ ｎｅｕｒｌａ ｎｅｔｗｏｒｋ．Ｉｔ ｓｉ ｏｃｍｐｏｓｅｄ ｏｆ ｔｗｏ ｅｌｍｅｅｎｔｓ：ｐｒｉｎｃｉｐｌｅ ｏｃｍｐｏｎｅｎｔｓ ａｎａｌｙｓｉｓ（ＰＣＡ），ａｎｄ ｇｅｎｅｔｉｃ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ．Ｔｈｉｓ ｍｏｄｅｌ ｃａｎ ｂｅ ａｐｐｌｉｅｄ ｔｏ ｏｎ—ｌｉｎｅ ｐｒｅｄｉｃｔ ｗａｓｔｅｗａｔｅｒ ＢＯＤＮｅｕｒａｌ ｎｅｔｗｏｒｋｉｓ ｔｒａｉｎｅｄ ｂｙ ｉｍｐｒｏｖｅｄ ＢＰ ａｇｏ— ｒｉｔｈｍ，ｍｏｒｅｏｖｅｒ。ａｐｐｌｙｉｎｇ ｇｅｎｅｔｉｃ ａｌｇｏｒｉｔｈｍ ｔｏ ｏｐｔｉｍｉｚｅ ｔｈｅ ｗｅｉｇｈ协Ｔｈｅ ｓｉｍｕｌａｔｉｏｎ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ ｔｈｅ ｏｓｆｔ－ｍｅａｓｕｒｉｎｇ ｍｏｄ— ｅｌ ｈａｓ ｇｏｏｄ ｓｔａｂｉｌｉｔｙ ａｎｄ ｈｉｇｈ ｐｒｅｃｉｓｉｏｎ ａｎｄ ｃａｎ ｂｅ印ｐｈｅｄ ｔｏ ｏｎ．１ｉｎｅ ｐｒｅｄｉｃｔ ｗａｓｔｅｗａｔｅｒ ＢＯＤＫｅｙｗｏｒｄｓ－．ｓｏｆｔ－ｍｅａｓｕｒｉｎｇ；ｎｅｕｒａｌ ｎｅｔｗｏｒｋ；ＰＣＡ；ＧｅｎｅｔｉｃＡｌｇｏｒｉｔｈｍ（ＧＡ）；ｗａｓｔｅｗａｔｅｒｔｒｅａｔｍｅｎｔ ６
