您好,欢迎来到小侦探旅游网。
搜索
您的当前位置:首页一种遗传量子粒子群的属性约简算法

一种遗传量子粒子群的属性约简算法

来源:小侦探旅游网
第24卷第6期 2010年11月 湖南工业大学学报 VO1.24 NO.6 Journal of Hunan University of Technology NOV.2010 一种遗传量子粒子群的属性约简算法 周丽娟 ,王加阳2,谢颖 (1.湖南工业大学科技学院,湖南株洲412008;2.中南大学信息科学与工程学院,湖南长沙410083) 摘 要:针对粒子群算法收敛速度不佳和易陷入局部最优的问题,提出了一种遗传量子粒子群优化 (GQPSO)的属性约简算法,GQPSO算法利用量子系统较大的搜索范围,并借鉴遗传算法的选择、变异等操作, 从而避免了算法过早收敛至局部最优,且能得到可观的收敛速度。实验结果表明,GQPSO算法具有更快的收敛 速度和全局搜索能力,提高了属性约简的效率。 关键词:属性约简;遗传算法;量子;粒子群;收敛 中图分类号:TP391 文献标志码:A 文章编号:1673—9833(2010)06-0049--04 An Attribute Reduction Algorithm Based on Genetic Quantum Particle Swarm Zhou Lijuan ,Wang Jiayang ,Xie Ying (1.College of Science and Technology,Hunan Universiyt ofTechnology,Zhuzhou Hunan 412008,China; 2.School of Information Science nd aEngineering,Central South Universiy,Chatngsha 410083,China) Abstract:To solve the problems of the poor convergence speed and being easy to fall into the local optimum in the paritcle swarm algorithm,an attribute reduction algorihm tbased on genetic quantum particle swarm(GQPSO)is presented. GQPSO takes advantage of he twide search range of quantum system and utilizes he tselection and variation of he tgenetic lgoraithm to avoid algorithm premature convergence local optimum and get considerable convergence speed.The experiment shows hatt GQPSO has a faster convergence rate nd aglobal search capabilities,which improves he tefficiency of he tattribute reduction. 一 Keywords:attribute reduction;genetic algorithm;quantum;particle swarm;convergence 0 引言 粗糙集理论是一种处理模糊和不确定性知识的数 学工具…。属性约简是粗糙集理论中的核心内容,是 种有效的特征选择方法,已被广泛应用于特征选择 和知识库约简 】。属性约简的本质是通过在属性集中 一传统的属性约简算法大多无法保证在广阔搜索空 间下获得最小属性约简。目前,很多学者对此进行了 深入研究,并提出了一些改进的属性约简算法。如文 献【4】中,作者提出了一种基于蚁群优化的属性约简算 法,并利用该算法求得了多个约简结果,但该算法存 在搜索空间大、时间复杂度偏高等缺点;文献[5-6]提 出了一种粒子群优化算法与属性约简相结合的算法, 将最小属性约简问题转化成一个适合粒子群优化算法 寻找一个最小属性集合,以保持原决策信息系统的分 辨能力不变,但提高系统潜在知识的清晰度和发现效 率。人们总期望找到最小的属性约简,但这已被证明 是一个NP.hard问题[3】,因而,寻求最有效的属性约简 求解的多目标优化问题,能一次运算找到更多的最优 解,但收敛速度还有待提高;袁可红等人 提出了一 算法是粗糙集理论研究的主体方向。 收稿日期:2010-09-13 种基于粗集约简群智能算法的储层识别方法,将粗糙 通信作者:周丽娟(1974一),女,湖南浏阳人,湖南工业大学讲师,硕士,主要从事数据库,数据挖掘和智能计算方面的研究, E-mail:zlj706@163.com 50 湖南工业大学学报 2010年 集属性约简用于储层属性的特征提取,该方法节省了 用于属性探测的成本;文献【8]的作者提出了粒子群属 性约简算法,该算法求解效率高,但容易陷入局部最 优;文献【9】的作者提出了基于量子粒子群优化的最小 属性约简算法,其具有较好的寻优搜索能力,但收敛 速度不佳。本文针对量子粒子群收敛速度不够快的不 着粒子群的进化而动态调节的参数;Card()表示集 合的基数,c为条件属性集。 QPSO算法中的粒子按式(2)进行位置信息更新: x(t+1)=P±卢¥f Jl= 一x(t)f In(I/u), 式中:x(r+1)为粒子在t时刻的位置; U为【0,1】之间产生的随机数; (2) 足,借鉴遗传算法中的选择、变异等操作,提出一种 遗传量子粒子群优化(genetic quantum particle swarm 为收缩扩张因子,用来控制粒子的收敛速度, 已有资料表明,p在O.3~0.8范围内时,能得到很好的最 optimization,简称GQPSO)的属性约简算法。经过理 论分析与实验验证,该算法是可行的,且具有更快的 收敛速度和全局搜索能力。 1 量子粒子群算法基本原理 粒子群算法(particle swarm optimization,简称PSO) 的发现是基于对简化的动物社会模型的模拟,其基本 思想是通过模拟鱼群、鸟群觅食过程中的迁徙和聚集 行为,实现对问题的优化¨们。PSO中的每个粒子都代 表搜索空间的1个解,先随机初始化每个粒子的位置 和速度,接着粒子在自身及整个种群最优位置引导下 飞向最优解。PSO算法在迭代时容易陷入局部极值点 中,导致得不到全局最优解,且PS0算法的收敛速度 比较慢。在量子系统的启发下,一些学者将量子系统 融于PSO算法当中,提出了能保证全局收敛的量子粒 子群优化算法(quantum particle swarm optiimzation,简 称QPSO o QPSO算法是对粒子群优化算法进行搜索策 略的改变,是由孙俊等人最先提出来的,他们从量子 力学的角度考虑,认为粒子具有量子行为。适用量子 粒子群算法的量子系统是一个复杂的非线性系统,它 符合状态重叠原理,而且量子系统是一个不确定系 统,空间中的粒子移动时没有确定的轨迹,因此,每 一个粒子能够以某一确定的概率出现在搜索空间中的 任意一个位置,根据这一特性,可寻找全局最优解。因 此,该算法具有较强的搜索能力。 在QPSO算法中,不能直接处理粗糙集中的属性, 首先得将属性表示成粒子形式。在特征提取过程中, 设属性集Q=tg-,q ,…, j,将属性集表示成二进制串 ,,,=fal,a2,…,ak},k∈【1,n】,其中,ak=l表示qt被选 择,日产0表示q 未被选择,故将t看成是量子粒子群 优化算法可处理的粒子,粒子t所对应的近似精度为 y,,条件属性集C所对应的近似精度为 。用适应度函 数来求解最小约简,定义如式(1): kl‘ + ‘ ,㈩ 式中: /), 用来判断属性集是否为一个约简,当其值 为“1”时,表示此刻的属性集为一个约简;kl,k 是随 优解; “±”是由在迭代过程中【0,1】之间产生的随机数决 定的,若随机数小于0.5时取“一”,否则取“+”; P表示在全局最优值与局部最优值之间的一个随 机值,由式(3)定义: P=(cl pb +c2 gbe。t)/(cl+c2). (3) 其中,P 。 是粒子i的局部最优值;g 。 为所有粒子中 的全局最优值;c,,C,为【0,1]之间产生的随机数。 M 。。 为整个粒子群的中心位置,定义如式(4): 。 ‰ (善p ,去善Pbesu2,""", 善p )。c 4 其中,m为种群粒子个数。 2 遗传量子粒子群属性约简算法 QPSO算法提高了粒子约简算法的空间搜索能力, 但在收敛速度方面仍存在很多不足。遗传算法是一种 借鉴自然界选择和遗传机制的随机化自适应函数搜索 算法,主要由选择、交叉和变异算子组成,分别模拟 达尔文进化过程中的自然选择、群体遗传过程中发生 的交配和突变等现象¨”。其收敛速度快、染色体间信 息共享较充分,因此,借鉴遗传算法的选择、变异操 作,将遗传算法的思想融入QPSO算法中,能充分利 用量子粒子群搜索到的有用信息,从而提高种群的收 敛速度。 遗传量子粒子群属性约简算法主要针对粒子的更 新,通过对当前种群使用选择、变异等遗传操作,产 生新一代的群体。即在每一次粒子群迭代更新之后, 首先计算每个粒子的适应度值f/tness,得出整个种群 的平均适应度值A 。然后以此A 为标准,将种群中每 一个粒子的适应度值与A 进行比较,将大于A 的粒子 保留下来作为下一代种群中较好的粒子,同时对小于 A 的粒子进行变异处理,即以概率P 对粒子的每一位 进行取反处理,把1变为0,0变为1。 遗传量子粒子群属性约简算法执行过程如下: 第一步根据差别矩阵计算核属性Core(Q),判断 第6期 周丽娟,王加阳,谢颖 一种遗传量子粒子群的属性约简算法 表2■性约筒结果 Table 2 The results of attribute reduction 51 y。 与 是否相等,若相等则核属性Core(Q)为最小 属性约简,否则执行第二步。 第二步初始化粒子。确定种群规模 和粒子维 数D,根据weigh, ', ㈦U 一 一来确定每个属性q 的 权重,根据粒子的权重来随机初始化m个粒子;设置 数据集名称记录数条件属性数算法名称 约简后属性数 迭代次数 。 第三步计算各粒子的适应度值,记录群体中每 个粒子的局部最优解Pb 和种群全局最优解gbest;计 算mbe 。 第四步粒子群更新。 1)根据式(2)~(4)以一定概率取加或减,更 新每个粒子的位置; 2)计算t时刻第i个粒子的适应度值fitness(i),根 据公式pbe。Ⅱ-max(Pbc ,fimess(i))更新局部最优值P f, 根据公式ghost=max(P ,ghost)计算种群当前的全局最优 粒子; 3)计算当前种群平均适应度值A ; 4)进行选择、变异操作。比较种群中每个粒子的 适应度值fitness与当前种群平均适应度值A ,保留适 应度值比A 大的粒子作为下一代种群中较好的粒子; 将比A 小的粒子,以概率P 对其每一位进行取反变 异,即0变为1,1变为0。 第五步如果满足终止条件,则输出全局最优值, 否则转到第四步。 3 实验结果与分析 为验证本文所提出的GQPSO算法的有效性,采用 几个UCI数据库标准数据集作为试验数据,选取了几 个记录数和属性数都较苛刻的数据集(具体数据参 见表1),分别采用经典的启发式最小属性约简算法 Hu X.H.算法(简记为Hu算法)、PSO算法、QPSO算 法和GQPSO算法对所取标准数据集进行约简,约简 后所得到的属性数如表2所示,适应度值的变化曲线 如图1所示。实验环境的配置如下:操作系统为Win. dows XP,物理内存为2G,CPU为AMD 2800+,前台 开发工具为VC++6 0,后台数据库系统为SQL Server2000。 表1数据集 Table1 Data set 实验的性能通过以下两个方面进行评估: 1)算法获得的约简后属性数,此数据用来评估该 算法的约简效果; 2)在迭代更新过程中最优粒子适应度值的变化, 以评价该算法的收敛速度。 从表2中的约简结果可以看出,本文所提出的 GQPSO算法在所选取的4种算法中,取得了属性数目 最少的约简结果,且和QPSO算法保持一致,这主要 是由于GQPSO算法中遗传算法的选择、变异操作对低 适应度值的粒子进行变异,只保留了高适应度值的粒 子,因而提高了粒子群的整体适应度值,且没影响其 搜索能力。 在最优解的搜索能力上,GQPSO算法与QPSO算 法的效果基本相似,但在收敛速度方面,二者则有相 当大的差异性。 皇 口 generations/次 图1 Wine迭代更新中适应度值曲线 Fig.1 The curve of fitness value in Wine iterative updating 52 湖南工业大学学报 2010正 从图1可以看出,3种算法都能找到最小约简, GQPSO算法找到的最小约简与QPSO算法相同,且这 【5】Wang Xiangyang,Yang Jie,Teng Xiaolong。Feature Selection Based on Rough Sets and Particle Swarm Optimization[J]. Pa ̄em Recogniiton Letters,2007,28(4):459—47 1. 两者都优于PSO算法,但GQPSO算法在收敛速度上要 快于QPSO算法,这是由于GQPSO算法增加了遗传算 法中的选择、变异操作后,能充分利用种群的有效信 息,使得种群整体的适应度值得到了提高,即收敛速 【6]杨晓燕,陈国龙,郭文忠.基于粒子群优化的最小属性约 简算法【J].福州大学学报:自然科学版,2010,38(2):193- 197. 度得到了提高,这与理论分析预期相吻合。 4 结语 本文将遗传算法的选择、变异操作融入量子粒子 群算法中,提出了一种基于遗传量子粒子群属性约简 算法,该算法发挥了QPSO算法较强的寻优能力,同 时弥补了QPSO算法收敛速度不足的缺点。经过实验 验证,GQPSO算法具有更快的收敛速度和全局搜索能 力,提高了属性约简的效率。但是,GQPSO算法在其 收敛性能上还需要更进一步优化,这是作者下一步的 研究目标。 参考文献: 【1】王国胤.Rough集理论与知识获取【M】.西安:西安交通大 学出版社,20ol:10-22. Wang Guoyin.Rough Sets Theory and Knowledge Acquisiiton 【M】.Xi’an:Xi’an Jiaotong University Press,2001:10— 22. 【2】张文修,梁怡,吴伟志.信息系统与知识发现[M】.北京: 科学出版社,2003:56—68. Zhang Wenxiu,Liang Yi,Wu Weizhi.Information System nad nKowledge Discovery[M].Beijing:Science Press,2003: 56—68. 【3】Wong S K M,Ziarko W.On Optimal Decision Rules in Decision Tables[M].Polnad:Bulletin of Polish Academy of Science,1985:693—696. 【4】 Jiang Yuanchun,Liu Yezheng.An Attribute Reduction Method Basde on Ant Colony Optimization[C]//Proceedings of the 6th World Congress on Intelligent Control and Automation。Washington:IEEE Computer Society Press, 2005:3542-3546. Yang Xiaoyan,Chen Guolong,Guo Wenzhong.Minimum Attribute Reduction Algorithm Based on Particle Swarm Optimization[J].Journal of Fuzhou University:Natural Science,2010,38(2):193—197. (7】袁可红,李艳晓,诸克军.基于粗集约简的群智能算法的 储层识别[J].湖南工业大学学报,2008,22(5):46-48. Yuan Kehong,Li Yanxiao,Zhu KejHa.Reservoir Identification of hte Swam Intelligence Algorithms Based on Rough Set Reduction[J】.Journal of Hunan University of Technology,2008,22(5):46-48. 【8】Dai Jianhuan,Chen Weidong,Guo Hongying,et a1.Particle Swarm Algorithm Form Inimal Attribute Reduction ofDecision Data Tables[C]//Processing of the l st International Multi Symposiums on Computer and Computational Science. Washington:IEEE Computer Society Press,2006:3021— 3025. [9】王加阳,谢颖.基于量子粒子群优化的最小属性约简算 法[ 计算机工程,2009, 35(12):148—150,153. Wang Jiayang,Xie Ying Minimal Attribute Reduction Algorithm Based on Quantum Particle Swarm Optimization [J].Computer Engineeirng,2009,35(12):148—150,153. [1 0]茁荣,闫伟,李树荣.基于粒子群位移转移的混合遗 传算法及其应用….计算机工程与应用,2007,43(15): 41—44. Miao Rong,Yan Wei,Li Shurong.Novel Hybrid GA Based on Position Displacement Idea of PSO and Its Appliction[J]. Computer Engineering and Applications,2007,43(15):41- 44. 【l1】孔宪仁,秦玉灵,罗文波.遗传一粒子群算法模型修正[J】 .力学与实践,2009,31(5):56—60. Kong Xianren,Qin Yuling,Luo Wenbo.GA-PSO Algorithm Model Updating[J].Mechanics in Engineering,2009,31(5): 56-60. (责任编辑:廖友媛) 

因篇幅问题不能全部显示,请点此查看更多更全内容

Copyright © 2019- xiaozhentang.com 版权所有 湘ICP备2023022495号-4

违法及侵权请联系:TEL:199 1889 7713 E-MAIL:2724546146@qq.com

本站由北京市万商天勤律师事务所王兴未律师提供法律服务