Login    Register account      
    
  


News Message

[Evolutionary Algorithm] 进化算法简



[Evolutionary Algorithm] 进化算法简





  进化算法,也被成为是演化算法(evolutionary algorithms,简称EAs),它不是一个具体的算法,而是一个“算法簇”。进化算法的产生的灵感借鉴了大自然中生物的进化操作,它一般包括基因编码,种群初始化,交叉变异算子,经营保留机制等基本操作。与传统的基于微积分的方法和穷举方法等优化算法(具体介绍见博客[Math] 常见的几种最优化方法中的其他数学优化方法)相比,进化计算是一种成熟的具有高鲁棒性和广泛适用性的全局优化方法,具有自组织、自适应、自学习的特性,能够不受问题性质的限制,有效地处理传统优化算法难以解决的复杂问题(比如NP难优化问题)。

  除了上述优点以外,进化算法还经常被用到多目标问题的优化求解中来,我们一般称这类进化算法为进化多目标优化算法(MOEAs)。目前进化计算的相关算法已经被广泛用于参数优化、工业调度、资源分配、复杂网络分析等领域。

回到顶部

1. 遗传算法(Genetic Algorithm,GA)

  遗传算法(Genetic Algorithm,简称GA)是一种最基本的进化算法,它是模拟达尔文生物进化理论的一种优化模型,最早由J.Holland教授于1975年提出。遗传算法中种群分每个个体都是解空间上的一个可行解,通过模拟生物的进化过程,从而在解空间内搜索最优解。

  遗传算法的基本操作可以用下图来描述:

  个体的编码方式确定以后,针对上图操作的具体描述如下:

  Step 1 种群初始化:根据问题特性设计合适的初始化操作(初始化操作应尽量简单,时间复杂度不易过高)对种群中的N个个体进行初始化操作;

  Step 2 个体评价:根据优化的目标函数计算种群中个体的适应值(fitness value);

  Step 3 迭代设置:设置种群最大迭代次数gmax,并令当前迭代次数g=1;

  Step 4 个体选择:设计合适的选择算子来对种群P(g)个体进行选择,被选择的个体将进入交配池中组成父代种群FP(g),用于交叉变换以产生新的个体。选择策略要基于个体适应值来进行,假如要优化的问题为最小化问题,那么具有较小适应值的个体被选择的概率相应应该大一些。常用的选择策略有轮盘赌选择,锦标赛选择等。

  Step 5 交叉算子:根据交叉概率pm(预先指定,一般为0.9)来判断父代个体是否需要进行交叉操作。交叉算子要根据被优化问题的特性来设计,它是整个遗传算法的核心,它被设计的好坏将直接决定整个算法性能的优劣。

  Step 6 变异算子:根据变异概率pc(预先指定,一般为0.1)来判断父代个体是否需要进行变异操作。变异算子的主要作用是保持种群的多样性,防止种群陷入局部最优,所以其一般被设计为一种随机变换。

  通过交叉变异操作以后父代种群FP(g)生成了新的子代种群P(g+1),令种群迭代次数g=g+1,进行下一轮的迭代操作(跳转到Step 4),直至迭代次数达到最大的迭代次数。

  为了更形象说明交叉操作的作用,我们以下图为例来深入理解一下交叉操作的作用:

 

  通过交叉操作,原始的两个个体组合生成了两个新的个体组合,这就相当于在解空间进行搜索,每个个体都是解空间的一个可行解。

  遗传算法matlab代码如下:

  主函数main.m

复制代码

  1. % This example is used to explain the GA.
  2. % max f(x1, x2) = 21.5 + x1·sin(4pi*x1) + x2·sin(20pi*x2)
  3. % s.t. -3.0 <= x1 <= 12.1
  4. % 4.1 <= x2 <= 5.8
  5. clc; clear all;
  6. M = 40;N = 33;
  7. generation = 1000;
  8. it = 1;
  9. pm = 0.05;%变异概率
  10. pc = 0.8;%交叉概率
  11. maxdata = -200;
  12. pop = round(rand(M,N));%初始化矩阵,产生初始种群
  13. x1 = decode_x1(pop(:,1:18)); %对x1 x2进行解码
  14. x2 = decode_x2(pop(:,19:end));
  15. fitness = 21.5 + x1.*sin(4*pi*x1) +x2.*sin(20*pi*x2);%适应度函数
  16. while it < generation
  17. [B] = seclection(fitness,pop);%轮盘赌选择
  18. [newpop] = crossover(pc,B);%交叉
  19. [B] = mutation(pm,newpop);%变异操作
  20. pop = B;
  21. x1 = decode_x1(pop(:,1:18));
  22. x2 = decode_x2(pop(:,19:end));
  23. fitness = 21.5 + x1.*sin(4*pi*x1) +x2.*sin(20*pi*x2);%计算适应度
  24. [fit_best,index] = max(fitness);%本代中的最优目标值
  25. if fit_best >= maxdata
  26. maxdata = fit_best;
  27. verter = pop(index,:);
  28. x_1 = decode_x1(verter(1:18));
  29. x_2 = decode_x2(verter(19:end));
  30. end
  31. num(it) = maxdata;
  32. it = it + 1;
  33. end
  34. disp(sprintf('max_f=:%.6f',num(it-1)));%输出最优解
  35. disp(sprintf('x_1=:%.5f x_2=:%.5f',x_1,x_2));%最优解对应的x1 x2的值
  36. figure(1)
  37. plot(num,'k');%绘制图形

复制代码

  变量x1的编码函数:decode_x1.m

复制代码

  1. function x1= encode(code)
  2. [M,N] = size(code);
  3. sum = zeros(N);
  4. for i=1:M
  5. for j=1:N
  6. sum(i)=sum(i)+code(i,j)*2^(N-j);
  7. end
  8. x1(i) = -3.0 + sum(i)*(12.1-(-3.0))/(2^N - 1);
  9. end

复制代码

  变量x2的编码函数:decode_x2.m

复制代码

  1. function x2=encode_x2(code)
  2. [M,N] = size(code);
  3. sum = zeros(N);
  4. for i=1:M
  5. for j=1:N
  6. sum(i)=sum(i)+code(i,j)*2^(N-j);
  7. end
  8. x2(i) = 4.1 + sum(i)*(5.8 - 4.1)/(2^N - 1);
  9. end

复制代码

  轮盘赌选择函数:seclection.m

复制代码

  1. %轮盘赌选择
  2. function [B]=seclection(fitness,A)
  3. [M,N]=size(A);
  4. fit_sum = sum(fitness);
  5. for i = 1:M
  6. probability(i) = fitness(i)/fit_sum;
  7. end
  8. for i = 2:M
  9. probability(i) =probability(i) + probability(i-1);
  10. end
  11. for j = 1:M
  12. p = rand();
  13. i = 1;
  14. while p > probability(i)
  15. i = i+1;
  16. end
  17. B(j,:) = A(i,:);
  18. end

复制代码

  个体交叉算子:crossover.m

复制代码

  1. %交叉
  2. function [newpop]=crossover(pc,A)
  3. newpop=A;
  4. [M,N]=size(A);
  5. for i= 1:2:M-1
  6. if rand < pc
  7. p = ceil(rand()*N);
  8. for j= p:N
  9. ch = A(i,j);
  10. newpop(i,j) = A(i+1,j);
  11. newpop(i+1,j) = ch;
  12. end
  13. end
  14. end

复制代码

  个体变异算子:mutation.m

复制代码

  1. %变异
  2. function [newpop]=mutation(pm,A)
  3. [M,N]=size(A);
  4. newpop=A;
  5. W = rand(M,N)<pm;
  6. for i=1:M
  7. for j=1:N
  8. if W(i,j) ==1
  9. if A(i,j)~=1
  10. newpop(i,j)= 1;
  11. else
  12. newpop(i,j) = 0;
  13. end
  14. end
  15. end
  16. end

复制代码

回到顶部

2. 文化基因算法(Memetic Algorithm,MA)

  文化基因算法(Memetic Algorithm,简称MA),也被称为是“密母算法”,它是由Mpscato在1989年提出的。文化基因算法是一种基于种群的全局搜索和基于个体的局部启发式搜索的结合体,它的本质可以理解为:

Memetic = GA + Local Search

即memetic算法实质上为遗传算法加上一个局部搜索(Local Search)算子。局部搜索算子可以根据不同的策略进行设计,比如常用的爬山机制、模拟退火、贪婪机制、禁忌搜索等。

回到顶部

3. 进化多目标优化算法(Multi-Objective Evolutionary Algorithm,MOEA)

  对于一个优化问题而言,如果其只有一个目标方程,那么我们称之为单目标优化问题;而一旦方程个数达到两个或者两个以上,那么它被相应的称之为多目标优化问题(Multi-objective Optimization Problems,简称为MOPs)。

  对于一个多目标优化问题而言,问题的最优解可能不止一个,而应该是一组,我们通常称这组最优解为相应多目标优化问题的一个非支配解集,或者称为是Pareto解集,其中的每一个解我们称之为Pareto解(Pareto是引自一个经济学的术语)。求解多目标优化问题的解法有很多,比如常见的目标规划方法,目标分解方法,目标化多为少方法(将多个目标表示为一个)等。进化算法在解决多目标问题上有着天然的优势,对于一个进化多目标优化算法而言,它可以对多个目标函数同时进行优化,而且输出一组非支配的Pareto解集,从而可以有效地求解多目标问题。

  下图为一个具有两目标的多目标优化问题的Pareto解集示意图:

  常用的进化多目标优化算法有Deb提出基于拥挤度距离度量的NSGA-II,张青富老师提出的基于分解思想的MOEA/D算法,以及西电公老师提出的基于免疫克隆机制的NNIA算法等。最近,Deb等人在NSGA-II的基础上又提出一种针对2~16个目标函数同时优化的高维问题的NSGA-III算法,对进化多目标优化感兴趣的博友可以深入的看看相关的参考文献,这方面的内容还是很有意思的。

  NSGA-II算法的matlab代码参考如下:

  主函数main.m

复制代码

  1. clear all
  2. clc
  3. tic
  4. N=50;%the number of the population
  5. numvariate=1;%the number of the variate of each individual
  6. numfun=2;
  7. minx=-10^3;
  8. maxx=10^3;
  9. iteration=1;
  10. Pt0=initializationPt0(minx,maxx,N,numvariate,numfun);
  11. while(iteration<500)
  12. fprintf('-->iteration= %d\n',iteration);
  13. [Rt]=Genetic_Operators( Pt0,minx,maxx,numvariate,numfun);%%执行交叉变异后,子代个体的支配面号,拥挤度距离,这两项还没计算
  14. [ Fi] = fast_nondominated_sort( Rt,numvariate,numfun);%Fi存储占优面上相应每个个体在种群Rt中的编号,即行号
  15. for i=1:2*N
  16. numFi=Fi(i,1);
  17. if (numFi~=0)
  18. [Idistance]=crowdiing_distance_assignment(Fi(i,:),Rt,numvariate,numfun);
  19. for j=1:numFi
  20. Rt(Fi(i,j+1),numvariate+numfun+1)=i;
  21. Rt(Fi(i,j+1),numvariate+numfun+2)=Idistance(j);
  22. end
  23. end
  24. end
  25. Rt;
  26. Pt1=zeros(1,N+1);
  27. i=1;
  28. while((Pt1(1)+Fi(i,1))<=N)
  29. Idistance1=crowdiing_distance_assignment(Fi(i,:),Rt,numvariate,numfun);
  30. for j=1:Fi(i,1)
  31. Pt1(1)=Pt1(1)+1;
  32. Pt1(Pt1(1)+1)=Fi(i,j+1);
  33. end
  34. i=i+1;
  35. end
  36. if Pt1(1)<N
  37. Idistance=crowdiing_distance_assignment(Fi(i,:),Rt,numvariate,numfun);
  38. [valueIdis,rankIdis]=sort(Idistance);
  39. NumFi=Fi(i,1);
  40. for j=(Pt1(1)+2):(N+1)
  41. k=j-Pt1(1);
  42. Pt1(j)=Fi(i,rankIdis(NumFi-k+2)+1);
  43. end
  44. end
  45. b=Pt1(2:N+1);
  46. Pt0=Rt(b,:);
  47. iteration=iteration+1;
  48. end
  49. f1=Pt0(:,(numvariate+1));
  50. f2=Pt0(:,(numvariate+2));
  51. figure;
  52. plot(f1,f2,'bo');
  53. xlabel('f1');
  54. ylabel('f2');
  55. toc

复制代码

  目标函数:funfvalue.m

复制代码

  1. %%%input :the population Rt of size N*m,output:the value of the population
  2. %%%Rt of size N*numf,numf if the number of the objective
  3. function [ funvalueRt ] = funfvalue( Rt)
  4. %% 测试数据SCH
  5. funvalueRt(:,1)=Rt.^2;
  6. funvalueRt(:,2)=(Rt-2).^2;

复制代码

  种群初始化函数:GeneratePt0.m

复制代码

  1. % %The interval [a, b] is divided into N/10 equal parts,
  2. function [ Pt0 ] = GeneratePt0(minx,maxx,N,numvariate,numfun)
  3. Pt0=unifrnd(minx,maxx,N,numvariate);%种群数量为100
  4. fPt0=zeros(N,numfun+2);
  5. Pt0=cat(2,Pt0,fPt0);
  6. end

复制代码

  基因操作(交叉和变异):Genetic_Operators.m

复制代码

  1. % % input Pt ,size of N*m;output Rt,size of 2N*m
  2. function [ Rt ] = Genetic_Operators( Pt,minx,maxx,numvariate,numfun)
  3. %% 不交叉则变异,避免种群中数值相同的个体存在,这样可以保持种群的多样性
  4. pc=0.9;
  5. pm=0.1;
  6. cetac=20;
  7. cetam=20;
  8. maxminx=maxx-minx;
  9. N=size(Pt,1);
  10. numvariate;
  11. Qt=Pt;
  12. crossPt=zeros(N,numvariate);
  13. for i=1:numvariate
  14. crossPt(:,i)=randperm(N);
  15. end
  16. detamax=10;%这个参数有待调整
  17. for j=1:numvariate %%先交叉
  18. for i=1:ceil(N/2)
  19. pccross=rand(1);
  20. if(pccross<pc)
  21. ui=rand(1);
  22. if ui<=0.5
  23. betau=(2*ui)^(1/(cetac+1));
  24. else
  25. if ui==1
  26. ui=1-0.005;
  27. end
  28. betau=(1/(2*(1-ui)))^(1/(cetac+1));
  29. end
  30. Qt1=0.5*((1-betau)*Pt(crossPt(i,j),j)+(1+betau)*Pt(N-crossPt(i,j)+1,j));
  31. Qt2=0.5*((1+betau)*Pt(crossPt(i,j),j)+(1-betau)*Pt(N-crossPt(i,j)+1,j));
  32. Qt(2*i-1,j)=mod(Qt1-minx,maxminx)+minx;
  33. Qt(2*i,j)=mod(Qt2-minx,maxminx)+minx;
  34. else
  35. pmu1=rand(1);
  36. if pmu1<0.5
  37. deta1=(2*pmu1)^(1/(cetam+1))-1;
  38. else deta1=1-(2*(1-pmu1))^(cetam+1);
  39. end
  40. pmu2=rand(1);
  41. if pmu2<0.5
  42. deta2=(2*pmu2)^(1/(cetam+1))-1;
  43. else deta2=1-(2*(1-pmu2))^(cetam+1);
  44. end
  45. Qt1=Pt(crossPt(i,j),j)+deta1*detamax;
  46. Qt2=Pt(N-crossPt(i,j)+1,j)+deta2*detamax;
  47. Qt(2*i-1,j)=mod(Qt1-minx,maxminx)+minx;
  48. Qt(2*i,j)=mod(Qt2-minx,maxminx)+minx;
  49. end
  50. end
  51. end
  52. funvalueQt=funfvalue(Qt(:,1:numvariate));
  53. Qt(:,(numvariate+1):(numvariate+numfun))=funvalueQt;
  54. Rt=cat(1,Pt,Qt);
  55. end

复制代码

  快速的非支配排序函数:fast_nondominated_sort.m

复制代码

  1. % %%Fii存储占优面上相应每个个体在种群Rt中的编号,即行号
  2. function [Fii] = fast_nondominated_sort( Rt,numvariate,numfun)
  3. N=size(Rt,1);
  4. Sp=zeros(N,N+1);%Sp的第一列表示每个Spi所拥有的个数,即p所支配的个数,从第二列开始表示被p支配的个体
  5. np=zeros(N,1);
  6. Finum=zeros(N,N+1);
  7. % Fi=zeros(N,N+1,numvariate);
  8. prank=zeros(N,1);
  9. funvalueRt=Rt(:,(numvariate+1):(numvariate+numfun));
  10. for p=1:N
  11. for q=1:N
  12. if q~=p
  13. %%% 这里还有另外一种情况,即Rt(p)不支配Rt(q),也不被Rt(q)支配
  14. if dominate(funvalueRt(p,:),funvalueRt(q,:))==1
  15. Sp(p,1)=Sp(p,1)+1;
  16. Sp(p,Sp(p,1)+1)=q;
  17. elseif dominate(funvalueRt(q,:),funvalueRt(p,:))==1
  18. np(p)=np(p)+1;
  19. end
  20. end
  21. end
  22. if np(p)==0
  23. prank(p)=1;
  24. Finum(1,1)=Finum(1,1)+1;
  25. Finum(1,Finum(1,1)+1)=p;
  26. end
  27. end
  28. Sp;
  29. % np;
  30. i=1;
  31. while Finum(i,1)~=0
  32. Q=[];
  33. % fprintf('-->i= %d\n',i);
  34. Finum(i,:);
  35. for ip=2:(Finum(i,1)+1)
  36. p=Finum(i,ip);
  37. for iq=2:(Sp(p,1)+1)
  38. q=Sp(p,iq);
  39. np(q)=np(q)-1;
  40. if np(q)==0
  41. prank(q)=i+1;
  42. Q=[Q,q];
  43. end
  44. end
  45. end
  46. i=i+1;
  47. nun2Q=size(Q,2);
  48. Finum(i,1)=nun2Q;
  49. for j=1:nun2Q
  50. Finum(i,j+1)=Q(j);
  51. end
  52. end
  53. Fii=Finum;
  54. end

复制代码

  拥挤度距离计算函数:

复制代码

  1. %%% input:Fi of size 1*(2*N+1),output:Idistance of size 1*(FiRt(1,1))
  2. function [Idistance] = crowdiing_distance_assignment(Fi,Rt,numvariate,numfun)
  3. NFi=Fi(1,1);
  4. Idistance=zeros(1,NFi);
  5. funvalueI1=zeros(NFi,numfun);
  6. if NFi<=2
  7. Idistance=Inf*ones(1,NFi);
  8. else
  9. b=Fi(2:(Fi(1,1)+1));
  10. funvalueI1=Rt(b,(numvariate+1):(numvariate+numfun));
  11. % b=Fi(2:(Fi(1,1)+1));
  12. % for i=1:NFi
  13. % funvalueI1(i,:)=Rt(b(i),(numvariate+1):(numvariate+numfun));
  14. % end
  15. % fprintf('-->Idistancel= %d\n',l);
  16. for i=1:numfun
  17. [valueI1,rankI1]=sort(funvalueI1(:,i));
  18. Idistance(rankI1(1))=Inf;
  19. Idistance(rankI1(NFi))=Inf;
  20. for j=2:(NFi-1)
  21. Idistance(rankI1(j))=Idistance(rankI1(j))+(valueI1(j+1)-valueI1(j-1))/(valueI1(NFi)-valueI1(1));
  22. end
  23. end
  24. end
  25. end

复制代码

  支配函数:dominate.m

复制代码

  1. %% 如果Rtp支配Rtq,返回值value=1,否则value=0;
  2. function [value] = dominate(Rtp,Rtq)
  3. funvaluepq=Rtp-Rtq;
  4. value=0;
  5. if funvaluepq<0
  6. value=1;
  7. elseif funvaluepq<=0
  8. if(sum(funvaluepq)<0)
  9. value=1;
  10. else value=0;
  11. end
  12. end
  13. end

复制代码

回到顶部

4. 参考文献

[1] 进化多目标优化算法研究,软件学报,2009.

[2] Messy genetic algirithms: Motivation, analysis, and first results. Complex systems, 1989.

[3] Genetic algorithms in search, optimization, and mechine learning. Addion wesley, 1989.

[4] A fast and elitist multiobjective genetic algorithm: NSGA-II. IEEE Transaction on Evolutionary Computation, 2002.

  进化算法,也被成为是演化算法(evolutionary algorithms,简称EAs),它不是一个具体的算法,而是一个“算法簇”。进化算法的产生的灵感借鉴了大自然中生物的进化操作,它一般包括基因编码,种群初始化,交叉变异算子,经营保留机制等基本操作。与传统的基于微积分的方法和穷举方法等优化算法(具体介绍见博客[Math] 常见的几种最优化方法中的其他数学优化方法)相比,进化计算是一种成熟的具有高鲁棒性和广泛适用性的全局优化方法,具有自组织、自适应、自学习的特性,能够不受问题性质的限制,有效地处理传统优化算法难以解决的复杂问题(比如NP难优化问题)。

  除了上述优点以外,进化算法还经常被用到多目标问题的优化求解中来,我们一般称这类进化算法为进化多目标优化算法(MOEAs)。目前进化计算的相关算法已经被广泛用于参数优化、工业调度、资源分配、复杂网络分析等领域。

回到顶部

1. 遗传算法(Genetic Algorithm,GA)

  遗传算法(Genetic Algorithm,简称GA)是一种最基本的进化算法,它是模拟达尔文生物进化理论的一种优化模型,最早由J.Holland教授于1975年提出。遗传算法中种群分每个个体都是解空间上的一个可行解,通过模拟生物的进化过程,从而在解空间内搜索最优解。

  遗传算法的基本操作可以用下图来描述:

  个体的编码方式确定以后,针对上图操作的具体描述如下:

  Step 1 种群初始化:根据问题特性设计合适的初始化操作(初始化操作应尽量简单,时间复杂度不易过高)对种群中的N个个体进行初始化操作;

  Step 2 个体评价:根据优化的目标函数计算种群中个体的适应值(fitness value);

  Step 3 迭代设置:设置种群最大迭代次数gmax,并令当前迭代次数g=1;

  Step 4 个体选择:设计合适的选择算子来对种群P(g)个体进行选择,被选择的个体将进入交配池中组成父代种群FP(g),用于交叉变换以产生新的个体。选择策略要基于个体适应值来进行,假如要优化的问题为最小化问题,那么具有较小适应值的个体被选择的概率相应应该大一些。常用的选择策略有轮盘赌选择,锦标赛选择等。

  Step 5 交叉算子:根据交叉概率pm(预先指定,一般为0.9)来判断父代个体是否需要进行交叉操作。交叉算子要根据被优化问题的特性来设计,它是整个遗传算法的核心,它被设计的好坏将直接决定整个算法性能的优劣。

  Step 6 变异算子:根据变异概率pc(预先指定,一般为0.1)来判断父代个体是否需要进行变异操作。变异算子的主要作用是保持种群的多样性,防止种群陷入局部最优,所以其一般被设计为一种随机变换。

  通过交叉变异操作以后父代种群FP(g)生成了新的子代种群P(g+1),令种群迭代次数g=g+1,进行下一轮的迭代操作(跳转到Step 4),直至迭代次数达到最大的迭代次数。

  为了更形象说明交叉操作的作用,我们以下图为例来深入理解一下交叉操作的作用:

 

  通过交叉操作,原始的两个个体组合生成了两个新的个体组合,这就相当于在解空间进行搜索,每个个体都是解空间的一个可行解。

  遗传算法matlab代码如下:

  主函数main.m

复制代码

  1. % This example is used to explain the GA.
  2. % max f(x1, x2) = 21.5 + x1·sin(4pi*x1) + x2·sin(20pi*x2)
  3. % s.t. -3.0 <= x1 <= 12.1
  4. % 4.1 <= x2 <= 5.8
  5. clc; clear all;
  6. M = 40;N = 33;
  7. generation = 1000;
  8. it = 1;
  9. pm = 0.05;%变异概率
  10. pc = 0.8;%交叉概率
  11. maxdata = -200;
  12. pop = round(rand(M,N));%初始化矩阵,产生初始种群
  13. x1 = decode_x1(pop(:,1:18)); %对x1 x2进行解码
  14. x2 = decode_x2(pop(:,19:end));
  15. fitness = 21.5 + x1.*sin(4*pi*x1) +x2.*sin(20*pi*x2);%适应度函数
  16. while it < generation
  17. [B] = seclection(fitness,pop);%轮盘赌选择
  18. [newpop] = crossover(pc,B);%交叉
  19. [B] = mutation(pm,newpop);%变异操作
  20. pop = B;
  21. x1 = decode_x1(pop(:,1:18));
  22. x2 = decode_x2(pop(:,19:end));
  23. fitness = 21.5 + x1.*sin(4*pi*x1) +x2.*sin(20*pi*x2);%计算适应度
  24. [fit_best,index] = max(fitness);%本代中的最优目标值
  25. if fit_best >= maxdata
  26. maxdata = fit_best;
  27. verter = pop(index,:);
  28. x_1 = decode_x1(verter(1:18));
  29. x_2 = decode_x2(verter(19:end));
  30. end
  31. num(it) = maxdata;
  32. it = it + 1;
  33. end
  34. disp(sprintf('max_f=:%.6f',num(it-1)));%输出最优解
  35. disp(sprintf('x_1=:%.5f x_2=:%.5f',x_1,x_2));%最优解对应的x1 x2的值
  36. figure(1)
  37. plot(num,'k');%绘制图形

复制代码

  变量x1的编码函数:decode_x1.m

复制代码

  1. function x1= encode(code)
  2. [M,N] = size(code);
  3. sum = zeros(N);
  4. for i=1:M
  5. for j=1:N
  6. sum(i)=sum(i)+code(i,j)*2^(N-j);
  7. end
  8. x1(i) = -3.0 + sum(i)*(12.1-(-3.0))/(2^N - 1);
  9. end

复制代码

  变量x2的编码函数:decode_x2.m

复制代码

  1. function x2=encode_x2(code)
  2. [M,N] = size(code);
  3. sum = zeros(N);
  4. for i=1:M
  5. for j=1:N
  6. sum(i)=sum(i)+code(i,j)*2^(N-j);
  7. end
  8. x2(i) = 4.1 + sum(i)*(5.8 - 4.1)/(2^N - 1);
  9. end

复制代码

  轮盘赌选择函数:seclection.m

复制代码

  1. %轮盘赌选择
  2. function [B]=seclection(fitness,A)
  3. [M,N]=size(A);
  4. fit_sum = sum(fitness);
  5. for i = 1:M
  6. probability(i) = fitness(i)/fit_sum;
  7. end
  8. for i = 2:M
  9. probability(i) =probability(i) + probability(i-1);
  10. end
  11. for j = 1:M
  12. p = rand();
  13. i = 1;
  14. while p > probability(i)
  15. i = i+1;
  16. end
  17. B(j,:) = A(i,:);
  18. end

复制代码

  个体交叉算子:crossover.m

复制代码

  1. %交叉
  2. function [newpop]=crossover(pc,A)
  3. newpop=A;
  4. [M,N]=size(A);
  5. for i= 1:2:M-1
  6. if rand < pc
  7. p = ceil(rand()*N);
  8. for j= p:N
  9. ch = A(i,j);
  10. newpop(i,j) = A(i+1,j);
  11. newpop(i+1,j) = ch;
  12. end
  13. end
  14. end

复制代码

  个体变异算子:mutation.m

复制代码

  1. %变异
  2. function [newpop]=mutation(pm,A)
  3. [M,N]=size(A);
  4. newpop=A;
  5. W = rand(M,N)<pm;
  6. for i=1:M
  7. for j=1:N
  8. if W(i,j) ==1
  9. if A(i,j)~=1
  10. newpop(i,j)= 1;
  11. else
  12. newpop(i,j) = 0;
  13. end
  14. end
  15. end
  16. end

复制代码

回到顶部

2. 文化基因算法(Memetic Algorithm,MA)

  文化基因算法(Memetic Algorithm,简称MA),也被称为是“密母算法”,它是由Mpscato在1989年提出的。文化基因算法是一种基于种群的全局搜索和基于个体的局部启发式搜索的结合体,它的本质可以理解为:

Memetic = GA + Local Search

即memetic算法实质上为遗传算法加上一个局部搜索(Local Search)算子。局部搜索算子可以根据不同的策略进行设计,比如常用的爬山机制、模拟退火、贪婪机制、禁忌搜索等。

回到顶部

3. 进化多目标优化算法(Multi-Objective Evolutionary Algorithm,MOEA)

  对于一个优化问题而言,如果其只有一个目标方程,那么我们称之为单目标优化问题;而一旦方程个数达到两个或者两个以上,那么它被相应的称之为多目标优化问题(Multi-objective Optimization Problems,简称为MOPs)。

  对于一个多目标优化问题而言,问题的最优解可能不止一个,而应该是一组,我们通常称这组最优解为相应多目标优化问题的一个非支配解集,或者称为是Pareto解集,其中的每一个解我们称之为Pareto解(Pareto是引自一个经济学的术语)。求解多目标优化问题的解法有很多,比如常见的目标规划方法,目标分解方法,目标化多为少方法(将多个目标表示为一个)等。进化算法在解决多目标问题上有着天然的优势,对于一个进化多目标优化算法而言,它可以对多个目标函数同时进行优化,而且输出一组非支配的Pareto解集,从而可以有效地求解多目标问题。

  下图为一个具有两目标的多目标优化问题的Pareto解集示意图:

  常用的进化多目标优化算法有Deb提出基于拥挤度距离度量的NSGA-II,张青富老师提出的基于分解思想的MOEA/D算法,以及西电公老师提出的基于免疫克隆机制的NNIA算法等。最近,Deb等人在NSGA-II的基础上又提出一种针对2~16个目标函数同时优化的高维问题的NSGA-III算法,对进化多目标优化感兴趣的博友可以深入的看看相关的参考文献,这方面的内容还是很有意思的。

  NSGA-II算法的matlab代码参考如下:

  主函数main.m

复制代码

  1. clear all
  2. clc
  3. tic
  4. N=50;%the number of the population
  5. numvariate=1;%the number of the variate of each individual
  6. numfun=2;
  7. minx=-10^3;
  8. maxx=10^3;
  9. iteration=1;
  10. Pt0=initializationPt0(minx,maxx,N,numvariate,numfun);
  11. while(iteration<500)
  12. fprintf('-->iteration= %d\n',iteration);
  13. [Rt]=Genetic_Operators( Pt0,minx,maxx,numvariate,numfun);%%执行交叉变异后,子代个体的支配面号,拥挤度距离,这两项还没计算
  14. [ Fi] = fast_nondominated_sort( Rt,numvariate,numfun);%Fi存储占优面上相应每个个体在种群Rt中的编号,即行号
  15. for i=1:2*N
  16. numFi=Fi(i,1);
  17. if (numFi~=0)
  18. [Idistance]=crowdiing_distance_assignment(Fi(i,:),Rt,numvariate,numfun);
  19. for j=1:numFi
  20. Rt(Fi(i,j+1),numvariate+numfun+1)=i;
  21. Rt(Fi(i,j+1),numvariate+numfun+2)=Idistance(j);
  22. end
  23. end
  24. end
  25. Rt;
  26. Pt1=zeros(1,N+1);
  27. i=1;
  28. while((Pt1(1)+Fi(i,1))<=N)
  29. Idistance1=crowdiing_distance_assignment(Fi(i,:),Rt,numvariate,numfun);
  30. for j=1:Fi(i,1)
  31. Pt1(1)=Pt1(1)+1;
  32. Pt1(Pt1(1)+1)=Fi(i,j+1);
  33. end
  34. i=i+1;
  35. end
  36. if Pt1(1)<N
  37. Idistance=crowdiing_distance_assignment(Fi(i,:),Rt,numvariate,numfun);
  38. [valueIdis,rankIdis]=sort(Idistance);
  39. NumFi=Fi(i,1);
  40. for j=(Pt1(1)+2):(N+1)
  41. k=j-Pt1(1);
  42. Pt1(j)=Fi(i,rankIdis(NumFi-k+2)+1);
  43. end
  44. end
  45. b=Pt1(2:N+1);
  46. Pt0=Rt(b,:);
  47. iteration=iteration+1;
  48. end
  49. f1=Pt0(:,(numvariate+1));
  50. f2=Pt0(:,(numvariate+2));
  51. figure;
  52. plot(f1,f2,'bo');
  53. xlabel('f1');
  54. ylabel('f2');
  55. toc

复制代码

  目标函数:funfvalue.m

复制代码

  1. %%%input :the population Rt of size N*m,output:the value of the population
  2. %%%Rt of size N*numf,numf if the number of the objective
  3. function [ funvalueRt ] = funfvalue( Rt)
  4. %% 测试数据SCH
  5. funvalueRt(:,1)=Rt.^2;
  6. funvalueRt(:,2)=(Rt-2).^2;

复制代码

  种群初始化函数:GeneratePt0.m

复制代码

  1. % %The interval [a, b] is divided into N/10 equal parts,
  2. function [ Pt0 ] = GeneratePt0(minx,maxx,N,numvariate,numfun)
  3. Pt0=unifrnd(minx,maxx,N,numvariate);%种群数量为100
  4. fPt0=zeros(N,numfun+2);
  5. Pt0=cat(2,Pt0,fPt0);
  6. end

复制代码

  基因操作(交叉和变异):Genetic_Operators.m

复制代码

  1. % % input Pt ,size of N*m;output Rt,size of 2N*m
  2. function [ Rt ] = Genetic_Operators( Pt,minx,maxx,numvariate,numfun)
  3. %% 不交叉则变异,避免种群中数值相同的个体存在,这样可以保持种群的多样性
  4. pc=0.9;
  5. pm=0.1;
  6. cetac=20;
  7. cetam=20;
  8. maxminx=maxx-minx;
  9. N=size(Pt,1);
  10. numvariate;
  11. Qt=Pt;
  12. crossPt=zeros(N,numvariate);
  13. for i=1:numvariate
  14. crossPt(:,i)=randperm(N);
  15. end
  16. detamax=10;%这个参数有待调整
  17. for j=1:numvariate %%先交叉
  18. for i=1:ceil(N/2)
  19. pccross=rand(1);
  20. if(pccross<pc)
  21. ui=rand(1);
  22. if ui<=0.5
  23. betau=(2*ui)^(1/(cetac+1));
  24. else
  25. if ui==1
  26. ui=1-0.005;
  27. end
  28. betau=(1/(2*(1-ui)))^(1/(cetac+1));
  29. end
  30. Qt1=0.5*((1-betau)*Pt(crossPt(i,j),j)+(1+betau)*Pt(N-crossPt(i,j)+1,j));
  31. Qt2=0.5*((1+betau)*Pt(crossPt(i,j),j)+(1-betau)*Pt(N-crossPt(i,j)+1,j));
  32. Qt(2*i-1,j)=mod(Qt1-minx,maxminx)+minx;
  33. Qt(2*i,j)=mod(Qt2-minx,maxminx)+minx;
  34. else
  35. pmu1=rand(1);
  36. if pmu1<0.5
  37. deta1=(2*pmu1)^(1/(cetam+1))-1;
  38. else deta1=1-(2*(1-pmu1))^(cetam+1);
  39. end
  40. pmu2=rand(1);
  41. if pmu2<0.5
  42. deta2=(2*pmu2)^(1/(cetam+1))-1;
  43. else deta2=1-(2*(1-pmu2))^(cetam+1);
  44. end
  45. Qt1=Pt(crossPt(i,j),j)+deta1*detamax;
  46. Qt2=Pt(N-crossPt(i,j)+1,j)+deta2*detamax;
  47. Qt(2*i-1,j)=mod(Qt1-minx,maxminx)+minx;
  48. Qt(2*i,j)=mod(Qt2-minx,maxminx)+minx;
  49. end
  50. end
  51. end
  52. funvalueQt=funfvalue(Qt(:,1:numvariate));
  53. Qt(:,(numvariate+1):(numvariate+numfun))=funvalueQt;
  54. Rt=cat(1,Pt,Qt);
  55. end

复制代码

  快速的非支配排序函数:fast_nondominated_sort.m

复制代码

  1. % %%Fii存储占优面上相应每个个体在种群Rt中的编号,即行号
  2. function [Fii] = fast_nondominated_sort( Rt,numvariate,numfun)
  3. N=size(Rt,1);
  4. Sp=zeros(N,N+1);%Sp的第一列表示每个Spi所拥有的个数,即p所支配的个数,从第二列开始表示被p支配的个体
  5. np=zeros(N,1);
  6. Finum=zeros(N,N+1);
  7. % Fi=zeros(N,N+1,numvariate);
  8. prank=zeros(N,1);
  9. funvalueRt=Rt(:,(numvariate+1):(numvariate+numfun));
  10. for p=1:N
  11. for q=1:N
  12. if q~=p
  13. %%% 这里还有另外一种情况,即Rt(p)不支配Rt(q),也不被Rt(q)支配
  14. if dominate(funvalueRt(p,:),funvalueRt(q,:))==1
  15. Sp(p,1)=Sp(p,1)+1;
  16. Sp(p,Sp(p,1)+1)=q;
  17. elseif dominate(funvalueRt(q,:),funvalueRt(p,:))==1
  18. np(p)=np(p)+1;
  19. end
  20. end
  21. end
  22. if np(p)==0
  23. prank(p)=1;
  24. Finum(1,1)=Finum(1,1)+1;
  25. Finum(1,Finum(1,1)+1)=p;
  26. end
  27. end
  28. Sp;
  29. % np;
  30. i=1;
  31. while Finum(i,1)~=0
  32. Q=[];
  33. % fprintf('-->i= %d\n',i);
  34. Finum(i,:);
  35. for ip=2:(Finum(i,1)+1)
  36. p=Finum(i,ip);
  37. for iq=2:(Sp(p,1)+1)
  38. q=Sp(p,iq);
  39. np(q)=np(q)-1;
  40. if np(q)==0
  41. prank(q)=i+1;
  42. Q=[Q,q];
  43. end
  44. end
  45. end
  46. i=i+1;
  47. nun2Q=size(Q,2);
  48. Finum(i,1)=nun2Q;
  49. for j=1:nun2Q
  50. Finum(i,j+1)=Q(j);
  51. end
  52. end
  53. Fii=Finum;
  54. end

复制代码

  拥挤度距离计算函数:

复制代码

  1. %%% input:Fi of size 1*(2*N+1),output:Idistance of size 1*(FiRt(1,1))
  2. function [Idistance] = crowdiing_distance_assignment(Fi,Rt,numvariate,numfun)
  3. NFi=Fi(1,1);
  4. Idistance=zeros(1,NFi);
  5. funvalueI1=zeros(NFi,numfun);
  6. if NFi<=2
  7. Idistance=Inf*ones(1,NFi);
  8. else
  9. b=Fi(2:(Fi(1,1)+1));
  10. funvalueI1=Rt(b,(numvariate+1):(numvariate+numfun));
  11. % b=Fi(2:(Fi(1,1)+1));
  12. % for i=1:NFi
  13. % funvalueI1(i,:)=Rt(b(i),(numvariate+1):(numvariate+numfun));
  14. % end
  15. % fprintf('-->Idistancel= %d\n',l);
  16. for i=1:numfun
  17. [valueI1,rankI1]=sort(funvalueI1(:,i));
  18. Idistance(rankI1(1))=Inf;
  19. Idistance(rankI1(NFi))=Inf;
  20. for j=2:(NFi-1)
  21. Idistance(rankI1(j))=Idistance(rankI1(j))+(valueI1(j+1)-valueI1(j-1))/(valueI1(NFi)-valueI1(1));
  22. end
  23. end
  24. end
  25. end

复制代码

  支配函数:dominate.m

复制代码

  1. %% 如果Rtp支配Rtq,返回值value=1,否则value=0;
  2. function [value] = dominate(Rtp,Rtq)
  3. funvaluepq=Rtp-Rtq;
  4. value=0;
  5. if funvaluepq<0
  6. value=1;
  7. elseif funvaluepq<=0
  8. if(sum(funvaluepq)<0)
  9. value=1;
  10. else value=0;
  11. end
  12. end
  13. end

复制代码

回到顶部

4. 参考文献

[1] 进化多目标优化算法研究,软件学报,2009.

[2] Messy genetic algirithms: Motivation, analysis, and first results. Complex systems, 1989.

[3] Genetic algorithms in search, optimization, and mechine learning. Addion wesley, 1989.

[4] A fast and elitist multiobjective genetic algorithm: NSGA-II. IEEE Transaction on Evolutionary Computation, 2002.



Share Http URL:  http://www.wittx.cn/get_news_message.do?new_id=692














请输入评论





























Best Last Month

传感器的温度修正算法

传感器的温度修正算法

Computer software and hardware

by wittx


基于深度强化学习的新闻推荐模型

基于深度强化学习的新闻推荐模型

Information industry

by wittx


欧美股市反弹,原油涨超3%

欧美股市反弹,原油涨超3%

Information industry

by wittx


区块链

区块链

Information industry

by wittx


二氧化碳直接合成淀粉,中国科学家颠覆性突破



人工智能在化学领域与物理领域



百度-2019年AI人机交互趋势研究报告



ASM 常用汇编指令

ASM 常用汇编指令

Information industry

by wittx


比特币两年来上涨至16000美元

比特币两年来上涨至16000美元

Information industry

by wittx


Nature Science 9月材料领域科研成果汇总