机器学习文章目录

演化计算：有时候也会叫遗传算法，进化算法（更具体）。

该算法在1966年Holland提出，是一种非数学方法，来模仿自然界的进化。

适应度评估就是我们要优化的目标函数。适应度就是给它能否活下来的一个评估。即不断产生后代，然后进行优胜劣汰。进化：适者生存，自然界是一个优化系统。不适应的人会被淘汰，或者以一定概率被淘汰。

我们在机器学习中经常需要找到全局最优（最小）的点，而一般的梯度下降都只会进入到局部最小值，

多目标优化：比如做一个电子元件，希望性能好，同时价格便宜，同时运行起来足够快，这就是多目标的优化。

演化计算并不要求目标函数是连续的，这点很重要。

GA遗传算法：从二进制编码开始介绍：

比如二进制逻辑：与或非等，可以通过自己建立数据的真值表来把这个逻辑学出来。比如自己敲击一些数据，然后给出逻辑运算后的值，然后让机器去总结归纳。四个碱基比较复杂，这里就用二进制逻辑来模拟。

定义1：p是一个长度为 l 的二进制表示。

定义4：模式的长度，比如该模式是 10*0*10*** ，第一个确定位到最后一个确定位的距离就是7。

比如x1到x10是一堆特征，如果要我们就标注为1，不要就标注为0。

产生一堆个体，例如100个，然后根据每个个体的存活率判断其是否要被丢弃还是继续留着。

停止准则：比如耗尽型准则，比如只迭代一万次，迭代到一万次不管结果好坏都停止。还比如观察型，观察结果是不是足够好来判断要不要停止。

斗链方法，比如有十个规则，用二进制表示有十位。我们找到一个规则以后，会解决一部分问题，但是还有些问题没有解决，于是我们又找下一个规则，这样一个一个规则去找，这样我们就可以学会一个规则集合。但是斗链方法耗时长，因为比如我们学到了7个规则，每个规则是10位，这样排列起来就是2的70次方。