适者生存，优胜劣汰——遗传算法

阅读本文，无需数学基础，了解生态学或遗传学基本概念即可。机器学习核心是优化，目标是找到数学函数的最优值。优化分为局部优化与全局优化。

局部优化通过迭代逐步逼近局部最优解，经典算法如梯度下降法。全局优化则试图找到整体最优解，方法包括生成多个点的总体或通过概率选择。全局优化算法并不一定比局部优化算法复杂。

遗传算法是一种简单的全局优化方法，采用生物学概念描述。样本数据空间为生态环境，每个样本为生物个体，数据向量为染色体，基因为向量元素。适应度函数决定个体适应能力，最小值代表最强适应能力。遗传算法过程包括种群、世代、亲代与子代选择、交叉与变异。

遗传算法步骤：创建随机初始种群，计算适应度值，调整为期望值，选择亲代，生成子代。子代通过交叉与变异产生，替换当前种群。迭代直至满足停止条件。

交叉与变异模仿生物进化过程。交叉选择等位基因，变异在亲代基础上添加随机值。两者结合使算法具备全局与局部搜索能力。遗传算法在知识体系上属于全局优化算法，通过处理多个个体进行评估，减少局部最优解风险。

遗传算法特点：基于适应度函数评估个体，不依赖梯度信息，适用于各种函数，包括整数约束。算法存在不足，单一编码可能无法全面表示约束，缺乏梯度指导可能导致效率低下，过早收敛。