多目标：结合萤火虫算法的混合粒子群优化用于带泄漏的ReLU的特征选择

高维数据集常常因存在大量无关和冗余特征而带来挑战，这可能会妨碍机器学习模型的性能。本研究提出了一种新颖的优化算法LR-GPSOFA，旨在通过提高计算效率和分类准确性来改进特征选择。该算法将粒子群优化（PSO）与萤火虫算法和泄漏修正线性单元（Leaky ReLU）相结合，利用K-近邻（KNN）分类器提高处理速度并确保准确分类。选择PSO的原因在于其非常适合较小的搜索空间，而萤火虫算法（FA）在较大的搜索空间中表现优异，使其混合特别有效。通过结合这些优势，LR-GPSOFA提高了粒子运动的适应性和随机性，同时减少了贪婪搜索行为的倾向。引入Leaky ReLU解决了“死亡ReLU”问题，通过保留非零梯度，使算法能够有效地在复杂、不规则的地形中导航。还加入了惩罚机制，以确保即使在没有选择特征时也能收敛，从而增强策略的鲁棒性。该算法在八个不同的数据集上进行了评估，显示出特征选择效率和性能的显著提升。这些结果突出表明LR-GPSOFA作为高维数据特征选择的强大工具的潜力，具有广泛的适用性可以解决各种领域的现实挑战。