130
个编辑
更改
研究进展
* '''早期语音识别与信号处理'''：在RNN/CNN普及前，FNN是主要建模工具；
* '''早期语音识别与信号处理'''：在RNN/CNN普及前，FNN是主要建模工具；
* '''自动驾驶传感器融合'''：FNN被用于多源感知数据的早期特征组合。
* '''自动驾驶传感器融合'''：FNN被用于多源感知数据的早期特征组合。
=== 研究进展 ===
* '''ReLU神经元死亡问题：'''ReLU作为最常用的激活函数之一，具有稀疏激活和计算效率的优势。但是，其也存在当输入为负时，ReLU输出恒为0，神经元将不再参与梯度更新的问题。为此，Hyunwoo Lee等人2024年提出了一种新的权重初始化方法来改善深层且窄的前馈神经网络在使用ReLU激活函数时出现的ReLU神经元死亡问题<ref>Lee H, Kim Y, Yang S Y, et al. Improved weight initialization for deep and narrow feedforward neural network[J]. Neural Networks, 2024, 176: 106362.</ref>；
* '''优化算法选择问题：'''传统的前馈神经网络训练通常依赖人工选择优化算法。A.N. Schreuder等人2025年提出了一种基于概率论和贝叶斯统计的高级启发式方法，旨在自动选择最适合训练前馈神经网络的低级启发式，从而优化神经网络的训练过程和性能<ref>Schreuder A N, Bosman A S, Engelbrecht A P, et al. Training feedforward neural networks with Bayesian hyper-heuristics[J]. Information Sciences, 2025, 686: 121363.</ref>；
* '''自动化网络拓扑设计问题：'''传统的前馈神经网络设计需要人工调整网络结构。Luis Balderas等人2024年提出了一种优化密集前馈神经网络算法，通过剪枝和迁移学习技术，自动生成更高效、更精简的神经网络拓扑，同时保持或提升模型的性能<ref>Balderas L, Lastra M, Benítez J M. Optimizing dense feed-forward neural networks[J]. Neural Networks, 2024, 171: 229-241.</ref>。
== 参考文献 ==
== 参考文献 ==