首页 / 科技百科 / 正文

常见的神经网络 

常见的神经网络主要有以下几种:

1. 卷积神经网络(CNN):卷积神经网络在模式识别领域有着重要应用。它并不是所有上下层神经元都能直接相连,而是通过卷积作为中介,同一个卷积核在所有图像内是共享的,图像通过卷积操作后仍然保留原先的位置关系。

2. 循环神经网络(RNN):循环神经网络可以对时间序列上的变化进行建模,适用于自然语言处理、语音识别、手写体识别等应用。在RNN中,神经元的输出可以在下一个时间戳直接作用到自身。

3. 长短时间记忆单元(LSTM):为了解决时间上的梯度消失现象,机器学习领域发展出了长短时记忆单元LSTM,通过门的开关实现时间上记忆功能,并防止梯度消失。

4. 全连接DNN:全连接DNN的结构里下层神经元和所有的上层神经元都能够形成连接,但它存在参数数量膨胀的问题。因此,在实际应用中,全连接层往往会在CNN和RNN的上层输出之前接上。

需要注意的是,在序列信号分析中,如果能预知未来,对识别一定也是有所帮助的。因此就有了双向RNN、双向LSTM,同时利用历史和未来的信息。

如有侵权请及时联系我们处理,转载请注明出处来自