第312章 历景铄的神经网络模型进展[2/2页]

天才一秒记住本站地址：[UC小说]https://m.ucxsla.com最快更新！无广告！

    这么庞大的参数数量，会导致训练过程特别缓慢，还特别容易引发过拟合问题。”

    “其次，因为它需要将所有像素展开成一维数据，这样会将原本图像数据中的笔画或者边缘这种特征丢失。”

    历景铄听着，眼睛渐渐亮了起来，若有所思地说：“你是觉得我们可以适当减少不同层之间的网络连接，同时把保留输入数据的二维结构，接着在隐藏层里面针对二维矩阵进行学习？”

    他突然一拍大腿，兴奋地说：“有了！我之前看到过瀛国科学家福岛邦彦的一篇论文，他好像就有差不多的思路！”

    说着，他快步走到那堆论文文件夹前，手忙脚乱地翻找起来，嘴里还嘟囔着：“在哪呢，到底放哪了……”

    找了好一会儿，终于翻出一篇题为?

    Neocognitron?

    的论文，他连忙拿到秦奕面前，说：“秦哥，你看这篇名叫新认知机的论文，里面提出了局部感受野和层次化特征提取的思想。”

    “他的网络结构包含

    S

    层和

    C

    层，S

    层也就是简单细胞层用卷积操作提取局部的二维空间特征，C

    层复杂细胞层则整合

    S

    层中一组简单细胞的输出，提取更高级的特征，这能在一定程度上减少网络里的参数。”

    他赶紧去自己那一堆论文文件夹里面翻找了一番，然后拿出了一篇题为

    ?Neocognitron?

    的论文给秦奕看：“这篇名叫新认知机的论文里面就提出了局部感受野和层次化特征提取的思想下载上一章

    ←

    章节列表

    →

    下一页加入书签

    “他的网络结构包含

    S

    层和

    C

    层，其中

    S

    层也就是简单细胞层用卷积操作提取局部的二维空间特征，而

    C

    层的复杂细胞层，整合

    S

    层中一组简单细胞的输出，提取更高级的特征，这一定程度上能减少网络里面的参数。”

    秦奕接过这篇远没有杨立昆

    89

    年发表的卷积神经网络出名的论文，快速略读了一遍。

    读完后，他发现里面的网络结构设计确实是跟后来引入了卷积层和池化层的卷积神经网络基本一致，只是因为这篇论文用的是无监督学习所以难以处理复杂的分类任务。

    无监督学习和有监督学习是机器学习的两种主要范式，有监督学习使用标注过的数据即输入数据和对应的输出标签来训练模型，模型的目标是学习输入与输出之间的映射关系，无监督学习使用未标注数据来训练模型，模型的目标是发现数据中的潜在结构或模式。

    秦奕点了点头说道：“我觉得这确实是一个很好的网络结构设计思路，我们可以把有监督学习和他这个网络结合起来，说不定就能在手写数字识别任务上取得突破。”

    “另外，神经网络虽说是借鉴生物结构，但网络层命名也没必要弄得这么像生物术语，简单细胞和复杂细胞听起来都不知道是做什么的，我建议直接用操作命名就行，做卷积操作的叫卷积层，做池化操作的叫池化层，这样交流起来方便。”

    “可以。”历景铄应道，“另外优化算法方面我们这边也遇到了一些问题。”喜欢科技革命，从1984开始请大家收藏：

第312章 历景铄的神经网络模型进展[2/2页]

『加入书签，方便阅读』