网络拓扑结构设计 网络拓扑结构 网络拓扑结构优缺点


【网络拓扑结构设计 网络拓扑结构 网络拓扑结构优缺点】

网络拓扑结构设计 网络拓扑结构 网络拓扑结构优缺点

文章插图
深度学习模型是层构成的有向无环图 。最常见的例子就是层的线性堆叠,将单一输入映射为单一输出 。
神经网络的拓扑结构包括网络层数、各层神经元数量以及各神经元之间相互连接的方式 。一些常见的网络拓扑结构有:
双分支(two-branch)网络多头(multihead)网络Inception模块网络的拓扑结构定义了一个假设空间(hypothesis space) 。在预先定义好的可能性空间中,利用反馈信号的指引来寻找输入数据的有用表示 。选定了网络拓扑结构,意味着将可能性空间(假设空间)限定为一系列特定的张量运算,将输入数据映射为输出数据 。然后,我们为这些张量运算的权重张量找到一组合适的值 。
人工神经网络的模型从其拓扑结构角度去看,可分为层次型和互连型 。层次型模型是将神经网络分为输入层(Input Layer)、隐层(Hidden Layer)和输出层(Output Layer),各层顺序连接 。其中,输入层神经元负责接收来自外界的输入信息,并将其传递给隐层神经元 。隐层负责神经网络内部的信息处理、信息变换 。通常会根据变换的需要,将隐层设计为一层或多层 。
网络拓扑结构设计 网络拓扑结构 网络拓扑结构优缺点

文章插图
网络模型示意图
选择正确的网络架构更像是一门艺术而不是科学 。虽然有一些最佳实践和原则,但只有动手实践才能让你称为合格的神经网络架构师 。在学习过程中,我们需要深入理解构建神经网络的详细原则,从直觉上对它们进行感知,明白对于特定问题哪些架构有用,而哪些架构无用 。
(本文部分内容来自《Deep Learning with Python》,Francois Chollet著,张亮译)