胶囊网络:一种全新的富有吸引力的AI架构( 四 )
它们用于近似数据中存在的非线性关系。
激活层通常对标量值起作用,例如,对向量中的每个元素进行规范化,使其介于0和1之间。
在胶囊网络中,一种称为挤压函数的特殊类型的激活函数被用来归一化矢量的大小,而不是标量元素本身。
这些挤压函数的输出告诉我们如何通过训练成学习不同思维的各种胶囊来路由数据。
图像中每个对象的属性都用路由它们的向量来表示。
例如,面部的激活可以将图像的不同部分路由到能够理解眼睛、鼻子、嘴和耳朵的胶囊。
针对MNIST数据集的胶囊网络应用就像深层CNN的不同层数学习图像的不同语义属性(内容、纹理、样式等)一样,胶囊也可以被组织成不同的层次。
同一层的胶囊进行预测,学习对象的形状,并将其传递给学习方向的更高层次的胶囊。
当多个预测一致时,更高级别的胶囊变得活跃。
这个过程被描述为动态路由,现在我将更详细地讨论它。
推荐阅读
- edg战队|S11总决赛中国战队EDG夺冠,是什么让网络游戏如此的热门
- edg战队|DK如果今年再次夺冠,将会是一种什么概念?
- 传奇世界|传奇世界群英版:哪种组合损害最强,你最喜欢哪一种组合?
- 恺英网络|光遇:万圣礼包都买啥?“贫穷”限制了消费,每一个都想要
- 电子竞技|一种误解所衍生出来的刻板印象 因为你是女玩家所以你就应该菜
- 东方spell bubble|《东方Spell Bubble》将免费更新网络对战模式
- 手机游戏|有没有不氪金的手游网络游戏?
- 万圣节|三国杀:深恶痛绝的玩家陋习,最后一种简直离谱!
- 任天堂|玩家除了催新忍者爆料,提到次数最多的就是图标,还有网络延迟!
- 剑三|认错游戏好友性别是一种怎样的体验?玩家:错把兄弟当姐妹