研究者尝试了很多架构 ， 几乎都失败了 。 他们还公开了代码 ， 以鼓励其他研究人员找到更少层的解决方案 。 但是 ， 找到一种能够模仿神经元且准确率高达 99% 的深度神经网络是非常困难 ， 研究者相信他们的结果为进一步的研究提供了有意义的比较 。
Timothy Lillicrap 认为 ， 这可能提供了一种新的方法 ， 将图像分类网络（通常需要 50 层以上）与大脑联系起来 。 如果每个生物神经元都像一个五层人工神经网络 ， 那么一个 50 层的图像分类网络可能相当于一个生物网络中的 10 个真实神经元 。
此外 ， 该研究还希望他们的结果将改变 SOTA 人工智能深度网络架构 。 「我们呼吁替换深度网络技术 ， 使其工作方式更接近大脑 ， 这一实现过程是将深度网络中的每个简单单元替换为代表神经元单元 ， 而这种神经元单元本身就是有深度的 ， 」Segev 表示 。 在这种替代方案中 ， AI 研究人员和工程师可以插入一个五层深度网络作为「迷你网络」 ， 用来取代每一个人工神经元 。
各路专家学者如何看
但有些人怀疑这是否真的有利于 AI 。 「我认为这是一个悬而未决的问题 ， 这种做法是否存在实际的计算优势 ， 」来自冷泉港实验室的神经科学家 Anthony Zador 表示道 。 这项工作为测试奠定了基础 。
除了 AI 应用之外 ， 该研究还加深了人们对树突状树和单个神经元强大计算能力的共识 。 早在 2003 年 ， 三名神经科学家展示了锥体神经元的树突树可以进行复杂的计算 ， 通过将其建模为两层人工神经网络 。 在这项新研究中 ， 研究者探索了金字塔神经元的哪些特征激发了 5 到 8 层深度神经网络的复杂性 。 他们得出结论 ， 这来自树突树 ， 树突表面接收化学信使的特定受体——这一发现与先前研究者在该领域的研究一致 。
而一些人认为 ， 这一结果意味着神经科学家应该把单个神经元的研究放在更重要的位置 。 「这篇论文使得对树突和单个神经元的思考比以前更加重要」 ， 宾夕法尼亚大学计算神经科学家 Konrad Kording 说 。 另外还有一些人如 Lillicrap 和 Zador ， 它们认为关注回路中的神经元对于了解大脑如何实际利用单个神经元的计算复杂性同样重要 。
无论如何 ， 人工神经网络的语言可能为理解神经元和大脑的能力提供新的洞见 。 伦敦大学学院的计算神经科学家 Grace Lindsay 表示：「从层数、深度和宽度这几方面思考让我们对计算复杂度有了更直观的认识 ， 不过这项研究仍然只是模型与模型之间的比较 。 」
【生物|一个神经元顶5到8层神经网络，深度学习的计算复杂度被生物碾压了】遗憾的是 ， 目前神经科学家无法记录真实神经元的完整输入 - 输出功能 ， 因此生物神经元模型无法捕获到的信息可能更多 。 也就是说 ， 真实神经元可能更加复杂 。
推荐阅读
- 硬件|一个时代落幕 佳能：1DX3将会是旗下最后一款旗舰单反
- 疫苗|中国生物：全球首支获批使用二代新冠疫苗将在阿联酋用于序贯接种
- Siamese|一个框架统一Siamese自监督学习，清华、商汤提出简洁、有效梯度形式，
- 计算机|孟祥飞：用超算推动一个加速创新的中国
- 生物化学|我国卓越科技论文总体产出持续增长
- Samsung|三星生物技术：收购美生物技术公司渤健的消息不实
- 植物|开放生物资源，保护多样性：我们为了生物安全的那些努力。
- 生物地球化学过程|我国科学家发现第五条甲烷产生途径
- IT|传三星集团洽谈收购美生物技术公司渤健 后者股价大涨逾9%
- the|美疾控中心预测：未来一个月内全美或有超4.4万人死于新冠肺炎