深度神经网络的“黑盒”特点阻碍了进一步分析网格细胞活动特性对路径整合的作用

美东时间5月9日，Nature在线发表英国Deep Mind团队，阿法狗和阿法元的开发者，与University College London（UCL）的一篇合作论文，题为Vector-based navigation using grid-like representations in artificial agents，在神经学和人工智能领域都引起轰动。

这篇高度抽象的论文题目背后，隐含的是一个事实，AI已经替人搞定了网格细胞，这个大自然经过亿万年才进化出的生命杰作。

论文研究的是看似简单却又无比深奥的问题：我们在哪里，将向何处去？这个非常哲学的命题，200多年前的大哲学家康德就已经思考过。他认为人对空间的认知是先验的。对这个问题的生物学解读，2005年才有明确答案，也就是May-Britt Moser和Edvard Moser夫妇发现的所谓网格细胞（Grid Cell）。网格细胞的行为是如此令人震撼，2014年，Moser夫妇也因此分享了诺贝尔生理学奖。

虽然动物在自然空间游刃有余，但其认知和计算基础，却并不明了。而对AI而言，判断自己的方位，决定行走的路径，更是一件非常困难的事情，此前没有好的解决方案，虽然阿法元在围棋的网格之中，已经轻松搞定了人类。可是当AI自己发现了类似生物网格细胞的模式，一切都变得不同。网格细胞发现者Edvard Moser说：

This paper came out of the blue, like a shot, and it’s very exciting.It is striking that the computer model, coming from a totally different perspective, ended up with the grid pattern we know from biology.

约翰霍普金斯大学神经学家Francesco Savelli 和 James Knierim在同期Nature发表题为AI mimics brain codes for navigation的新闻评述，赞叹道

It is interesting that the network, starting from very general computational assumptions that do not take into account specific biological mechanisms, found a solution to path integration that seems similar to the brain’s. That the network converged on such a solution iscompelling evidencethat there is something special about grid cells’ activity patterns that supports path integration.

网格细胞

对位置的感知和在空间的巡航能力，对于生命而言，无疑是至关重要的。上世纪六十年代末，UCL神经生理学家John O’Keefe开始研究这个问题，并在1971年发现位置细胞（Place Cell），大脑定位系统的第一个元件。O’Keefe发现当实验大鼠处于特定位置时，其大脑海马体内的一类神经细胞会被激活。这回答了“我在哪里”这样一个问题，O’Keefe也因此与Moser夫妇分享了2014年诺贝尔生理学奖。需要指出，位置细胞只是标记在空间中不同位置的感知体验，并被海马体持久记忆。但位置细胞并不是坐标，也不具备几何计算能力。

2005年，Moser夫妇发现了大脑内嗅皮层更为神奇的网格细胞。他们记录大鼠运动时特定神经细胞被相应激活的规律，发现如上的图像，其中黑线是运动轨迹，而红点则是在该位置相应细胞被激活的记录。统计去噪后，模式是这样的，呈现规律的六方排列！

这真是大自然的不朽杰作！无论您是生物学家、数学家、物理学家、还是哲学家，都不得赞叹这样的神奇和优雅！

网格细胞 信息功能非常丰富，回答了空间智能的核心问题。大鼠在定位过程中将空间分为等边三角形，根据到三角形三个顶点的距离定位，并可以将自己的运动轨迹积分画在地图上！欧几里得几何、矢量代数和数值积分原来深嵌在我们的基因里！

人工智能

大自然经过亿万年的进化，才发展出如此简洁而优雅的定位与巡航系统。人工智能虽然能在围棋盘上轻松战胜人类，但其对空间的认知和巡航能力，却仍然远逊于生物。而另一方面，虽然人们猜测网格细胞支撑着生物的矢量巡航，即计算通向目标的距离和方向，但人们在发现网格细胞十余年后，对其计算功能以及和矢量巡航的关系，仍然未知。Deep Mind今天这篇论文，在一定程度上回答了这两个问题。

Deep Mind创始人和CEO，论文共同作者Demis Hassabis称：

The human brain is the only existence proof we have that the sort of general intelligence we’re trying to build is even possible, so it makes sense to look to neuroscience as a source ofinspirationfor new types of algorithms. But we believe that this inspiration should be atwo-way street, with insights also flowing back from AI research to shed light on open questions in neuroscience.

在这项工作中，研究人员首先训练循环神经网络基于运动速度信息在虚拟环境中定位。这与哺乳动物在不熟悉环境中运动定位所用到的信息非常类似。令人震惊的是，类似网格细胞的模式，研究人员称之为网格单元，在神经网络中自然出现，如上图所示！人工智能的定位方案，与大自然亿万年进化所得到的答案，高度一致！

更神奇的是，研究人员发现具备网格单元的神经网络，经深度增强训练后，能够像动物一样寻找捷径，并具有超人类的巡航能力，在虚拟现实游戏中轻松超过职业玩家。而如果将网格单元静音后，其巡航能力则大打折扣，距离和方向的计算误差都增大，证明网格模式对矢量巡航的重要性。

研究人员称这一工作既是理解网格细胞计算功能的重要一步，也是人工智能发展的重要一步，显示类脑机器学习构架的重要性。而同样的方法，也可以用于研究生命的其他感知能力。

英国帝国理工学院刘芳德博士称，位置细胞和网格细胞的研究对人工智能特别是机器人系统启发很大。位置细胞其实是空间索引的数据库，描述的是拓扑空间；而网格细胞是几何计算器，描术的是欧氏空间。这种组织跟我们目前计算机科学中的威廉希尔官方网站 完全不同，并有非常强的优势。

杜克大学陈怡然教授和博士生吴春鹏介绍，论文中提到的两个细节值得注意。第一，如果神经网络的损失函数中不包括正则项，那么神经网络无法表现出网格细胞功能。这一发现给了我们一个全新的角度去思考正则项的作用。第二，论文指出深度神经网络的“黑盒”特点阻碍了进一步分析网格细胞活动特性对路径整合的作用。这一点再次印证了当前研究神经网络可解释性的必要。

的确，Francesco Savelli 和 JamesJ. Knierim在新闻评述中强调：

The fact that the grid representation enhanced goal-directed performance is acompelling proof-of-conceptof the role of grid cells in the brain. But the inability to directly manipulate these calculations in the model makes it difficult to examine the computational principles, algorithms and encoding strategies that make grid-cell representations of space such an efficient solution for navigation… Making deep-learning systems more intelligible to human reasoning is an exciting challenge for the future.

对此，论文共同第一及通讯作者Andrea Banino称

In the future, if we could improve these artificialmodels, we could potentially use them to understand other brainfunctionalities. This would be a giant step toward the future of brainunderstanding.

看来，AI进行科学研究的时代已经快要到来，教授和研究生们是不是不用再加班加点了？您觉得呢，不妨留言与大伙分享。