上交大AI研究院首席科学家徐雷：中国人工智能研究真的世界领先？(13)_尽管人工智能不是新鲜的概念

在此期间，徐雷研究著名的霍夫变换有突破性进展，发明了随机霍夫变换RHT 。他还以第一作者身份发表了另一论文，提出了分类器组合的三级框架并讨论了多个组合方法为现在广为研究的集成学习和信息融合提供了基础，被广为引用。这两个成果使他在2002年当选国际模式识别学会 IAPR Fellow会士，成为最早获选的几位华人之一。

在此期间，徐雷将当时相关领域很有影响的Oja自适应PCA学习，发展到自适应非线性PCA学习；并率先揭示了Hebb学习辅以S非线性实现独立化学习，能消除旋转不确定性；还为Oja自适应子空间学习的全局收敛性提供了数学证明。这些成果不仅让徐雷在该方向的影响紧随Oja之后，而且将Oja团队的主要兴趣引回，也吸引了欧美还有中国的不少学者之后的持续推进。

在此期间，作为单独作者，徐雷在1991年会议论文首先提出并在1993年的期刊论文中进一步阐述，提出了多层神经网络自组织学习LMSER ，以双向对偶方式实现对网络中参数的学习，其特点是强制了参数对称性和神经元强度的对称性。 2006年Hinton团队的那两篇经典论文中的深度学习结构Stacked RBM ，也强制了这种参数对称性，而近年才出现的所谓U-net的结构，也与多层LMSER类似。由于算力的限制，当时计算实验只做了单个隐层。但在论文中，讨论和预言了多层LMSER的若干认知功能，如联想、概念形成、心像、注意等。后面会提到，这些预言都在近年得到了计算验证。