一、直播名称
动态结构的神经网络:构建叠层宽度神经网络成深度模型
二、直播时间
2022年3月31日19:30-21:00
直播地址:
三、报告摘要
深层的神经网络结构能够使网络具有强大的学习能力,然而大多数深度网络的训练方式也是基于反向传播的梯度下降法或随机梯度下降法,往往存在着训练消耗时间长、容易陷入局部最优解等问题;宽度学习系统(Broad Learning Systems,BLS)是一种浅层的具有增量学习能力的神经网络,具有快速、高效的优点,然而其浅层结构也限制了网络的特征表达能力。为了解决上述问题,本报告提出了一种具有动态结构的神经网络:由构建叠层宽度神经网络成的深度模型。该模型保留了宽度学习系统高效、快速的优点,同时通过残差连接将多个宽度学习系统模块叠加起来,增加网络的深度,提高网络的学习能力。叠层宽度神经网络(Stacked BLS)的“动态”体现在宽度和深度两个方面。尤其在构建动态深度结构时,在叠加新的宽度学习系统模块,下层模块的参数可以固定不变,只需要计算新叠加的宽度学习系统模块的网络参数即可。在宽度及深度两种增量学习的方式使得模型的计算量较少,网络复杂性较低,使用过程中可以很方便的增加网络的宽度和深度,并实现快速、高效的训练,能够针对不同任务进行适应性的调整,提高模型的泛化能力。叠层宽度神经网络在多个数据集上展现了优越性,在多个图像数据库的测试,均优于现有的很多图像分类方法,同时相较于深度神经网络方法,动态结构的神经网络大幅减少了网络计算时所需要的参数数量。报告中也提出了动态结构的神经网络的应用。
四、报告人简介
陈俊龙
陈俊龙(C. L. Philip Chen)是华南理工大学计算机科学与工程学院院长、讲座教授,清华大学海外杰出访问教授,中国自动化学会副理事长。他是IEEE Fellow、AAAS Fellow、IAPR Fellow及CAA Fellow。曾任IEEE Transactions on Cybernetics、IEEE Trans. on SMC: Systems顶级期刊主编,IEEE SMC学会国际总主席,现任《中国科学》、《自动化学报》副编。曾获2次IEEE TNNLS年度期刊最佳年度论文奖、2018年IEEE系统科学控制论最高学术维纳奖(Norbert Wiener Award)、2021 IEEE Joseph Wohl终身成就奖及2021吴文俊杰出贡献奖。科研方向为智能系统与控制、计算智能等。陈教授曾任澳门大学讲座教授及科技学院院长,澳门大学工程学科及计算机工程获国际《华盛顿协议》、《首尔协议》的认证是他对澳门工程教育的至高贡献。
2022年3月31日19:30-21:00
观看直播须预先报名
点击下方,一键报名