节点文献

UGES反向传导算法:一种新的小样本深度机器学习模型

免费订阅

【作者】 马超徐瑾辉侯天诚蓝斌张振华

【Author】 MA Chao;XU Jinhui;HOU Tiancheng;LAN Bin;ZHANG Zhenhua;School of Finance,Guangdong University of Foreign Studies;Department of Statistics,Indiana University;School of Economics and Trade,Guangdong University of Foreign Studies;Faculty of Business,Environment and Society,Coventry University;

【机构】 广东外语外贸大学金融学院印第安纳大学统计学系广东外语外贸大学经济贸易学院考文垂大学商务、环境和社会学院

【摘要】 针对传统深度学习算法在样本不足时易出现过拟合的问题,提出了一类新的小样本深度学习模型:UGES反向传导模型。其基本思路是:在保留深层结构的同时,压缩需要学习参数的数量。作为一种与误差反向传导算法相容的间接编码模型,该算法对权值的随机分布特性进行重新编码,打破了不同隐含层之间的隔阂,并使用变分贝叶斯学习对网络进行全局训练。新模型的参数数目不再与输入变量维数及网络结构大小相关,同时强迫权值对于一定程度的扰动具有鲁棒性。最后,将所提出的算法用于外包软件项目风险识别这一典型的多维小样本问题中。对比实验表明,该模型达到了93.3%的样本外准确率,不仅保留了深度模型非线性表达能力,亦具备了小样本下优秀的泛化能力。

【基金】 国家自然科学基金资助项目(71271061,70801020);广东省大学生科技创新培育专项资金重点资助项目(308-GK151011);广东省自然科学基金资助项目(2014A030313575);广东省哲学社会科学“十二五”规划项目(GD12XGL14);广东省公益研究与能力建设之软科学项目(2015A070704051);广东省教育厅科技创新基金资助项目(2013KJCX0072);广州市哲学社会科学发展“十二五”规划共建课题项目(14G41);2014年国家级大学生创新训练计划项目(201411846001);广东外语外贸大学教学研究重点A类项目(GYJYZDA14002)
【所属期刊栏目】 电子科学与通讯工程 (2015年06期)
  • 【DOI】10.13482/j.issn1001-7011.2015.10.030
  • 【分类号】TP181
  • 【被引频次】2
  • 【下载频次】505
节点文献中: 

本文链接的文献网络图示:

浏览历史:
下载历史: