Extreme Learning Machine

作者:凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/

    2004年南洋理工大学黄广斌提出了ELM算法。极限学习机(ELM Extreme Learning Machine)是一种快速的的单隐层前馈神经网络(SLFN)训练算法。

    该算法的特点是在网络参数的确定过程中,隐层节点参数(a,b)随机选取,在训练过程中无需调节,只需要设置隐含层神经元的个数,便可以获得唯一的最优解;而网络的外权(即输出权值)是通过最小化平方损失函数得到的最小二乘解(最终化归成求解一个矩阵的 Moore-Penrose 广义逆问题).这样网络参数的确定过程中无需任何迭代步骤,从而大大降低了网络参数的调节时间。与传统的训练方法相比,该方法具有学习速度快、泛化性能好等优点。

参考:

[1] Extreme Learning Machines

[2] Huang G B, Zhu Q Y, Siew C K. Extreme learning machine: theory and applications[J]. Neurocomputing, 2006, 70(1-3): 489-501.

[3] MATLAB程序:ELM极速学习机

[4] 论战Yann LeCun:谁能解释极限学习机(ELM)牛X在哪里?

内容来源于网络如有侵权请私信删除

文章来源: 博客园

原文链接: https://www.cnblogs.com/kailugaji/p/12146663.html

你还没有登录,请先登录注册
  • 还没有人评论,欢迎说说您的想法!