二进前向人工神经网络系统平台实现.doc

二进前向人工神经网络系统平台实现

1.67万字 36页 包括外文翻译，原创作品，通过查重系统


摘要
近年来主动学习已经成为机器学习和模式识别方面的重要组成部分不断受到关注。主动学习的核心思想是，对于未参与初始训练的样本集，如何从中挑选出针对当前学习器而言最能提高其性能的样本继续参加训练，以求用较少的样本获得性能较高的分类器。
二进前向神经网络（Madaline）是一种离散的前向网络，其激活函数的不连续性使得成熟的BP算法不再适用。60年代初，Widrow和Winter根据最小扰动原则提出了针对Madaline网络特点的MRII学习算法，主要思想是要求二进神经元（Adaline）权值的调整对网络输出变化的影响最小，同时用BN加权和的绝对值作为衡量最小扰动原则的尺度。本文对MRII算法作了深入的分析和研究，并在其基础上提出了一种基于样本敏感性的Madaline主动学习算法。算法首先用部分具有代表性样本训练Madaline网络，然后以BFNN网络输出对其输入在给定样本点附近变化的敏感性为尺度，主动从未参与训练的样本中挑选敏感性相对大的样本继续进行训练，循环反复这个过程直到满足训练要求为止。实验验证了该主动学习算法在处理离散分类问题的有效性和可行性。



关键词： 主动学习，二进前向神经网络，MRII学习算法，样本敏感性