-
研究生神经网络试题
A
卷参考答案
一、
名词解释
(
共
5
题，每题
5
分，共计
25
分
)<
/p>
1
、泛化能力
答：
泛化能力又称推广能力，
是机器学习中衡量学习机性能好
坏的一个重要指标。
泛化能力主要是指经过训练得到的学习机对未来新加入的样本
（即测试样本）
数
据进行正确预测的能力。<
/p>
2
、有监督学习
答：
有监督学习又被称为有导师学习，
这种学习方式需要外
界存在一个
“教师”
，
她可以对一组给
定输入提供应有的输出结果，
学习系统可根据已知输出与实际输
出之间的差值来调节系统参数。
3
、过学习
答：
过学习
（
over-fittin
g
）
，
也叫过拟和。
< br>在机器学习中，
由于学习机器过于复杂，
尽管保证了分类
精度很高（经验风险很小）
，但由于
VC
维太大，所以期望风险
仍然很高。
也就是说在某些情况下，<
/p>
训练误差最小反而可能导致对测试样本的学
习性能不佳，
发生了这种情况我们称学习机
（比如神经网络）
发生了过学习问题。
典型的过学习是多层前向网络的
BP
算法
4
、
Hebb
学习规则
答：如果两个神经元同时兴奋
(
即同时被激活
)
，则它们之间的突触连接加
强。如
果用
v
i
、
v
j
表示神经元
< br>i
和
j
的激活值
(
输出
)
，
< br>?
ij
表示两个神经元之间的连接权，
< br>则
Hebb
学习规则可以表示为：
?
w
ij
?
?
v<
/p>
i
v
j
，这里
?
表示学习速率。
Hebb
学习规则是人工神经网络学习的基本规则，
几乎所
有神经网络的学习规则都可以
编辑版
word
看作
Hebb
学习规则的变形。
5
、自学习、自组织与自适应性
答：
神经网络结构上的特征是处理单元的高度并行性与分布性，
这种特征使神经
网络在信息处理方面具有信息的分布存储与并行计算
而且存储与处理一体化的
特点。
而这些特点必然给神经网络带来
较快的处理速度和较强的容错能力。
能力
方面的特征是神经网络
的
自学习、
自组织与自性适应性
。
自适应性
是指一个系统
能改变自身的性能以
适应环境变化的能力，
它包含自学习与自组织两层含义。
自
学习是
指当外界环境发生变化时，
经过一段
时间的训练或感知，
神经网络能通过
自动调整网络结构参数，<
/p>
使得对于给定输入能产生期望的输出。
自组织
是指神经
系统能在外部刺激下按一定规则调整神经元之间的突触连接，
逐渐构建起神经网
络。
也就是说自组织神经元的学习
过程，
完全是一种自我学习的过程，
不存在外
< br>部教师的示教。
二、问答题（共
7
题，每题
8
分，共计
56
分）
1
、试述遗传算法的基
本原理，并说明遗传算法的求解步骤。
答：
< br>遗传算法的基本原理如下：
通过适当的编码方式把问题结构变为位串形式
（染
色体）
，
在解空间
中取一群点作为遗传开始的第一代，
染色体的优劣程度用一个
适
应度函数来衡量，
每一代在上一代的基础上随机地通过复制、
遗
传、
变异来产
生新的个体，
不断迭代直
至产生符合条件的个体为止。
迭代结束时，
一般将适应
度最高的个体作为问题的解。
编辑版
word
一般遗传算法的主要步骤如下：
(1)
随机产生一个由确定长度的特征字符串组成的初始群体。
(2)
对该字符串群体迭代的执行下面的步
(a)
和
(b)
，直到满足停止标准：
(a)
计算群体中每个个体字符串的适应值；
(b)
应用复制、交叉和变异等遗传算子产生下一代群体。
(3)
把在后代中出现的最好的个体字符串指定为遗传算法的执行结果，这个结
果可以表示问题
的一个解。
2
、
什么是进化计算？它包括哪些内容？它们的出发点是什
么？
答：
进化计算即模仿生物来建立功能强大的算法，
进而将它们运用于复杂的优化
问题。进化计算包括遗传算法、进化策略
、进化编程
、遗传编程和人工生命。
遗传算法是模仿生物遗传学和自然选择机理，
通过人工方式构造的一类优
化搜索
算法，是对生物进化过程进行的一种数学仿真，是进化计算的一种最重要形式。<
/p>
进化策略是一类模仿自然进化原理以求解参数优化问题的算法。
进化编程的过程，
可理解为从所有可
能的计算机程序形成的空间中，
搜索具有高
的适应度的计算机程
序个体。
人工生命试图通过人工方法建造具有自然生命特征的人造系统。
编辑版
word
3
、人工神经网络是模拟生物神经网
络的产物，除相同点外，它们还存在哪些主
要区别？
答
;
1
．单元上的差别
对于生物神经元而言，影响突触传递信息强度的因素很
多、很复杂。如突触前微细胞的大小与多少、神经传递化学物质含量的多少、神
经传递化学物质释放的速度、
突触间隙的变化、
树突的
位置与大小等诸多因素都
会对突触电位产生影响，
从而影响神经
元的输出脉冲响应。
而人工神经元则忽略
了这些影响，输入、输
出关系十分简单。
2
．信息上的差别
生物神经元传递的信息是脉冲，而人工神经元传递的信
息是模拟电压。
3
．规模与智能上的差别
目前，人工神经网络的规模还远小于生物神经网
络，网络中神经元的数量一般在
10
4
个以下，显然，其智能也无法与生物神经网
络相比。
4
、感知
器神经网络存在的主要缺陷是什么？
答
: 1)
由于感知器的激活函数采用
的是阀值函数，
输出矢量只能取
0
或<
/p>
1
，
所以只
能用
它来解决简单的分类问题；
2)
感知
器仅能够线性地将输入矢量进行分类。理论上已经证明，只要输人矢
量是线性可分的，感
知器在有限的时间内总能达到目标矢量；
3)
感知器还有另外一个问题，当输入矢量中有一个数比其他数都大或小得很
多时，
可能导致较慢的收敛速度。
5
、请比较前馈型神经网络与反馈型神经网络的异同点。（
8
分）
编辑版
word
-
-
-
-
-
-
-
-
-
上一篇：英文歇后语
下一篇：工程法律风险防控体系