在一个神经网络中,确定每一个神经元的权重和偏差是模型拟合训练样本的目标,比较有效的办法是()。
A.根据人工经验随机赋值
B.搜索所有权重和偏差的组合,直到得到最佳值
C.赋予一个初始值,然后迭代更新权重,直至损失函数取得极小
D.下一层神经元继承上一层神经元的权重和偏差
A.根据人工经验随机赋值
B.搜索所有权重和偏差的组合,直到得到最佳值
C.赋予一个初始值,然后迭代更新权重,直至损失函数取得极小
D.下一层神经元继承上一层神经元的权重和偏差
A.第一隐藏层中的每个神经元将执行相同的计算。因此,即使在梯度下降的多次迭代之后,层中的每个神经元将执行与其他神经元相同的计算。
B.第一隐层中的每个神经元在第一次迭代中执行相同的计算。但是在梯度下降的一次迭代之后,他们将学会计算不同的东西,因为已经“破坏了对称性”。
C.第一个隐藏层中的每个神经元将执行相同的计算,但不同层中的神经元执行不同的计算,因此完成了课堂上所描述的“对称性破坏”。
D.即使在第一次迭代中,第一个隐藏层的神经元也会执行不同的计算,因此,它们的参数会以自己的方式不断演化
A.一种竞争学习型的无监督神经网络
B.将高维输入数据映射到低维空间,保持输入数据在高维空间的拓扑结构
C.SOM寻优目标为每个输出神经元找到合适的权重
D.输出层神经元以矩阵方式排列在二维空间
神经网络模型(Neural Network)因受人类大脑的启发而得名。神经网络由许多神经元(Neuron)组成,每个神经元接受一个输入,对输入进行处理后给出一个输出。请问下列关于神经元的描述中,哪一项是正确的()。
A.每个神经元有一个输入和一个输出
B.每个神经元有多个输入和一个输出
C.每个神经元有一个输入和多个输出
D.每个神经元有多个输入和多个输出
A.使用增加训练次数的方法不一定可以减少代价函数的取值
B.神经网络权重的初始化大小会对网络的训练结果无影响
C.对神经网络训练的优化需要综合考虑激活函数、网络结构、权重更新方法等多种因素
D.分析问题确定后,神经网络合适的结构就可以确定
A.Dropout背后的思想其实就是把DNN当做一个集成模型来训练,之后取所有值的平均值,而不只是训练单个DNN
B.DNN网络将Dropout率设置为p,也就是说,一个神经元被保留的概率是1-p。当一个神经元被丢弃时,无论输入或者相关的参数是什么,它的输出值就会被设置为0
C.丢弃的神经元在训练阶段,对BP算法的前向和后向阶段都没有贡献。因为这个原因,所以每一次训练,它都像是在训练一个新的网络
D.Dropout方法通常和L2正则化或者其他参数约束技术(比如MaxNorm)一起使用,来防止神经网络的过拟合
A.SOM网络
B.RBF网络
C.ART网络
D.ELman网络