百度AI实验室发布新成果,可加快深层递归神经网络的训练速度
近日,百度硅谷AI实验室发布一项新的研究成果,该成果可以加快深层递归神经网络(RNNs)的训练速度。
自AlphaGo以4比1的成绩击败围棋世界冠军李世石,人工智能的知名度至此一炮打响,而使得AlphaGo如此强大的东西,就是人工神经网络。
人工神经网络是一种模仿生物神经网络行为特征的数学模型或计算模型,由大量的人工神经元联结,如同生物神经网络般进行运作。通过对已知数据的实验运用,人工神经网络可以进行学习和归纳总结(类似于数学统计学方法的一种),在此基础上,人工神经网络就能够类似生物一般具有简单的决定和判断能力。
人工神经网络是AI领域一个不可忽视的重要存在,研究人员对它的研究也在不断提升。就在近日,百度硅谷人工智能实验室发布了一项新的研究成果技术,该技术可以加快深层递归神经网络(RNNs)的训练速度。
该项技术于由百度硅谷AI实验室的科学家Jesse Engel在Github上发布。Jesse Engel表示,此前就已经发表过这项技术的第一阶段研发成果,其关注的是 Minibatch和存储配置在递归通用矩阵乘法(GEMM)的性能上所发挥的作用。而本次发布的是为第二阶段的成果,其重点关注的是对算法本身的优化。
Jesse在文章中也提到,该技术中还运用到了Differentiable Graphs(可微图形),这对于计算复杂的衍生工具是一个简单、实用又可视化的工具,同时也可以激发算法的优化。对于需要使用具有明确梯度计算功能框架、开发新的迭代算法以及开发应用自动分化深度学习框架的研究人员们来说,这项新的技术将更好地提升研发能力。
未来,该新技术将被应用在更多的百度产品上,促进百度深度学习技术的研发及在百度各项应用服务中的应用。例如把人工神经网络应用在杀毒软件,通过神经网络提供的大量已知在案的恶意软件训练,百度的杀毒系统就能学会识别全新的病毒,即便系统从未见过这类病毒。
最后,记得关注微信公众号:镁客网(im2maker),更多干货在等你!
硬科技产业媒体
关注技术驱动创新