北大教授：超级计算机计算性能提升速度是"十年千倍"

我们还有没有其他方程也可以做这样的事情呢？我们考虑深度学习里大家非常关心的一个问题，对抗样本的问题。深度学习网络有非常好的效果，比如做分类问题的时候，我们训练一个网络，对这样的图片可以正确的分类，告诉我们这是一只熊猫，但是加一点小小的扰动上去，对于人类来讲这两个图片基本没有区别，但是同样的图片给我们训练好的网络再让它识别，它会告诉你这是一个长臂猿。这个神经网络稳定性不是太好，输入的一点小小的扰动会造成输出的很大变化。从偏微分方程角度理解这个现象，它对应的是偏微分方程解的光滑性不是太好。对应前面说的对流方程，这也是可以理解的。对流方程刻划的是，比如空气的流动、水的流动这样一个过程。大家日常经验也知道，空气流动可以是非常复杂的。刚才明平兵老师的报告里有湍流的涡的结构非常复杂，它的解可以是非常不光滑的。解不光滑就造成对应网络的稳定性不太好。让从偏微分方程理论告诉我们如果加上所谓的黏性项或者扩散项可以让解变的比较光滑，这个方程相应就变成了对流扩散方程。对流扩散方程的解，从偏微分方程理论就告诉我们，这个解会比较光滑，我们就预期它的稳定性就会比较好。但是现在在高维空间里，可以用随机微分方程的方法来求解对流扩散流程，求解以后发现确实它的稳定性得到了改善。

（编辑：555手机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!