学术报告（马占宇 4.7）

以深度学习为代表的人工智能技术迅速发展，受到了学术界和 产业界的大量关注。作为深度学习的重要组成，深度神经网络存在 着结构过于复杂、注意力等功能机制不明确以及观测数据不完备等 问题，其优化方法的研究面临着挑战。团队聚焦基于概率模型表达 的深度神经网络优化方法研究，针对基于传统分布的 Dropout 正则 化会引入系统偏差、传统注意力机制的可解释性较弱以及观测数据 的不完备导致的泛化能力不足等问题，提出了基于非高斯先验的深 度神经网络正则化框架、基于非高斯先验的深度神经网络注意力机 制和基于混合模型的输出特征不确定性估计方法等，有效的降低了 网络复杂度、较好的解释了模型的注意力机制，并提升了预测结果 的可信程度。