情报探索

计算机软件及计算机应用论文_深度学习中注意力

 

文章摘要:对注意力机制的主流模型进行了全面系统的概述.注意力机制模拟人类视觉选择性的机制,其核心的目的是从冗杂的信息中选择出对当前任务目标关联性更大、更关键的信息而过滤噪声,也就是高效率信息选择和关注机制.首先简要介绍和定义了注意力机制的原型,接着按照多个层面对各种注意力机制结构进行分类,然后对注意力机制的可解释性进行了阐述同时总结了在各种领域的应用,最后指出了注意力机制未来的发展方向以及会面临的挑战.

文章关键词:

论文DOI:10.13374/j.issn2095-9389.2021.01.30.005

论文分类号:TP391.2;TP18