注意力分数 注意力机制

注意力分数

本文会来介绍「注意力分数」的计算。特别的,这里我们会使用高维的 query ,key 和  value 来举例子。可以将「注意力分数」理解为 query 和 key 的相似度。会介...
阅读全文