不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
英伟达股价创新高，市值超越微软重回全球第一，黄仁勋称机器人是 AI 之后英伟达最大机遇，如何解读？
你自己觉得自己的身材好吗？
有没有让人读完乳腺都通了的爽文？
网络小白如何建立一个网站，供别人下载文件（主要是PDF和MP3）?
世界上存在动漫少女般完美的「身体」吗？
男医生在给年轻靓丽的女性检查时会是什么心态？
如何成为氛围感美女？
什么样的人算是中了基因***？
有一个***约你出去，你会去吗？
k8s informer 是如何保证***不丢失的?
电话：
座机：
邮箱：
地址：
