不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
为什么现在年轻人存不下钱?
5 月 28 日 DeepSeek R1 模型完成小版本试升级并开源，具体有哪些提升？使用体验如何？
中国大陆的苹果手机被阉割了哪些部分?
为什么中国红十字会腐败这么严重？
如何评价张靓颖刘宇宁《九万字》?
鱼缸氨氮含量低，但是硝酸盐和亚硝酸盐爆表，已经一个多周了，咋办？
2025年，歼16与美军机50分钟缠斗，为什么知乎上没有任何消息？
如何看待M4单核性能吊打9950x?
网传广东怀集洪水后赵一鸣超市被哄抢，县***回应相关单位正在核实，若属实哄抢者该承担哪些法律责任？
MacOS真的比Windows流畅吗？
一名女子在杭州万象城遭挟持被捅 20 多刀，隆胸***体救了一命，这反映出哪些公安系统的问题？
如何评价中国电科研发的JY-10防空指挥控制系统成为伊朗防空指挥系统核心？
女生腰细是怎样的体验？
如何评价林志玲？
如何看待「苏超」赞助商1个月增加超200%，达到中超2倍？
都说苹果是细节狂魔，那苹果有没有细节其实做的很差的点？
跟离异的女同事聊天时，她冒出一句：「你老婆还不如我，离了跟我过得了」，我该怎么回答？
媒体称以色列防空成本一晚近 3 亿美元，最多再撑 12 天，美方会支援吗？若无美补给结果会如何？
Rust 使用 Result 的错误处理方式与 Golang 使用 error 的方式有什么本质区别？
如何评价苹果 3 月 5 日发布的 MacBook Air M4，相比前代有哪些提升？
伊朗为什么不买中国战机，却坚持四十年用老旧的苏联米格29、美国F14雄猫战斗机?
现在个人博客不能备案了吗？
男朋友说我穿衣服太开放，难道好身材不应该显示出来吗？
广东省肇庆市怀集县洪水后，赵一鸣零食店被哄抢，物资和收银机里面的几千块钱被哄抢一空，如何评价？
想知道德普怎么看上艾梅柏·希尔德的？
字节跳动技术副总裁开源了自己与Trae合作的首个项目，如何评价目前AI开发的水平？
为什么男生都不喜欢173身高的女生啊?
count(*) count(1)哪个更快？
Manus会不会开源？
超级喜欢穿短裙正常吗?
