不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
能够自己一个人创业的全栈web码农fullstack developer要会哪些技术？
为什么剪映是剪辑软件鄙视链的最底层?
为什么不用rust重写Nginx？
Go 语言的使用感受是什么？
Go 为什么不能代替 Rust？
吵架后，老公快一个星期不联系，是要离婚的节奏吗？
一个人在周末做什么最享受？
为什么 php 可以做到 7 毫秒以内响应，而 .net 做不到？
西安一商场大屏播放巨大电风扇，这真的能起到「望扇止暑」效果吗？还是单纯营销创意？
在武汉，你们的找对象标准是怎样的？
华为自研的仓颉编程语言将于 7 月 30 日开源，这款语言将如何影响未来的开发趋势？
软路由怎么没有人玩了？
有一双超级大长腿是什么感觉？
为什么NBA在中国没有以前火了？
有没有免费的云服务器?
买到烂尾楼到底该有多绝望？
你们学校的校花都是怎么样的？
和校花谈恋爱是什么体验？
不懂编程，如何使用AI编程？
如果你有300万，你是用来供孩子读书，还是留着以后给ta买房或者保底？
如何看待2025江苏国补在6月1日突然暂停下线？
为什么当今 Web 应用不都***用 WebSocket 形式进行数据交互？
敢不敢留下一张自拍照让人打分？
隔壁公司因业务开了一堆AP，把2.4GHz和5GHz的多个信道都用上了，干扰严重我们该怎么办？
你被哪个后来知道很sb的BUG困扰过一周以上吗？
如何评价黄霄云这个人？
腰肌劳损平时要怎么注意保养?
NAS的盘是否需要一次性买齐？
MiniMax Week第三天推出通用 Agent，体验如何？对行业会带来哪些影响？
