不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
如何评价茅台暂停京东供货？
如何看待美团创始人王兴清空微博？
数据库不就是增删改查一些数据吗？研发一个数据库到底难在哪了？
哪些东西必须戒掉?
国内大厂现在用rust的多吗？
美国都闹成了这样了，抖音上到处都是***，为什么知乎上没人报道呢？
做个web服务器，gin框架和go-zero怎么选？
小米yu7最终定价大概多少？值得入手吗?
大龄剩女到底要不要妥协结婚？
我养的小乌龟一天不吃龟食会不会饿死呢？
现在后台管理系统用什么前端框架好？
在《龙珠》中嘲笑博士学历的孙悟饭为「野比饭」，是否是对科学的不尊重？
中国为什么没有企业做好单反相机？
为什么老一辈人厌恶游戏?
前端，后端，全栈哪个好找工作？
有一双超级大长腿是什么感觉？
为什么山姆这么受欢迎？
怎么评价国内AI企业人肉背15块80TB硬盘，飞去马来西亚用英伟达训练数据，以规避美国禁令?
腰间盘突出能不能治愈？
那你说什么样的是美女？
雷军为什么没有绯闻?
飞利浦商用显示器是如何践行ESG承诺的？有哪些显示器有助于企业绿色发展？
美剧绝命毒师有哪些让你难以忘怀的细节？
字节跳动技术副总裁开源了自己与Trae合作的首个项目，如何评价目前AI开发的水平？
女子被闺蜜按水中后续如何?
2025年现在开发php项目选择lar***el框架好还是thinkphp框架好？
