为什么我还是无法理解transformer？
- 发表时间：2025-06-25 04:30:10
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-18 21:35:11做客孩子临走时带走几只玩具，我的孩子抗拒并一直哭，要怎么开导？
- 2025-06-18 21:50:11为什么广州地铁这么多人不懂得先下后上，将中间的位置留出给下车的人？
- 2025-06-18 20:55:11为什么要远离社会底层？
- 2025-06-18 20:45:11你能用一句话总结赵本山和郭德纲的区别吗?
- 2025-06-18 21:15:11Linux 内核的系统有没有类似macOS 那样漂亮流畅的桌面环境的发行版本?
- 2025-06-18 21:30:10群晖 nas 有些什么基本和好玩的功能？
- 2025-06-18 21:00:12澳大利亚为什么是发达国家？
- 2025-06-18 21:00:12女朋友是体育生是一种什么体验？
- 2025-06-18 21:35:11山姆超市是怎么在中国火起来的?
- 2025-06-18 20:25:12为什么女性基本都不学习自由泳？
推荐产品
-
如何看待苹果在 WWDC25 发布的 Foundation 模型框架，它将为开发者和用户带来哪些改变？
最喜欢开发端侧模型以及做隐私计算的公司必定是电子设备厂家，所 -
做引体向上可能会诱发腰肌劳损吗？
会的，对于急性期，或者有腰肌劳损的人，又有引体向上的能力。 -
查干湖冬捕是不是造***？
坐标四川，陈述一个洗澡鱼的事实： 本地属于涪江沿岸，水质清澈 -
如何看2024年，小米的企业所得税实际纳税额超过华为？
华而不实纳税简直是笑话 荣耀收购几千亿纯送钱的，赚了多少，他
新闻动态
最新资讯
文章排行
- 全平台应用框架会是趋势吗？flutter、tauri、maui你更看好哪一个？
- PHP现在真的已经过时了吗？
- 为什么说 Node.js 有望超越J***a？
- 伊朗那么大却被一个小小的以色列打的无法还手？很多高层领导都被干掉了为什么？
- 如何看待机器之心重测高考数学全卷，Gemini夺冠，豆包DeepSeek并列第二？
- 如何看待“京东外卖停止补贴后，日单量跌至两万单”这件事？
- 如何评价《一人之下》***第721（764）话情报？
- 我听说Windows12微软就直接重头构建Windows了，就直接重构Win内核了，到底是不是真的?
- 湖南临澧烟花厂爆炸事故已致 9 人遇难 26 人受伤，事故原因可能是什么？厂方要承担哪些法律责任？