为什么我还是无法理解transformer？
- 发表时间：2025-06-24 21:40:10
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-21 09:30:12相对于Go，哪些领域是.NET做不到或做不好的?
- 2025-06-21 11:05:11为什么都说 Finder 难用？
- 2025-06-21 09:30:12有个自闭症的孩子，该放弃吗？
- 2025-06-21 10:25:11为什么中国主机带宽比美国贵5倍（原来错误的10000倍），比如阿里云？
- 2025-06-21 10:50:11如何评价《一路向西》导演***辉影游新作《捞女游戏》，实际游玩体验如何？
- 2025-06-21 09:40:11伊朗这次会崩溃灭亡吗？
- 2025-06-21 10:45:11自己拥有一台服务器可以做哪些很酷的事情？
- 2025-06-21 10:30:11有没有什么冷门的高颜值女演员？
- 2025-06-21 09:55:11看了日本的番剧后，为什么感觉日本高中学生很舒服？
- 2025-06-21 11:05:11为什么字节跳动的软件选择用Rust这个语言写？
推荐产品
-
iOS开发新手入门应该学OC还是swift?
概览自从 SwiftUI 横空出世那天起，小伙伴们都感受到了 -
谷歌云服务宕机导致 OpenAI、Shopify 等服务中断，此次宕机的具体技术原因是什么？
昨天的 GCP 全球宕机事故报告出了，给大家解读下。 从 -
如何看2024年，小米的企业所得税实际纳税额超过华为？
遥遥领先利益集团的巨额利润是带血的。 现在遥遥领先颠倒黑白 -
为什么上海、宁波那么近要搞两个港口？不会恶性竞争么？
船舶大型化-宁波崛起 宁波舟山港是今天中国最大的港口，经济发
新闻动态
最新资讯