为什么我还是无法理解transformer？
- 发表时间：2025-06-25 06:55:10
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-20 19:20:10消息称苹果 macOS 26 将不再支持部分旧款英特尔 CPU 机型，这背后原因有哪些？
- 2025-06-20 18:20:10为什么面对 Adobe 的版权要求下，vposy 大神还能从容不迫？
- 2025-06-20 19:15:10为什么一直在说稳就业，但找工作却越来越难了呢？
- 2025-06-20 17:45:12Web后端开发，用Python还是Go呢？
- 2025-06-20 19:00:12穿瑜伽裤去爬山好吗？
- 2025-06-20 18:35:11为什么中国主机带宽比美国贵5倍（原来错误的10000倍），比如阿里云？
- 2025-06-20 19:00:12大家练瑜伽多久了？
- 2025-06-20 17:40:11我想知道女生有没有处男情结？
- 2025-06-20 19:15:10如何看待黄奇帆称「中国房地产消费的居民负债占家庭收入比重达 137.9% ，需调整抑制消费政策」？
- 2025-06-20 17:40:11字节跳动技术副总裁开源了自己与Trae合作的首个项目，如何评价目前AI开发的水平？
推荐产品
-
Node.js 性能为什么这么差？
本来也认为node性能差单线程，没法并发，做服务器不合适，前 -
设计院不用正版软件怎么看?
这个事情实际上有点复杂。 网上的各种盗版软件你以为都是好心人 -
鱼缸长这种藻是什么藻？是好是坏？
底砂上是褐藻，玻璃上是绿斑藻。 鱼缸里的褐藻，实质是硅藻， -
电脑有64G的物理内存(DDR5 5200)，完全够用了，可以关闭系统的虚拟内存吗？
现身说法。 自从我电脑上有16G内存之后，每次重装完Wind
新闻动态
最新资讯