为什么我还是无法理解transformer？
- 发表时间：2025-06-25 14:15:13
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-19 13:55:13为什么macOS软件生态不敌Windows?
- 2025-06-19 13:45:13如何看待“计算机民科“的网站51soez已关站维护一周？
- 2025-06-19 13:00:12Golang和J***a到底怎么选?
- 2025-06-19 13:40:12为什么同样是输球，常州和国足的风评却差那么多呢？
- 2025-06-19 13:25:11你在出租房屋发现过什么前租客留下的“宝藏”？
- 2025-06-19 13:45:13为什么有的女生喜欢穿紧身牛仔裤？
- 2025-06-19 12:15:13你卡过最厉害的bug是什么？
- 2025-06-19 13:30:12家里有了孩子狗狗吃醋老吓唬孩子，要不要把狗狗卖掉？
- 2025-06-19 13:10:12和女生旅游开一间房有什么注意事项？
- 2025-06-19 12:40:13Golang中有必要实现Async/Await吗?
推荐产品
-
异性同办公室久了会不会日久生情？
我最近一年，因为有个项目，经常和一个女同事出差，我是产品，她 -
超小团队选择Django还是Flask？
10人网络运维小团队，用django自带视图和form+my -
你的低成本爱好是什么？
我有一个超低成本的爱好，这个爱好就是养鱼，字面意思上的养鱼， -
你们都用 Python 实现了哪些办公自动化？
linux服务器上，用python 自动ping我手机ip，
新闻动态
最新资讯