当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-24 22:35:16
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 用PHP写了个小框架,怎么才能得到大佬们的指点?
- 小鹏G7预售价23.58万,何小鹏称其为「全球首款L3级算力的AI汽车」,何为L3级算力?竞争力如何?
- 为什么美国这么强大?
- 用PHP写了个小框架,怎么才能得到大佬们的指点?
- 如何评价《原神》于 6 月 23 日发布的新角色立绘「轰隆雷鸣波 · 伊涅芙」?
- 面试中被嘲笑Token放在redis里,该如何应对这种情况呢?
- Golang中有必要实现Async/Await吗?
- 如何看待 Mac mini M4 支持可更换 SSD?
- 什么笑话让你看一次笑一次?
- Node.js 性能为什么这么差?
最新资讯文章
- 不懂编程,如何使用AI编程?
- 这次化债是不是意味未来大通胀?
- 是什么原因让你一定要用 iPhone?
- docker真的好难用啊,为什么说它移植性好啊?
- ***设把地球上所有的铀235集中起来做成一个大核弹,放到马里亚纳海沟里引爆,地球会不会被炸成两半?
- Nginx 能做什么好玩的事情?
- 为什么手机动辄都 1T 存储了,为啥电脑还在死磕 512G 呢?
- golang为什么将method写在类外?
- 如何评价韩国劳动部宣布今年将全面推动每周4.5天工作制工作时间由52周缩短至48周工资保持不变?
- 为什么go和rust语言都舍弃了继承?
- 坚持使用 PHP 的你,如今有什么感悟?
- 用J***a写Android的时代是不是要结束了?
- 为什么都认为无GC语言一定会比有GC语言要快?
- ElasticSearch在项目中具体怎么用?
- jwt的设计合理吗?
- 大家游泳后洗完澡是在里面穿好衣服还是裸着出来穿衣服呢?
- 每天重启路由器有好处还是有害?
- 那你说什么样的是美女?
- 腰间盘突出能不能治愈?
- 有一双超级大长腿是什么感觉?