当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-25 10:25:18
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 国内大厂现在用rust的多吗?
- notion和Obsidian这两款软件选哪个?
- 内蒙西部和山西北部过年"点旺火"的习俗从何而来?
- 新手养龟想入手黄缘龟,该怎么养?
- 如何看Google发布的Gemini 2.5 Pro模型?
- 真的没有人觉得2k是一个很尴尬的分辨率吗?
- 为什么这次以色列打伊朗,网上声讨的人少了,反而都是嘲笑调侃伊朗?
- 为什么任天堂在NS2上没有选择使用OLED屏幕以提升续航能力和显示效果?
- 我的世界怎么租一个四个人的服务器?
- 腰肌劳损怎嘛治啊?
最新资讯文章
- 为什么 CRT 画质这么好也被淘汰,液晶反而发展的很好?
- 为什么感觉wps的用户越来越多,office没人用了?
- Switch模拟器哪个好?
- 万兆的网络速度有多大意义?
- 这种裙子是不是对直男爆杀?
- 为什么感觉wps的用户越来越多,office没人用了?
- 男朋友说我穿衣服太开放,难道好身材不应该显示出来吗?
- 请问照片里这个人是谁呀?
- 为什么面对 Adobe 的版权要求下,vposy 大神还能从容不迫?
- 能发一张在暧昧期的聊天记录吗?
- 如何评价前端框架 Solid?
- Linux 内核的系统有没有类似macOS 那样漂亮流畅的桌面环境的发行版本?
- 鸿蒙电脑会在国内逐渐取代windows电脑吗?
- 如何看待我国在墨脱建水电站?
- 评价一下Proxmox VE与ESXi的优劣?
- 在韩国生活有什么体验?
- AI如何辅助编程?
- 如何看待rust编写的zed编辑器?
- 虎鲸只吃灰鲸的舌头,为什么不吃其他部位?
- 如何看Google发布的Gemini 2.5 Pro模型?