正在打开每日关注
正在打开每日关注
视频用“国王—男人+女人=女王”解释词嵌入,并延伸到上下文如何改变词义表示。
会根据人类现有的大量文字的分布规律
视频以二维坐标类比词嵌入:不同数字维度可表示词之间的部分关系,并用“国王—男人+女人=女王”说明向量运算的直观效果;随后将其扩展为大模型中的高维数字表示与训练后的位置关系。
可借鉴之处是,它把抽象的向量表示、语义相似性和上下文影响拆成了易懂的连续问题。边界在于这是教学化简化:词嵌入各维通常不能直接对应单一、可解释的属性;现代 Transformer 的上下文表征也不等同于静态“每词一个固定向量”。视频中对特定模型维度的说法仅记录为待核验主张,不能据此作为技术事实或选型依据。