神经网络中的潜在状态:从模型权重恢复漂移数据的时间结构
英文标题:Latent States in Neural Networks: Recovering the Temporal Structure of Drifting Data from Model Weights
论文探讨:时间上不断漂移的数据流是否会经历离散的状态区间,而非始终连续变化。作者提出从在该数据流上训练得到的模型权重中恢复这些潜在状态,并使用隐马尔可夫模型(HMM)进行建模。该研究表明,模型权重可能不仅编码任务能力,也保留了训练数据时间演化结构的线索。对开发者和行业而言,这一方向有望帮助分析持续学习、数据分布漂移及模型训练历史。
打开原文相关 2.4 · 机会 0
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×