拿注意力层当内存——有人在 Qwen 权重里编译了一颗 RISC-V CPU
英文标题:拿注意力层当内存——有人在 Qwen 权重里编译了一颗 RISC-V CPU
开发者 Divyansh Agrawal 往 Qwen 3.5 4B 的权重里编译了一颗真正的 RISC-V CPU,然后用模型自己的 Gated DeltaNet 注意力层当内存。他给这东西起名 Qwenputer。 先把话说明白:这不是插件、不是工具调用、也不是沙箱。CPU 完全跑在模型的前向传播里,能执行算术、跑 C 和 MicroPython 代码,不需要任何外部运行时。 原理...
打开原文相关 1.8 · 机会 0
2.4 KB
中文
开发者 Divyansh Agrawal 往 Qwen 3.5 4B 的权重里编译了一颗真正的 RISC-V CPU,然后用模型自己的 Gated DeltaNet 注意力层当内存。他给这东西起名 Qwenputer。 先把话说明白:这不是插件、不是工具调用、也不是沙箱。CPU 完全跑在模型的前向传播里,能执行算术、跑 C 和 MicroPython 代码,不需要任何外部运行时。 原理...
中文全文翻译正在补齐,可先查看下方英文原文。
English / 原文
开发者 Divyansh Agrawal 往 Qwen 3.5 4B 的权重里编译了一颗真正的 RISC-V CPU,然后用模型自己的 Gated DeltaNet 注意力层当内存。他给这东西起名 Qwenputer。 先把话说明白:这不是插件、不是工具调用、也不是沙箱。CPU 完全跑在模型的前向传播里,能执行算术、跑 C 和 MicroPython 代码,不需要任何外部运行时。 原理...