面向资源受限边缘设备可靠推理的神经符号路由
英文标题：Neurosymbolic Routing for Reliable Reasoning on Resource-Constrained Edge Devices
论文提出面向资源受限边缘设备的神经符号路由方法，旨在提升本地语言模型的可靠推理能力。在边缘硬件上运行语言模型可提供无需网络连接的隐私保护与低延迟推理体验，但能够部署在此类设备上的小型模型在算术等计算机应擅长的任务上仍不可靠。该研究对需要在本地设备上部署 AI 推理能力的开发者具有参考意义。
打开原文相关 1.6 · 机会 0
2.1 KB
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
面向资源受限边缘设备可靠推理的神经符号路由
arXiv:2609.35833v1
公告类型：新论文
摘要
在边缘硬件上运行语言模型能够在无需网络连接的情况下提供兼顾隐私与低延迟的推理能力。然而，能够适配此类设备的小型模型，在计算机理应擅长处理的任务上并不可靠，例如算术，
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×