今天我们讲讲大模型的“核心”技术:蒸馏(Model Distillation)
文章摘要: 大模型蒸馏技术已成为AI公司的核心竞争力之一。随着模型参数规模指数级增长,推理成本、部署难度等问题日益突出,蒸馏能够在几乎不损失能力的前提下,将大模型能力迁移到更小、更高效的模型上。几乎所
独立 AI 资讯库
从自动抓取数据库实时读取,适合快速浏览、检索和后续扩展成完整资讯站。
文章摘要: 大模型蒸馏技术已成为AI公司的核心竞争力之一。随着模型参数规模指数级增长,推理成本、部署难度等问题日益突出,蒸馏能够在几乎不损失能力的前提下,将大模型能力迁移到更小、更高效的模型上。几乎所
本文介绍一个 LLM API 网关项目的核心实现,目标是让 Claude Code、Cursor 等 AI 编程工具通过统一接口访问不同厂商的模型。文章重点拆解 Anthropic Messages 协议与 OpenAI Chat Completions 协议在 system prompt、tool use 及流式 SSE 响应方面的转换差异。模型路由采用“精确映射、厂商前缀推断、默认兜底”三级 fallback,以兼顾白名单控制与新模型名的自动适配。对于开发者而言,协议适配、流式 tool call 增量拼接和流结束后的 Token 计费,是构建多模型 API 网关时最关键的工程问题。
Pi 六个设计逐一拆源码:声明合并扩展消息、Turn 热切换模型、双队列分打断与追加、工具级 AOP、压缩带文件索引、工具自主停止。
本文解析 FalconSeek 如何在保留 ES API、Query DSL 和运维体系的前提下,以 C++ 云原生内核重构查询执行,并把更快查询转化为更高资源效率和更稳定的体验。
Opus 5 能让 Anthropic 夺回主动权吗? 作者丨高允毅 编辑丨马晓宁 大家还没等来DeepSeek V4的发布消息,Anthropic家Claude Opus 5今夜即将推出的消息,已经先把全网开发者的热情点燃了。一句"性能强得超乎想象,各大平台正陆续上线"的传闻,将全网的目光再次聚焦在Anthropic上。Claude Opus 5有多强?综合各路科技大V和知情人士
大家好,最近把一个折腾了一段时间的项目整理出来了:Evidence Loom,一个本地优先、开源的多智能体市场研究桌面工作区。
这是苍何的第 566 篇原创! 大家好,我是苍何。 最近我看给 Codex 换皮肤这个需求还挺多的,有人通过给别人定制皮肤,一周就赚了几万块。 然后 CodexGuide 交流群中很多的聊天也都是关于
EventHouse 是 EventBridge 面向事件数据推出的云原生事件湖仓,帮助企业在一套 Serverless 事件数据服务中,完成实时事件的接入、治理、分析和 AI Agent 调用,打通
欧盟委员会对 Google 处以总计 8.9 亿欧元罚款,Anthropic 扩大 Claude 语音模式支持范围。查看全文
大模型是「大脑」,Marvis 想补上「小脑」#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
· 腾讯混元多模态理解负责人胡瀚离职,原团队或转向世界模型研究 · 字节跳动 Seed 启动 STEM 科学家计划 · 牧师称 ChatGPT 健康建议险些致命,起诉 OpenAI#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
汇总一周产品更新日志,最新发布可前往我们的博客查看。 NocoBase 目前更新包括三个分支: main、next 和 develop。** main: 截至目前最稳定的版本,推荐安装此版本。 next: 包含即将发布的新功能,经过初步测试的版本,可能存在部分已知或未知问题。主要面向测试用户,用于收集反馈和进一步优化功能。适合愿意提前体验...
2026 上海开源软件应用创新大赛「开源 AI 工具赛道」决赛入围名单今日公布,以下 10 支队伍成功晋级,将于 10 月 29 日在上海张江人工智能创新小镇参加总决赛。 现将入围名单按报名时间顺序公示如下: 项目名称 团队负责人 代码仓库地址 实时交互数字人引擎 李恒中 https://gitee.com/lipku/LiveTalking RapidOCR 王佳华...
15 分钟交付工业级可交互3D 资产,重写视觉大模型的“理科生法则” 作者丨高允毅 编辑丨岑 峰 刚刚,Kimi 官方发布了一段“极具暗示性”的先导片,各种高能科学画面与粒子特效快速切换,有眼尖的网友已经捕捉到画面中的彩蛋“Kimi K3.1”。Kimi K3.1 要来了?这次它带着极强的视觉效果来了,有网友指出官方视频就是 Kimi K3.1 做的。图注:眼尖的网友在画面中找
点击查看原文>
iOS 16.5 的锁屏、桌面、控制中心、设置,全部跑在一台安卓手机上。启动链路是 launchd → backboardd → SpringBoard,跟真机别无二致——因为这套用户空间就是 iOS 16.5 原版,一个字节没改。 这是 OOSEX GANG 的 HackiOS 项目:让 Apple 开源的内核 XNU(xnu-8796.121.2,即 iOS 16.5 的内核)在安卓硬件上启动,再跑...
在企业网 D1net 主办的 2026 秋季央国企 CIO 及数科公司高管峰会(第 19 届)上,硅基流动解决方案总监唐安波出席峰会并作主题分享:《从“算力”到“Token 生产力”:央国企大模型规模化落地的推理基础设施与 ROI 实践》。以下为分享内容精华。当下,AI 应用正处于爆发式增长的早期阶段,Token 消耗量呈指数级增长。这背后,模型架构持续演进,版本更新节奏快速;同时,算力架构也在不断演进。模型与算力之间,是相互推动的迭代过程。对于企业来说,一方面要适配这些变化,另一方面又要面向自己的业务场景提供多元化模型服务,还要把成本控制在合理范围内。硅基流动在做的事,就是打通从算力到 To
"我们团队所有代码都是 Claude 写的。真的,全部。" 这是 Anthropic 平台工程团队负责人 Katelyn Lesse 在 Grafana 主办的 ObservabilityCON 上说的话。她管的团队负责公司的核心服务、开发者工具和产品基础设施,今年夏天员工人数约 200 人。 按她的描述,工程师的工作已经变成了系统设计和验证,敲代码的活交给了 Clau...
点击查看原文>
版本更新概览 本次更新聚焦工作流编排与数据查询能力,主要包括: 工作流编排能力扩展: 支持调用已有 Agent 和工作流资源,统一编排 MCP、Skills 及各类工具。 MCP 元数据查询能力增强: 支持获取数据源、表及字段元数据,为数据查询提供结构化上下文。 Text2SQL 插件正式上线: 覆盖 SQL 生成、改写、纠错、性能优化、...
用 deepseek-flash 实测 17 万星的 ponytail 规则:3 个任务行数砍了一半多、token 省 65%,真正的变化在行为——自作主张消失、每个改动多了自检、安全校验没打折。
Termexo v0.10.15 已发布。它是 MIT 开源的 Windows 本地多 Agent 工作台,用于组织项目、真实终端和原生会话。本稿由项目维护者提交,使用 AI 辅助整理。 图为 AI 辅助绘制的功能示意,不是软件界面截图。 树状整理项目 本版加入多级文件夹,可通过拖动调整项目和文件夹顺序。工作区支持标签、图标和侧栏搜索,菜单中可...
Raven 是 EverMind-AI 开源的多智能体宿主(Host Agent):内置 Research / Code / Design / Oncall 四类智能体
点击查看原文>
火山方舟上线 DeepSeek-V4.1-Flash-1017:代码 Agent 能力跃升;标准版多模态工具调用;经济版效果一致 8 折;AgentPlan 个人版用量翻倍。
点击查看原文>
结合Anthropic将Agent Skills捐赠给AAIF的最新动态,深度拆解Cloudflare 3.7万星开源项目security-audit-skill的六阶段工作流
最近一直在持续完善自己的开源桌面工具箱 ToolForge,今天正式发布 v0.2.1! ToolForge 是一款基于 Rust + Tauri 2 构建的开源桌面工具箱,面向开发者和效率工作者,通过插件化架构整合开发调试、数据处理、文件管理、系统工具以及日常效率工具。 在之前的 v0.2.0 中,我们重点完善了 WASM 插件运行时、在线插件市场以及...
点击查看原文>
MiniMax 把 M3.1 Flash 的权重开源了,规格是 428B 总参数、23B 激活。上线 72 小时,真实用户处理了超过 100 万亿 Token。 M3.1 Flash 能力相比上一代 M3 全面提升,但这次开源公告的重心明显在推理效率上,三组优化值得分别看: 全模型稀疏注意力——前三个全注意力层替换为稀疏注意力,降低长上下文的计算负担。QAT(...