智谱新模型,490 tokens/s!
英文标题:智谱新模型,490 tokens/s!
GLM「速度仙人」来了?
39.0 KB
14.0 KB
28.5 KB
22.8 KB
4.7 KB
11.9 KB
20.9 KB
27.0 KB
60.0 KB
7.4 KB
16.2 KB
26.9 KB
41.8 KB
5.0 KB
中文
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">
智谱新模型,490 tokens/s!
听雨 发自 凹非寺
量子位 | 公众号QbitAI
智谱上新了一个GLM-5.3-Highspeed 模型,就在Zcode里。
据网友@leo114119爆料,这个新模型目前已经在Zcode 3.15.1里开放体验,订阅用户随机获得。
他晒出来的速度,甚至达到了490 tokens/s 。
我也第一时间去Zcode里试了试,尝试手动添加并切换了这个模型。
但不知道是因为Lite套餐用户还不具备享受资格,还是因为没灰度到😭。。。
只能先望洋兴叹了(:з」∠)
GLM-5.3高速版来了?
既然是高速模型,那最值得关注的当然是速度 了。
490TPS ——这个网友晒出来的速度数字,也是相当恐怖了,接近500TPS。
TPS指的是每秒生成的token数量。如果持续保持这一速度,输出1万token,单算生成阶段约需20秒。
要知道,上个月智谱刚发布的GLM-5.3-FlashX,最高速度也才200 tokens/s。
而按照Artificial Analysis的测速,GLM-5.3-Flash在Z.ai API上的输出速度约为60 tokens/s。
这新模型是什么速度仙人啊???
而且GLM-5.3-Highspeed这个名字,此前已有迹象。
Pi的模型目录已经收录了GLM-5.3-Highspeed。
在这份目录中,GLM-5.3-Highspeed上下文窗口为100万token,最大生成token上限为131,072,约128k;还划分了low、high、max三档思考强度配置。
不过,这些配置与GLM-5.3普通版也都是一致的。
此外,也有网友在reddit上讨论过这款新模型,并猜测它是否与OpenCode上的匿名模型Omen Alpha 有关。
Omen Alpha在9月份刚刚上新OpenCode,基本已经被网友扒出来与GLM有关。
还有网友实测了下鹈鹕踩单车的水平。。
总结来说就是:速度快,思考久,效果还蛮好 。
至于Omen Alpha到底是什么模型,也是众说纷纭。
有人说它就是GLM-5.3-Highspeed,也有人猜GLM-5.3-Omni、GLM-5.4-Flash。
此前,智谱也推出过高速版模型。
今年5月,智谱推出了GLM-5.1-highspeed ,模型输出速度为400tokens/s,在当时基本也是刷新了全球大模型厂商API的速度上限。
这回的GLM-5.3-Highspeed如果真能达到490 TPS的水平,那对于长程任务来说,速度也是相当可观的了。
目前这款新模型还在Zcode里随机灰度中,如果有灰度到的网友,欢迎分享你的实测体验呀!!
版权所有,未经授权不得以任何形式转载及使用,违者必究。
English / 原文
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">
智谱新模型,490 tokens/s!
听雨 发自 凹非寺
量子位 | 公众号QbitAI
智谱上新了一个GLM-5.3-Highspeed 模型,就在Zcode里。
据网友@leo114119爆料,这个新模型目前已经在Zcode 3.15.1里开放体验,订阅用户随机获得。
他晒出来的速度,甚至达到了490 tokens/s 。
我也第一时间去Zcode里试了试,尝试手动添加并切换了这个模型。
但不知道是因为Lite套餐用户还不具备享受资格,还是因为没灰度到😭。。。
只能先望洋兴叹了(:з」∠)
GLM-5.3高速版来了?
既然是高速模型,那最值得关注的当然是速度 了。
490TPS ——这个网友晒出来的速度数字,也是相当恐怖了,接近500TPS。
TPS指的是每秒生成的token数量。如果持续保持这一速度,输出1万token,单算生成阶段约需20秒。
要知道,上个月智谱刚发布的GLM-5.3-FlashX,最高速度也才200 tokens/s。
而按照Artificial Analysis的测速,GLM-5.3-Flash在Z.ai API上的输出速度约为60 tokens/s。
这新模型是什么速度仙人啊???
而且GLM-5.3-Highspeed这个名字,此前已有迹象。
Pi的模型目录已经收录了GLM-5.3-Highspeed。
在这份目录中,GLM-5.3-Highspeed上下文窗口为100万token,最大生成token上限为131,072,约128k;还划分了low、high、max三档思考强度配置。
不过,这些配置与GLM-5.3普通版也都是一致的。
此外,也有网友在reddit上讨论过这款新模型,并猜测它是否与OpenCode上的匿名模型Omen Alpha 有关。
Omen Alpha在9月份刚刚上新OpenCode,基本已经被网友扒出来与GLM有关。
还有网友实测了下鹈鹕踩单车的水平。。
总结来说就是:速度快,思考久,效果还蛮好 。
至于Omen Alpha到底是什么模型,也是众说纷纭。
有人说它就是GLM-5.3-Highspeed,也有人猜GLM-5.3-Omni、GLM-5.4-Flash。
此前,智谱也推出过高速版模型。
今年5月,智谱推出了GLM-5.1-highspeed ,模型输出速度为400tokens/s,在当时基本也是刷新了全球大模型厂商API的速度上限。
这回的GLM-5.3-Highspeed如果真能达到490 TPS的水平,那对于长程任务来说,速度也是相当可观的了。
目前这款新模型还在Zcode里随机灰度中,如果有灰度到的网友,欢迎分享你的实测体验呀!!
版权所有,未经授权不得以任何形式转载及使用,违者必究。
