雷峰网 发布于 09/01 16:34

阿里开源 Qwen3.8-27B 本地实测:性能很强,但 Agent 适配仍待补课

查看原文

资讯摘要

    作者丨 吴海明 何宇轩     编辑丨李娜 岑峰                                                                        

AI 摘要

雷峰网对阿里开源的Qwen3.8-27B模型进行本地实测,从标准部署、量化部署到Agent场景多维测评。结果显示其性能强劲,标准部署下vLLM与SGLang吞吐超40 token/s,3bit至6bit量化质量稳定,Agent任务质量满分但token消耗与耗时极高,复杂任务拆解与执行控制不足,需工程化约束才能作为高效Agent底座。

AI 问答

Qwen3.8-27B在标准部署下哪款框架吞吐表现最好?

测试中vLLM平均吞吐约41.77 token/s,SGLang约40.06 token/s,两者基本在同一档,明显优于Llama.cpp的23.50 token/s。

量化到多少bit仍然能保持Qwen3.8-27B的回答质量?

在本轮的7道文本任务中,3bit至6bit均拿到满分14/14,2bit出现事实修正错误,8bit也有类似问题,16bit则在篇幅控制上失守。

Qwen3.8-27B在Agent场景的主要问题是什么?

它完成9个任务耗时约6小时17分钟,消耗近1400万token,其中3D网站生成单题就烧掉1153万token。问题在于任务拆分过细但单步目标过重、上下文反复回灌,导致大量空转和算力浪费。

打开原文

更多资讯

“阿宝”交新朋友:携手比亚迪“迪迪虾”,实现车机端一句话办事雷峰网 · 09/15 16:45差 11 票:币圈和华盛顿的蜜月期结束了金色财经 · 09/16 17:20我的“一人公司”,是怎么搞钱的?人人都是产品经理 · 09/15 08:56一张GPU跑10万原子!分子之心用AI把化学反应“拍”成了电影量子位 · 09/15 17:58云岫资本合伙人宋旭文:量子计算:工程化与产业化并进,拐点将至 | 36氪 2026产业未来大会36氪 · 09/15 18:38Robinhood的财富效应金色财经 · 09/16 12:47AI 写了几十页 PPT,“经营分析”报告仍被批不够深入?人人都是产品经理 · 09/15 11:32前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了量子位 · 09/15 13:39加密行业今年最重要的一天 可能就是明天金色财经 · 09/15 14:16YC 最值钱的这 20家公司,没有一家来自最近5年人人都是产品经理 · 09/15 10:39日本百岁老人人数首次超过 10 万人Solidot · 09/16 13:35一边喊停一边敲钟:硅谷AI巨头到底在怕什么金色财经 · 09/16 10:5319.98 万元起,吉利银河战舰 700 开启预售,最高 1129 匹马力,还有三电机四驱爱范儿 / APPSO · 09/15 21:04渣打给ARB十美元目标价靠什么?金色财经 · 09/16 21:36号称人类造的最后一个 AI 要来了,刷屏全网的 RSI 是什么爱范儿 / APPSO · 09/15 17:43AI没有泡沫 只有割裂金色财经 · 09/15 21:38理想落幕:加密行业为何集体走向同质化?金色财经 · 09/15 18:31CLARITY折戟 多方博弈撕裂行业预期 市场怎么看?金色财经 · 09/16 10:33AI不断进步 不得不把才华埋葬在昨天金色财经 · 09/15 10:14Opus 5.2深夜上线 RSI真来了?金色财经 · 09/15 11:43无效的管理者和疲惫的基层:浅论考核指标的漂移人人都是产品经理 · 09/16 15:06云连锁到轻连锁,品牌业务逻辑的改变人人都是产品经理 · 09/16 11:47Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」爱范儿 / APPSO · 09/16 12:04圆桌:探路·产业分工的新图谱,看到新未来——国家力量如何转化为产业价值 | 36氪 2026产业未来大会36氪 · 09/15 17:39GPT-6 Astra实现具身智能突破 中国如何打具身防卫战金色财经 · 09/16 14:58穿透查询怎样升级为穿透管控?人人都是产品经理 · 09/15 14:24就业率砍半,年轻人靠什么翻盘?AI时代,这三点越早做越好人人都是产品经理 · 09/15 16:12当年救了臭氧层的功臣,现在变成了永久性污染物果壳网 · 09/16 13:15当我怀念旧版 Edge 浏览器时,我在怀念什么?少数派 · 09/16 10:38