机械荟萃山庄

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 67|回复: 0

腾讯WorkBuddy agent的本地模型竟然使用千问3.6模型

[复制链接]

3万

主题

3万

帖子

23万

积分

超级版主

Rank: 8Rank: 8

积分
236075
发表于 前天 10:40 | 显示全部楼层 |阅读模式
使用 WorkBuddy,后台翻设置,看见模型菜单里有个“本地模型”的选项,能下载、能管理,而且,并不是外部模型的填API和秘钥的那种。


点下载,装完一看,16.9G。
外加一个 0.9G 的 mmproj 文件,那是视觉投影,说明它还能看图。
文件躺在~/.workbuddy/local-models/files/里,名字就叫local_model.gguf。
连个正经名字都不给,打开本地模型那个窗口,问是什么模型?
从提问到出字,三分十秒。

先说自己“是 WorkBuddy AI,基于本地模型运行的助手”,能力涵盖研究写作、数据分析、编程开发,就是不说是谁家的模型。

另开一个窗口,让 DeepSeek Flash 去机器上查后台到底跑着什么。它一开始在~/.workbuddy-ai/里翻配置,翻出来一堆沙盒规则、locale 设置,一个跟模型有关的字都没有。
折腾了几轮,最后是用find找 5G 以上的大文件,查到 llama.cpp 的 llama-server,构建 b10537,Metal 版,端口 52741,每次启动还随机换。
然后它读 GGUF 文件头,查到架构字段写着qwen35moe。
看到qwen35moe再多问了几句,原来还真是qwen3.6, general.name文件里写着:Qwen36_35B A3B REAP 0.25 V2 Agentic...
就是Qwen3.6 的 35B-A3B,REAP 剪枝,比例 0.25。


原始 35B,REAP 剪掉 25% 的专家,专家数从 256 降到 192,实存 27.2B。
每处理一个 token 只激活 8 个,上下文开了 128K。41 层里每 4 层才有一个 full attention,其余是状态空间那套,为的是省显存。

128K 上下文,还能看图,装在 32G 的 Mac 上跑得动。免费,不联网,这些是云端模型给不了的。
当然qwen模型一直是开源模型,腾讯workbuddy拿来用没毛病,但显然腾讯不想让用户自己不行,因为众所周知,麻花腾一直抄袭为主,从不研发,所以就藏着掖着。


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|小黑屋|手机版|Archiver|机械荟萃山庄 ( 辽ICP备16011317号-1 )

GMT+8, 2026-11-4 08:59 , Processed in 0.067719 second(s), 19 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表