要点速览
Strata 和 PolyStrata 都是免费开源(MIT)的本地大模型工具,能在一般电脑上跑原本要服务器才跑得动的大模型,并提供 OpenAI/Anthropic 兼容 API。Strata 专注跑 Qwen3.8-Flash-Next,需要 RAM 加显存合计 32GB 以上、显卡 12GB 起;PolyStrata 创建在 Strata 之上,多加了 Qwen3.6、Gemma 4 等十一个较小的模型(实验性质),8GB 显卡就能跑,我们实测 6GB 笔电也跑得动 35B 模型。显卡 12GB 以上选 Strata,显卡较小选 PolyStrata。
Strata 和 PolyStrata 是最近 GitHub 上最热门的本地大模型工具,名字很像、界面也很像,很多观众在留言问:「到底要装哪一个?」这篇用用户和实测者两个角度整理清楚:两者差在哪、你的电脑该选哪个、怎么安装,以及安装前后要注意的事。
一张表看懂差别
| Strata | PolyStrata | |
|---|---|---|
| 开发者 | Niko1221 | VecSzn(创建在 Strata 之上) |
| 主要模型 | Qwen3.8-Flash-Next(125B) | Qwen3.8-Flash-Next,加上 Qwen3.6、Gemma 4、GLM 等十一个模型 |
| 显卡 | NVIDIA/AMD 12GB 起 | 小模型 NVIDIA 8GB 起(实验性质) |
| 内存 | RAM 加显存合计 32GB 起 | 小模型约 18 到 25GB RAM |
| 系统 | Windows、Linux、Mac | Windows、Linux(Mac 只能跑 Qwen3.8) |
| 安装 | 桌面版安装档或一行指令 | 下载 ZIP,运行 START-HERE.bat |
| 成熟度 | 主项目,GitHub 近 3 万颗星 | 较新,部分模型标示为实验性质 |
两者都是 MIT 开源授权、免费、不用账号、数据不上传,也都提供 OpenAI/Anthropic 兼容 API,可以接 Claude Code、Codex 等 AI 代理。
Strata 是什么?
Strata 让一般电竞电脑也能跑 Qwen3.8-Flash-Next 这种 1250 亿参数、原本要服务器才跑得动的大模型。它把模型拆开分工:最常用的部分放在显卡,其余放在 RAM,再把一张大表放在 SSD,所以显卡只有 12 到 24GB 也能跑。
它有图形化的桌面版(聊天、硬件监控、模型管理),也有给脚本和 AI 代理用的终端机版。新版桌面应用还加入了技能(Skills)、子代理等功能,我们在新版介绍视频里有完整示范。
PolyStrata 是什么?
PolyStrata 创建在 Strata 之上。它保留 Strata 原本的引擎来跑 Qwen3.8-Flash-Next,另外写了第二个引擎,用来跑 Qwen3.6-35B、Gemma 4、Ornith 1.5、MiniCPM-V、GLM 5.3 Flash、DeepSeek V4 Flash 等十一个模型。
这些模型里,大部分是「总参数大、每次只用一小部分」的设计,所以 8GB 显卡就有机会跑得动。不过官方说明这十一个模型属于实验性质,测试过的硬件还不多。
怎么选?用你的电脑配置决定
- 显卡 12GB 以上,RAM 加显存合计 32GB 以上 → 选 Strata。它更成熟,能跑最强的 Qwen3.8-Flash-Next。
- 显卡 8GB 以下(例如 6GB 笔电) → 选 PolyStrata,用 Qwen3.6-35B 或 Gemma 4 这类小模型。
- 想试很多不同模型 → 选 PolyStrata,同一个界面就能切换十二个模型。
- 用 Mac → 选 Strata(PolyStrata 在 Mac 上也只能跑 Qwen3.8)。
简单记:Strata 给中高级显卡和 32GB 以上内存的电脑;PolyStrata 给 6 到 8GB 显卡的电脑。
我们的实测结果
我们分别用两台电脑实际测过,完整过程都在视频里:
- 16GB 显卡桌机跑 Strata:Qwen3.8-Flash-Next 每秒破百 token,连推理陷阱题都测了。
- 6GB 显卡笔电(RTX 2060)跑 PolyStrata:35B 模型每秒约 28 到 30 个 token,已经比阅读速度快。这超出官方写的 8GB 规格,但实际跑得动。
- 量化版本选错会很慢:同一个模型有很多压缩版本,我们实测比较过速度,有一款新手最好避开。
Strata 安装教学
官方提供三种方式,新手建议用第一种。
方式一:桌面版(最简单)
- 到 Strata 的 GitHub Releases 页面下载符合你显卡的安装档。NVIDIA 显卡驱动是 580 版以上选
cuda13,比较旧的选cuda12;AMD 显卡选hip或amd开头的文件。 - 运行
.exe,不需要系统管理员权限。 - 如果跳出「Windows 已保护您的电脑」,这是因为安装档还没有代码签章。确认是从官方页面下载的,按「其他信息」→「仍要运行」。
- 第一次打开,程序会侦测你的电脑并推荐合适的模型,按安装后开始下载。模型大约 40 到 70GB,中断了会自动续传。
方式二:终端机一行指令
Windows 在 PowerShell 运行:
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
Linux 和 Mac 运行:
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh | sh
装好后开一个新的终端机,运行 strata launch,它会一步一步问你要用哪个模型。
方式三:让 AI 代理帮你装
如果你已经装好 Claude Code,可以直接粘贴这段话,让它检查你的电脑并自动安装:
Set up Strata on this PC for me: https://github.com/Niko1221/Strata - follow docs/AI_SETUP.md in that repository.
PolyStrata 安装教学
- 到 PolyStrata 的 GitHub 页面下载 ZIP 并解压缩(或用
git clone)。 - Windows:按两下
START-HERE.bat。Linux:在文件夹里运行./setup.sh。 - 安装程序会侦测显卡,问你要用哪个模型、多大的上下文、要不要读图片。不确定就一直按 Enter,用推荐的设置。
- 等模型下载完成(小模型约 11 到 42GB),浏览器会自动打开
http://127.0.0.1:8080。
同样也可以让 AI 代理帮你装:
Set up PolyStrata on this PC for me: https://github.com/simplexai-labs/PolyStrata - follow docs/AI_SETUP.md in that repository.
下次要用时,再运行一次 START-HERE.bat 就会直接启动,不会重复下载。
安装前后要注意的事
- 硬盘空间要够:Strata 大约需要 80GB,最好放在 SSD,第一次启动会快很多。
- 第一次启动会卡:模型会加载几十 GB 到内存,电脑 1 到 3 分钟没反应是正常的,不要关掉窗口。
- 很慢、硬盘灯一直闪:代表内存不够。先关掉浏览器等吃内存的程序,或改用小一点的模型。
- 显示 8080 端口已被占用:代表它已经在跑了,找一下原本的窗口。
- 想从手机或其他电脑连接:一定要设置 API 密钥,不要把没有密码的服务开放到网络上。
- 模型有各自的授权:工具本身是 MIT 授权,但每个模型的授权不同。例如 PolyStrata 支持的 LFM2.5,只允许年营收低于一千万美元的公司商用。要用在商业用途,先看清楚模型的授权。
接到 Claude Code 等 AI 代理
两个工具都在本机提供 API,所以可以把云端模型换成你自己电脑上的模型,不用付 API 费用:
- OpenAI 兼容的应用:网址填
http://127.0.0.1:8080/v1,API 密钥随便填。 - Claude Code:把环境变量
ANTHROPIC_BASE_URL设成http://127.0.0.1:8080。
还没装 Claude Code 的话,可以先看我们的 Claude Code 安装教学。
相关视频
- 免费本地跑大模型!Strata 新版发布:内置 Skills 与 Cloudflare 对接
- 16GB 显存凭什么能跑 125B 巨型 AI?Strata 本地实测每秒破百 Token
- 8GB 显卡极限突破!本地跑 120B 模型每秒 80 Token 是真的吗?
- 本地跑大模型差点崩溃?Qwen3.8 Flash 量化实测
- 不用升级显卡!PolyStrata 让 6GB 显存通吃主流大模型
- PolyStrata 让 6GB 笔电跑通 35B AI 语音伴侣
两个项目更新都很快,安装画面和支持的模型可能会变。照着做遇到不一样的地方,欢迎到视频底下留言告诉我们。
常见问题
Strata 和 PolyStrata 是同一个团队做的吗?
不是。Strata 是 Niko1221 开发的;PolyStrata 由 VecSzn 创建在 Strata 之上,放在 simplexai-labs 的独立项目里。PolyStrata 跑 Qwen3.8-Flash-Next 时用的就是 Strata 原本的引擎。
6GB 显卡可以用吗?
官方写的是 PolyStrata 的小模型需要 8GB 以上的 NVIDIA 显卡。我们用 RTX 2060 6GB 笔电实测,35B 模型可以跑到每秒约 28 到 30 个 token,但这已经超出官方规格,稳定性要自己评估。
需要多少内存?
Strata 需要 RAM 加显存合计至少 32GB,64GB RAM 可以跑所有尺寸。PolyStrata 的小模型在 8GB 显卡旁边大约需要 18 到 25GB RAM,依模型而定。
Windows 跳出「Windows 已保护您的电脑」怎么办?
Strata 的 Windows 安装档目前还没有代码签章,所以会出现这个提示。确认是从官方 GitHub Releases 下载的文件后,按「其他信息」再按「仍要运行」。
可以接 Claude Code 或其他 AI 代理吗?
可以。两者都在本机提供 OpenAI 和 Anthropic 兼容的 API,一般网址是 http://127.0.0.1:8080,Claude Code 只要把 ANTHROPIC_BASE_URL 设成这个网址就能用本地模型。
第一次启动时电脑卡住正常吗?
正常。模型会加载几十 GB 到内存,第一次启动电脑可能 1 到 3 分钟没反应,等它跑完就好,不要关掉窗口。超过 10 分钟还卡住,再改选小一点的模型。


留言
用 GitHub 账号登录就能留言,留言会公开显示在 GitHub Discussions。留言前请先看社区规则。