把 125B 模型塞进 8G 显存：Strata 引擎级魔改整合包发布，还开源了 ComfyUI 节点
> 导读：开源项目 Strata 能把阿里的 125B 参数大模型 Qwen3.8-Flash-Next 一键跑在普通游戏显卡上，上线三周拿下 2.4 万 star。10 月 14 日，B站UP主 T8star（T8mars）发布引擎级魔改版：把官方要求的 12G 显存门槛压到 8G，Uncensor 版新增原生视频分析，同时开源 Windows 整合包和一套 ComfyUI 节点。*本文基于 Strata 官方仓库、T8 三个开源仓库及视频描述区多方来源整理；视频本体无字幕轨。*
Strata 是什么：让"服务器级"模型跑在你的游戏 PC 上
很多人对本地部署大模型的印象还停留在"没有 24G 显存就别想了"。开源项目 [Strata](https://github.com/Niko1221/Strata) 改变了这个认知——它把 Qwen3.8-Flash-Next（125B 参数）打包成 Windows/Linux 一键安装包，让这块通常需要服务器才能跑动的模型在消费级显卡上运行。
官方给出的实测数据相当能打（RTX 5070 12G + Ryzen 5 7600）：
- 生成速度：53~94 tokens/s（视量化等级），60 tokens/s 就已经快过普通人的阅读速度
- 预填速度：读取 32K token 文档时最高 2650 tokens/s，长上下文灌入不卡顿
- AMD 阵营也不落下：RX 9070 XT（16G）生成 44~60 tokens/s
它不只是个聊天工具：本地起一个 OpenAI/Anthropic 兼容 API，可以接你现有的编码 Agent 和应用，支持图像输入，所有数据不出本机。项目 9 月 24 日创建，目前 star 数 2.44 万，temperature 已经足够说明社区热度。
T8 的魔改：门槛再砍一刀
10 月 14 日发布的这条更新，核心是三件事：
1. 引擎级修改，8G 显存可玩。 官方配置要求 12G 以上显存，T8 对推理引擎做了底层修改，把门槛压到 8G——这意味着 GTX/RTX 3060 级别的老卡和一大批中端卡用户第一次有了入场券。
2. Uncensor 版支持原生视频分析。 魔改版解除了内容限制，可以直接对视频做理解分析，这在原版里是图像输入能力的扩展。
3. 全套开源，不再散装。 T8 同时放出了：
- [Strata-T8 整合包](https://github.com/T8mars/Strata-T8)：Windows 便携版，内置 Python、CUDA/HIP 引擎，免配置环境；release v0.1.42-t8.9 与视频同日（10 月 14 日）发布
- [Comfyui-Strata-T8 节点](https://github.com/T8mars/Comfyui-Strata-T8)：把 Strata 的本地推理接进 ComfyUI，覆盖提示词生成、结构化分镜、图片描述、视频采样分析、批量工作流；已提交 ComfyUI-Manager 审核（节点 ID
strata-t8），架构上是独立进程管理，同卡模式下推理结束后确认引擎退出、再把显存交给下游绘图节点，避免和出图模型抢显存
模型获取也有完整路径：整合包直接下载，或用脚本从 ModelScope → 国内镜像 → Hugging Face 逐级拉取缺失文件并做 SHA256 校验。注意仅复制 GGUF 文件是不够的，完整运行需要专家包、分词器和 MTP 数据。
对谁有用，怎么用
- 8~12G 显存的玩家：官方版跑不动？魔改版就是为你准备的。3060 12G 用户可以直接跑官方版，8G 卡走魔改路线
- A 卡用户：Strata 原生支持 HIP（AMD ROCm 生态），RX 7000/9000 系列不用换卡
- ComfyUI 工作流玩家：装上节点后，出图前让本地大模型帮你写提示词、生成分镜脚本、描述参考图，全程断网可用——对做批量创作的自媒体是实打实的降本
- 隐私敏感场景：代码补全、文档分析走本地 API，数据不出机器
几点限制，说在前面
- 量化有代价。8G 显存意味着 IQ2/IQ3 级别的激进量化，数学推理和长文写作上与官方全量精度有差距，专业场景建议 16G 以上跑 IQ3_S
- 项目还很年轻。上游 v0.1.x 阶段，引擎版本迭代快（0.1.26 → 0.1.36 性能就有明显变化），遇到 bug 别意外
- "Uncensor" 版请合规使用。解除限制不等于解除法律责任，视频分析功能同样受内容规范约束
- 本文没有视频逐字稿：原视频无字幕轨，技术细节以三个 GitHub 仓库和视频描述区为准，个别效果描述（如实际显存占用）建议以你自己机器的实测为准
来源
- Niko1221/Strata（原项目，官方基准数据）：<https://github.com/Niko1221/Strata>
- T8mars/Strata-T8（整合包，v0.1.42-t8.9）：<https://github.com/T8mars/Strata-T8>
- T8mars/Comfyui-Strata-T8（ComfyUI 节点）：<https://github.com/T8mars/Comfyui-Strata-T8>
- B站视频（2026-10-14）：<https://www.bilibili.com/video/BV15bpy6rEJ7>