Strata for Mac版

以前在 8GB 显卡下，开启 64K 上下文会耗尽专家缓存空间，导致启动失败。只能改用 CPU 图像处理、更小的 KV 缓存，或将上下文降到约 48K。

Strata 0.2.10 改进了这套机制：当显存不足时，优先调整显存和内存之间的数据分配，尽可能保留用户设置的上下文长度。

比如，现在可以在 8GB 显存条件下启动 Qwen3.8 IQ3_S，并保持 128K 上下文，也就是 131,072 Token。

Strata 会根据显存余量，逐步缩小驻留在 GPU 中的 KV 缓存窗口，必要时还会调整其他缓存，甚至将部分数据放到系统内存中。

官方测试中：

• 8GB 显存限制下，DFlash2 模式生成速度达到 63～73 Token/s。
• 32K Token 的提示词处理时间为 19.8 秒。
• 一张真正的 Intel Arc A750 8GB 显卡，也成功启动 128K 上下文，生成速度为 12.7～14.8 Token/s。

注意，显存需求仍然在，不是凭空消失，而是把压力给到了内存和 SSD。

Strata 0.2.10 将 DFlash2 设置为默认加速器。

DFlash2 是一种推测解码器。简单理解，就是让一个体积较小的辅助模型提前猜测接下来可能生成的内容，再交给主模型批量验证。猜对的部分越多，主模型就越有机会一次确认多个 Token，从而加快生成速度。

此前 Strata 使用的 MTP 推测层大约需要 5.2GB 空间，而新版 DFlash2 的显存占用约为 625MiB。

官方对比了同一引擎下 DFlash2 和 MTP 的表现：

但是，也不是没有代价。

DFlash2 与 MTP 对比

相比之下，MTP 在硬件兼容性和多并发下都有优势：

两张显卡一起跑，代码编辑速度接近翻倍

针对多显卡，这次更新带来优化：All-cards Split Engine。

以前多显卡运行模型时，常见做法是将模型的不同层分配到不同显卡。新的方式则允许多张显卡共同处理每一层模型，让它们同时参与计算。

官方使用两张 RTX A6000，在 Linux 下运行 UD-Q4_K_XL，得到以下结果：

代码编辑任务的生成速度几乎翻倍。

还加入了一个编程专用的 DeepSeek 模型

Strata 0.2.10 新增了 ISTA-DAS Coder。它基于 DeepSeek-V4.1-Flash，针对编程和 Agent 任务进行了专家裁剪，每层只保留原来 384 个专家中的 192 个。

这样可以减少需要处理的专家权重。

官方测试中：

• 单张 Radeon AI PRO R9700：22.8 Token/s。
• 四张 R9700：59.2 Token/s。
• Apple M5 Max：19.1～22.5 Token/s。
• RTX PRO 6000 Blackwell：约 100 Token/s。