What was delivered

• Strata with the Gyro-S build of Qwen3.8-Flash-Next 125B (58.5 GB, plus a 24 GB copy of its experts prepared for the SSD), installed in its own folder without touching oMLX. Measured on 27 October 2026.
• Why 24 GB is enough: the model is 24,576 small experts and each word calls only 10 of the 512 in every layer. The parts used for every word and the busiest experts stay in memory; the rest are read from the SSD at 5–6 GB a second when a word needs them. Holding it all in memory would take a 48 GB Mac.
• Speed: about 8.3 tokens a second, the same with an 8K or a 32K window. Long prompts read at about 225 tokens a second, so a 30,000-token prompt waits about 2 minutes for the first word; a codeword hidden in a real code base was found every time.
• Ten questions, thinking on, same settings and judge as before: 96 / 100, ahead of Bonsai 2 (85) and the 9B Distill (80). It solved the rope puzzle and wrote a tic-tac-toe program that played 581 games without losing. With thinking off it scored 76.
• Connect Four: its AI scored 94.4 in the coding contest (rules and tactics perfect), beating Bonsai 7–1 in the round robin. Playing live against the win-or-block bot, it won 1 and lost 1; Bonsai lost both of those games.

Problems and fixes

• Setup crashed with KeyError: 146: a size table in Strata's code was missing the expert format this model uses. Fix: Claude added the one missing line, matching the values defined elsewhere in Strata.
• The safety check wouldn't let Claude run Strata's installer and start script, third-party code from the internet. Fix: I ran those two in Terminal; Claude did everything else.
• 24 GB can't hold the model, so memory is tight: the SSD reads 5–5.9 GB a second the whole time and swap reached 12–18 GB. Fix: stop oMLX and ComfyUI first; nothing froze.
• Slow with thinking on: 40 minutes for the ten questions (Bonsai: 11), and the Connect Four AI ran out of tokens mid-code. Fix: the thinking-off version (8 minutes) was entered.

Why it matters

A model five times bigger than the memory runs on a desk computer, and it gives the best answers of anything tested here. It is too slow for everyday chat, which stays on the 9B Distill, but for hard reasoning or code where being right matters more than waiting, a 125B model is now available offline on a Mac mini.

Stack

交付了什么

• Strata 加上 Qwen3.8-Flash-Next 125B 的 Gyro-S 版本（58.5 GB，另加为 SSD 准备的 24 GB 专家副本），装在独立文件夹，不碰 oMLX。以下都是 2026 年 10 月 27 日实测。
• 为什么 24GB 够用：模型由 24,576 个小专家组成，每写一个字，每层只从 512 个里叫 10 个。每个字都要用的部分和最常被叫到的专家留在内存，其余放在 SSD，要用时以每秒 5–6 GB 读进来。如果全部放进内存，要 48GB 的 Mac。
• 速度：每秒约 8.3 个 token，上下文开 8K 或 32K 都一样。长文每秒读约 225 个 token，3 万 token 的输入要等约 2 分钟才出第一个字；藏在真实代码里的暗号每次都找到。
• 十道题，开思考，设定和裁判跟以前一样：96 分，超过 Bonsai 2（85）和 9B 蒸馏版（80）。绳子题答对了，写的井字棋程序下 581 局一局没输。不开思考只有 76 分。
• 四子棋：写的 AI 在编程赛得 94.4 分（规则和战术全对），循环赛赢 Bonsai 7 比 1。亲自和简单机器人下了两局，1 胜 1 负；同样这两局 Bonsai 都输了。

遇到的问题与解决

• 安装时出现 KeyError: 146：Strata 代码里有一张大小对照表，少了这个模型用的专家格式。解决：Claude 补上缺的那一行，数值和 Strata 其他地方定义的一致。
• 安全检查不让 Claude 执行 Strata 的安装和启动脚本，因为是网上下载的第三方代码。解决：这两步我在终端自己跑，其余都由 Claude 完成。
• 24GB 装不下整个模型，内存很紧：SSD 一直以每秒 5–5.9 GB 在读，swap 用到 12–18 GB。解决：先停掉 oMLX 和 ComfyUI；全程没有卡死。
• 开思考很慢：十道题要 40 分钟（Bonsai 11 分钟），写四子棋 AI 时写到一半 token 用完。解决：改用不开思考的版本参赛（8 分钟写完）。

为什么重要

一个比内存大五倍的模型，在桌上的小电脑就能跑，而且答得比这里测过的所有模型都好。日常聊天它太慢，还是用 9B 蒸馏版；但遇到难的推理或写代码、答对比等待更重要的时候，现在 Mac mini 上离线就有一个 125B 模型可以用。

技术栈

交付了什麼

• Strata 加上 Qwen3.8-Flash-Next 125B 的 Gyro-S 版本（58.5 GB，另加為 SSD 準備的 24 GB 專家副本），裝在獨立資料夾，不碰 oMLX。以下都是 2026 年 10 月 27 日實測。
• 為什麼 24GB 夠用：模型由 24,576 個小專家組成，每寫一個字，每層只從 512 個裡叫 10 個。每個字都要用的部分和最常被叫到的專家留在記憶體，其餘放在 SSD，要用時以每秒 5–6 GB 讀進來。如果全部放進記憶體，要 48GB 的 Mac。
• 速度：每秒約 8.3 個 token，上下文開 8K 或 32K 都一樣。長文每秒讀約 225 個 token，3 萬 token 的輸入要等約 2 分鐘才出第一個字；藏在真實程式碼裡的暗號每次都找到。
• 十道題，開思考，設定和裁判跟以前一樣：96 分，超過 Bonsai 2（85）和 9B 蒸餾版（80）。繩子題答對了，寫的井字棋程式下 581 局一局沒輸。不開思考只有 76 分。
• 四子棋：寫的 AI 在程式賽得 94.4 分（規則和戰術全對），循環賽贏 Bonsai 7 比 1。親自和簡單機器人下了兩局，1 勝 1 負；同樣這兩局 Bonsai 都輸了。

遇到的問題與解決

• 安裝時出現 KeyError: 146：Strata 程式碼裡有一張大小對照表，少了這個模型用的專家格式。解決：Claude 補上缺的那一行，數值和 Strata 其他地方定義的一致。
• 安全檢查不讓 Claude 執行 Strata 的安裝和啟動腳本，因為是網路上下載的第三方程式碼。解決：這兩步我在終端機自己跑，其餘都由 Claude 完成。
• 24GB 裝不下整個模型，記憶體很緊：SSD 一直以每秒 5–5.9 GB 在讀，swap 用到 12–18 GB。解決：先停掉 oMLX 和 ComfyUI；全程沒有當掉。
• 開思考很慢：十道題要 40 分鐘（Bonsai 11 分鐘），寫四子棋 AI 時寫到一半 token 用完。解決：改用不開思考的版本參賽（8 分鐘寫完）。

為什麼重要

一個比記憶體大五倍的模型，在桌上的小電腦就能跑，而且答得比這裡測過的所有模型都好。日常聊天它太慢，還是用 9B 蒸餾版；但遇到難的推理或寫程式、答對比等待更重要的時候，現在 Mac mini 上離線就有一個 125B 模型可以用。

技術堆疊