跳到正文
原文
Simon Willison·· 1 天前AI 评分22

Qwen3.8 27B 用英文单词做加法的基准测试

Qwen3.8 27B addition in words

AI 导读

一项基准测试用 5,070 个禁用推理的案例,检验本地 Qwen3.8-27B-Q4_K_M.gguf 能否把正整数加法结果完全用英文单词表达。禁用推理时数值准确率为 23.57%,格式合规率 96.17%,但准确率从一至三位操作数的 97.04% 跌至十至十三位的 6.44%。启用推理后,169 次配对测试中答对 167 次。

来源:Simon Willison · simonwillison.net