摘要
胡劲科律师在64GB M5 Pro Mac上用Strata分别运行千问Flash-Next(1250亿参数、2bit Q2)和千问3.6-35B(350亿参数、Q6),围绕律师工作设计测试:18页真实卷宗逐字转写及65个关键字段、中文语义、判决书改大白话、法律人文常识、合同与聊天记录问答、指令遵循、数学与法律要件推理、代码。结果显示两者多数任务接近:35B的识图准确率为98.0%/99.0%,1250亿模型为99.3%/99.5%;关键字段两边几乎全中,手写材料两边错误率约7%。35B生成速度91–133 tok/s,1250亿模型45–80 tok/s;识图每页5.4秒对8.1秒。35B可开128K上下文、整服务约36GB,1250亿模型在64GB机器上开到64K约46GB,官方只测到32K。作者日常选35B,要求高的扫描件可两个都跑对照;思考模式显著增加耗时但分数提升很小。测试限于同一台Mac、同一Strata引擎和这套题目。
为什么值得看
文章不是泛泛比较模型参数,而是把本地模型放到律师真实材料处理中评测:卷宗识图与证号、金额等关键字段准确性,合同和聊天记录问答,判决书通俗化改写,法律要件推理,以及上下文容量和速度。其测试维度、评分方法和“日常35B、关键扫描件双模型对照”的选择思路,可直接供律师在本地处理敏感案卷、长聊天记录和合同扫描件时选型与复核,且明确披露了测试局限。
摘要和推荐理由由 AI 生成,编辑抽查
完整内容请看原文原文版权归作者所有。
摘要和点评可能有遗漏或偏差,请以原文为准。不构成法律意见。