0项报错,却写了一场没有发生的会见

文档与知识处理AI 风险与合规AI 办公与工作方法

摘要

作者实测一套刑事辩护AI系统(WorkBuddy #Hy4):40分钟生成24个文件、0项报错,但内容出现事实性虚构——《会见提纲》写明“本次亦未实际会见”,《庭审辩论提纲》却写成“该风险已在会见时向当事人说明”;辩护词称“已另行提交质证意见”实际未提交;法律检索未核验却以“核实了相关法律规定”开头。作者分析0报错的原因:检查脚本只扫了20个Markdown,Word正文和提取件不在范围内,且靠关键词与正则匹配,无法识别“尚未会见”与“会见时已说明”的矛盾,即只查格式不查事实。作者提出应以程序约束替代更硬的提示词:为会见、告知、调取、提交记录状态、时间和证据路径,状态非done即禁止生成“已会见”“已提交”。作者也肯定该系统在证据结构化、争点组织、发问准备上的效率,但强调正式文书不能直接对外使用。

为什么值得看

这是国内律师用AI做刑事辩护文书的真实失败复盘,价值在于给出可复用的工程化约束思路:法律文书生成不能只靠提示词红线,而要把会见、告知、调取、提交等诉讼动作做成带状态、时间和证据路径的可核验记录,未完成状态禁止生成完成式表述;同时提示“0报错”不等于事实正确,质检须覆盖Word正文并做跨文件一致性校验。可直接迁移到律师的阅卷、会见提纲、质证意见与庭审提纲生成流程,以及律所对法律AI输出的验收标准设计。

摘要和推荐理由由 AI 生成,编辑抽查

完整内容请看原文原文版权归作者所有。

去公众号阅读 ↗

摘要和点评可能有遗漏或偏差,请以原文为准。不构成法律意见。