法院用AI帮人办遗产，并没想象中那么简单

过去两年，AI热潮席卷各行各业，政府部门也跃跃欲试。但把AI应用到法律这种严肃场景，远没有想象中那么简单。

美国阿拉斯加州法院系统的遭遇就是个典型案例。

2023年，阿拉斯加法院决定开发一个AI聊天机器人AVA，帮老百姓处理遗产认证手续。这个需求确实存在，亲人去世后，家属要面对一大堆表格和法律程序，很多人根本搞不清楚。

他们相用AI代替人工咨询服务，预计三个月搞定。结果一年多过去了，这个项目还在反复测试。

在法律中运用AI，并没有想象中那么简单。

AI会一本正经地瞎编

项目顾问很快发现第一个大问题：AI会胡说八道。

"我们问它去哪找法律帮助，它说阿拉斯加有法学院，可以联系校友网络。"，但阿拉斯加根本没有法学院。

这在AI圈子里叫"幻觉"，说白了就是瞎编。机器人被训练成必须回答问题，当它不知道答案时，就会根据其他信息拼凑一个听起来合理的回答。

换了好几个模型，问题依然存在。

对于聊天娱乐来说，编点小故事无伤大雅。但遗产认证是正经法律程序，填错表格、走错流程，可能导致财产损失或错过法定期限。

说话方式得反复调

更意外的是，AI的"性格"也成了问题。

早期版本的AVA特别善解人意，见谁都先说"对您的损失深表哀悼"。测试团队觉得这样很贴心，毕竟用户刚经历亲人离世。

结果测试用户的反馈让他们大跌眼镜："我生活中已经有够多人跟我说节哀顺变了，不需要机器人也来这套。"

团队只好把所有安慰的话删掉。用户要的是直接了当的答案，不是情感安慰。

负责技术开发的律师解释说，不同AI模型就像不同性格的人。有的规规矩矩，有的喜欢显摆，有的话特别多。

"做法律咨询，你需要听话的那种，能准确回答问题，用简单语言解释清楚，不需要那种总想证明自己最聪明的。"

光是调整AI的"性格"，团队就花了好几个月。

法律必须100%准确

Marz坦言，做别的技术项目时，她会跟团队说"别追求完美，先上线再慢慢改进。"

但这个项目不行。

如果有人按照AI给的信息去办手续，结果信息是错的或者不完整，他们可能会遭受实际损失。这对个人、家庭或遗产来说都可能是灾难。

所以团队设计了91个测试问题，涵盖各种遗产认证场景。每次更新模型，都要人工检查所有答案是否准确。

但91个问题的工作量太大了。法院负责司法公正服务的主管说，考虑到这个项目的重要性，每个答案都需要仔细审核。

最后他们只能压缩到16个最关键的问题，包括一些AVA之前答错的、一些特别复杂的，还有一些很基础但经常被问到的。

就算这样，测试工作量依然巨大。

永远改不完的活

还有个更头疼的事：AI系统一直在变。

OpenAI这些公司每隔几个月就推出新版本。新版本可能更准确，也可能突然改变行为。旧版本可能会停用。

这意味着AVA不是做完就能不管的项目。团队得持续监控，定期测试新模型会不会出问题，必要时还要调整提示词或重新训练。

这绝对不是一劳永逸的事。我们需要定期检查，看看新模型有什么变化。

用AI代替人工咨询的成本看起来倒是真的便宜，20次查询只要11美分。但这个"便宜"的代价是，你得养一个团队一直盯着它。

缩水的目标

一年多过去，项目接近尾声。如果不出意外，AVA将在今年1月底上线。

但目标已经变了。最初团队想让AI完全代替人工咨询员的服务，现在他们不敢这么想了。

测试下来，AI还是会出现不准确或信息不完整的情况。

外面都在说生成式AI会彻底改变自助服务，但真正做起来才发现是个巨大挑战。

这个项目投入的人力完全超出预期。说好的三个月变成了一年多，说好的完全替代人工变成了"提供一些帮助"，说好的低成本高效率变成了劳动密集型项目。

从这个案例可以看出，用AI代替专业咨询服务、代替人的判断、需要人共情的工作任务，并不那么容易，还有很长的路要走。