我的新同事,被AI劝走了
10 小时前 / 阅读约7分钟
来源:36kr
年轻人初入社会常用AI审查合同,但AI审合同存在大模型幻觉、行业经验缺失、价值判断不足等问题,且不承担法律责任,过度依赖AI审合同易造成问题,AI+法律类应用前景尴尬。

去年年底,我参加一个大模型类应用的年终总结会。会上数据显示,用AI审查合同专业类AI应用里的调用量第一名,甚至超过了文案生成、PPT制作、医疗建议等一般意义上的主流AI应用。

这当然很好解释,作为AI主要用户的年轻人,初入社会时需要突然面对劳动合同、租房合同等等一大堆合同。大多数非法律专业的同学,面对条条框框的复杂合同,当然第一选择是向AI求助。

当时看到这个数据我也觉得很合理。直到最近发生了一件事,让我对用AI审合同这件事有了一点新的观察和思考。这件事也很简单:我们准备招聘的新同事,在签署劳动合同之前被AI劝走了。

01 被AI劝走的新同事

事情大概是这样的。两个月前我们预计招聘一位新同事,工作内容和薪资待遇等都已经谈妥。但在签署劳动合同的环节出了问题。这位准同事列出了合同中的很多问题,要求进行修改,否则就不能入职。

这里必须强调一下,并不是说劳动合同不能修改。劳资双方商定劳动合同内容是天经地义的事,也不是说我们这份工作有多好,非来不行。招聘这件事本来就是双向选择。

这里仅仅想要讨论审查合同这件事本身。这位新同事列出了众多合同修改需求。公司法务看过之后的第一反应就是这应该是用AI审的。一问之下果然如此。新同事说她刚刚毕业,没看过合同,于是让一个非常主流的大模型代替完成了合同审查。

但问题是,公司法务认为AI提出的修改意见里有很多是无法接受的。比如AI说为了帮她保留应届生身份,因此必须把劳动合同修改为实习协议,但我们并不是要招聘实习生,这个修改显然很难满足。

于是,由于双方无法达成共识,这位新同事决定放弃入职。这个选择当然没有问题,但亲身经历了年轻人用AI审合同这件事之后,还是给我们带来不少思考。法务同事告诉我,AI审劳动合同往往一眼就能识别出来。比如,我们的合同是基本参照本市劳动合同模板输出的,但AI的审核意见会杂糅各个地方的劳动法规,甚至还会吸收很多网络上的劳动合同修改案例,从而尽可能多地提出意见。

但这些意见是否合理,是否掺杂了干扰信息,以及资方是否能够接受,都不在AI的负责范围里。

由此细究下去,我们这次招聘本身可能无关紧要,但会不会有人确实因为AI的意见,拒绝掉了本应珍惜的工作机会呢?

02 AI审合同的小小梦魇

事实上,用AI审查合同这件事经常出现各种纰漏,审查劳动合同只是其中一个比较典型的场景罢了。这里面的关键问题在于,大语言模型的基础工作逻辑是尽可能多地输出内容,不过分在意所生成内容的严谨性。这也就产生了所谓的大模型幻觉。但问题是,审查合同这件事本身是非常要求严谨性的。这就让AI审合同这件事很容易被打上死结。

这里面最典型的问题就是AI会在审查合同时加入幻觉内容,引入事实性错误。为了能够自圆其说,很多AI会引用不存在的司法解释或者判例,并且很容易将互联网上的所有相关信息都视为抓取对象,也就是说非常容易出现模型污染。

这种情况落在审查合同、诉状生成等AI+法律场景,就很容易产生千奇百怪的错误。比如2023年有一桩民事诉讼。其中一方的代理律师就用AI生成了诉状,结果被发现AI引用了并不存在的最高法判例。类似情况在专业律师想要轻松一下,用AI偷个懒的时候都难以避免。非法律专业的普通人,很容易陷入AI说什么就是什么,根本无从分辨幻觉内容的尴尬境地。

另一方面,AI审查合同往往法律能力相对可靠,但行业经验严重缺失。

包括劳动合同在内的很多合同,都大概率要包含所处行业的行业惯例与行业规则。但这些内容往往是AI无法掌握的。这就导致AI只能照搬其他领域合同的审查经验,从而导致很多问题。比如说,AI很难判断一些模糊表述在本行业、本领域中是否适用,从而难以分辨背后的合同风险与公平问题。

再有一个,AI的价值判断与法律推理能力不足。

一位法律专业的朋友告诉我们,他发现当一份合同中包含了较为复杂的销售、服务内容,合同中包含不同的税点时,AI就会无法分辨、难以理解适配哪种。类似需要权衡利弊,进行推理判断的问题,都不是AI的强项。换言之,AI审查合同是十分死板的。当我们需要签署较为复杂、灵活的合同时,AI的弱点往往会充分暴露。

最为关键的是,AI不会承担任何法律责任。它可以洋洋洒洒提出众多法律意见,但并不会为合同签署结果负责,更不会为没有签署某份合同而惋惜。

当前阶段,很多人都习惯将AI视作一个免费且专业的律师。尤其是年轻人初入社会时,AI更是审查合同时的天然帮手,甚至很大程度愿意放手让AI接管。

但这种情况很容易造成对AI的过度依赖。还是那句话,本应严谨的事情,不能用随意的方式来应对。

03 鸡肋难题

由这个话题可以再多讨论一点。就是AI审查合同为代表的AI+法律类应用,真的有我们想象中那样前景广泛吗?

对普通人而言,AI+法律类应用确实带来了极大便捷,但我们无法确认AI是否可靠,可能还是需要求助专业的法律人士,这就让AI在其中的作用和位置变得有些尴尬。

而在法律专业人士看来,AI审合同更是非常鸡肋。上文中提到的法律从业者告诉我,目前AI的特点是法条引用比较精准,但行业经验和判断能力严重缺失。然而现实情况是,诉讼场景法条应用比较多,但诉讼律师已经是非常顶尖的法律从业者,他们只占行业的很少一部分,并且诉讼场景需要非常严谨,从业者极少会依赖AI。

而在更加大众化、需求量更大的AI审查合同场景,反而会暴露AI的弱势。合同审查需要的是经验与利益判断,这些AI往往并不擅长。

而且很多企业与行业有着严格的保密性。AI审查合同意味着需要将合同内容上传到服务器,这意味着核心机密信息的外露。但如果要本地搭建专门用来审查合同的AI服务器,又会带来高昂的企业成本。在专业律所收费已经非常平价的今天,盲目追求智能化合同审查显然是不划算的。

还有一个问题,如今法律从业者数量非常多。而审查合同往往是新人进入这个行业的第一站,也是维持法律行业就业基数的根本需求。这意味着大量推进AI审查合同,很容易遭遇从业者的抵制。

懂法律的不想用,不懂法律的用不好。最终导致AI审查合同这件事,变成了一个鸡肋难题。

当科技产业惊喜于终于给AI找到了一个合情合理的商业场景时,是否想过可能是在盖一座空中楼阁?