有人做了35万个AI,只为了反过来骗骗子
3 小时前 / 阅读约8分钟
来源:凤凰网
澳大利亚公司Apate用AI对抗诈骗,已耗掉骗子17年时间,降低诈骗损失。国内年轻人也用AI反击诈骗,放大善意。AI时代,技术放大人的选择,希望用先进技术保护人类善良。

这两天,我看到了一条特别有意思的新闻。

澳大利亚有一家公司,叫Apate.ai,名字取自希腊神话里的欺骗女神。

这家公司干的事特别离谱,他们造了35万个AI。

而这35万个AI,每天的主要工作,就是骗人。

只不过,他们骗的对象有点特殊。

他们专门骗骗子。

没错,就是你想的那种骗子。

每一个AI,都会装成一个普普通通的人,有老有少,有男有女,甚至口音还各不相同,能说好几种语言,甚至还有自己的性格。

诈骗电话、钓鱼网站、投资骗局等等等等,只要发现一个骗子,他们就想办法派一个AI过去,然后装成受害者,跟骗子聊天。

最重要的是,这些AI有一个非常好笑的共同特点,就是特别好骗。

骗子让转账,它就说好的没问题。

骗子让打开网站,它也说好的没问题。

骗子让填写银行卡号,它还是说好的没问题。

然后真到要执行的那一步的时候,就会突然开始装傻了。

哎呀,我银行卡放哪了?

哎呀,这个密码是哪个呀?

哎呀,我老了,眼睛不好使,小哥哥你再说一遍?

就这么硬生生地跟骗子耗,有些电话,甚至能聊两个多小时。。。

骗子都快崩溃了。

偏偏电话那头的老太太,还特别有礼貌。

“不好意思啊,小伙子,麻烦你再教我一次。”

按Apate自己的说法,他们的AI已经跟骗子聊了250万次,现在每天还在同时跟几万个骗子聊着。

加起来,耗掉了骗子大约17年的时间。

嗯,17年。。。

澳大利亚的电信运营商TPG,已经把将近59万通可疑来电,直接转给了这些Apate的这些AI去接,然后澳洲联邦银行那边,公开报告的诈骗损失直接降低了76%。

最搞笑的是,时不时就有骗子被这些AI拖到崩溃,对着电话破口大骂。

Apate不但不生气,还把这些骂人的片段,专门放进了自己的融资路演材料里,他们的联合创始人说,Apate大概是全世界唯一一家,用户骂自己产品的时候,全公司会庆祝的公司。

而这一切的起源,就是几年前的一次家庭野餐。

Apate的创始人叫Dali Kaafar,那天他带着家里人出去野餐,然后就接到一个陌生电话,这个电话过于粗糙了,一听就是骗子。

不过他没挂,因为为了逗孩子们开心,他就开始搞抽象了,直接装傻仙人附体,非常配合,就这么一句一句地陪着骗子聊。

这一聊,就是44分钟,然后一家人全都笑翻了。

笑完以后,Kaafar突然意识到了一件事。

这44分钟里,那个骗子一直占着线跟他聊,没空去给别人打电话,而原本,也许会有一个独居的老人接到这通电话,也许会被骗走一笔支撑老人活下去的最后一笔养老钱。

当然,代价就是,他自己也搭进去了44分钟。

于是,那一刻,他有了一个新的想法,他问了自己一个问题,这件事,能不能交给AI来做。

因为Kaafar本来就在悉尼的麦考瑞大学做网络安全研究,从那以后,他和同事们开始专门研究诈骗电话,用AI一点一点去拆骗子的话术,2024年,这个想法变成了Apate。

一次野餐时的44分钟,最后变成了累计耗时17年的守护。

如果说这个世界上,有一种东西是我恨之入骨的,那一定是诈骗。

我相信很多人,跟我的想法一样,也是如此。

但现在,AI好像正在改变一件过去特别不公平的事情,就是作恶与防范作恶之间的成本。

最近我也在看缅北电诈那个纪录片,我是真的能感觉到,所有人都在拼命努力,就是想让普通人少被骗一点。

但诈骗有一个非常恶心的地方,就是它的成本结构,天然对骗子有利。

比如一个骗子,可以一天给几百个人打电话,哪怕前面几百个人全部挂断也无所谓,因为这本来就是赌,但只要最后有一个人被骗,他就可能赚到一大笔。

但对于普通人来说,你可能前面一千次都没有被骗。

只要第一千零一次,刚好遇到了一个特别会演的骗子,刚好自己那天心情不好,刚好又碰到了自己的软肋。

那可能,一辈子的积蓄就没了。

骗子可以失败无数次,而你我这样的普通人,很可悲的是,有时候连失败一次的机会都没有。

所以我们国家,我们整个社会,做了无数的工作,一直在想办法提高普通人的警惕性。

那现在,AI来了,既然骗子可以利用技术,把作恶的成本降下来。

那我们为什么不能利用同样的技术,把保护别人的成本也降下来呢?

今年8月份,Apate拿到了815万美元的种子轮融资,虽然在整个AI浪潮中,他们好像很小,但我依然会对他们肃然起敬。并且,他们已经真的开始有银行、电信运营商这些真正愿意付费的客户了。

善意一旦能够持续运转,能够被复制、被规模化,那我觉得,它所产生的力量,就可能远远超过一个人的能力。

很巧的是。

就在Apate这件事火起来的时候,国内也正在发生一件特别相似的事情。

就是最近闹得沸沸扬扬的AI小海。

这个事情我相信很多人都知道了,我大概说一下。

大概呢就是有一批人,用AI批量生成一些长得白白净净的男孩子,天天对着镜头喊“姨姨妈妈”。

来来回回的就是说,今天爸爸生病了,明天自己被欺负了,后天又缺钱了,反正不停地卖惨。

最后让一些中老年女性心疼他,去买他橱窗里的高佣金商品,有些佣金甚至高达55%,大概就是这么一个模式。

最离谱的是,有个79岁的老太太,真的相信了手机里面的小海,一个人买了火车票,跑去山西找他。

因为小海告诉她,可以一起去看杏花,去摘羊肚菌。

但是老太太甚至连到了山西以后,具体应该去哪儿都不知道。

她只知道,小海在那里。

后来是被乘警发现异常,硬生生的问了出来,最后联系家属,才把人接回去。

然后,就在这件事情被曝光之后,国内一群年轻人,魔高一尺,道高一丈,他们决定,也开始用AI反击了。

其中有一个19岁的大学生,叫小舟。

他发现朋友家里的一位老人,因为心疼小海,已经在他的橱窗里面买了好几单东西。

于是小舟想了一个特别有意思的办法,既然老人相信小海。

那就让小海自己告诉老人,他是骗子,于是,他也拿AI生成了一条30秒的视频。

还是那张小海的脸,但这一次,小海摇身一变,成了一个住着豪宅、穿着西装的富二代。

这是《新京报》当时采访小舟时候的视频截图。

这个视频里,小海那个白发苍苍的父亲跑过来,劝他不要再骗那些姨姨妈妈了。

结果小海直接翻脸,说自己根本不在乎那些姨姨妈妈,只要喊一声,她们就会过来送钱。

最后,他还把自己的父亲赶出了门。

这条视频发出去以后,其实只有几十个赞,但小舟的朋友把视频拿给家里的老人看。

那个原来一直给小海买东西的老人,看完以后说:

“哎呀,怎么是这样的呀。”

“我以后不买他的东西了。”

就这样,一条30秒的视频,真的让一个老人改变了决定。

后来越来越多的年轻人受到感染和鼓舞,开始加入。

有人让小海去坐牢,有人让小海抽烟喝酒,还有人让他戴着金链子,在豪宅里数钱。

甚至还有人让小海穿着囚服,抓着监狱的铁栏杆,对着镜头承认自己是骗子。

一场非常奇妙的AI对抗,就这么开始了。

我特别喜欢小舟接受新京报采访时说的一句话。

“善良的人不应该被骗。”

就这么简单的一句话,我觉得,比任何宏大的所谓的那些AI宣言,都有力量。

这两个故事,Apate和小舟的故事,我其实看完了以后,真的非常感慨,而且,这也完美的展现出了,AI时代一个非常特别的变化。

过去,一个普通人想做一件好事,可能有心无力。

而现在,他终于有机会用AI,用技术,把自己的善意放大。

很久以前,我还写过一篇假扮AI的17岁男高中生,用回复治愈了整个B站,他们,都是平凡但伟大的人。

我们每天都在讨论模型有多聪明,讨论它又突破了什么跑分,又能完成多少过去人类才能完成的工作。

这些当然都很重要。

但我觉得,在这些越来越强大的AI背后,那些对人的纯粹的善意,很多时候更加的弥足珍贵。

而我最希望看到的AI未来,大概就是这样。

技术本身其实没有什么立场。

AI正在放大的,从来不只有人的能力。

它也在放大人的选择。

希望未来有一天,我们可以用最先进的技术,保护人类那些最古老、最朴素的善良。

也希望那些善良的人。

永远不必因为自己的善良。

而再受到伤害。