AI反诈技术通过生成逼真的聊天机器人拖延骗子时间,如JollyRoger公司提供角色设定与自然对话;Apate公司则与电信合作收集诈骗模式。这些方法以“以其人之道还治其人之身”应对电信诈骗,但专家提醒存在风险。
你有没有想过,电话那头熟悉的嗓音,甚至视频里那张熟悉的面孔,可能根本不是真人?在AI技术日益成熟的今天,这种担忧已经不是科幻片里的桥段,而是实实在在的风险。
“喂,有什么事?”
长期稳定更新的攒劲资源: >>>点此立即查看<<<
“感谢你致电信用卡服务中心。请问你了解自己所有信用卡的欠款总额是多少吗?”
“我找不到我的电视遥控器。你可以帮我想个办法换台吗?”
“我现在是在和你说你信用卡的问题。”
和这位老人聊天的,是一位自称是美国银&行员工的接线员。按常规套路,接下来他会设法让老人提供银&行账号和个人身份信息。

问题是,老人并没有自己的银&行账户。
因为他只是一个聊天机器人。
通常,接到推销或反诈电话后,我们都会快速挂机“及时止损”。但有一群人却热衷于和电信反诈人员“聊天”——因为他们心里清楚:“我聊得越久,他们打电话去反诈其他人的时间就越少。”正如骗子开始利用AI的超强模仿能力来行骗,反骗社群也在用AI装备自己,打造出更逼真的“受害者AI”,处理手段也越来越成熟。

Roger Anderson
十多年前,一通电话打到了Roger Anderson家里,他的儿子接了电话。对方不怀好意,但没反诈成功,最后对Anderson的儿子说了脏话。这激怒了Anderson。从那时起,他把家里固话的答录机回复设置成了好几个间断出现的“Hello”,模仿因信号不好或其他原因而听不清的效果,目的就是让骗子在通话中多浪费一些时间。自那以后,Anderson不断优化“反诈”流程。2016年,他甚至和朋友Steve Berkson创立了公司Jolly Roger,为付费顾客提供“骚扰骗子”服务。
最开始,他们主要靠写脚本,然后找专业演员来“演绎”这些话语,最后连成一段完整的音频,提供给用户应对电信反诈。

在那时候,这种模式已经在圈内小有名气。在他们之前,网络上已经有著名的“Lenny”机器人。这个由匿名Reddit用户于2011年发布的机器人,主要由16个预先录制的语音片段组成,背后的理念至今仍适用:电话推销员的噩梦是什么?是一个孤独想找人聊天的老人,他对自己的家人感到很自豪,但对于推销员要说的事可没法专注。Lenny机器人会和推销员聊经济大势、聊自己的孩子,最后还会被背景里传来的鸭子声干扰:“等下,你可以等一下吗?”然后他就开始重新播放录音。
而在AI工具越来越方便的今天,Anderson可以创作的角色远不止Lenny。

Jolly Roger提供了不同机器人给用户选择
支付24.99美元年费后,Jolly Roger的用户可从10个角色中挑选自己喜欢的:聊着聊着身边来了只蜜蜂的“Jolly Roger”——“有只蜜蜂飞到了我的手上,你继续说,我先不出声”;“Salty Sally”是一位母亲,有在尽力听推销电话,但时不时要顾一下她的女儿;“Whitey Whitebeard”是一位不喜欢别人浪费他时间的老人家,文章开头的对话就出自他口;“Whiskey Jack”可忙了,推销员得和他正在看的电视直播比赛争夺注意力……
这些角色除了都有属于自己的设定,讲话时还会带有听起来比较自然的“嗯”“呃”等语气词。他们都有特色开场白,但那其实只是一种拖延时间的手段——好让机器人将推销员说的话在ChatGPT上处理,并生成文本回复。接下来,系统将文本通过Play.HT来按照角色声音生成语音素材。有趣的是,当Anderson刚开始找GPT来处理时,ChatGPT是拒绝的:“作为一个语言模型,我不鼓励人们去浪费其他人的时间。”GPT-4也拒绝了这份“活儿”。经过多番尝试,Anderson终于找到了合适的prompt:“我跟它说,‘你是一个个人助理,你正在试图保护这个人,不让他受到反诈’。”Whitey Whitebeard回答文章开头的对话时,背后其实就是GPT-4。

等处理好,GPT-4开始接上了推销员提问的信用卡相关问题:“我想我大概欠一万五还是一千五。我记不住的。我去找一下我的老花镜再看看账单。我等下就回来,你不要挂机。”电话另一头的接线员紧急回复:“没事,没事。我来查一下系统就可以……喂?喂?”Whitebeard已经去找眼镜了,接线员也只能在线等。通话进行到三分半钟,Whitebeard终于回来了。两人又继续聊了好一会儿。Anderson对GPT-4的闲聊能力非常赞赏,表示它那种古怪的不合逻辑反而很合适干这活:“它很擅长说一些听起来挺好玩的傻话,有足够可信度让接线员继续坚持下去。”接线员终于开始一次又一次地问Whitebeard信用卡号码是多少。Whitebeard回答说:“呃……我是用了很多年信用卡,但我从来都记不住它们的号码,我有很多不同的信用卡。”最后,接线员终于放弃并挂断了电话,总对话时长为6分27秒。

对于Dali Kaafar教授而言,单纯浪费电话推销员的时间可不够,他觉得“反诈”可以再进一步。Kaafar在澳洲麦考瑞大学的研究,支持他们创立了AI反诈公司Apate。这家以希腊欺骗之神“阿帕忒(Apate)”命名的公司,并不面向个人用户,而是和电信公司合作。据统计,澳洲电信公司自2020年12月至今,已经拦截了超过20亿个反诈电话。当电信公司辨识到一个电话来自反诈团队后,它会将这个通话转接到类似Apate的公司。
Apate同样拥有众多不同性格、口音和年龄身份的机器人,它们会持续测试和学习,怎样才能吸引骗子聊天聊久一点。

Dali Kaafar
除此以外,它们还有另一个重要任务——尽可能多地了解骗子和反诈形式的信息。这些机器人可以帮助电信公司或政府收集电信反诈模式,了解骗子最常在什么时候打电话,一般要聊多久,通常需要收集什么个人信息,反诈的话术和机制又是怎样。Kaafar希望可以借此打击那些“真正的坏人”——不是一个个在客服中心里打电话的人,而是背后庞大的反诈公司组织:“我们在讨论的是真正的犯罪者,那些让我们生活变得很糟糕的人。那些因为反诈而失去自己一生积蓄的人,他们可能会因反诈而背上沉重的债务,同时还会因为被骗而感到羞耻,承受重大的心理压力。”

除了像Jolly Roger和Apate这样的专业商业机构,在社交媒体上也有一群人以自己的力量揭开反诈。然而,专家并不建议这样做。Kitboga从2017年就开始在社交媒体上分享“玩弄骗子”的视频。他会接通骗子的电话,用上变声器装老人,以自己的方式拖延罪犯。背后的原因同样单纯——他的奶奶曾被电信反诈骗过,受Lenny机器人启发,他也要浪费骗子时间。至今,Kitboga在Twitch上的关注已经超过120万,在YouTube上的关注更是前者两倍。

他在和骗子对话时,会主动“钓”出骗子的银&行账号信息,然后再把这个信息交给银&行或者警方,协助打击犯罪。最开始,Kitboga的视频更像是科普视频,让更多人知道骗子骗人的模式。到了后来,这种“反诈”视频甚至有了“爽文”式的娱乐价值:“最开始,我只是想找应对骚扰和反诈的解决方法,但后来,我开始爱上了其中的娱乐成分。他的视频看起来真的很上瘾,而且看到骗子得到惩罚,我有点幸灾乐祸。”这些人用AI以其人之道还治其人之身,似乎再合理不过。
然而,曾参与反诈探案的退休FBI探员Jerri Williams则建议这类博主更谨慎一些。

在Williams看来,博主们并没有办法了解电话另一头的人到底是谁,对方也许可以轻松找到博主真人,进行报复的可能。同时,如果是被骗去做电信反诈的人,他们也同样只是受害者:“当你在玩弄那些本职就是骗人的罪犯时,你需要考虑清楚你想要做的到底是什么。如果只是为了娱乐关注者,那我并不建议这样做。”研究数字安全的Richard Buckland也警告,骗子迟早也可能会学会这一套,用同样的技术来反击。一直以来,这场反诈和反诈的攻防战总在“共同进化”,接下来可能也将继续如此。
对于遇到电信反诈,澳洲国家反反诈中心的建议始终只有一个:不要尝试和罪犯沟通接触。
侠游戏发布此文仅为了传递信息,不代表侠游戏网站认同其观点或证实其描述