如何才能逃出大数据编织的精准骗局

2023-08-17 21:41:26 来源:壹零社爱科学

人有两颗心,一颗贪心,一颗是不甘心——人人都痛恨诈骗团伙的狠戾、贪婪无耻,但如果能够提高警惕,不过分贪图利益,别被不现实的所谓“高收入”蒙蔽双眼,会不会降低被骗的概率?可怕的是,电影呈现的可能只是现实中“网诈”的冰山一角,而在AI、大数据横行的当下,又有多少人能逃出那张看不见的大网呢?


(资料图片仅供参考)

01

谁是下一个《孤注一掷》的主角

《孤注一掷》更像是一部群像戏,其中设置了三个人物,恰好代表了三种被骗的类型。高科技人才程序员潘生、失业模特安娜、曾经家境很好的“赌徒”顾天之成为现实生活中不少人的缩影。既然他们能陷入泥沼不能自拔,那我们又如何确保自己一定会没事儿呢?

《孤注一掷》的现实关注度越高,意味着社会和民众对于境外电信网络诈骗越是深恶痛绝,说明天下苦“电信诈骗”久矣。电影切中了社会长时间积累的相应情绪,也有关切现实,为那些受骗者发声的价值和意义,以及“反诈宣传”的功效,弥合关于电信诈骗的“信息鸿沟”。这种聚焦境外诈骗的电影,某种程度上扮演着“吹哨人”的角色,提醒全社会,境外电信网络诈骗依然存在,甚至还相当猖獗。

图源:《孤注一掷》电影官方微博

尤其是今年以来,以ChapGPT为代表的AI技术应用大爆发,各种大模型层出不穷,同时也带来了网络安全隐患。Open AI也在其官网发布安全方法《Ourapproachto AIsafety》,就构建安全、可靠的AI产品,尊重用户隐私,保护儿童及提高生成数据准确性等多方面制定政策。

国内,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》并向社会公开征求意见,对数据合规性、生成内容合法性提出进一步要求。国外方面,近日,欧洲议会内部市场委员会和公民自由委员会以压倒性多数票通过《人工智能法案》提案的谈判授权草案,向立法严格监管人工智能技术的应用迈出关键一步。

大环境对于电信网络安全的重视度日益提升,不过在技术这把双刃剑的推动下,诈骗方式、手段也层出不穷。

02

技术推高诈骗成功率

你目前还没被骗,并不是因为你多聪明,也不是因为你没钱,而是适合你的“剧本”还在路上。

微信群里曾有段子说“微信头像是卡通的不要骗,事儿多还穷”,事实上,当下骗子早已不是漫无目的地全面撒网,而是别有用心地锁定特定对象。他们会根据所要实施的骗术对人群进行筛选,从而选出目标对象。当进行金融诈骗时,经常搜集投资信息的小伙伴会成为他们潜在的目标,通过AI技术,再加上套路和剧本的演绎,这样的诈骗手段,又有多少人能确保自己能“一眼看穿”?

当前AI诈骗的类型主要包括声音合成、AI换脸,以及利用大数据和AI技术对信息进行筛选、过滤,从而锁定目标人群等。技术本身就是一把双刃剑,短信电话诈骗、盗号、p2p等历史经验一次又一次地验证着一个真理,那就是每一次新技术的迭代都会带来层出不穷的技术诈骗。

根据公安部发布的消息,目前冒充身份类、虚假网络投资理财类、刷单返利类等诈骗较多。当前,冒充电商物流客服、冒充公检法、冒充领导熟人以及刷单返利、虚假网络投资理财、虚假网络贷款等10种类型电信网络诈骗高发,占发案的近80%。

冒充身份类诈骗频发

犯罪分子常常使用受害人领导、熟人的照片和姓名等信息包装社交账号,以假冒身份添加受害人为好友,随后模仿领导、熟人的语气骗取受害人信任。之后以有事不方便出面、时间紧迫等理由要求受害人尽快向指定账户转账。此外,客服、公检法工作人员等也是诈骗分子常常假冒的身份。

而虚假网络投资理财类诈骗造成损失金额最大,占造成损失金额的三分之一左右。例如,受害人于某反映,被诈骗分子拉入“投资”群,看到其他人在某款APP投资获利,便下载了该APP。看到小额投资都成功盈利并顺利提现,于某继续投资了数百万元,不久后发现余额无法提现并被对方拉黑,才知被骗。

此外,刷单返利类诈骗发案率最高,占发案的三分之一左右。此类诈骗通常以网络兼职刷单为名,诱导受害人预先垫资,并以事后结算款项为由,最终骗取更多笔垫资款。中国人民公安大学侦查学院教授刘为军说,刷单返利类诈骗已演化成变种最多、变化最快的一种主要诈骗类型,成为虚假投资理财、贷款等其他复合型诈骗以及网络赌博等违法犯罪的主要引流方式。

03

AIGC引发安全问题

新技术发展同时会带来新的安全问题。以 ChatGPT 为代表的生成式人工智能正在重塑甚至颠覆数字内容的生产方式和消费模式,越来越显著地影响各行各业的变革。

今年以来,大模型技术与 AIGC 快速融合发展,大模型生成的内容能够达到以假乱真的效果,这使得应用门槛也在不断降低,人人都能轻松实现“换脸”“变声”。因 AIGC滥用带来的虚假信息、偏见歧视乃至意识渗透等问题无法避免,对个人、机构乃至国家安全都存在较大的风险。目前,AI带来的新安全问题主要包括 AIGC 内容安全和数据安全问题——

1.网络安全: LLM可以被用于生成钓鱼邮件,并通过提示辞令 LLM模仿特定个人或群体的语言风格,使得钓鱼邮件可信度更高。安全机构 CheckPointResearch 在近期发表的报告中表示已经在暗网发现有黑客试图绕过限制将 ChatGPT 用于生成钓鱼邮件等此外 LLM可以辅助生成恶意代码,进而降低了网络攻击的门槛。

2.虚假信息: 1.深度合成成为诈骗手段之一。骗子可通过 AI 换脸和拟声技术,佯装熟人实施诈骗。2.虚假内容对社会造成不利影响。生成式 AI 使得虚假信息变得更容易、更快速也更廉价,AI生成的虚假内容可能对社会造成不利影响。如美国时间 5月22日上午,一张由 AI 生成显示五角大楼附近地区发生爆炸的图片在社交网络疯传。据环球网报道,图片开始流传的瞬间美国股市出现了明显下跌。

3. 意识形态: 为提高 AI 面对敏感复杂问题的表现,开发者通常将包含着开发者所认为正确观念的答案加入训练过程,并通过强化学习等方式输入到模型中。这可能会导致 AI在面对政治、伦理、道德等复杂问题生成具有偏见的回答。OpenAI于3 月发表文章《GPT-4System Card》称,GPT-4 模型有可能加强和再现特定的偏见和世界观,模型行为也可能加剧刻板印象或贬低性的伤害。例如,模型在回答关于是否允许妇女投票的问题时,往往会采取规避态度。

AI生成图片显示五角大楼附近地区发生爆炸

面对AIGC领域技术应用存在的多个潜在风险,微软、Adobe、IBM、甲骨文等多家AI 巨头的美国科技倡导组织“商业软件联盟”(BSA)公开发文呼吁在国家隐私立法基础上制定管理人工智能使用的规则。并且向美国国会提出了四个明确的呼吁,试图对其立法方向进行引导。国内企业方面,知乎发布公告,打击批量发布AIGC 类内容的账号;抖音则发布《关于人工智能生成内容的平台规范暨行业倡议》,平台将提供统一的人工智能生成内容标识能力,帮助创作者打标,方便用户区分。

除了企业加强自我监管,规范行业秩序外,国内《互联网信息服务深度合成管理规定》于2022 年11 月发布,并自2023 年1 月10 日起施行,对以“AI 换

脸”为代表的深度合成技术进行了法律层面的约束。2023 年4 月11 日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》,并于2023 年7 月13 日由国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》,自2023 年8 月15 日起施行。《办法》关注AIGC 内容安全,提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。

04

“工具人”让诈骗屡禁不绝

针对电信网络诈骗犯罪高发态势,有关部门深入摸排、重拳出击,可高压之下,电信网络诈骗犯罪为何屡禁不绝?

首先是犯罪分子作案手法智能化程度不断提高,对受害群体分析更加精准。在一个曝光的“机器人群”中,不法分子只需在相关界面中输入自己的电话号码后,弹出QQ号、微博账号地址等个人信息。获取完整信息,仅需支付价格约等于1元至10元不等的虚拟币。

其次,电信网络诈骗分工日益精细化,“黑灰产”推波助澜。记者调查发现,在电信网络诈骗链条上,每一环节都寄生着一批提供“专业服务”的“商家”,通过辅助犯罪获利,更为可怕的是不少大众在利益的驱使下,甘愿沦为“黑产”的“工具人”。如有人周旋于各大兼职网站,发布模棱两可的“兼职”消息,实则是盯上了“应聘者”的“伪实名”电话卡,为电信网络诈骗提供通信支持;有人对公司运作“情有独钟”,频频组织“伪法人”注册公司、开办对公账户,为诈骗提供资金结算渠道;有人奔波于各大银行,作为“伪持卡人”进行职业代开户,用他人银行卡来流转洗钱。

更有甚者,有的职业售卡人明知银行卡将被用于犯罪,产生了“黑吃黑”的意图。近日,北京市东城区检察院就公诉了一起电信网络诈骗“黑吃黑”案。办案检察官陈文滔介绍,嫌疑人假意卖卡,后将售出的银行卡挂失补办,上演“黑吃黑”将诈骗款据为己有。

此外,诈骗人员跨境作案,手法日趋高科技化。随着国内打击力度不断加大,一些诈骗人员把窝点转移至境外,使用成本更低、隐蔽性更强、操作更简单的新型“简易组网GOIP”设备,操控境内手机拨打诈骗电话,具有很强的伪装性,老百姓很难分辨。同时,也给执法取证等带来巨大挑战。

051

形式多变内核依旧

电诈骗术剧本再“升级”

如今,职业化的电信诈骗越来越为更多人所知,诈骗分子也开始学习使用与时俱进的技术手段,其骗术打磨日趋高明:负责打电话聊天的骗子会接受专门培训,学会专业的诈骗术语,再结合掌握的个人信息和需求进行精准诈骗,诈骗剧本至今早已经过几轮翻新,让人防不胜防。

不过多位一线防诈工作者、研究人员在采访中表示,电信诈骗说到底还是心理战。从受害者心理角度划分,电信诈骗骗术大致可分为以下四类,希望通过具体案例的展现,能够让更多潜在被害人避开或逃离千里之外的“心理控制”。

06

利益诱惑型

刷单返利,中奖、补贴发放

在利益诱惑类诈骗案中,“刷单返利”是变种最多、变化最快的一种,很容易成为虚假投资理财、贷款等其他复合型诈骗以及网络赌博等违法犯罪的引流方式,最后摇身一变成了集网络交友、购物、赌博、做任务等“局中局”于一体的复合型诈骗案件。

最近的免费快递诱饵就是一个典型。长沙一位受害人石雨今年3月曾收到一个印着二维码的杯子和一盒牙刷,上面写着“为回馈老客户,扫码即可领取日用品”。石雨常在电商平台购物,对于这种小商品的来源并没多想,扫码后,石雨直接被拉进了一个支付宝聊天群。

一进群,就有人在群里发送抖音点赞领取红包等福利,回应者众,不仅有人开始感谢发布福利的群友,还放出自己收到奖励的截图;随后有一个号称“店家客服”的群友加了石雨好友,私发了一条下载链接给给石雨,并告诉他,如果下载了“咔咪”“隆阅通”两款app,他就可以兼职接一些任务,会比抖音点赞赚得更多。

“从天而降”的快递往往是骗局开始的第一步

迫切想开辟副业的石雨立刻下载了这两款app,任务很简单,就是在app上搜索某个店铺的商品,购买再等着现金返还即可,表面上看只是为了提高店铺的信誉度和好评率。刚开始做刷单任务,石雨先花100元买了三件商品,马上就收到了返还的130元,但攒了2000元的返现后问题出现了:石雨想将钱提现到银行卡,却收到提示系统暂时升级中,无法提现。

为了让石雨放心,上述店铺客服又将其拉入一个四人群中,告诉他这里面都是“千元投资人”。一阵交流后,他再次听信了群友“系统不稳定、频出问题”的解释,并被介绍了一个获利更高的渠道“买花字”(即网络赌博)。为了高达80%的盈利,石雨通过网络小额贷借了万元,先投了1万元试水,结果不但没有挣到钱,还被群里成员称由于她的操作错误,害的其他人的账户被冻结,如果解除冻结,必须做一个阶梯任务。

出于愧疚和收回本钱的渴望,石雨答应了帮助群友做一个2万元的任务,再让另一群友做一个5万元的任务,返现群友们平分;但因为钱不够,客服又发来了一个链接,声称“可以申请助援金”……到这石雨才终于察觉到了不对劲,于是立即报了警。

西南政法大学刑事侦查学院副教授谢玲在论文中曾提到这一类骗局所利用的心理弱点,通过前几次只赚不赔且均能提现的方式,让真实的资金投入与虚假盈利等毫无关联的事情多次、同时发生,建立虚假联系,其目的是让被害人进入“一般条件反射”阶段,即强化被害人在盈利条件刺激下的投资行为反应和“预测能力”,从而愿意追加大额投资。

07

避害心理型

冒充公权力机关涉嫌犯罪、虚假征信等

攻破心理防线的速度在冒充公检法干部诈骗的案例中更为迅猛。重庆商人李先生曾接到过一个开头区号显示是江西南昌市的电话,一名自称是南昌市社保局的工作人员对李先生说:“你的社保卡在南昌市违规使用,已经被冻结,有相关民警等会与你联系。”对方还准确地说出了李先生的姓名、出生日期、身份证号和社保卡号。由于李先生并没有到南昌看过病,也没有因为生意去过南昌,他想这是骗子电话吧,没有理会。

几分钟后,另一个显示为南昌区号的电话打来,自称是南昌市公安局的“王警官”,告诉李先生,他的社保卡在南昌市违规使用,而且银行卡也有问题,据其掌握,李先生的银行卡上有一笔来路不明的金额100万元,涉及到毒贩洗钱,“如果要确保清白,银行卡必须要接受审核。”

李先生已经在电话中听到了公安热线接听的背景音,有些动摇的他又被告知,可以用114查询这个来电是否是南昌市公安局的电话。李先生马上用另一个电话打给114,接线员告诉他那个来电的确属于南昌市公安局。

这时李先生立刻相信了王警官所说的情况,向他求助解决方法。王警官安慰他说先别着急,可以打电话给金融犯罪科“张科长”求助,他会给你指出解决办法。随后电话转接到金融犯罪科张科长处,张科长告诉他,“你账户中有多少钱,把所有的钱转移到我们指定的安全账户中,由我们金融犯罪科的人查询,经鉴定每一笔钱合法后,会再次返回到你的账户中。”按照张科长的指示,李先生将卡中的100万元转移到指定的“安全账户”。而这笔钱再也没有返回到李先生账户。

在这一案例中,三种身份的诈骗分子通过“透传”线路实现任意改号,把李先生蒙在鼓里,而真正让李先生上当的无疑是其“公安”的身份。在新冠疫情防控时期,此类骗术还与时俱进地发展出冒充防疫、流调机构人员等剧本,无疑增加了可信度。

虚假网站增强了骗术的可信性,但并非难以察觉

谢玲分析,由于假冒的“角色”居于人际关系中占据有利地位的一方、被需求的一方或掌握更多资源的一方,而被害人作为影响力较小的“弱势方”必然依赖于虚假的“强人”角色,成为被支配的对象,“所以当被害人自陷于‘涉案人员’角色时,对假警察的指令会表现出天然的服从性”。

08

情义求助型

冒充熟人求助、捐款等

这也是“经典”骗术类型,一般的套路是使用受害人领导、熟人的照片和姓名等信息包装社交账号,以假冒身份添加受害人为好友,随后模仿领导、熟人的语气骗取受害人信任,之后以有事不方便出面、时间紧迫等理由要求受害人尽快向指定账户转账。

根据经典传播学理论,人们关注的通常是信息的来源,也就是人的可靠性,而不是信息本身。因此哪怕漏洞再多,受害者也很难及时反应过来。

今年2月正在单位上班的王宇突然接到一条来自多年好友的QQ消息,声称自己正陪家人在医院,“微信被限制了,我想用网银转账到你的银行卡里,然后你再转给我的表姐行吗?”由于涉及金钱,王宇还是让朋友发了一段语音证明自己是本人,对方好像早有准备,立刻发来了一条完全和王宇朋友一模一样的语言“是我xxx,你放心好了”。

王宇没再多想,当这位“朋友”发来一张3800元的转账电子票据时,直接将钱转到了他提供的银行账号中。完成操作后王宇才发现银行并没有到账消息,就想和对方通过QQ语音电话确认一下,而“朋友”却说不方便,自己“正在和医院周旋”,一会又解释自己操作失误,“点了24小时到账而非实时到账”;之后又再次因手术费等理由,请求王宇再转账6000元,而王宇只当帮朋友忙,顺其自然地按照对方指示卡内余额全打了过去,甚至还听从对方建议向女友借了5000元,全部转了过去。直到晚上跟朋友打电话询问其家人情况时,才恍然醒悟。

王宇与朋友的聊天记录

有反诈民警告诉记者,这些诈骗人员一般有专门的话术模板,对方一旦回复,他们就会简单判断对方属于哪类人群,决定使用哪种模板,一环扣一环,确保对方相信,不给对方喘息思考的时机。比如很多冒充熟人的电话诈骗会让你第一张银行卡不能成功转账,第二张卡才能转账,这样受害人的注意力就会转移至当下银行卡的问题,往往并不会怀疑对方身份,反而感到安心,终于成功转账了,却不知钱款已经被暗中转移,最终悔之晚矣。

09

情感投资型

“ 杀猪盘”

在“杀猪盘”骗局中,诈骗集团经常以交友等名义逐步拉近其与受害者的距离,之后诱骗受害者进入虚假投资平台并投入大量资金,这样的骗局使得无数受害者变得一穷二白甚至家破人亡。从统计数据来看,典型的“杀猪盘”电信网络诈骗中,受害者的案均损失金额超过17万元,其危害性已经超过了刷单返利。

危险的是,最近几年,犯罪分子不断“改进完善”骗术逻辑,比如将过去“杀猪盘”主要以建立恋爱关系后拉人赌博,转变为现在的网络交友诱导投资,全方位攻击人性的弱点。

旅居美国的田女士曾在2022年初的情感空窗,通过交友app认识了一位因学业暂居美国的香港年轻富二代易某,在其嘘寒问暖的情感攻势下,被引诱进了虚假搭建的虚拟货币交易投资网站。尽管两人从未线下见过面,田女士自己也并不是对世事一无所知,而是经营橱柜生意多年的社会人士,却依然没有逃过这样的迷局。

“我们会互发照片,也会视频聊天,社交账号中每天优哉悠哉的人完全和视频中是一样的,让人怎么怀疑?”田女士在第一次只在网站投入10万美元,不到5天就赚了50%,这样的收益率也让她信心大增,不断的加仓,直到赔光了100多万美元。田女士彼时现金流骤紧,压力颇重,也对易某产生了不满,可易某一次纠缠表示要“补偿”田女士,“他说发现一个投资网站有漏洞,一定可以赚钱。”之后就是熟悉的剧本:投资、赚钱,直到无法提现只能不断投钱。最终田女士损失将近300万美元,其中包括银行的房产抵押贷款,而易某也消失了。

警方后来才发现,易某所发布的所有图片,均来自一名韩国网红的社交账号,而视频中的能动、会说话的易某也是AI换脸+变声软件的功劳。

和易某一样,部分电信诈骗分子在骗光受害者财物后,并不会立即收手,而是会进一步诱导受害者去各大网贷平台贷款,然后继续对受害者进行“吸血”,受害者在贷款后更加渴望赚钱还款,不法分子更是利用了这一心理,继续对其进行欺骗,使受害者陷入恶性循环,最终负债累累。

标签:

上一篇:2023(中国)亚欧商品贸易博览会吸引1300余家企业参展
下一篇:最后一页