诈骗团伙用AI客服行骗，一天能打 1500 个电话
2020-08-12 14:19:29
By 超神经
内容概要：AI 智能客服技术日趋成熟，随着语音合成技术不断提高，合成的 AI人声真假难辨，加上自然语言处理、多轮对话的加持，AI 客服已经能够胜任很多场景的功能需求，同时也给不法分子带来了可乘之机。
关键词：语音助手 AI治理
年近六旬的王阿姨（化名）近心情大好，觉得终于轮到自己赚大钱了。
一个月前，她接到了一个礼貌客气的理·财产品推荐电话，客服的声音清脆悦耳，对她的回答耐心倾听。她根据客服的引导，加入了一个微信群，每天「老师」都会在群里指导其他群友进行投资，王阿姨比较谨慎，潜伏在群里看着其他人整天聊得火热。经过半个多月的观望，王阿姨愈发相信投资老师和群友们「水平」很高，根据「老师」的指导赚到大钱。王阿姨先试探性地向「老师」推荐的某某财 APP 里投资了五万元。果真，当天就产生了不小的收益。王阿姨随即拿出了大半辈子的积蓄，向 APP 里充值了近六十万元。看着账户里的数字蹭蹭蹭往上涨，王阿姨憋不住开心，告诉了家人。家人听着不对，想赎回这笔投资，却发现资金久久不到账，拨打客服电话也没有人接听。王阿姨这才意识到可能受骗了，回过神来已经被踢出了投资微信群，曾经耐心热情的投资导师也已联系不上。
经过短短两个多月的侦查，警方终成功抓捕犯罪嫌疑人 19 人，查获了大量作案电脑和手机。湖南省岳阳市民警在工作中发现，位于岳阳楼区新路口某小区内的一家信息服务公司，疑似从事电信诈骗违法犯罪活动。于是，将该公司 7 名员工带至执法办案中心调查。
经查，该公司负责人黄某华（男，32 岁，岳阳市人），购买来的「AI 平台」中的智能客服，以每天拨打 1000-1500 个电话的速度，用推荐投资产品的话术，向外呼出钓鱼电话。再将正在炒股或者有炒股意向的受害人，拉入预先建立的虚假炒股微信群。往往一个群里几百号人，只有不到 10 人是受骗群众。其他都是配合表演的僵尸微信号，每天在群内交流虚假的高额回报，进而对受骗群众实施诈骗。黄某华被依法刑事拘留并被批准逮捕，该公司 7 名员工被依法治安拘留。民警在审讯过程中，发现犯罪嫌疑人学历普遍不高，对诈骗中实施的具体技术不甚了解，那么背后一定还有其他团伙提供技术支持。于是，5 月 12 日，岳阳楼公安迅速成立了专案组，对这起案件背后的技术提供方进行深度扩线挖掘。通过侦查，专案民警发现他们所用的 AI 客服机器人，来自广东的一个 AI 智能平台。该平台提供 AI 语音客服、微信群聊助手等多个功能，还为「客户们」提供诈骗类「话术」模板 78 套，内容涉及保健、理·财、股票等。经过强化分析研判，专案组民警初步掌握了 AI 智能平台老板、代理、销售、技术及财务人员活动轨迹。7 月 16 日上午，三个专案抓捕小组在广州专案指挥部的统一调度下，在深圳龙岗、广州黄埔、惠州惠阳警方的大力支持下，成功抓捕犯罪嫌疑人占某（男，34 岁，广东惠州人）等 8 人，现场查获多台作案手机及电脑。7 月 18 日上午，专案组在深圳龙岗警方的支持下，直捣 AI 智能平台公司总部，成功抓获主犯练某强（男，37 岁，广东增城人）等 3 人，现场查获作案手机 20 余台、作案电脑数台，扣押涉案现金 100 余万元，冻结涉案资金 1000 余万元。令人意想不到的是，截至 2020 年 6 月，在该 AI 智能平台注册的帐号共计 123 个，遍及湖南、湖北、广东、河南、重庆、北京等 12 个省、市，这些账号均为涉嫌金融诈骗的小团伙，自 2020 年三月底至七月初，短短三个月内，该智能平台的流水就高达 3000 多万元。目前，包括黄某华在内的 12 名主要犯罪嫌疑人，已全部被公安机关依法刑事拘留，还有 7 人被依法治安拘留，相关案情正在进一步深挖之中。智能对话、语音合成技术，让 AI 客服表现惊艳，真假难辨，也让犯罪分子有了可乘之机。2020 年上半年，共破获电信网络诈骗案件 10.1 万起，抓获犯罪嫌疑人 9.2 万名，同比分别上升 73.7%、78.4%。我们在搜索引擎中输入「AI 语音机器人」，就会出现「电销」、「群呼」之类的推荐结果。在其中一款机器人销售页面，功能介绍写着：智能学习话术，精准识别对答，一键自动群呼，客户资料管理……等等。每当我们在面对技术带来的负面影响时，都会讨论到这个问题。但很明显，短期也不会有明确答案。拨出电话、引诱群众受骗的是技术，但酝酿害人之心，着手实施诈骗的却一直都是技术背后的人。
想解决技术的问题，首先需要解决的依旧是：人的问题。
