AI的张良计与过墙梯:3·15智能骚扰电话下的冰山脉络

今年315晚会上,智能骚扰电话被点名,据央视报道,骚扰电话已经成为了产业链。

在今年的3·15上,果不其然AI被点名了。抛去属于“质量问题”的虚假智能产品以外,更引人关注还要数“智能骚扰电话”。

相关报道提到,一些所谓的“大数据企业”通过WiFi探针识别到连接无限网络的手机。然后,在用户完全不知情的情况下获取用户的私人MAC信息,再将MAC转换为手机号码,与大数据相互“匹配”,再利用仿真人的AI机器人进行外呼。

这其中,AI参与的环节其实只有最后的外呼一步。其原理和智能语音客服没有差别,都是通过语音生成技术替代人力,实现广泛的高效骚扰。

被曝光后,很多人开始讨论起AI的伦理问题、AI的负面效应等等。

可我们只想说一句:这才哪儿到哪儿啊!

AI技术有几个显著的特点,比如足以替代人类的超高识别效率,又比如对于图像、声音强大的模仿能力和生成能力,加上日益提升的理解能力。这一切足以让AI成为“天生的骗子”,这一次3·15所揭露出的,仅仅是冰山一角而已。

砍平门槛:AI如何让我们的世界门户大开?

今天,我们就可以从AI的几项能力上来看看,那些已经出现在我们身边,已经即将到来的AI行骗方式。首先是高效的识别能力。

利用机器识别出一段语音、一张图片或是一张面孔,本来与行骗一事关联不大。但这种能力破解的是一种以效率增加行骗作恶成本的保护机制。

就拿发骚扰邮件、骚扰短信这件事来说,当同一个IP的行为太过频繁时,验证码机制的加入可以拖缓发送效率,让行骗者无法使用脚本进行自动发送。而AI图像识别的出现,就彻底破坏了这一机制。

在2017年曝光过的“1·03”网络“黑产”系列专案中,黑客就是用AI的图像识别能力识别图片验证码,识别正确率高达95%以上。在此平台被打掉的前3个月,已经提供验证码识别服务259亿次。

如此一来,行骗成本和难易程度都被大大降低,为后续的行为创造了极大的空间。

信任崩塌:当AI可以制造幻觉在踩进门槛之后,AI的学习能力便成为了最大的威胁。当眼见不能为实,耳听也可能为虚时,我们原本能够应用上的验证方法便会立即失效。

这其中有最臭名昭著的AI换脸:去年曾经有开发者在社区中分享自己利用深度神经网络将影片中女主角脸部替换的过程,只需要在视频网站上找到替换对象各个角度的照片和视频,进行数据标注,再利用TensorFlow上模型对原视频女主的表情、口型进行学习,就可以在数据库中找到对应的图像和视频进行替换。

前几天惊艳四座的“杨幂换脸朱茵版黄蓉”,也应用的是类似的技术。这便意味着,也许很快在我们接到视频电话时,连对方熟悉的相貌都不能相信。也许大家会觉得,虽然AI能够攻破内容,但视频、电话等等整个沟通过程还是相对安全的。可实际上,通过对语音的模仿在微信上进行诈骗的事件已经开始发生在我们身边。

去年的燕赵都市报曾经报道过一桩案件,一位女士在微信上接到父亲的微信消息,称需要借款,该女士要求父亲发送语音验证,结果自己听到的却是犯罪分子通过语音生成技术模仿的声音。

而且语音模仿的门槛要比图像模仿的门槛低很多,就拿科大讯飞曾在2018年展示过的声纹技术识别来说,只需要一分钟的语料,就能够惟妙惟肖的模仿出对方的声音。

超能力之外:AI行骗的三个恐怖趋势

AI在行骗这件事上,拥有的不仅仅是识别、模仿、生成这些能力天赋。更多的是簇生了很多令人胆寒的趋势。

趋势一:AI技术的易得性

上诉所提到的人脸替换、声音模仿甚至图像验证码识别,因为这些技术本身是中立并且相对基础的,所以获取这些技术的途径很多。很多技术代码甚至被公开在开发者社区中,或者在开发平台上就能找到免费API接口。

这便意味着,行骗者的技术升级将越来越容易、成本越来越低。

趋势二:自我保护的困难性

以往面对很多诈骗方法时,我们是可以进行自我保护的,例如不乱连接公用WiFi,或是在丢弃快递包裹时涂黑自己的电话地址。但AI技术的一个特性就是,我们在互联网上随便遗留点什么,都能被犯罪分子利用。

几句音频可能会让AI合成自己的声音去向亲友借钱,几张照片和视频可能会被人脸替换到其他视频上进行勒索,甚至就连聊天记录和朋友圈都可能成为AI的训练数据,用来模仿我们的说话语气。

防无可防,是AI行骗最令人无奈的一点。

趋势三:AI效率的无限可能

但更令人担心的,应该还是AI的超高效率。在过去犯罪分子之间似乎还存有一定的“封闭性”,各自掌握的犯罪方法只在内部小范围传播,也意味着受害者的范围是有限的。但AI的高效特性,意味着骗术的受害范围将不再受行骗者自身人力所限。

就拿上文提到的图像识别破解验证码来说,几百亿次的验证码破解,几乎可以突破行业记录。也同样是这一组织,利用智能对话功能模拟了无数女性,通过聊天来诱导异性为自己发送红包来获利。这种过去可能要一个人负责十个微信号的骗术,如今在效率上可以实现N次方。

我们可以想象,在今天在某一领域出现了什么漏洞,AI骗术很可能快速钻空子,造成极大范围的损失。

AI的张良计与过墙梯不过在诈骗这件事上,永远都是你有你的张良计,我有我的过墙梯。AI技术除了在被动的被行骗者利用以外,更多的时候是在主动行动,改变现状。

例如AI可以利用无监督学习能力,无需数据标注就可以进行工作,恰好可以应对行骗者不断改头换面逃避识别的心态,在海量数据中迅速挖掘,将IP地址、账户行为模式等等数据维度进行关联,识别出可疑行为。腾讯就曾经利用类似的方式,建立了用来寻找并精准定位伪基站的“麒麟”系统。

而AI对于数据的广泛应用,不仅仅可以用来挖掘普通人的蛛丝马迹,也可以通过对公开数据进行挖掘并建立管理,来保护大众远离诈骗。英特尔就曾经推出过反商业欺诈平台Saffron,通过对保险欺诈者以往与保险企业的对话、文书数据收集起来进行训练,得出可以识别商业欺诈谎言的模型,帮助企业减少被欺诈的几率。

至于AI对于声音和图像的生成能力,也证明了AI对于声音和图像更强大的识别能力。例如能在1分钟内模仿他人声音的科大讯飞,同样也能声纹精准识破语音模仿骗局。

据称这种技术已经应用到电话诈骗案件侦查上,效果显著。而平安集团则发布过微表情识别模型,通过皱眉、张嘴、挑眉等等表情识别出54种情绪,来识别用户在线上申请贷款时有没有撒谎。

数据显示,目前在线上贷款业务上,微表情欺诈识别准确率已经达到了80%。其实不论“张良计”还是“过墙梯”,都是技术发展的正反面。混乱无序与稳定向好本来就是一体两面,正因为有所冲撞,才能激发出更多能量,推动技术不断向前滚动。

 

作者:脑极体,微信公众号:脑极体

本文由 @脑极体 原创发布于人人都是产品经理。未经许可,禁止转载。

题图来源于 Unsplash,基于CC0协议

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处: AI的张良计与过墙梯:3·15智能骚扰电话下的冰山脉络