动画《成龙历险记》中“老爹”这一角色曾有一句名言:“要用魔法击败魔法。”随着 AI 技术的发展以及部分滥用,这句话也被应用在了人工智能上,一场新的军备竞赛开始了:人工智能 vs 人工智能。
人工智能在打击未遂信用卡欺诈方面取得了重大进展:我们大多数人都收到过信用卡发卡机构发来的消息,以确认网络犯罪分子的未遂购买行为。利用机器学习来编译“合成身份”(Synthetic identities),显示其信用卡持有人的通常行为模式,金融机构可以实时发现异常行为。然而不幸的是,网络罪犯同样也利用人工智能创建自己的合成身份,产生的结果也足够真实,足以愚弄发现异常行为的人工智能。
这场人工智能之战——也是打击网络安全欺诈者,正在假新闻、假视频和假音频的战壕中展开。就这样,一场新的军备竞赛开始了:人工智能 vs 人工智能。
Jupiter Research 的 Steffen Sorrell 表示,合成身份是信用卡欺诈“容易实现的目标”。根据 Jupiter Research 最新的在线支付欺诈 报告,到 2024 年,合成身份推动在线支付欺诈给坏人造成 2000 亿美元的损失。对好人来说,这也将推动欺诈检测市场同期达到 100 亿美元,高于今年的 85 亿美元。
“在线欺诈发生在高度发达的、存在分工的生态系统中,”位于美国爱达荷州博伊西的基于 ID 的反欺诈企业 Kount Inc 的人工智能科学主管 Josh Johnston 说,网络犯罪分子专门从事不同类型的犯罪,从手动“刷卡”到用人工智能创建合成身份。Johnston 说:“还有一些人针对慈善机构和数字商品商户等软目标测试被盗的卡号和凭证,以确保它们没有被取消。”他声称,在darknet 的网络黑.市中,用不了一美元就可以买到具有准确姓名、地址和 CVV(卡片验证值)的大额信用卡卡号。
Johnston 说:“欺诈者可以购买这些验证卡的清单,并通过任意数量的在线计划从中获利。“这些犯罪分子大量使用人工智能,他们也像合法开发者一样,在互联网论坛上分享软件工具和技巧。”
根据 Johnston 的说法,这些大量 Fake 使用了所有类型的人工智能和其他自动化技术,从通过组合真实姓名和随机数字来生成并注册真实的电子邮件地址的小程序,到通过结合多个真实人物的信息来创建合成身份的大型机器学习程序。如果欺诈检测器检查一个合成身份,它们通常会发现一个虚假的电子邮件账户、Facebook 页面、以及其他显示合成身份细节的互联网形象已经被欺诈者记录下来。
因此,网络安全程序员的欺诈检测技能和 黑帽黑客 的欺诈创造技能形成了交锋。
这些欺诈创造技能不仅用于信用卡诈骗,还扩展到图像和语音识别领域,在这些领域中,这些工具被反过来用于制造假新闻、假视频和假音频。事实上,据 Juniper Research 的 Nick Maynard 称,使用假音频的汇款欺诈比在线支付欺诈增长得更快。他表示,到 2024 年,这一领域的损失预计将增长 130%。
Maynard 说:“机器学习对于遏制欺诈越来越重要。”
Deepfake 是一场打地鼠游戏,因为每一种人工智能(无论是好的还是坏的)都会暂时占据上风。“这是一场猫捉老鼠的游戏,”Johnston 说,他用一个变量来衡量成败,该变量他称之为“摩擦”,这种变量会减缓一方或另一方的速度,直到一种新形式的“润滑”可以让一方领先于另一方。
“欺诈者会对摩擦做出反应,就像互联网上的合法用户一样。当我们占了上风,给欺诈者造成太多摩擦时,他们就会转向一个不受欺诈检测器保护的软目标。一个好的欺诈解决方案会增加坏人的摩擦,减少好客户的摩擦。然而,一方的进步,会导致另一方面的策略发生转变。”
Johnston 说,当互联网刚刚出现的时候,网上就没有什么值得盗窃的东西,因此欺诈者大多在网上测试信用卡,然后通过亲自购买商品来变现而获利。如今,在线交易对坏人来说,和对我们其他人一样方便。信用卡内置安全芯片的普遍采用,使得面对面交易成为欺诈者的一大风险,其结果是,欺诈活动越来越多地转移到网上。因此,Johnston 表示,欺诈检测人工智能正在使用更详细的分析。
Johnston 称:“在不放弃农场的情况下,我们在 2020 年成功防欺诈的方法依赖于跨越大型数据集来寻找欺诈的固有模式。坏人可以窃取你所有的秘密,但他们无法模仿你的品味、行为和历史。归根结底,欺诈者不得不通过欺诈手段才能拿到有价值的东西,只要有正确的数据,我们就能分辨出欺诈者和好客户。”
原文链接:
https://cacm.acm.org/news/245531-ai-vs-ai/fulltext
资讯来源:AI前线
用户评论