5月20日，“平安包头”发布微信公众号文章，称5月8日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，警银联动成功紧急止付涉嫌电信诈骗资金330多万元。

(相关资料图)

事情起始于4月20日11时40分左右，福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他，两人经过短暂聊天后，好友告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。

好友向郭先生要了银行卡号，声称已经把钱打到郭先生的账户上，还将银行转账底单的截图通过微信发给了郭先生。基于视频聊天信任的前提下，郭先生没有核实钱是否到账，于11时49分先后分两笔把430万元给对方打了过去。钱款转账后，郭先生给好友微信发了一条消息，称事情已经办妥。但让他没想到的是，好友回过来的消息竟然是一个问号。

郭先生拨打好友电话，对方说没有这回事，他这才意识到竟然遇上了“高端”骗局，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。

如果是微信好友账号直接进行AI换脸换声音，的确容易让人提前产生“好友信任度”。

第一财经记者据此联系微信方面与包头市公安局，截至发稿，微信方面暂未提供技术方面的具体回应，包头市公安局宣传科方面表示会与办案民警进行信息再确认，截至发稿，暂未进行信息更新。不过据第一财经记者多方了解，此次联系郭先生、发起视频聊天的微信号码，系郭先生此次新添加好友的微信账号。

那么，微信视频通话能够轻易被“换脸”吗？

多位网络安全专家对微信视频中实时换脸换声的可行性展开了专业探讨。一位网络安全方面人士对记者表示，如果要进行不易被识别的、专业级别的AI换脸换声，需要在实验室环境条件进行，后者为其提供较强的计算机性能支撑，如果单凭手机性能，仅能提供P图级别的换脸，极易被识别。

对于该事件，奇安信安全专家裴智勇对第一财经记者表示，首先，所谓微信账号“新号”“旧号”本身更多是一种主观感觉，骗子冒充朋友小号，聊上个把月再实施诈骗，受害者也会主观上认为这是一个老号。其次，该诈骗案仍有许多细节尚未披露，仅仅通过一次短暂而逼真的AI视频聊天，就能骗走几百万，不太现实，中间一定还有很多复杂的过程。不应将原本复杂的诈骗过程简单化、标签化。

另外，裴智勇还对记者表示，以现有的技术发展来看，虽然完成相关诈骗过程不是完全没有可能，但成本太高，所以在现实中被使用的概率也很低。

具体实施技术难度方面，裴智勇举例称，如在视频聊天过程中，要让受害者看到AI合成的视频而不是摄像头直接捕获的视频，就必须利用安全漏洞劫持摄像头传输假视频，技术难度极高。若真是这么高级的漏洞，一般不会被用在普通人身上，因为一旦诈骗失败，漏洞暴露，漏洞也就作废了。骗子一般不会冒这个险。

再比如，尽管在视频中进行人脸替换，已经是非常成熟的技术。但想要在实时对话交流过程中，进行实时的人脸替换、表情捕捉、语音变声，还能以假乱真，这个技术水平已经超过绝大多数的高科技公司了。现实情况更有可能是骗子首先利用花言巧语骗受害者忽略细节，之后再发送合成视频实施诈骗。

综合来说，裴智勇认为，攻击者要同时具备盗取好友的微信账号、利用漏洞劫持摄像头篡改视频数据、实时变脸与实时变声且天衣服缝的技术能力，至少是难度极大、成本极高。很多高科技公司在实验室里也未必能完美完成这些挑战。所以，相关事件的文字描述，在细节上很可能和真实情况有一定的差异。

此外，裴智勇认为对于骗子来说，还有一项巨大的挑战，就是骗子必须对受害者和其朋友的外貌、声音、行为习惯，思维方式，相互关系、业务往来等都做到非常熟悉，否则就极易穿帮。所以，骗子一定是经过了长期的潜伏和精心的策划，也不能排除熟人作案的可能。

有关真相还需警方的进一步披露，但该事件仍为民众敲响警钟。奇安信安全专家田平对第一财经记者表示，AI诈骗是传统的诈骗手法利用了新技术的一种混合诈骗方式，从诈骗剧本来说还是传统的冒充熟人、冒充领导等手段，但是其中的面部仿真、声纹仿真使得被害人放松警惕，更容易被骗。

从预防角度来说，田平提醒民众需要确保如下三点：第一，不要点击任何不熟悉人员发来的任何未知网址，下载不明来路的APP，规避掉中木马的风险来保证个人信息机密以及手机等设备的安全受控；第二，个人信息会通过多重渠道造成泄露，所以在涉及资金转账等高风险行为时，需要主动多方式去确认对方身份，例如通过电话回拨，沟通中询问近期见面时间地点等内容；第三，社会各界也应当积极遵从2022年底实施的《反诈法》各条例，对聊天工具、转账双方的身份加以强管理和确认，对于高风险行为采取审慎允许的态度防止诈骗行为的发生。

关键词：