“AI换脸”诈骗暴露隐私漏洞 对相关服务需从严监管_环球热点评

每经特约评论员 毕舸

近日，包头警方发布一起利用AI实施电信诈骗的典型案例。4月20日中午，郭先生的好友突然通过微信视频联系他，称其朋友在外地竞标，需要430万元保证金。基于对好友的信任，加上已经视频聊天核实了身份，郭先生分两笔把430万元转到了好友朋友的银行卡，期间也没有核实钱款是否到账。此后，郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。

【资料图】

从这场新型骗局来看，骗子同时使用了“AI换脸”和“AI拟声”两种技术。但细究起来，“AI换脸”技术已经出现多年，之前在微信朋友圈曾一度刷屏。经查询发现，目前在多个移动端及桌面端应用商店中，都提供类似软件。如深圳某公司开发的AI换脸软件，其宣传词是“情侣、闺蜜、家人合拍制作甜蜜视频，多人换脸、单人换脸、视频换脸生成美美的写真照，用AI换脸秀Cosplay各种角色，只需你动动手指哦~”。将“AI换脸”说得如此便捷、有趣，难怪不少人心动尝鲜。

殊不知，当人们使用“AI换脸”，意味着自己的人脸特征信息将纳入企业数据库，而企业并未向用户告知，这些带有隐私性的生物特征信息会如何管理，是否会用于他处？这也就意味着，相关生物特征信息极易被用作他途，还存在大规模泄密的可能性。

此外，近期“AI孙燕姿”爆红，说明AI音乐生成器也开始出现在更多普通用户的电脑桌面上。人们可以轻易通过AI变声做到以假乱真。

如果人们惊叹“AI换脸”、“AI换声”等技术的神奇，并禁不住好奇之心加以试用，个人脸部、声音等生物特征信息都存在被盗用等风险。而当违法分子通过各种渠道获取此类生物特征信息，就能实现更高“效率”的犯罪。就如前述案例中，骗子以此让郭先生难辨真伪。

因此，“AI诈骗”暴露出公众隐私漏洞，这包含两方面的问题。首先，对于此类“AI换脸”、“AI换声”软件的流行，尚缺乏有效监管。企业是否按照《个人信息保护法》等法律法规的相关要求，对用户原始生物特征信息不予存储，或者脱敏处理，全靠其道德自律。

其次，部分用户同样缺乏较强的自我保护意识，对涉及个人隐私的生物特征信息，轻易提供给第三方，等于拱手将自我隐私安全之门向他人敞开。

《个人信息保护法》规定，履行个人信息保护职责的部门发现个人信息处理活动存在较大风险或者发生个人信息安全事件的，可以按照规定的权限和程序对该个人信息处理者的法定代表人或者主要负责人进行约谈，或者要求个人信息处理者委托专业机构对其个人信息处理活动进行合规审计。个人信息处理者应当按照要求采取措施，进行整改，消除隐患。

因此，有关部门应对市面上形形色色的“AI换脸”、“AI换声”等商业化服务从严监管，对其背后企业在个人信息保护方面存在的问题予以纠错，就如去年开始对于各类APP过度索取用户隐私信息的专项整顿一样，通过常态化执法，减少管理盲区，从源头上堵住生物特征信息泄露现象。

同时，有关部门也要加大宣传力度，提醒公众增强安全意识。近日，中国互联网协会针对“AI诈骗”现象发文指出，公众在日常生活中要规避可能导致隐私泄露的各种做法，遇到远程转账需求时进行多重验证。唯有更多人从“AI诈骗”案例中警醒，自觉做好个人信息安全第一责任人，有关部门针对“AI诈骗”的新特点、新趋势，及时采取各类预防举措，督促个人信息使用者切实履行责任，方能形成对“AI诈骗”更严密的社会防线。

封面图片来源：视觉中国