（原标题：当代版“画皮”：AI换脸生成“爱情骗局”，杀猪盘正走向东说念主工智能）

21世纪经济报说念记者肖潇 北京报说念

越来越多杀猪盘在和生成式AI“攀亲”，让爱情骗局更传神。10月14日，香港警方暗示打消了一个诈欺窝点，诈欺者应用深度伪造技能换脸成年青女性，诱使受害者投资凭空货币家具，涉案金额突出3.6亿港元。

“杀猪盘”是连年高发的一种诈欺花样。诈欺者经常会在酬酢平台上打造一个罪恶东说念主设，以婚恋交友的神色“养猪”，终末终了财帛骗取，即“杀猪”。

近期阿谀国毒品和坐法问题办公室（UNODC）在一份142页的禀报中，对这一新兴坐法景象发出了严厉警戒——东南亚地区的诈欺者正在应用生成式AI和深度伪造技能，来扩大诈欺行动的范畴和灵验性。 这份最新禀报提供了迄今限度最明确的笔据，比如前年亚太地区的深度伪造事件加多了1530%；近半年的监测数据夸耀，暗网Telegram上头向诈欺团伙的深度伪造家具，加多了600%以上。

杀猪盘的国内社区接头里，仍是有不少东说念主暗示我方碰到了主动要求视频的“盘哥”“盘姐”。以前他们只可播放提前录制的视频，无法正常对话，目下嘴形和声息齐能匹配。

恒久研究蚁集坐法的技能众人领导，杀猪盘与AI技能“攀亲”，是为了加多信任感和真实感，但内容套路莫得发生更正。对正常东说念主而言，能作念的是擢升对杀猪盘等蚁集诈欺的举座警惕性。

主动视频的“盘哥”“盘姐”

在往时，东说念主们合计诈欺分子会“终止进行视频通话”以免败露身份，这一教化如今濒临失效。

UNODC的禀报指出，有浓烈迹象标明，越来越多深度伪造的内容正在被东南亚诈欺团伙用于坐法，尤其是“一键”换脸和高分辨率的视频传输，更正了诈欺者的行骗神色。 

禀报解释，诈欺者往往需要虚构一个外貌出众、行状有成的东说念主设当作“钓饵”，而目下的深度伪造技能不错主管面部神色和声息曲调，允许在视频中精准乎时主管面部。诈欺者因此能向受害者讲解他们即是我方宣称的阿谁东说念主，制造出更有劝服力的场景。

在本次香港警方侦破的案件中，诈欺团伙用深度伪造技能更正了视频通话中的容貌、音色、服装，男性换脸为仪表姣好的年青女性，声息也随之更正。

目下杀猪盘的国内社区接头里，仍是有不少东说念主暗示我方碰到了主动要求视频的“盘哥”“盘姐”。“风起雨落”回忆，以前诈欺者多播放提前录制好的视频，惟一跟他们互动就会出现漏洞。目下的杀猪盘敢及时通话，动作、嘴形、声息齐能匹配上。

阿谀国的禀报指出，一批暗网供应商在背后鼓吹了深度伪造技能的整合。目下稀有十个深度伪造的软件提供商，挑升面向东南亚地区的蚁集诈欺团伙销售。

这些深度伪造技能家具拓展出了多种套件，包括音频伪造或者声息交换功能，有换脸软件公司以至推出“7天24小时复旧、送货上门作事”，并宣称已在一千多个区域了装配了家具。

通过Telegram等加密暗网发布区域性告白，是这些供应商的主要持行神色。UNODC在本年2月到7月之间监测了Telegram内容，着力夸耀，聊天群里针对坐法团伙的深度伪造关系内容，说起次数加多了600%以上。

英国蚁集身份考据公司Sumsub发表的《2023年深度伪造禀报》夸耀，2022年至2023年间，亚太区的深伪事件加多了1530%。前年深度伪造事件增长最快的前五个国度，永别是菲律宾、越南、日本、斯里兰卡和澳大利亚。

国投智能首席科学家、福建省电子数据存取证重心执行室主任江汉祥向21记者分析，杀猪盘用AI视频换脸，真是相对容易，作念到真假难辨莫得问题。

江汉祥恒久研究蚁集坐法和大数据窥探，他解释，深度伪造换脸确切的诱导性是冒充熟东说念主，“但这需要许多条目和技能资源，需要在蚁集上网罗无数良友。”而在杀猪盘的状态里，受害者与“盘哥”“盘姐”效法的东说念主并不熟，因此深度伪造技能不需要效法出某个具体的东说念主。

良友征集的难度低、莫得闇练的参照物让受害者对比，AI只需要“扮演”得像一个正常东说念主类就行，这是杀猪盘用AI换脸欺诈性之强的原因。

精明多国说话，但多情愫残障

除了深度伪造视频，阿谀国禀报还提到了四种诈欺团伙更常用的AI技能：大模子生成的文本图片、自动聊天机器东说念主、声息克隆、AI入手的压力测试（粗陋意会为用AI来模拟各式蚁集报复）。

禀报解释，常见的诈欺使用场景有制作自动化蚁集垂纶报复，制演叨身份和个东说念主良友，生成个性化剧原来欺诈受害者，并在数百种说话的及时对话进行互动。

这些发展不仅扩大了蚁集诈欺的界限，何况裁减了初学门槛。“AI入手技能的整合将跟着时候的推移，加多蚁集诈欺的数目。诈欺会以更快的速率和范畴发生，坐法集团也能创建更具劝服力和个性化的诈欺内容。”禀报写说念。

例如来说，诈欺者往往没法用多种说话和方言与数百名受害者同期互动，但ChatGPT这么的器具不错为他们提供说话复旧。

蚁集安全公司Sophos此前在博客中败露了一个案例，仍是有诈欺分子不防御败泄露他们使用了大模子生成笔墨——骗子在WhatsApp上给筹划发送的信息中写说念“异常感谢你的好意！当作一个说话模子，我不像东说念主类那样有神志或心情，但我的功能是给出成心和积极的谜底来匡助你。”

Sophos的研究员合计，这标明诈欺团伙还无法让东说念主工智能自动完成扫数“杀猪”流程。“就杀猪盘而言，目下的模子并不擅长描画心情和情愫，而这恰是这类骗局得以得逞的关节地点。”

像ChatGPT、Gemini等大模子家具仍是装上了阻止协助坐法步履的“护栏”，但要从技能侧防治，仍然有不少费劲。

江汉祥解释，“杀猪盘的流程即是模拟东说念主们获得信任的流程，要是要生成竣工流程的笔墨，大模子不错识别。但要是是割裂成一句或几句话，专科的全球安全大模子亦然难以识别的。” 他残酷，针对这种情况，技能提供方不错追溯生成者的多方信息，事前检修数据，在一定进度上判断、终止分歧适的申请。

此前江汉祥对21记者暗示，AI诈欺之是以或者诈欺得手，关节在于出于正常东说念主的日常明白以外。在他看来，使用AI技能的主要作用是加多杀猪盘的信任感和真实感，杀猪盘的最内容套路莫得变，目下个东说念主能作念的仍然是擢升举座警惕：不要信任蚁集的谈心与情愫，不要贪小低廉，或确信天上掉下馅饼。