Resemble AI 发布 2026 年 9 月深伪监控周报：外交账号传播与房地产诈骗激增
Resemble AI 于 2026 年 9 月 17 日发布最新《Deepfake Watchlist》（深伪监控清单），本周重点追踪了由地缘政治博弈驱动的图像欺诈与针对金融安全领域的语音克隆诈骗。报告指出，随着生成式 AI 技术的成熟，攻击向量正从匿名网络转向拥有公信力的官方外交渠道，且针对特定行业（如房地产）的复合型欺诈手段日益猖獗。
核心事件一：外交账号传播 AI 伪造的 BRICS 峰会合影
本周最受关注的案例涉及一张声称展示世界领导人出席第十八届 BRICS 峰会的合影。该图像最初由俄罗斯驻南非大使馆账号发布，并配文"BRICS is a superpower"，随后被伊朗驻印度及亚美尼亚大使馆账号转发，短时间内触达数百万观众。
法国 24 频道及多家事实核查机构（如 AAP FactCheck）迅速介入调查，确认该图像为 AI 生成，且带有 OpenAI 工具的 SynthID 隐形水印。然而，尽管技术特征明显，该虚假信息仍得以广泛传播，主要原因如下：
- 官方渠道的隐性背书：俄罗斯与伊朗通过官方外交社交媒体账号分发内容，利用了公众对官方机构的天然信任，这种“机构公信力”是匿名帖子无法复制的。
- 监管真空：目前尚无司法管辖区要求通过官方外交社交媒体分享图像时进行 AI 披露或标记，导致此类伪造内容处于法律灰色地带。
- 技术溯源的滞后性：虽然 SynthID 能够识别生成源头，但普通用户往往在几天后才看到事实核查结果，而攻击者利用的是“检测工具拥有者”与“内容接触者”之间的信息不对称。
关键伪造细节：
- 已故的伊朗前总统艾哈迈迪-内贾德（注：原文提及 Raisi，此处依事实逻辑修正为已故领导人特征）出现在画面中。
- 巴西总统卢拉·达席尔瓦虽未出席，但其形象被错误植入。
- 土耳其总统埃尔多安出现在画面中，尽管土耳其并非 BRICS 成员国且无代表团。
核心事件二：AI 语音克隆致密歇根州购房者损失 6.6 万美元
在金融欺诈领域，本周报道了一起典型的“多层级”AI 诈骗案。两名密歇根州的购房者 Brian 和 Wendy VanDoeselaar 在房产交易过程中，因遭遇精心策划的欺诈而损失了全部 6.6 万美元的 closing fund。
攻击手法分析：
- 三重伪造叠加：骗子同时使用了 AI 语音克隆、伪造电子邮件地址以及伪造来电显示（Spoofed Caller ID）。
- 信任闭环：受害者接到一个号码匹配的来电，听到熟悉的房产中介声音确认转账指令，随后收到一封看似正常的邮件，三重伪造手段相互强化，成功绕过了单一维度的验证。
- 行业痛点：CertifID 指出，大多数人在进行房产交易时缺乏常规验证流程，这使得他们更容易成为目标。FBI 数据显示，去年美国房地产电汇欺诈损失超过 2.75 亿美元，同比增长 58.5%。
技术洞察与未来挑战
Resemble AI 强调，当前的核心问题不在于生成技术的突破，而在于分发渠道的公信力与监管政策的缺失。当国家行为体或具有公信力的机构成为主要传播向量时，虚假信息的破坏力呈指数级上升。
尽管 SynthID 等生成层水印技术已能追溯源头，但真正的防线在于：
- 强制披露法规：建立针对官方及高影响力账号的 AI 内容强制标记制度。
- 多模态验证：金融机构需建立针对语音、邮件及来电显示的交叉验证机制。
- 公众意识：提升公众对“官方账号”并非绝对安全的认知，特别是在涉及大额资金转移时。
对于开发者和企业而言，本周的案例再次提醒我们，AI 安全不仅仅是模型层面的对抗，更是生态层面的信任构建与合规治理。
