USENIX Security 2026 前瞻:AI 代理攻击面与物理层隐私新挑战

ADK 玻尔官方 / ADK编译 2026-08-07 5 分钟 64 次浏览
速览导读 / Summary

USENIX Security 2026 将于 2026 年 8 月在巴尔的摩举行,Bohrium 团队梳理了 12 篇核心论文与四大研究趋势。重点聚焦 AI 代理(Agentic AI)的攻击面扩展,包括通过遥测数据投毒(AIOpsDoom)和超声波语音注入(Sirens' Whisper)等新型攻击。文章还分析了 2026 年研究议程向应用密码学和新兴技术倾斜的结构性变化,为开发者提供关键的安全防御指引。

会议时间 2026-08-12 USENIX Security 2026 正式召开
核心攻击成功率 94% Sirens' Whisper 在测试模型上的非拒绝率
议程变化 +6.4% 应用密码学研究份额增长

Key Insights / 核心看点

  • 1 AIOpsDoom 揭示了 LLM 代理通过篡改遥测数据(Telemetry Manipulation)触发有害修复操作的风险,并提出了 AIOpsShield 防御方案。
  • 2 Sirens' Whisper 展示了近超声波音频攻击可绕过人类听觉,以 94% 的成功率劫持语音驱动的 LLM 模型。
  • 3 USENIX Security 2026 议程显示研究重心从单一 AI 模型转向应用密码学、Web/移动技术及硬件安全。
  • 4 本地加密代理仍存在元数据泄露风险,攻击者可通过 IP 地址和时序模式推断系统行为。

USENIX Security 2026 前瞻:AI 代理攻击面与物理层隐私新挑战

2026 年 8 月 12 日至 14 日,第 35 届 USENIX Security Symposium 将在美国马里兰州巴尔的摩 Marriott Waterfront 举行。随着会议临近,Bohrium 团队已提前梳理了当前公开的 12 篇核心论文,并提炼出四大关键研究趋势,旨在帮助开发者与研究人员提前布局安全防御策略。

研究议程结构性转变:从 AI 集中到应用密码学崛起

对比 2025 与 2026 年的技术议程,USENIX Security 2026 显示出明显的研究重心转移。虽然 AI/ML 安全仍占据 18.9% 的份额,但其主导地位有所减弱,取而代之的是更均衡的分布。

  • 应用密码学(Applied Cryptography):份额增长最大,增加 6.4 个百分点,成为新的研究热点。
  • Web、移动及新兴技术:份额超过翻倍,硬件安全也随之增长。
  • AI/ML 安全:虽然仍是核心议题,但研究场景正从单一模型转向更复杂的系统级应用。

这种变化表明,未来的安全挑战不再局限于模型本身的鲁棒性,而是深入到了 AI 与物理世界、传统软件系统的交互边界。

核心突破:AI 代理的攻击面正在物理化

本次发布的论文揭示了 AI 系统(特别是 Agentic AI)面临的全新攻击向量,攻击者正试图绕过传统的数字边界,利用物理信号和系统内部数据。

1. AIOpsDoom:将遥测数据变为攻击跳板

在传统的 AIOps(AI 运维)系统中,日志、指标和追踪数据被视为可信的系统描述。然而,AIOpsDoom 论文挑战了这一假设。

  • 攻击原理:攻击者通过侦察和模糊测试(fuzzing),将对抗性内容注入到遥测数据中。当 LLM 驱动的代理(Agent)处理这些数据时,会将其误判为需要采取有害的修复措施。
  • 防御方案:论文提出了 AIOpsShield,一种在数据到达代理前对结构化遥测数据进行清洗的机制。测试表明,该方案能有效阻断攻击且不影响正常代理性能。
  • 启示:一旦 LLM 能将遥测数据转化为行动,可观测性数据本身就成了攻击面的一部分。

2. Sirens' Whisper:超声波语音注入

这项研究将提示注入(Prompt Injection)从数字域扩展到了物理声学域。

  • 攻击原理:攻击者将目标指令编码在近超声波(near-ultrasonic)音频中,并通过补偿传输和麦克风非线性,使普通设备在录音后能还原出指令。
  • 实验结果:在测试的商业模型上,攻击成功率高达 0.94(非拒绝率)和 0.925(具体说服力)。在受控听音研究中,参与者无法区分注入音频与背景播放。
  • 风险:这意味着即使是语音驱动的 LLM 接口,也可能在人类听觉无法察觉的情况下被劫持。

3. 本地代理的元数据泄露

另一项研究指出,即使本地运行加密的研究代理,被动观察者仍可通过分析 Web 和 Research Agent 产生的目标 IP 地址和时序模式,推断出系统行为。这提醒开发者,在零信任架构下,元数据(Metadata)的防护同样关键。

对开发者的实际价值

USENIX Security 2026 的议程变化为 AI 安全领域指明了方向:

  1. 强化输入验证:对于 AIOps 系统,必须建立严格的遥测数据清洗机制,防止对抗性样本通过日志干扰决策。
  2. 物理层防御:部署语音交互的 AI 应用时,需考虑声学通道的安全性,避免超声波等不可见攻击。
  3. 关注新兴技术:随着 Web 和移动技术的份额翻倍,跨平台的安全协议和硬件安全模块(HSM)将成为刚需。

USENIX Security 2026 不仅是一场学术盛会,更是检验当前 AI 系统安全边界的试金石。建议开发者密切关注 Cycle 2 论文的发布,以应对即将到来的安全挑战。


注:完整论文列表及 Cycle 2 文件将在会议首日(8 月 12 日)发布。

Once an LLM can turn telemetry into action, observability data becomes part of the attack surface.

AIOpsDoom 论文作者

同主题深度资讯

查看更多 →
产品动态 2026-09-15

Topview 发布 Codex 插件工作流:在 ChatGPT 生态内实现 AI 视频生成

Topview 正式宣布其插件工作流集成至 OpenAI 的 Codex 代理系统,支持在本地桌面端或 CLI 中直接调用生成式模型创建 AI 视频。文章详细区分了 ChatGPT 网页版插件目录与 Codex 本地代理的架构差异,明确了安装路径、OAuth 认证流程及 Canvas 画布工作流。该更新旨在解决开发者在 ChatGPT 生态内调用视频生成模型(如 Seedance, Wan 3.0 等)的碎片化问题,强调 Pro 及以上订阅计划对自动化工作流的必要性。

Topview官方 / ADK编译 5 分钟
AI 工具 2026-09-07

WatermarkRemover 上线 InShot 水印移除指南:AI 驱动的去水印新实践

WatermarkRemover 发布针对 InShot 视频水印的移除指南,展示了 AI 技术在数字内容去标识化中的应用。文章详细解析了水印检测、背景重构及色彩分析的核心算法流程,并对比了传统付费升级与 AI 工具移除的优劣。该指南不仅为开发者提供了理解 AI 图像修复逻辑的参考,也为用户提供了高效处理社交媒体素材的解决方案。

WatermarkRemover官方 / ADK编译 4 分钟
AI 工具 2026-09-07

Alive Movie Maker 水印移除指南:iOS 与 Android 端操作详解及替代方案

针对短视频创作者在跨平台分发时面临的 Alive Movie Maker 水印困扰,本文详细解析了官方提供的原生移除功能及替代方案。文章重点梳理了 iOS 与 Android 端的操作步骤,并探讨了通过专业剪辑软件或代码修改等进阶手段去除水印的可能性,旨在帮助开发者与用户高效处理视频版权与分发问题。

WatermarkRemover官方 / ADK编译 3 分钟
AI 工具 2026-09-07

Luma AI 发布 20 个 AI 修图提示词:重塑产品摄影与营销素材生产流

Luma AI 近日发布了一份包含 20 个实战场景的 AI 修图提示词指南,旨在解决传统摄影后期中“重拍成本高、修改周期长”的痛点。该指南强调利用 Uni-1 等模型理解图像构建逻辑,通过“保留主体、仅修改局部”的编辑型提示词(Editing Prompt),实现产品换色、背景替换、尺寸调整等任务。这不仅降低了营销素材的生产成本,更让创意团队能够灵活应对市场变化,从单张精修图快速生成多平台的营销变体。

Luma AI官方 / ADK编译 4 分钟
search · 免费+付费
★ 5.0 · 120评测

玻尔

新一代科研知识库与AI学术搜索平台

玻尔(Bohrium)是深势科技联合北京科学智能研究院(AISI)推出的全球首个覆盖“读文献-做计算-做实验-多学科协同”的AI科研平台。平台以“科学导航(Science Navigator)”为核心,提供强大的AI学术搜索、多模态搜索能力、个性化推荐、知识库管理等功能,帮助科研人员高效筛选文献、整理数据、发现关键问题。玻尔能重构科研流程,释放科研创造力,让人工智能成为科学发现的真正参与者。

查看 玻尔 使用教程与功能