GitHub Copilot 正式支持桌面端自动化:实现跨应用 GUI 交互与无 API 工作流编排

ADK ChatLaw官方 / ADK编译 2026-10-01 4 分钟 90 次浏览
速览导读 / Summary

GitHub Copilot 推出重大更新,正式支持桌面端‘计算机使用’(Computer Use)功能。该功能允许 Copilot 直接操作 macOS 和 Windows 上的桌面应用程序,执行点击、文本编辑、滚动及跨应用导航等任务。这一突破填补了无 API、无命令行界面的遗留软件自动化空白,支持用户通过自然语言描述目标结果来驱动自动化流程,同时提供严格的权限审批机制以确保安全可控。

支持平台 macOS, Windows Copilot CLI 及桌面应用
功能状态 Public Preview 公开预览阶段
交互能力 Full GUI Control 点击、编辑、拖拽、跨应用导航

Key Insights / 核心看点

  • 1 Copilot 正式支持桌面端‘计算机使用’功能,可直接操作 macOS 和 Windows 上的 GUI 应用程序。
  • 2 填补了无 API、无命令行界面的遗留软件和纯图形界面应用的自动化空白。
  • 3 支持跨应用导航、文本编辑、拖拽等复杂交互,通过自然语言驱动自动化工作流。
  • 4 内置严格的安全机制,包括事前审批、白名单管理及组织级禁用选项。

GitHub Copilot 正式支持桌面端自动化:实现跨应用 GUI 交互与无 API 工作流编排

GitHub 在 2026 年 10 月 1 日发布了重磅更新,标志着 AI 编程助手 GitHub Copilot 的能力边界从代码生成正式延伸至桌面环境的全方位自动化。此次更新在 GitHub Copilot CLI 以及 macOS 和 Windows 版的 GitHub Copilot 应用中引入了“计算机使用”(Computer Use)功能,并进入公开预览阶段。

核心突破:打破 GUI 自动化壁垒

长期以来,企业级遗留软件和纯图形界面(GUI)应用由于缺乏 API 接口或命令行工具,难以被自动化脚本接管。此次更新彻底改变了这一现状。

Copilot 现在能够直接操作桌面应用程序,执行包括读取可访问内容、查看视觉上下文、点击控件、输入和编辑文本、按键操作、滚动、拖拽以及跨应用导航等一系列复杂任务。这意味着开发者可以利用 Copilot 自动化那些曾经需要编写繁琐脚本才能完成的工作流,特别是针对那些没有提供 API、命令行界面(CLI)或模型上下文协议(MCP)集成的老旧软件。

实际应用场景

官方演示中展示了 Copilot 利用计算机使用工具在 Safari 浏览器中导航报销工作流的场景。用户只需描述期望的结果、涉及的应用程序以及任何重要约束条件,Copilot 即可自主执行任务。

典型的应用案例包括:

  • 浏览器通知汇总:自动读取并总结浏览器中的各类通知。
  • 演示文稿内容更新:直接修改 PPT 中的特定文本或图表。
  • 跨应用数据流转:在多个桌面应用之间移动信息,完成复杂的业务逻辑。

安全机制与权限控制

尽管功能强大,但 GitHub 强调用户始终掌握控制权。

  • 事前审批:Copilot 在控制应用程序前会请求用户批准。
  • 白名单管理:用户可以审查或重置已选择始终允许的应用程序。
  • 系统级引导:在 macOS 上,Copilot 会引导用户完成必要的无障碍(Accessibility)和屏幕录制权限设置。
  • 组织管控:支持组织管理员通过设置禁用该功能,以满足企业合规要求。

快速上手指南

开发者可以通过以下方式启用该功能:

在 Copilot CLI 中:

  • 运行 /computer 命令启动。
  • 使用 /computer show 检查状态。
  • 使用 /computer off 关闭功能。

在 GitHub Copilot 应用中:

  • 打开 Settings(设置),选择 Computer Use。
  • 开启 Enable Computer Use 选项。

这一更新不仅扩展了 AI 的自动化能力,更显著降低了企业部署遗留系统自动化的技术门槛,是 AI Agent 从“代码生成”向“任务执行”跨越的关键一步。

“This expands the tasks Copilot can help automate, including workflows in legacy and GUI-only software that do not provide an API, command-line interface, or MCP integration.”

— GitHub Blog Announcement

同主题深度资讯

查看更多 →
AI 工具 2026-10-31

中信建投国际 2027 秋招深度解读:港股中资券商本科可投,投行与量化门槛差异显著

中信建投国际 2027 届秋招面向本科及以上应届生开放,作为香港中资券商平台,其核心亮点在于提供跨境金融业务入口。然而,该招聘存在明显的岗位分化:投行分析师与量化研究助理对财务建模、编程及英文能力要求极高,而财富管理类岗位更侧重沟通与执行。文章强调,受限于“最多投递 2 个岗位”的规则,求职者需精准匹配自身背景(如金融、量化、计算机背景),避免盲目海投。同时,详细拆解了从网申到录用的七轮流程及准备策略,为 2027 届求职者提供决策依据。

超级简历官方 / ADK编译 5 分钟
AI 工具 2026-10-08

RESEMBLE.AI 发布 2026 年 10 月深度伪造监控周报:AI 语音诈骗与法律应对

RESEMBLE.AI 发布 2026 年 10 月深度伪造监控周报,揭露 AI 语音克隆被用于制造五小时绑架诈骗,导致受害者损失 5400 美元。同时报道意大利总理注册声纹商标以应对政治深度伪造,以及索尼音乐在六个月间处理超过 26 万次 AI 音乐侵权下架请求。文章强调了当前法律滞后性与生成技术即时性之间的结构性矛盾,呼吁建立源头溯源基础设施。

RESEMBLE.AI官方 / ADK编译 4 分钟
模型发布 2026-10-08

Pixmax 发布全链路游戏素材生成平台,覆盖研发至买量全阶段

Pixmax 正式发布专为游戏行业打造的 AI 素材生成平台,深度理解游戏开发工作流,支持从研发立绘、场景贴图到宣发买量素材的全链路生产。平台通过“上传 - 生成 - 批量 - 适配”四步流程,解决风格统一与批量产出难题,显著降低美术成本与试错周期,助力中小团队提升生产效率。

Pixmax官方 / ADK编译 3 分钟
AI 工具 2026-10-08

AdsTurbo 发布 Temu GIF 转视频广告工具:15 秒内重构电商素材

AdsTurbo 推出针对 Temu 平台优化的 GIF 转视频广告工具,旨在将静态循环动图重构为具备叙事性的 15 秒短视频。该工具不仅进行格式转换,更通过 AI 提取关键帧、生成解说词与字幕、匹配多平台导出规范,帮助商家将零散的产品证据转化为高转化率的垂直视频素材,显著提升广告素材的复用性与合规性。

AdsTurbo AI官方 / ADK编译 3 分钟
productivity · 免费+付费
★ 5.0 · 120评测
C

ChatLaw

北大开源的法律大模型和助手

ChatLaw是由北京大学团队开源的AI法律大语言模型(LLM),它通过结合法律领域特定的数据集和外部知识库,旨在提高法律问题处理的准确性和效率。该模型利用先进的自然语言处理技术,能够理解和生成法律相关的咨询和解答,同时减少法律数据筛选中的模型幻觉问题。ChatLaw的设计考虑了法律语言的复杂性和法律知识更新的快速性,力图为法律专业人士和普通用户提供高质量的法律信息服务。

查看 ChatLaw 使用教程与功能