AI 操作桌面全程看得见:dsh-computer-use 给 DeepSeek Harness 配虚拟光标

dsh-computer-use 是开源社区开发者发布的 DeepSeek Harness(DSH)桌面操作插件,MIT 协议,跨平台。它给 AI Agent 补上「动手操作电脑」的能力:观察屏幕、定位界面元素、移动光标、点击、输入、滚动、拖拽。与传统的鼠标宏不同,它的每一步都建立在「先看再动」的循环上——没有新鲜观察快照就不许执行动作,点击通过一个独立虚拟光标完成,操作过程用户全程看得见,而不是程序在后台悄悄发一串不可见事件。需要说明:这是社区插件,不是 DeepSeek 官方产品。

核心功能与特点

  • 观察、决策、受约束执行三段循环:先读取目标窗口的界面元素和坐标,AI 基于快照决策,再执行受约束的动作;界面一变必须重新观察,旧元素编号不许跨页面复用
  • 独立虚拟光标:单击、双击、右键由独立虚拟光标完成并显示移动过程,不抢用户手里的真实鼠标,操作可见可审计
  • 三种观察模式:界面树模式读取系统无障碍元素,零视觉开销;主模型直读截图模式处理画布类、无障碍信息不全的界面;视觉观察者模式再调视觉模型返回结构化元素——按界面类型选,省着用
  • 一打工具分工细:观察、局部放大、点击、输入文字、发快捷键、滚动、拖拽、等待加载、列出应用、启动应用——桌面任务拆得开也合得拢
  • 安全护栏四件套:快照有效期限制(过期必须重看)、应用白名单(不在名单的应用不碰)、危险操作审批、密码框保护;目标不明、快照过期、应用不在白名单时一律拒绝执行——失败就停,不硬闯
  • 平台口径如实:macOS 已验证,Windows 与 Linux 需按各自真实环境完成平台验收后使用

怎么获取

在 DeepSeek Harness 插件广场搜索 dsh-computer-use 安装,或按项目仓库说明通过包管理器安装后重启宿主;配套的桌面客户端可作为普通用户的起步入口,具体以项目文档为准。

上手用法

  1. 表单代填:把常用内部系统的工单表单交给 AI,打开应用、观察字段、逐项填入、截图复核,一轮闭环
  2. 老软件自动化:没有接口、只有界面的老业务软件,用观察加点击的方式串起固定流程
  3. 界面核验:改完配置让 AI 打开目标界面逐项核对显示状态,截图留证
  4. 批量导出:逐个打开条目、点导出、等完成、翻下一页,重复劳动交给护栏下的自动循环
  5. 演示预演:正式录屏前让 AI 按脚本走一遍流程,卡点提前暴露

适合谁用

被「只有界面没有接口」的老系统拖住手脚的运维和业务支持、想给固定桌面流程减负的办公团队。贵州诚鑫致达科技有限公司接触的中小企业里,这类老系统不少——接口改造排不上期,活却天天要做。如果你也面对同样的局面,欢迎从一个小流程开始试起:先加白名单、先跑非敏感任务,把「看得见的自动化」用出安全感再说。


企业存储选型参考|贵州诚鑫致达

做核心业务 SAN 存储与高可靠应用,群晖机型参考:UC3400 · UC3200 · SA3600。需要选型建议或上门评估,搜「诚鑫致达」即可找到我们。