Lux 上手指南:让 AI 直接操作你的电脑

简介: Lux 是一款能直接操作计算机的AI基础模型,通过视觉理解与动作预测,实现自然语言指令下的自动化任务。它无需依赖API,可像真人一样点击、输入、滚动,完成浏览器操作等复杂工作,准确率超越主流模型,是迈向“意图即执行”的重要突破。(238字)

Lux 要是一个专门用于计算机操作的基础模型。和那些只会生成文字的 AI 不同,Lux 能看懂屏幕内容并理解自然语言描述的任务目标,然后实时操控计算机完成工作。

比如说你对电脑说"打开浏览器,访问 xxx",然后它就真的执行了:鼠标移动、图标点击、网址输入、页面滚动,整个过程和真人操作没什么区别。

Lux 的技术实现

Lux 不依赖 API 接口所以能在任何应用中工作:浏览器、编辑器、邮件客户端、表格软件都行。它的核心技术是计算机视觉配合动作预测

  • 捕获屏幕截图
  • 解析 UI 组件
  • 预测下一步操作(点击、输入、滚动)
  • 循环执行直到任务结束

在 300 个实际场景的测试中,Lux 的表现超过了 Google Gemini CUA、OpenAI Operator 和 Anthropic Claude。

工作机制

Lux 运行在一个持续的动作-观察循环里:

 目标 → 视觉分析 → 执行动作 → 获取反馈 → 循环

用户用自然语言下达指令,比如:"打开浏览器并打开 xxx",然后Lux 会截取当前屏幕画面并根据截图内容判断下一步该做什么:

  • 点击某个按钮
  • 输入文字
  • 移动光标
  • 滚动页面
  • 触发快捷键

然后执行相应的动作并捕获新的屏幕状态。

这个循环会一直跑下去直到任务完成,可以把它想象成一个坐在你电脑前干活的 AI 助手。

环境配置

在使用 Lux 之前需要完成安装和权限设置。

步骤 1:权限授予

Lux 需要的权限和普通自动化工具一样:屏幕录制权限辅助功能权限

执行命令:

 oagi agent permission

macOS 系统系统会弹出权限请求:

  • 辅助功能
  • 屏幕录制

系统设置 — 隐私与安全 里批准这些权限,完成后重启终端。

步骤 2:API 认证

打开 agiopen生成新的 API 密钥。新注册用户有 $10 免费额度,够跑几十次代理任务了。

配置环境变量

 export OAGI_API_KEY=sk-...  
 export OAGI_BASE_URL=https://api.agiopen.org

步骤 3:桌面环境准备

Lux 直接读取屏幕内容,所以工作区越干净UI 元素识别就越准确。

推荐配置如下

  • 单个大窗口的浏览器
  • 空白起始页
  • 桌面整洁
  • 背景简洁

不推荐的配置

  • 窗口又小又乱
  • 多个程序互相遮挡
  • 复杂的桌面壁纸

环境混乱的话Lux 可能会重试操作或者点错位置。

步骤 4:第一次运行

 oagi agent run "Go to https://agiopen.org" --model "lux-actor-1"

你会看到鼠标自己动、键盘自己敲字,整个过程完全自动化。

实际案例

假设要让 Lux 完成这样一个任务:

启动浏览器,搜索 "OpenAGI Lux model documentation" 浏览搜索结果

命令是:

 oagi agent run "Open a browser, search for OpenAGI Lux model documentation, and scroll through the results." --model "lux-actor-1"

Lux 会依次:

  1. 识别浏览器图标
  2. 点击启动
  3. 找到搜索框
  4. 输入关键词
  5. 按回车
  6. 检测页面可滚动区域
  7. 逐步向下翻页

全程靠视觉理解和动作预测完成。

总结

Lux 不只是个模型,它代表了一个方向:让计算机能直接响应人的意图,而不是通过一系列点击来间接表达。

如果你曾经希望电脑能"替你把事情做了"Lux 把这个想法变成了现实。

https://avoid.overfit.cn/post/084c91d2d2df493f8daa93b25268a6c8

作者:Civil Learning

目录
相关文章
|
23天前
|
机器学习/深度学习 人工智能 算法
技术人视角:传统产品经理如何系统性转型AI产品经理
AI时代重塑产品格局,AI产品经理需兼具技术理解、业务洞察与用户体验。本文系统梳理从认知升级到实战落地的转型路径,助力传统PM或技术人掌握AI产品方法论,避开常见误区,逐步成长为驾驭智能的“系统架构师”。
442 13
|
21天前
|
机器学习/深度学习 自然语言处理 算法
从贝叶斯视角解读Transformer的内部几何:mHC的流形约束与大模型训练稳定性
大模型训练常因架构改动破坏内部贝叶斯几何结构,导致不稳定。研究表明,Transformer通过残差流、注意力与值表征在低维流形上实现类贝叶斯推理。mHC通过约束超连接保护这一几何结构,确保规模化下的训练稳定与推理一致性。
284 7
从贝叶斯视角解读Transformer的内部几何:mHC的流形约束与大模型训练稳定性
|
8天前
|
存储 人工智能 数据库
Agentic Memory 实践:用 agents.md 实现 LLM 持续学习
利用 agents.md 文件实现LLM持续学习,让AI Agent记住你的编程习惯、偏好和常用信息,避免重复指令,显著提升效率。每次交互后自动归纳经验,减少冷启动成本,跨工具通用,是高效工程师的必备技能。
101 17
Agentic Memory 实践:用 agents.md 实现 LLM 持续学习
|
11天前
|
存储 人工智能 架构师
构建自己的AI编程助手:基于RAG的上下文感知实现方案
打造智能代码助手,远不止调用API。需构建专为代码设计的RAG系统:基于AST解析保障分块完整性,向量库实现语义检索,结合仓库地图提供全局结构,再通过推理链整合上下文。如此,AI才能真正理解代码,胜任重构、答疑等复杂任务,成为懂你项目的“资深工程师”。
74 7
构建自己的AI编程助手:基于RAG的上下文感知实现方案
|
22天前
|
机器学习/深度学习 人工智能 并行计算
DeepSeek 开年王炸:mHC 架构用流形约束重构 ResNet 残差连接
大过节DeepSeek在arXiv发布mHC新论文,挑战Transformer残差连接范式。通过流形约束(谱范数+双重随机矩阵),在保持高带宽信息通路的同时恢复恒等映射稳定性,解决深层网络梯度传播难题,理论扎实且兼顾系统效率,或成“后Transformer时代”架构新方向。
382 7
DeepSeek 开年王炸:mHC 架构用流形约束重构 ResNet 残差连接
|
23天前
|
运维 前端开发 算法
Web3 的真相:天天喊去中心化,可中心到底“藏”在哪?
Web3 的真相:天天喊去中心化,可中心到底“藏”在哪?
113 12
|
26天前
|
API 数据库 Docker
向量搜索升级指南:FAISS 到 Qdrant 迁移方案与代码实现
FAISS 适合实验,但生产环境痛点诸多:无元数据支持、非服务化、难持久化。迁移到 Qdrant 后,实现开箱即用的向量数据库能力,支持混合搜索、过滤、持久化与高效 API,大幅提升系统稳定性与开发效率,真正打通从研究到生产的闭环。
114 6
向量搜索升级指南:FAISS 到 Qdrant 迁移方案与代码实现
|
5天前
|
Rust 自然语言处理 Java
《跨语言协作效率提升:GraalPython互操作核心瓶颈攻坚手册》
本文聚焦GraalPython多语言互操作的性能瓶颈,结合实时流处理、边缘计算等场景,深度剖析类型语义转译、语境切换、内存语义协同、版本协同、动态优化边界限制等核心问题。揭示不同语言类型体系、内存模型、线程调度机制的本质差异,如何通过Polyglot API、Truffle框架的中间环节放大隐性性能损耗,以及高频调用场景下这些损耗的累积效应。
61 22
|
29天前
|
存储 SQL Apache
Flink + Fluss 实战: Delta Join 原理解析与操作指南
Flink Delta Join 通过复用源表数据替代本地状态,解决双流 Join 状态膨胀问题。结合 Fluss 流存储,实现高效双向 Lookup,显著降低资源消耗与 Checkpoint 时间,提升作业稳定性与恢复速度,已在阿里大规模落地。
235 25
Flink + Fluss 实战: Delta Join 原理解析与操作指南
|
7天前
|
人工智能 缓存 自然语言处理
LLM多跳推理深度测试:四项指标精准定位模型的推理极限
本文探讨大模型在多步推理中的表现,通过四项压力测试对比Llama 3.2与Qwen 3的逻辑极限。分析揭示:Llama 3.2依赖预训练内化的直觉推理,稳定高效;Qwen 3则靠“自我对话”推进复杂任务,虽具思考深度但易受算术错误影响,深层推理易崩溃。两者适用于不同场景——速度优先选Llama,探索性任务可试Qwen。
107 12
LLM多跳推理深度测试:四项指标精准定位模型的推理极限