OS Copilot 是否做好准备大干一场了?实测体验

简介: **OS Copilot测评摘要:**智能运维助手OS Copilot展现出优雅的命令停止功能和对话记忆,但存在不足。Markdown渲染在终端中不理想,且在生成脚本后误导用户执行未创建的文件。模型有时产生幻觉,误认为已完成任务。此外,对codesum等特定功能理解不足。建议加强代码高亮、系统集成、思维链透明度、疑难命令处理及提供API。测评包括一键创建实例、修改密码、设置安全组、创建AccessKey及安装步骤。

[TOC]

使用测评

image-20240705160324964.png

这是一张使用截图,像在做自我介绍一样。这就是今天我尝试使用的智能运维助手,OS Copilot。

身为运维,天天和系统和命令和脚本打交道,CO 是专门在这个场景中,借助大模型能力增加工作效率的工具。今天我按着他的指引文档,一步步试用操作了一下,整个过程用下来还算顺畅,总体来看 CO 确实有了智能助手的影子,但实际能力离真正帮忙,还有一些距离,我把优缺点记录了下来,测试步骤放在了最后,供有兴趣的人参考。测评问题总结放在最后。

惊艳之处

  • 停止命令很优雅,做了样式

image-20240705155224750.png

  • 交互模式的对话做了对话记忆功能。

image-20240705160117302.png

不足之处

  • markdown 语法在终端中有些多次一举,阻碍阅读。
  • 生成脚本后推荐了可执行命令,当我选择执行命令时,则报错没有文件,然后我才发现 CO 只生成了代码,而确实没有生成文件。所以接下来供用户执行的选择有点画蛇添足,因为既然没有文件也没办法执行,则不要这样提示为好。

image-20240705155156172.png

  • 仍有模型幻觉,以下面例子为例,我进一步让他保存代码文件,暂且不提 CO 是否具备了调用系统接口做创建文件的动作,但是他自己没有否认自己有这个能力,于是做了如下输出,可以看到,他认为自己已经完成了任务,保存了文件,但实际什么也没有,所以模型幻觉让人存在,很容易触发。

image-20240705155818559.png

  • 模型语料中对自身的知识有些不足,比如我问他交互模式中的 codesum 是怎么用的,但是 CO 并没有给出一个合格的答案

image-20240705160033801.png

产品建议

  • 如果能在终端中,代码生成时加上代码高亮的功能,那将非常炫酷
  • 如果 CO 可以调用系统接口,创建文件,写入文件,读取文件,真正做到和系统相结合使用,那将是一个质的提升。
  • 希望 CO 在执行任务时,也可以选择打印出自己的思维链,比如这一步骤做了什么,下一步骤做什么,这样当出现幻觉或者回答错误时,使用者也容易知道是哪一环节出了问题,导致模型错误输出。
  • 如果 CO 可以提供接口,供其他工具调用,那将大大扩展自己的舞台。
  • 希望 CO 训练数据不要太着重于简单常见命令,这些命令都是大家手到擒来的,真正让人头疼,不得不去搜索查阅资料的是一些疑难或者长命令,如果 CO 模型能加强这部分的训练,那一定很有帮助。

环境准备步骤

一键创建实例

image-20240705153407201.png

修改服务器密码

image-20240705153658095.png

设置安全组

image-20240705153740819.png

创建AccessKey

image-20240705153929829.png

安装 OS Copilot

image-20240705154651027.png

测评问题

1、OS Copilot 产品体验评测
1)您的角色是什么?开发、运维、学生?如果使用OS Copilot,您的使用场景是什么?
运维,工作维护集群,检查集群,维护服务
2)你觉得 OS Copilot 在新人上手方面是否简单、指引文档是否清晰、是否存在什么阻碍?
清晰无阻碍
3)OS Copilot 是否对您的工作有帮助?如果有帮助的话,帮助程度1-10分,能够打几分?
7分,具体原因见文中不足之处的分析
4)您愿意向周边朋友/工作伙伴推荐OS Copilot吗?如果OS Copilot开源,是否有意愿共同参与开发?包括参与OS领域大模型的训练等。
愿意

2、OS Copilot 产品功能反馈
1)您体验了哪些功能?对OS Copilot的哪些功能最感兴趣(知识问答、辅助编程、辅助命令执行等),为什么?
代码生成,辅助命令执行都不错,具体使用情况上文使用测评
2)您有体验过其他类型的产品吗?对比其他产品OS Copilot有什么优缺点?
体验过 copilot,相较于纯代码辅助的 copilot,OS Copilot 更专注操作系统的运维,对系统命令解释的详细,尤其对中文内容很友好。缺点就是模型能力还不够强大,幻觉问题时常出现。详情见文中不足之处的分析。
3)您希望OS Copilot能够扩展其他哪些功能呢?比如,支持更多的操作系统、自动命令报错原因分析、系统错误排查,或其他任何您想到的功能。
对于功能建议已经在文中产品建议模块给出。再补充一些,比如我希望 CO 能多平台,能个性化,支持配置。
4)OS Copilot与其他产品联动组合的体验以及可能,如ACK智能助手、ECS、Workbench等,您也可以展开列举组合的实际应用场景。
与 p8s,alertmanager 等告警组件,组合成巡检告警系统。

相关文章
|
移动开发 运维 前端开发
操作系统智能助手OS Copilot新功能
我是一名公司前端开发人员,专注于官网和H5页面的开发,涵盖页面构建、交互逻辑及性能优化。主要负责静态和移动端页面开发,不直接涉及云资源运维,但在项目部署时会接触云服务器。 关于Copilot的使用体验:安装过程顺畅,目前功能较少,建议增加更多功能和中文支持。核心功能包括-t代理模式(实现黑客帝国代码瀑布效果但未达预期)、-f读取文件(生成随机字符接近目标但仍需改进)和管道功能(稳定性欠佳)。总体而言,-t/-f选项实用,管道功能需完善。
|
Java 应用服务中间件 Python
OS Copilot全面测评报告 与 利用OS Copilot进行在线WebAPI接口开发
OS Copilot 是一款智能操作系统助手,具备智能、专业、高效和协作四大优势。本文通过全面测评其功能,验证了其在系统诊断、调优及编程等场景中的表现,并通过在线WebAPI接口开发测试进一步评估其快速接口开发上线的能力。具体步骤包括ECS环境配置、OS Copilot安装与配置、-t/-f参数功能测试、管道测试以及利用OS Copilot进行Python WebAPI开发。最终结果显示,OS Copilot能够显著提升开发效率,解决了便捷开发中的临时接口开发问题,整体体验非常满意。建议增加-s参数以保存上下文,进一步增强交互性。
769 12
OS Copilot全面测评报告 与 利用OS Copilot进行在线WebAPI接口开发
|
弹性计算 运维 自然语言处理
OS Copilot 深度测评报告
OS Copilot 是阿里云推出的一款基于大语言模型的操作系统智能助手,专为Linux用户设计。它结合了自然语言处理的最新成果和阿里云团队的实践经验,提供专业、高效、智能的操作体验。评测基于阿里云ECS实例进行,重点测试了-t、-f和管道参数功能,显著提升了性能与效率。用户反馈整体满意,建议增强稳定性和丰富帮助文档。OS Copilot为Linux用户带来了全新的交互方式和更高的工作效率。
381 14
OS Copilot 深度测评报告
|
移动开发 前端开发 测试技术
操作系统智能助手OS Copilot新功能
我是一名专注于公司官网和H5页面开发的前端工程师,主要负责页面构建、交互逻辑及性能优化。近期使用GitHub Copilot进行开发辅助,体验如下: 1. **安装与初步使用**:安装过程顺利,但目前功能较少,建议增加更多功能和中文支持。 2. **核心功能体验**: - **-t 代理模式**:尝试实现《黑客帝国》代码瀑布效果,但未能完全达到预期。 - **-f 文件读取**:通过文件描述需求,生成随机字符文本,接近目标但仍需改进。 - **管道功能**:处理代码解释时稳定性欠佳,有待完善。 总体而言,Copilot的-t/-f选项实用,但连续对话和管道功能还需提升。
操作系统智能助手OS Copilot新功能
|
前端开发 运维 应用服务中间件
操作系统智能助手OS Copilot新功能
作为一名公司的研发人员,我虽主要从事前后端开发,但也对云服务有所了解。在安装并体验OS Copilot的过程中,我深刻感受到其强大功能和便捷性。安装过程顺利直观,-t功能可快速测试命令输出,节省时间并提供有益信息;-f功能提升了批量任务处理和调试脚本的效率;管道功能虽有改进空间,但整体显著提升工作效率,特别是在处理复杂脚本和自动化任务时,减少了错误率。我相信OS Copilot未来潜力巨大,期待其进一步优化。
操作系统智能助手OS Copilot新功能
|
弹性计算 运维 自然语言处理
|
测试技术 数据库 开发工具
云产品评测|操作系统智能助手OS Copilot新功能
我是一名测试工程师,主要负责App和Web端的测试,有时会使用阿里云服务器进行服务端问题定位及数据库等云资源的操作。在使用OS Copilot过程中遇到了一些问题: 1. **命令执行失败**:在解决Vim中文乱码时,Copilot建议的命令看似正确,但实际并未创建或修改`.vimrc`文件。 2. **任务文件解析问题**:使用`-f`功能解析任务文件时,Copilot未能正确执行获取容器日志的任务。 3. **管道功能不稳定**:管道功能对文件内容解释有效,但在某些情况下需要更明确的提示词才能正常工作。
云产品评测|操作系统智能助手OS Copilot新功能获奖名单公布!
云产品评测|操作系统智能助手OS Copilot新功能获奖名单公布!
504 9
|
弹性计算 人工智能 自然语言处理
操作系统智能助手OS Copilot新功能上线,快来体验吧
阿里云智能助手OS Copilot是一款基于大模型的Linux操作系统智能助手,支持自然语言问答、辅助命令执行、系统运维调优等功能。通过自然语言处理技术,OS Copilot能够帮助用户轻松完成复杂的命令操作和系统管理任务,极大提升了操作便捷性和效率。用户可以通过简单的对话获取所需的操作指令,降低了对专业技能的要求。
|
运维 自然语言处理 Ubuntu
OS Copilot-操作系统智能助手-Linux新手小白的福音
OS Copilot 是阿里云推出的一款操作系统智能助手,专为Linux新手设计,支持自然语言问答、辅助命令执行和系统运维调优等功能。通过简单的命令行操作,用户可以快速获取所需信息并执行任务,极大提升了Linux系统的使用效率。安装步骤简单,只需在阿里云服务器上运行几条命令即可完成部署。使用过程中,OS Copilot不仅能帮助查找命令,还能处理文件和复杂场景,显著节省了查找资料的时间。体验中发现,部分输出格式和偶尔出现的英文提示有待优化,但整体非常实用,特别适合Linux初学者。
837 10

热门文章

最新文章

推荐镜像

更多