ChatGPT的冷思考

简介: ChatGPT的冷思考

640.jpg

ChatGPT这个词最近有多热,相信我不需要再说什么。笔者也尝试去试用了下,感觉还是以好玩为主,对于研发或者测试来说,虽然能提升一些效率,但也有限。具体有什么商业级的应用,文末有福利。本文主要聊聊一些自己冷静下来后的思考。

 

01

先聊一下ChatGPT和现有的几类搜索引擎有什么区别。

 

现有的搜索引擎,比如百度,它的工作机制简单讲,就是在互联网中发现、搜集网页信息;同时对信息进行提取和组织建立索引库;再由检索器根据用户输入的查询关键字,在索引库中快速检出文档,进行文档与查询的相关度评价,对将要输出的结果进行排序,并将查询结果返回给用户。

 

而对于ChatGPT,本质上是一个自然语言处理工具,基于Transformer神经网络架构(GPT-3.5架构),是利用机器学习和神经网络架构训练出来用于处理序列数据的模型,它的特点决定了它可以在已知范围内(语料库&信息库)按照设定的规则模型(算法逻辑),在我们进行信息输入后,给出特定的反馈。


这么一看,它的局限性当前来说很窄。因为它需要人类提供元数据,需要人类给它设定规则,需要预先输入信息它才可以给出反馈(如果不在它的已知范围内,逻辑上它给出的反馈和我们预期是有很大差距的)。

 

小结:ChatGPT本质依旧是个搜索引擎(原来是企业通过爬虫去收集,现在是由专家给数据),只是做了二次加工(根据神经学原理进行一定的逻辑处理)。虽然效率上提升了,但是本质没有改变,这点其实非常重要。

 

02

理解了二者的区别后,就会遇到第一个问题:如何有效地提问?不论是搜索引擎还是ChatGPT,它给你反馈的前提是你如何有效地提问,关键字越精准,返回的信息越准确。如下图,理论上我想问的,都是接口自动化测试是什么。但明显第三个才是我可能想要的答案。

  

640.png

 

同时,如何使用这个工具,结果千差万别。这些年,你从搜索引擎中获取到了哪些真知识,提高了生产效率?大概率,用ChatGPT也不太会有质的改变。

 

生活就像一个竞技场,每个人走到里边的时候,惊艳地发现里边摆着一堆武器让大家自己选,这些武器从木棍到机枪应有尽有。令人不解的是,绝大部分人选择的是操作简单容易上手的菜刀,而不是有一定学习成本的机枪,最后的结果也很明显,看似公平的竞赛,最终因为工具的差别变成了单方面的屠杀 作者:九边


03

第二个问题,ChatGPT给出的答案一定是对的吗?

 

在使用搜索引擎的时候,它至少还会返回N多个结果,需要提问者去筛选、过滤、对照,过程虽然比较麻烦,但在不断识别这些材料的过程中,我们会对答案有一个比对的,能够识别出一些错误的信息。但是ChatGPT通过聊天的形式,只给出了一个结果,我们如何判断这个反馈的正确性?下面的回答,你觉得对吗?

  

640.png

 

网上也有很多类似的吐槽。当下可能是数据训练不够多引起的。但什么时候是“训练”够了?谁来判断?现在训练的数据来源于专家收集的数据。未来这个训练集应该是会对外开放的(保证数据的多样性),那么前微软“小冰”的故事,会重演么?

 

04

延伸一下,如果未来作为训练的数据,被人为的控制,那么ChatGPT反馈出的结果,对没有识别错误能力人而言,将会带来什么?现在的信息茧房已经逐步形成,未来会不会更可怕?知识是不是又会回到少数人的手中?我们只能看到专家们想给我们看的?

 

单一来源的信息,需要我们保持判断力,需要我们有多重验证的渠道。

 

当然,新鲜事物的出现,从0到1 ,都是需要过程和验证的,需要更多的包容心。正向来看,ChatGPT在特定领域,还是能极大地提高效率。

 

对于当下的ChatGPT,保持理性。

 

640.png



往期推荐:

DevOps平台工具的4个阶段

测试职业规划的思考

荒废2023,从纠结开始

关于写作这件事

在职场上拥有选择的权力

相关文章
|
2月前
|
人工智能 运维 并行计算
Sora横空出世,AI视频时代崭露头角,我们准备好了吗?
2024年新春伊始,OpenAI新发布的Sora模型,在AI生成视频赛道扔下一枚深水炸弹,将曾经大火AI视频创业公司的模型直接碾压。
|
9月前
|
机器学习/深度学习 人工智能 文字识别
探索古彝文的秘密,AI实现古籍传承
随着社会的进步与文化传承的发展,新时代的年轻人展现出无比强烈的文化自信。中华文化源远流长、一脉相承,在这个强调文化自信的时代,我们不得不更加重视文化传承的历史任务,而今天,文化传承的接力棒已经交到的新一代年轻人的手中。但是古文字文化传承方面的工作目前还有待提升,其原因就在于在探索古文字释义的过程中有诸多困难,即使有大量的古文字书籍供人们阅览,但是大部分人对这部分文化少有研究,因此使得古文字文化的传承困难重重。
|
8月前
|
SQL 人工智能 自然语言处理
只有 1% 的人才知道的 ChatGPT 写作技巧
只有 1% 的人才知道的 ChatGPT 写作技巧
1742 0
|
9月前
|
机器学习/深度学习 自然语言处理 数据处理
ChatGPT 爆火背后的大语言模型到底是什么?
ChatGPT 爆火背后的大语言模型到底是什么?
|
机器学习/深度学习 人工智能 自然语言处理
chatGPT爆火,什么时候中国能有自己的“ChatGPT“
chatGPT爆火,什么时候中国能有自己的“ChatGPT“
|
机器学习/深度学习 人工智能 自然语言处理
ChatGPT成功背后的技术原因及其对生命科学领域的启发
ChatGPT成功背后的技术原因及其对生命科学领域的启发
|
人工智能 自然语言处理 算法
AI 绘画大热 ChatGPT 爆火,创意设计从业者准备好被取代了吗?
AI 绘画大热 ChatGPT 爆火,创意设计从业者准备好被取代了吗?
 AI 绘画大热 ChatGPT 爆火,创意设计从业者准备好被取代了吗?
|
人工智能 Android开发
ChatGPT洗脑
上面是动物小猫的照片,下面是猫的纸上的素描
715 0
|
机器学习/深度学习 人工智能 算法
当年轻人开始谈论AI伦理
无可否认的是,伴随着人工智能的大规模产业化应用,一些无先例可循的人机矛盾逐渐浮出了水面,以至于找到一种可预期的、可被约束的、行为向善的人工智能治理机制,成了人工智能时代的首要命题。
1833 0
当年轻人开始谈论AI伦理
|
人工智能 搜索推荐 机器人
2020 年聊天机器人将走向何方?
聊天机器人,会是未来商业新形态吗?最早的聊天机器人可以追溯到 1966 年的麻省理工学院开发的 ELIZA,聊天机器人已经问世 53 年了。但几经沉浮,聊天机器人并没有像开发者们最初的设想那样:取代人类,赋予人格。但随着人工智能领域的进展,有了人工智能的加持,在 2020 年,聊天机器人将会走向何方呢?
1362 0
2020 年聊天机器人将走向何方?