概述
ChatGPT,英文全称为Chat Generative Pre-trained Transformer,是OpenAI研发的聊天机器人程序。ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过理解和学习人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流。除此之外,还能进行撰写邮件、脚本、文案、翻译、代码,写论文、写诗、绘画等任务。
ChatGPT是人工智能深度学习的技术产物。对于软件工程师,了解下深度学习的发展历程、基本概念和基本原理等知识,还是很有必要的。
发展历程
深度学习的发展历程可以归纳为三个阶段,如下图所示。
第一阶段的成果1:M-P模型
1943年,心理学家麦卡洛克和数学逻辑学家皮兹提出了M-P模型。M-P模型是模仿神经元的结构和工作原理,构成的一个基于神经网络的数学模型,本质上是一种“模拟人类大脑”的神经元模型。M-P模型作为人工神经网络的起源,开创了人工神经网络的新时代,也奠定了神经网络模型的基础。
第一阶段的成果2:感知机模型
1958年,美国科学家罗森布拉特发现了一种类似于人类学习过程的学习算法——感知机学习。他正式提出了由两层神经元组成的神经网络,称之为“感知器”。感知器本质上是一种线性模型,可以对输入的训练集数据进行二分类,且能够在训练集中自动更新权值。感知器的提出吸引了大量科学家对人工神经网络研究的兴趣,对神经网络的发展具有里程碑式的意义。