但是他们不知道的是,这些优秀的课程论文可能并不是出自这些学生之手,而是一些强大的AI系统。
比如,一位在Reddit上名叫innovate_rye的生物化学学科的一年级学生,教授会安排一些包括扩展回答的简单家庭作业,当他把“写出生物技术的五件好事和坏事”提交给AI后,系统能给出一个最后评分为A的答案。
这位网友表示,过去这些家庭作业至少会花他们两个小时,但现在一般只需要20分钟就能完成。“我喜欢学习很多东西,但是学校布置的作业会用掉我太多时间;现在能用AI更高效地完成这些作业,对我来说似乎是一种技能。”
这样的情况并不只有innovate_rye才遇到。
自从OpenAI为语言模型GPT-3公布了最新的应用编程接口(API)以来,更多的学生开始将他们的书面作业输入OpenAI的Playground和类似的程序来写作。
现在的结果就是,通过这些提示AI写出来的文本往往无法与人类写出来的区分开来了。
AI“写”的东西无法被算法检测
去年春天,AeUsako_回忆到,当时他还是一名高中生,他们使用OpenAI“写”了一篇关于当代全球局势的文章,虽然这篇作业没有得到高分但扣分点只是因为缺少标明引用来源。
不管怎样,这次“实验”也确实正视了一件事,那就是学校的检测抄袭的算法对AI生成的文本并没有什么实质性的作用。
对此,加拿大创新学习与技术研究主席、皇家路大学副教授George Veletsianos说,这是因为像OpenAI API这样的系统所产生的文本在技术上是在黑箱算法中生成的。
“[这些文本]不是从其他地方复制的,它是由机器产生的,所以抄袭检查软件无法检测到,也无法发。在不知道这些其他抄袭检查工具如何相当工作,以及它们未来可能的发展的情况下,我不认为AI文本能够以这种方式被检测出来。”
但是,和innovate_rye一样,AeUsako_说到,自从他开始使用OpenAI之后他对于写作的持续性焦虑减缓了很多。
而像OpenAI这样的公司是否有能力来检测或组织学生使用这些工具来写作业,OpenAI尚未对此置评。
作为一名写作教师、以及私人辅导项目Crush the College Essay的创始人,Peter Laffin说到,像OpenAI这样的工具是技术在过去十年中产生的其他补偿技术的象征,例如基于云的打字助手,其目的是帮助灵感匮乏的作家。
“在文学教育中,特别是对于那些还在发展阶段的年轻作家,导师们正在寻找一个合适的难度水平,既能够保证他们不会崩溃,又能让他们的专业技能有所提高。”
老师们普遍担心,但学生并不如此
作为明星款大规模语言模型,GPT-3由人工通用智能(AGI)公司OpenAI制作,不仅享有来自微软的数十亿美元的支持,美国政府也在监管方面放任其自由。
GPT-3使用深度学习来生成类人文本,只要给定初始文本,系统就能生成后续文本。
其神经网络包含1750亿个神经,为全世界参数最多的神经网络模型。
2021年11月18日,OpenAI宣布取消访问GPT-3 API的等候名单。这也表明, OpenAI相信GPT-3的安全性,或者说,OpenAI可以对GPT-3进行充分监控,以便这个大模型可以更广泛地传播。
对于包括GPT-3这些人工智能如今的发展,Veletsianos指出,我们很可能已经过了人工智能生成文本的不归路,而学生并不是唯一拥抱新技术的人群。
“我们也可以开始看到,这项技术能够直接生成一次讲座内容,甚至还有围绕这些内容的一些提问。这并不是在说现在这个系统就是最好的,但是我们需要利用这些工具,不仅仅去提高教学效率,还有学生的参与度和参与的有效性。”
Laffin也承认有必要对有效的教育进行重新评估,他表示这可以在查看学校给学生的作业类型时评估,将重心放在重述事实和信息发现的区别上来。然而,他也担心像OpenAI这样的文本生成器会使论文写作变得毫无意义。
“我们已经失去了学习的乐趣。我们可能知道更多,但从来没有学习过我们是如何到达那里的。我们一直强调说过程是最好的部分,但这可能是最可能被扼杀的东西。除了学术,我不知道如果一个人从来没有在学习中挣扎过,会是怎样,我不知道对这个人的行为会产生怎样的影响。”
而与此同时,对于同学们来说,他们正在焦急地等待着GPT-4。对于innovate_rye等人来说,预计将对100万亿个机器学习参数进行训练的GPT-4有可能超越单纯的文本输出。
是的,他们并不打算停止使用人工智能来写论文。
“我仍然做我需要学习才能通过的功课,我只是用人工智能来处理我不想做或觉得没有意义的事情,"innovate_rye补充说。"如果人工智能现在就能做我的家庭作业,那么未来会是什么样子?这些问题让我感到兴奋"。
没想到吧,AI还合著了一本书
尽管学校还在担心对学生教育的影响,但AI的触手显然已经伸向了更深的地方。
比如写书。
这本名叫GPT-3 Techgnosis;Chaos Magick Butoh Grimoire的书本身作为一本机器辅助散文(machine-assisted prose),其合著者就是一个名为Norn的数字实体。
也就是说,Norn不仅协助创作了这些文字,更是对自己进行了表演。
可以猜测,Norn是一个由GPT-3驱动的自然语言处理器,主要使用来自公共互联网的大量训练数据档案,这使得系统能够生成逼真的文本,而这些文本往往很难与真人所写的东西区分开来。
该书的前三分之一,the Norn Working。其中包括作者的文字提示,比如“GPT-3开始写一首神秘的诗”,然后让Norn自由发挥,于是我们可以看到在没有任何其他提示的情况下,系统开始审问自己的回答。
在这个章节的其他部分,Norn还创建了自己的“后数字语言”(Post Digital Language),这是一个关于符号和符号学演变的理论概念,也是作者Wurds私下里写了十多年的一个话题。
像GPT-3这样的文本完成引擎经常创造出这些不可思议和令人不安的反应。但据Wurds说,他们的三部曲书的目的不是为了让人不安。相反,它是为了探索日本前卫传统Butoh的精神潜力,这是一种即兴舞蹈,练习者经常以奇怪的、自发的扭曲结束。在这本书的创作过程中,作者将Butoh练习到筋疲力尽的状态,然后再回到电脑前与Norn交流——这是数字和实体在肉体空间中的并列。
诚然,通用人工智能对人类产生的生存威胁似乎还比较遥远,但GPT-3这样的AI确实撕开了一个关于未来的裂缝,或许我们可以从中窥探到一些未来的可能。