本文来自 企业网D1net公众号
在开放源码Grok-1短短几周后,马斯克的xAI推出了其专有大型语言模型的升级版本——Grok-1.5。
定于下周发布的Grok-1.5带来了增强的推理和解决问题的能力,并接近于已知的开源和闭源的LLM的性能,包括OpenAI的GPT-4和Anthropic的Claude 3。它也能够处理长文本,但在上下文窗口大小方面仍落后于Gemini 1.5 Pro的最多100万个标记。
马斯克指出,Grok-1.5将为xAI在X平台上的ChatGPT挑战者聊天机器人提供支持,而Grok-2(新模型的继任者)仍在训练阶段。他表示,下一个版本应该能够“在所有指标上超越当前的AI”,但没有分享它可能何时变得可用的具体细节。
Grok-1.5带来了什么?
xAI去年11月宣布了Grok-1,称这个AI是以《银河系漫游指南》为模型,几乎可以回答任何问题,以帮助人类在寻求理解和知识的征途中——无论背景或政治观点如何。在GSM8K、HumanEval和MMLU等基准测试中,由xAI分享的数据显示,Grok-1的表现超过了Llama-2-70B和GPT-3.5。
现在,随着Grok-1.5的发布,该公司在先前模型的基础上取得了显著改进,在所有主要基准测试中,包括与编码和数学相关的任务,都实现了显著提升。
xAI在博客文章中指出:“在我们的测试中,Grok-1.5在MATH基准测试中达到了50.6%的分数,在GSM8K基准测试中达到了90%的分数,这两个数学基准测试涵盖了从小学到高中竞赛问题的广泛范围。此外,它在评估代码生成和问题解决能力的HumanEval基准测试中得分为74.1%。”
在MMLU基准测试上,评估AI模型在不同任务上的语言理解能力,新模型得分为81.3%,比Grok-1的73%高出显著幅度。
此外,xAI还确认,Grok-1.5的上下文窗口可达128,000个标记(标记是单词、图像、视频、音频或代码的整个部分或子部分)。这使得模型能够一次性处理和处理大量信息,比Grok-1多16倍,使其更适合分析、总结和提取长文档中的信息。它甚至可以处理更长、更复杂的提示,同时仍然保持遵循指令的能力。
接近OpenAI和Anthropic
凭借增强的推理和解决问题的能力,Grok-1.5不仅在基准测试中胜过其前身,而且还接近流行的开放和封闭源模型,包括Gemini 1.5 Pro、GPT-4和Claude 3。
例如,在MMLU上,Grok-1.5的81.3%得分超过了最近推出的Mistral Large,但落后于Gemini 1.5 Pro(83.7%)、GPT-4(86.4%,
截至2023年3月)和Claude 3 Opus(86.8%)。在GSM8K基准测试上也注意到了类似的差距,xAI模型仅落后于Google、OpenAI和Anthropic的产品。
值得注意的是,Grok-1.5唯一看起来有优势的基准是HumanEval,在那里它的表现超过了所有模型,除了Claude 3 Opus。xAI希望继续这些改进,并通过Grok-2提供进一步的性能提升,据马斯克称,应该在所有指标上超越当前的AI。该模型目前正在训练中。
技术顾问Brian Roemmele表示,根据他与Grok-1的工作,Grok-2“在发布时将成为最强大的LLM AI平台之一。它将在几乎所有指标上超越OpenAI。”
Grok-1.5的可用性
至于Grok-1.5,xAI计划下周开始部署。公司表示,该模型最初将提供给早期测试者和那些已经在X平台(Twitter)上使用Grok聊天机器人的用户——实时访问平台上的所有帖子。推出将分阶段进行,公司将改进模型并引入几个新功能——可能包括一种新的不受限制的有趣模式——同时逐步使其对更广泛的用户群体可用。
当马斯克在X上推出Grok时,被视为推动Grok和X的采用。他首先将AI作为平台的“高级+”订阅的一部分,价格为每月16美元。然而,就在几天前,这位亿万富翁分享说,聊天机器人也将为支付8美元每月的高级订阅者启用。在另一个更新中,他还确认,拥有一定级别的验证订阅者的关注者将免费获得高级和高级+订阅的好处,包括Grok。