马斯克推出Grok-1.5,接近GPT-4级别的性能

简介: 马斯克推出Grok-1.5,接近GPT-4级别的性能

本文来自 企业网D1net公众号

在开放源码Grok-1短短几周后,马斯克的xAI推出了其专有大型语言模型的升级版本——Grok-1.5。


定于下周发布的Grok-1.5带来了增强的推理和解决问题的能力,并接近于已知的开源和闭源的LLM的性能,包括OpenAI的GPT-4和Anthropic的Claude 3。它也能够处理长文本,但在上下文窗口大小方面仍落后于Gemini 1.5 Pro的最多100万个标记。


马斯克指出,Grok-1.5将为xAI在X平台上的ChatGPT挑战者聊天机器人提供支持,而Grok-2(新模型的继任者)仍在训练阶段。他表示,下一个版本应该能够“在所有指标上超越当前的AI”,但没有分享它可能何时变得可用的具体细节。


Grok-1.5带来了什么?


xAI去年11月宣布了Grok-1,称这个AI是以《银河系漫游指南》为模型,几乎可以回答任何问题,以帮助人类在寻求理解和知识的征途中——无论背景或政治观点如何。在GSM8K、HumanEval和MMLU等基准测试中,由xAI分享的数据显示,Grok-1的表现超过了Llama-2-70B和GPT-3.5。


现在,随着Grok-1.5的发布,该公司在先前模型的基础上取得了显著改进,在所有主要基准测试中,包括与编码和数学相关的任务,都实现了显著提升。


xAI在博客文章中指出:“在我们的测试中,Grok-1.5在MATH基准测试中达到了50.6%的分数,在GSM8K基准测试中达到了90%的分数,这两个数学基准测试涵盖了从小学到高中竞赛问题的广泛范围。此外,它在评估代码生成和问题解决能力的HumanEval基准测试中得分为74.1%。”


在MMLU基准测试上,评估AI模型在不同任务上的语言理解能力,新模型得分为81.3%,比Grok-1的73%高出显著幅度。


此外,xAI还确认,Grok-1.5的上下文窗口可达128,000个标记(标记是单词、图像、视频、音频或代码的整个部分或子部分)。这使得模型能够一次性处理和处理大量信息,比Grok-1多16倍,使其更适合分析、总结和提取长文档中的信息。它甚至可以处理更长、更复杂的提示,同时仍然保持遵循指令的能力。


接近OpenAI和Anthropic


凭借增强的推理和解决问题的能力,Grok-1.5不仅在基准测试中胜过其前身,而且还接近流行的开放和封闭源模型,包括Gemini 1.5 Pro、GPT-4和Claude 3。


例如,在MMLU上,Grok-1.5的81.3%得分超过了最近推出的Mistral Large,但落后于Gemini 1.5 Pro(83.7%)、GPT-4(86.4%,


截至2023年3月)和Claude 3 Opus(86.8%)。在GSM8K基准测试上也注意到了类似的差距,xAI模型仅落后于Google、OpenAI和Anthropic的产品。


值得注意的是,Grok-1.5唯一看起来有优势的基准是HumanEval,在那里它的表现超过了所有模型,除了Claude 3 Opus。xAI希望继续这些改进,并通过Grok-2提供进一步的性能提升,据马斯克称,应该在所有指标上超越当前的AI。该模型目前正在训练中。


技术顾问Brian Roemmele表示,根据他与Grok-1的工作,Grok-2“在发布时将成为最强大的LLM AI平台之一。它将在几乎所有指标上超越OpenAI。”


Grok-1.5的可用性


至于Grok-1.5,xAI计划下周开始部署。公司表示,该模型最初将提供给早期测试者和那些已经在X平台(Twitter)上使用Grok聊天机器人的用户——实时访问平台上的所有帖子。推出将分阶段进行,公司将改进模型并引入几个新功能——可能包括一种新的不受限制的有趣模式——同时逐步使其对更广泛的用户群体可用。


当马斯克在X上推出Grok时,被视为推动Grok和X的采用。他首先将AI作为平台的“高级+”订阅的一部分,价格为每月16美元。然而,就在几天前,这位亿万富翁分享说,聊天机器人也将为支付8美元每月的高级订阅者启用。在另一个更新中,他还确认,拥有一定级别的验证订阅者的关注者将免费获得高级和高级+订阅的好处,包括Grok。

相关文章
|
1月前
|
人工智能 Rust Kubernetes
开源11天,马斯克再发Grok-1.5!128K代码击败GPT-4
**马斯克的xAI发布Grok-1.5,超越GPT-4!**\n\nGrok-1.5以128K上下文长度提升文本理解,强化推理能力,在MATH与GSM8K数学测试中展现出色性能,HumanEval代码任务得分74.1%。基于JAX、Rust和Kubernetes的训练框架加速了研发,但更大规模带来资源需求挑战。开源策略促进发展,但也引出滥用与安全问题。
196 3
开源11天,马斯克再发Grok-1.5!128K代码击败GPT-4
|
8天前
|
人工智能 自然语言处理 搜索推荐
探索马斯克xAI与GPT模型的现状与发展:引领人工智能的未来
探索马斯克创立的xAI与"百模大战"的崛起,马斯克从对AI的担忧转向实际行动,成立xAI以追求宇宙真理。中国AI产业在竞争中崛起,多家企业推出大模型,展现出强劲实力。AI大模型发展趋势包括规模性能提升、多模态学习、个性化和自适应,以及模型的可解释性和公正性。xAI与GPT模型的出现,揭示了AI的潜力与挑战,未来将推动人机协作和模型的可持续发展。
|
1月前
|
人工智能
苹果推出理解、转化模型ReALM,性能超GPT-4
【5月更文挑战第13天】苹果发布ReALM模型,将参考解析转化为语言建模,超越GPT-4。ReALM通过将非文本实体转为文本处理,解决了AI在处理特定问题时的局限。实验显示,ReALM在多种参考解析任务上优于GPT-3.5和GPT-4,尤其在屏幕实体参考解析上提升超5%。但模型可能因信息丢失和高计算需求带来挑战。[链接](https://arxiv.org/abs/2403.20329)
27 3
|
1月前
|
人工智能 安全 测试技术
Infection-2.5登场,训练计算量仅40%、性能直逼GPT-4!
【2月更文挑战第18天】Infection-2.5登场,训练计算量仅40%、性能直逼GPT-4!
42 3
Infection-2.5登场,训练计算量仅40%、性能直逼GPT-4!
|
1月前
|
人工智能 自然语言处理 安全
令马斯克眼红到起诉的GPT4到底是什么?
本文深入探讨了GPT-4技术的发展、特性及其在人工智能领域的重大意义,同时解析了特斯拉CEO埃隆·马斯克与OpenAI之间因GPT-4技术产生的法律纠纷。
44 0
令马斯克眼红到起诉的GPT4到底是什么?
|
1月前
|
人工智能 自然语言处理 前端开发
王者Claude 3大模型!!!OpenAI竞争对手Anthropic推出Claude 3大模型,各项性能全面碾压GPT-4!
王者Claude 3大模型!!!OpenAI竞争对手Anthropic推出Claude 3大模型,各项性能全面碾压GPT-4!
59 0
|
8月前
|
自动驾驶 Serverless 云栖大会
2023云栖大会 | Serverless化进程——阿里云发布通义千问2.0 性能超GPT-3.5 加速追赶GPT-4
云计算也能“自动驾驶”了!阿里云用大模型对云产品进行AI化改造
844 6
|
10月前
|
Web App开发 机器学习/深度学习 人工智能
GPT-4使用混合大模型?研究证明MoE+指令调优确实让大模型性能超群
GPT-4使用混合大模型?研究证明MoE+指令调优确实让大模型性能超群
124 0
|
11月前
|
人工智能 运维 自然语言处理
GPT-4 性能炸天:10 秒做出一个网站,在考试中击败 90% 人类
GPT-4 性能炸天:10 秒做出一个网站,在考试中击败 90% 人类
|
11月前
|
人工智能 自然语言处理 机器人
「羊驼」们走到哪一步了?研究表明:最好的能达到GPT-4性能的68%
「羊驼」们走到哪一步了?研究表明:最好的能达到GPT-4性能的68%
173 0

热门文章

最新文章