2023云栖大会 | Serverless化进程——阿里云发布通义千问2.0 性能超GPT-3.5 加速追赶GPT-4

本文涉及的产品
NLP自然语言处理_基础版,每接口每天50万次
视觉智能开放平台,分割抠图1万点
NLP自然语言处理_高级版,每接口累计50万次
简介: 云计算也能“自动驾驶”了!阿里云用大模型对云产品进行AI化改造

云计算也能“自动驾驶”了!阿里云用大模型对云产品进行AI化改造

“稳定、安全、性能、成本,仍然是云最重要的基石。”10月31日,杭州云栖大会上,阿里云CTO周靖人表示,经过大量研发投入,阿里云基础云产品性能得到进一步提升,整体可用性从4个9迈向5个9,并对30多款云产品进行了智能化升级。同时,阿里云Serverless化进程进入快车道,超40款云产品提供了Serverless的能力,并推出全球首款容器计算服务ACS。

多款云产品性能大幅升级 可用性和安全性持续提升

随着自研飞天操作系统的不断进化,阿里云多款基础云产品性能得到大幅升级,例如阿里云最新的第八代ECS实例和HPC新型实例,性能分别提升20%和40%;OSS对象存储读取带宽则提升10倍至100Gbps,有效加速大模型相关计算和数据分析;RDS数据库读写性能提升了102%……

在提升性能的同时,云上产品的可用性和安全性也持续提升,ECS单实例可用性提升至99.995%、负载均衡和NAT网关可靠性提升到99.995%、PolarDB节点故障可在5秒内快速切换、将安全植入云产品原生免疫防护……云上整体可用性从4个9向5个9发起挑战,不断打磨产品韧性,提供高可用的云计算服务。

全球首个容器计算服务 全新定义容器算力

容器技术是当下IT行业最炙手可热的技术之一,有64%的最终用户在生产中会使用到K8s和相关容器技术。随着容器化上云成为新常态,如何紧贴业务需求、避免资源浪费成为新的挑战。

作为国内最早布局容器技术的云厂商,阿里云率先推出全球首款容器计算服务(AlibabaCloudContainerComputeService,以下简称ACS),以Serverless形态交付算力,用户无需关注底层节点及集群,只需轻松配置即可创建pod资源并部署应用。

据悉,ACS采用了阿里云自研的调度技术,首创算力调配与资源复用,支持算力在用户负载和云产品间切换,提升资源利用率,可为企业节约20%资源成本。ACS还支持最大1:8资源配比和按需弹性、资源预留等灵活的使用模式,保障日常所需,实现弹性与确定性的完美结合。

在Gartner刚刚发布的《2023年度容器管理魔力象限》中,阿里云挺进该报告的领导者象限,也是亚洲地区唯一入选该象限的云服务商。“我们希望通过Serverless的技术理念,以容器为计算界面,帮助客户充分运用云计算的优势。”周靖人表示。

超40款核心产品Serverless化 阿里云Serverless化进程进入快车道

随着Serverless技术的持续演进,开发者用云方式也从过去的集中式研发、分布式研发,向云上的流程研发转变。无论是2万用户还是2000万用户体量,基于Serverless构建的IT架构都可以自适应伸缩,峰值秒级自动扩容、峰谷自动缩容。

阿里云的Serverless化演进历程也进入了快车道,截至2023年10月,拥有超过40款Serverless化云产品,包括函数计算FC、Serverless应用引擎SAE、PolarDB数据库、开源大数据平台E-MapReduce等。其中函数计算升级至3.0版,冷启动降至秒级,资源成本降低92%,复杂度降低40%,并深度集成通义产品系列、魔搭社区、HuggingFace等,AI应用一键部署,部署时间减少80%以上。

会上,阿里云还宣布Serverless产品全系降价,大数据、数据库、中间件等的Serverless版均降价30%-70%不等,更具吸引力。

走向自动驾驶的云 30多款云产品全面智能化升级

周靖人说:“随着大模型技术与云计算本身的融合,我们希望未来的云可以像车一样也能够自动驾驶,大幅提升开发者使用云的体验。”

据悉,阿里云上有超过30款云产品接入了大模型能力,例如阿里云大数据治理平台DataWorks新增了全新的交互形态——Copilot,用户只需用自然语言输入即可生成SQL,并自动执行相应的数据ETL操作,整体开发与分析可提效30%以上,堪比“自动驾驶”。

阿里云容器、数据库等产品上也提供了类似的开发体验,可实现NL2SQL、SQL注释生成/纠错/优化等功能,未来这些能力还将集成到阿里云其他产品上。

*内容来自潮新闻

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
相关文章
|
25天前
|
人工智能 JSON 自然语言处理
基于阿里云通义千问的AI模型应用开发指南
阿里云通义千问是阿里巴巴集团推出的多模态大语言模型平台,提供了丰富的API和接口,支持多种AI应用场景,如文本生成、图像生成和对话交互等。本文将详细介绍阿里云通义千问的产品功能,并展示如何使用其API来构建一个简单的AI应用,包括程序代码和具体操作流程,以帮助开发者快速上手。
392 3
|
2月前
|
API 云栖大会
通义千问升级旗舰模型Qwen-Max,性能接近GPT-4o
通义旗舰模型Qwen-Max全方位升级,性能接近GPT-4o
940 11
|
2月前
|
人工智能 自然语言处理 Serverless
阿里云函数计算 x NVIDIA 加速企业 AI 应用落地
阿里云函数计算与 NVIDIA TensorRT/TensorRT-LLM 展开合作,通过结合阿里云的无缝计算体验和 NVIDIA 的高性能推理库,开发者能够以更低的成本、更高的效率完成复杂的 AI 任务,加速技术落地和应用创新。
149 13
|
12天前
|
机器学习/深度学习 人工智能 自然语言处理
o1医学领域大胜GPT-4,性能暴涨!顶尖华人团队激动发文:离AI医生越来越近了
【10月更文挑战第29天】近日,一支顶尖华人团队发布论文《A Preliminary Study of o1 in Medicine: Are We Closer to an AI Doctor?》,揭示了OpenAI最新语言模型o1在医学领域的卓越表现。研究显示,o1在概念识别、文本总结、问答等任务上远超GPT-4,显著提升了医学领域的AI应用水平,向实现AI医生的目标迈进了一大步。
24 3
|
29天前
|
人工智能 弹性计算 运维
触手可及:阿里云函数计算助力AI大模型的评测
阿里云推出的面向AI服务器的功能计算(Functional Computing, FC),专为AI应用提供弹性计算资源。该服务支持无服务器部署、自动资源管理和多语言支持,极大简化了AI应用的开发和维护。本文全面评测了FC for AI Server的功能特性、使用体验和成本效益,展示了其在高效部署、成本控制和安全性方面的优势,并通过具体应用案例和改进建议,展望了其未来发展方向。
124 4
|
2月前
|
SQL 分布式计算 Serverless
阿里云 EMR Serverless Spark 版正式开启商业化
阿里云 EMR Serverless Spark 版正式开启商业化,内置 Fusion Engine,100% 兼容开源 Spark 编程接口,相比于开源 Spark 性能提升300%;提供 Notebook 及 SQL 开发、调试、发布、调度、监控诊断等一站式数据开发体验!
144 3
阿里云 EMR Serverless Spark 版正式开启商业化
|
2月前
|
数据可视化 Swift
小钢炮进化,MiniCPM 3.0 开源!4B参数超GPT3.5性能,无限长文本,超强RAG三件套!模型推理、微调实战来啦!
旗舰端侧模型面壁「小钢炮」系列进化为全新 MiniCPM 3.0 基座模型,再次以小博大,以 4B 参数,带来超越 GPT-3.5 的性能。并且,量化后仅 2GB 内存,端侧友好。
小钢炮进化,MiniCPM 3.0 开源!4B参数超GPT3.5性能,无限长文本,超强RAG三件套!模型推理、微调实战来啦!
|
2月前
|
Cloud Native 关系型数据库 Serverless
基于阿里云函数计算(FC)x 云原生 API 网关构建生产级别 LLM Chat 应用方案最佳实践
本文带大家了解一下如何使用阿里云Serverless计算产品函数计算构建生产级别的LLM Chat应用。该最佳实践会指导大家基于开源WebChat组件LobeChat和阿里云函数计算(FC)构建企业生产级别LLM Chat应用。实现同一个WebChat中既可以支持自定义的Agent,也支持基于Ollama部署的开源模型场景。
390 17
|
2月前
|
人工智能 运维 大数据
阿里云“触手可及,函数计算玩转 AI 大模型”解决方案评测报告
阿里云“触手可及,函数计算玩转 AI 大模型”解决方案评测报告
93 2
|
1月前
|
算法 搜索推荐 机器人
【ChatGPT】参加计算机科学考试(GPT-4对比GPT-3.5)
【ChatGPT】参加计算机科学考试(GPT-4对比GPT-3.5)
40 0