阿里云参编业内首个代码大模型标准丨云原生 2024 年 1 月产品技术动态

简介: 阿里云参编业内首个代码大模型标准丨云原生 2024 年 1 月产品技术动态


云原生月度动态

CLOUD NATIVE

云原生是企业数字创新的最短路径。


《阿里云云原生每月动态》,从趋势热点、产品新功能、服务客户、开源与开发者动态等方面,为企业提供数字化的路径与指南。


01 趋势热点


🥇 阿里云参编业内首个代码大模型标准,通义灵码获 2023 AI4SE “银弹” 案例

阿里云作为 AI4SE 首批成员单位,与中国信息通信研究院等组织联合发起的《智能化软件工程技术和应用要求第一部分:代码大模型》(标准编号 AIIA/PG 0110-2023)。同时,阿里云“通义灵码智能编码助手”也荣获 2023 年 AI4SE 银弹优秀案例。



相关文章:阿里云参编业内首个代码大模型标准,通义灵码获 2023 AI4SE “银弹” 案例


🥈 阿里云推出 3.x Java 探针,解锁应用观测与治理的全新姿势

阿里云全新推出 3.x Java 探针,通过轻量级、无侵入的方式,为 Java 应用带来应对线上应用性能问题的全新方案。在性能方面:探针挂载启动耗时降低到 5 秒内,探针整体启动耗时缩减 10s+;挂载探针带来的额外 CPU 开销相较过往版本降低 50%;接近极限 TPS 场景下 CPU 仅增加 10%;在特性方面:带来了诊断、治理领域新特性,自适应负载保护、慢调用诊断、Java 21 的支持等。

相关文章:阿里云推出 3.x Java 探针,解锁应用观测与治理的全新姿势


🥉 成本更低、更可控,云原生可观测新计费模式正式上线

云原生可观测推出「按写入数据量」计费模式,降低不同可观测产品间的计费认知差距,以便更好的理解与管理可观测成本。并提供每月累计 150GB 免费额度(多产品独立额度叠加),进一步压降建设可观测成本。

相关文章:成本更低、更可控,云原生可观测新计费模式正式上线


02 产品新功能


应用实时监控服务 ARMS

ARMS 应用监控

  • 新版应用详情页面支持实例标签功能
  • 调用链分析功能支持 DrillDown 下钻功能
  • 支持以应用为中心的全栈监控能力
  • 优化应用列表页面

ARMS 智能告警

  • 支持在企业微信群里发送告警时@值班人员
  • 禁止编辑云监控导入的联系人信息
  • 告警管理功能支持应用监控 eBPF 版
  • 智能洞察事件详情页支持自助分析功能

云拨测

  • 支持通过 Terraform 创建拨测任务

用户体验监控

  • 支持告警规则配置
  • 应用启停、用量额度限制


可观测监控 Prometheus 版

  • 新版接入中心国内区域全面上线
  • 数据投递功能支持将 Prometheus 数据投递到阿里云 Kafka 和 大数据计算服务 MaxCompute
  • Prometheus 控制台上线计费切换能力
  • ECS 主机监控支持进程监控
  • 优化健康巡检列表页面加载速度
  • 接入管理新增统一的大盘查询入口


性能测试 PTS

  • PTS 3.0 压测报告支持应用监控、容器监控、负载均衡监控、数据库监控功能
  • PTS 3.0 压测报告支持错慢调用链分析功能
  • PTS 3.0 压测场景支持性能基线配置功能,压测报告支持基线比对功能


微服务引擎 MSE

  • MSE Nacos 支持配置变更操作人的查看
  • MSE 服务治理支持 Dubbo 3.x 及 SpringBoot 3.x


SchedulerX 任务调度

  • 发布新版 Go SDK v0.0.3:支持 MapReduce 任务
  • 工作流实例详情,支持通过流程图和列表查看,修改工作流的依赖关系,增加操作记录,可以对比前后修改。工作流支持批量启用、禁用、删除。任务导出支持勾选任务 ID 导出
  • 优化任务实例列表排序


日志服务 SLS

  • SLS 支持接入阿里云 Elasticsearch日志
  • SLS 支持使用 Ticket 参数鉴权方案实现日志服务 SLS 控制台免登分享功能


云效

云效项目协作 Projex

  • 在项目集中可通过里程碑服务,进行项目集的整体交付进度规划
  • 支持类型的多选:在添加自动化规则时,可选择多类型进行规则创建

云效代码平台 Codeup

  • 支持批量删除已合并分支:基于新版分支列表界面,支持用户选定和删除已合并分支
  • 新版分支列表页升级

云效应用交付 AppStack

  • 支持统一配置应用模板,新建应用时选择模板一键初始化应用

云效流水线 Flow

  • 流水线支持 Windows 私有构建机,满足 Windows CI/CD 场景

云效制品仓库 Packages

  • 支持企业新建私有制品仓库


通义灵码

  • 通义灵码企业 SaaS 版发布
  • 支持阿里云 AK/SK 登录
  • 新增代码优化功能
  • 支持网络代理配置
  • 优化问答中代码块操作交互
  • 优化问答中文本渲染格式和视觉


03 优秀实战案例


百万并发!API 网关抗住了亚运会流量高峰

作为亚运会所有核心流量的入口,阿里云 API 网关的重要性不言而喻。阿里云推出了一款百万并发规格的 API 网关,在亚运会项目中为客户提供了突破了 100 万 RPS 的服务能力,为亚运会提供强大的技术支持,满足用户更高并发的业务场景。

相关文章:百万并发!API 网关抗住了亚运会流量高峰


Sealos 选择云原生网关 Higress

尝试了市面上所有主流的开源网关,Sealos 最终选了 Higress,在 Sealos 的场景里面能够达到生产可用的目前只有 Higress。在安全性方面 Higress 也表现出众,同时 Higress 还兼容 Nginx Ingress 语法,所以几乎没有任何迁移成本,直接几分钟的升级就可以搞定。

相关文章:云原生网关哪家强:Sealos 网关血泪史


04 开源和开发者动态


函数计算部署 AI 艺术字应用,晒姓氏头像体验活动上线



AIGC 生成姓氏头像火爆全网,阿里云开发者社区与函数计算推出新活动。1 月 25 日-2 月 29 日,2 步基于函数计算搭建 AI 艺术字应用,晒姓氏头像就有机会赢 Cherry 机械键盘 MX8.0、小米移动电源等新春好礼!该场景基于 Stable Diffusion API Serverless 版解决方案打造,上手简单、帮助 AI 开发者轻松实现 AI 绘画平台开发、变现。

相关文章:【体验有奖】5 分钟函数计算部署 AI 艺术字应用,晒姓氏头像赢 Cherry 键盘!


云原生技术实践营上海站「云原生 AI &大数据」专场顺利举行

2024 年 1 月 5 日,云原生技术实践营「云原生 AI &大数据」专场在上海落幕。活动聚焦容器、可观测、微服务产品技术领域,以云原生 AI 工程化落地为主要方向,希望帮助企业和开发者更快、更高效地落地云原生 AI 系统。此次活动吸引了金融科技、制造、汽车、健康医疗、在线旅游、新茶饮等领域的近百位开发者参与。活动现场,阿里云一线工程师围绕6 个当下热门议题与现场的开发者、技术爱好者展开交流。

相关文章:活动回顾丨云原生技术实践营上海站「云原生 AI &大数据」专场(附 PPT)


Apache Dubbo 下一代云原生微服务挑战赛启动报名



本次大赛,参赛者将深度参与 ApacheTop-Level Project 开源项目协作流程中, 探索最新云原生技术。同时本次大赛由 Apache Dubbo PMC 成员担任导师,通过本项赛事,我们期望参赛团队在高性能 Triple 协议设计、完善的 Benchmark  验收体系、零信任解决方案、高性能消息驱动异步 RPC 上提出优秀的解决方案,共同定义下一代云原生微服务体系,为开源社区和企业用户在性能、安全等方面带来收益。

相关文章:Apache Dubbo 下一代云原生微服务挑战赛启动报名!五大赛题 50 万奖金池


Nacos 官网重大升级,提供官方发行版下载包

Nacos 官网每年有百万级 UV 访问,受到大量开发者的关注,这次官网更新,围绕着体验进行提升,主要是增强开发者关注核心诉求,比如 Nacos 官方下载渠道,解决开发者通过 Github 下载又卡又慢的问题,界面设计以简洁美观为核心,导航结构经过精心优化,更符合用户习惯,致力于提供直观而简洁的用户体验。

相关文章:Nacos 官网重大升级,提供官方发行版下载包,3.0 里程碑版本新特性预告


Sentinel 新版本发布,提升配置灵活性以及可观测配套

该版本基于 1.8.6 新增了多项特性和改进。主要新特性及改进如下:支持按照正则匹配资源名称,便于批量配置规则;流量指标支持对接 Prometheus;支持默认熔断规则;重构 RateLimitController:提高准确性并支持 maxQps 阈值大于 1000。在将来的一段时间内,1.8.x 系列和 2.0 系列将保持并行演进。

相关文章:Sentinel 新版本发布,提升配置灵活性以及可观测配套

相关文章
|
11月前
|
负载均衡 测试技术 调度
大模型分布式推理:张量并行与流水线并行技术
本文深入探讨大语言模型分布式推理的核心技术——张量并行与流水线并行。通过分析单GPU内存限制下的模型部署挑战,详细解析张量并行的矩阵分片策略、流水线并行的阶段划分机制,以及二者的混合并行架构。文章包含完整的分布式推理框架实现、通信优化策略和性能调优指南,为千亿参数大模型的分布式部署提供全面解决方案。
2866 4
|
11月前
|
机器学习/深度学习 缓存 监控
大模型推理优化技术:KV缓存机制详解
本文深入探讨了大语言模型推理过程中的关键技术——KV缓存(Key-Value Cache)机制。通过对Transformer自注意力机制的分析,阐述了KV缓存的工作原理、实现方式及其对推理性能的显著优化效果。文章包含具体的代码实现和性能对比数据,为开发者理解和应用这一关键技术提供实践指导。
2796 9
|
11月前
|
存储 机器学习/深度学习 人工智能
大模型微调技术:LoRA原理与实践
本文深入解析大语言模型微调中的关键技术——低秩自适应(LoRA)。通过分析全参数微调的计算瓶颈,详细阐述LoRA的数学原理、实现机制和优势特点。文章包含完整的PyTorch实现代码、性能对比实验以及实际应用场景,为开发者提供高效微调大模型的实践指南。
3462 3
|
11月前
|
人工智能 机器人 人机交互
当AI学会“看、听、懂”:多模态技术的现在与未来
当AI学会“看、听、懂”:多模态技术的现在与未来
535 117
|
12月前
|
监控 JavaScript Java
基于大模型技术的反欺诈知识问答系统
随着互联网与金融科技发展,网络欺诈频发,构建高效反欺诈平台成为迫切需求。本文基于Java、Vue.js、Spring Boot与MySQL技术,设计实现集欺诈识别、宣传教育、用户互动于一体的反欺诈系统,提升公众防范意识,助力企业合规与用户权益保护。
|
11月前
|
人工智能 自然语言处理 安全
AI助教系统:基于大模型与智能体架构的新一代教育技术引擎
AI助教系统融合大语言模型、教育知识图谱、多模态交互与智能体架构,实现精准学情诊断、个性化辅导与主动教学。支持图文语音输入,本地化部署保障隐私,重构“教、学、评、辅”全链路,推动因材施教落地,助力教育数字化转型。(238字)
1805 23
|
11月前
|
机器学习/深度学习 存储 并行计算
大模型推理加速技术:FlashAttention原理与实现
本文深入解析大语言模型推理加速的核心技术——FlashAttention。通过分析传统注意力机制的计算瓶颈,详细阐述FlashAttention的IO感知算法设计、前向反向传播实现,以及其在GPU内存层次结构中的优化策略。文章包含完整的CUDA实现示例、性能基准测试和实际部署指南,为开发者提供高效注意力计算的全套解决方案。
1803 10
|
11月前
|
存储 人工智能 算法
大模型4-bit量化技术详解
本文系统阐述大语言模型的4-bit量化技术,深入解析GPTQ、AWQ等主流量化方法的原理与实现。通过详细的数学推导、代码实现和实验对比,展示4-bit量化如何将模型内存占用降低75%以上同时保持模型性能。文章涵盖量化感知训练、后训练量化、混合精度量化等关键技术,为开发者提供完整的模型压缩解决方案。
2211 7
|
11月前
|
人工智能 文字识别 自然语言处理
从“看见”到“预见”:合合信息“多模态文本智能技术”如何引爆AI下一场革命。
近期,在第八届中国模式识别与计算机视觉学术会议(PRCV 2025)上,合合信息作为承办方举办了“多模态文本智能大模型前沿技术与应用”论坛,汇聚了学术界的顶尖智慧,更抛出了一颗重磅“炸弹”——“多模态文本智能技术”概念。
405 1
|
11月前
|
监控 算法 测试技术
大模型推理服务优化:动态批处理与连续批处理技术
本文系统阐述大语言模型推理服务中的关键技术——动态批处理与连续批处理。通过分析传统静态批处理的局限性,深入解析动态批处理的请求调度算法、内存管理策略,以及连续批处理的中断恢复机制。文章包含完整的服务架构设计、核心算法实现和性能基准测试,为构建高性能大模型推理服务提供全面解决方案。
1229 3