Serverless

首页 标签 Serverless
# Serverless #
关注
24717内容
|
14天前
|
如何在 Ray 中调用大模型?基于 EMR Serverless Spark 的端到端方案设计
本文提出一种以EMR Serverless Spark为核心枢纽的端到端方案,解决Ray集群中调用大模型时面临的资源弹性不足、服务与数据割裂、多模态协同困难等关键问题;通过模型服务注册中心将Ray Serve部署的LLM封装为可治理、可编排的数据算子,利用Daft AI Function在DataFrame层统一处理结构化与非结构化输入,并集成质量校验、可观测性与自动化交付能力,已在生产环境支撑日均亿级调用且平均延迟低于500ms。
|
14天前
|
多模态数据(视频/图片/文本/音频)如何用大模型处理?EMR Serverless Spark 构建统一AI增强型数据湖方案
EMR Serverless Spark 作为AI增强型数据湖执行引擎,通过标准化AI Function机制,支持在SQL或PySpark中统一调用OCR、语音识别、图像标签、文本摘要等多模态模型服务,实现TB-PB级非结构化数据的批量、可编排、可观测特征抽取与向量化入库;其核心价值在于将模型推理深度融入ETL流程,无需迁移原始数据、不托管模型权重,提供统一入口、统一治理与统一弹性,显著降低多模态AI工程化门槛。
|
14天前
|
CPU和GPU异构计算场景下,如何构建高效数据+AI融合方案?EMR Serverless Spark 的实践路径与适用边界
EMR Serverless Spark 作为CPU与GPU异构计算场景下的数据+AI融合中枢,不直接提供GPU算力,而是通过AI Function标准协议调度PAI-EAS等外部GPU服务,结合DLF+Paimon统一纳管原始数据、DataWorks实现全链路血缘与质量管控,在淘宝闪购等生产环境中验证了高吞吐、低延迟、强一致的大规模特征生产能力;其核心价值在于解耦计算资源、抽象AI能力为SQL操作,并明确适用于需湖仓深度集成、超大规模及高SLA要求的Data+AI协同场景。
阿里云国际代理商:双11出海客服RAG Elasticsearch混合检索架构配置指南
本文介绍阿里云国际站Elasticsearch在双11大促场景下,面向出海电商客服RAG系统的混合检索(BM25+向量)落地实践,涵盖版本选型、Mapping配置、RRF查询、内存估算与高并发调优等关键环节。(239字)
|
14天前
|
全托管 DuckDB 替代方案怎么选?EMR Serverless Spark 选型对比与湖仓实践方案
本文深入剖析了当数据规模突破单机极限时,EMR Serverless Spark 如何作为 DuckDB 的自然演进选择,支撑中大规模湖仓场景下的清洗建模、AI 融合分析与多引擎协同;通过对比 Databricks、Snowflake、BigQuery 等竞品,明确其以开放湖格式为底座、Serverless 批流一体计算为核心、深度集成 SQL-AI 函数的独特定位,并提供了从数据接入、特征工程到下游分析的三步落地实践路径。
|
14天前
|
Trino 性价比太低怎么优化?EMR Serverless Spark 成本优化方案与适用边界
本文针对Trino在实时SQL分析中因常驻资源刚性、元数据瓶颈和AI调用链路过长导致的高成本问题,提出EMR Serverless Spark的系统性优化方案:通过按执行时长计费、自动扩缩容至零、内置AI Function统一调度SQL与大模型任务,在保持Spark SQL兼容性的前提下,实现单位TB处理成本最高下降62%、端到端延迟降低超70%,并明确其适用于混合负载、成本敏感型场景,而非替代Trino的毫秒级低延迟需求。
业级RAG怎么落地信源分级:云上自动化采信实践
本文提出企业级RAG信源五级分级体系(S/A/B/C/D),以知识图谱与语义检索为基座,通过对象存储托管配置、函数计算自动化采信(2条采样上限+6项一致性校验),实现分级自动标注、存量知识库对接及AI引用权管控,口径截至2026年10月27日。(239字)
|
15天前
|
400电话上云办理,自定义来电路由,怎么对接能识别客户意图的客服机器人?
企业把400电话业务迁到云上后,常见诉求不只是“号码能接通”,而是希望按时间、区域、技能组、客户等级、历史会话等条件自定义来电路由,并让客服机器人先识别客户意图,再决定继续机器人处理、转人工或进入工单。本文按工程落地顺序拆解接入架构、三条对接路径、路由规则设计、意图识别链路、400电话上云办理的资质与开通步骤、实施步骤、排障与合规要点,适合技术人员在方案评审和联调前做核对。
|
15天前
| |
来自: 弹性计算
2026阿里云双十一云服务器专场活动:新客38元起+新老同享99元起+免费试用
2026年阿里云双11云服务器专场以"分层普惠"为思路,价格带从38元秒杀轻量服务器一路覆盖至13.8万元旗舰GPU,并叠加学生300元抵扣券与最高660元免费试用额度。活动按九大板块拆解:个人开发者可选99元续费同价ECS、68元轻量或52元函数计算;AI创造者与一人公司分别有87元起Agent套餐、158元起OPC组合套餐;企业侧提供206元起u2i、228元起c9i及A10、旗舰GPU实例。核心策略为"分层普惠+续费同价+组合配齐+免费验证",全部权益以活动页面实时展示为准。
|
16天前
|
如何在 AI Agent 中直接生成 SQL:EMR Serverless Spark 的 SQL/LLM 融合实践方案
本文介绍了EMR Serverless Spark如何通过内置AI Function机制实现自然语言到可执行SQL的可靠转化,覆盖Schema动态注入、语义精准对齐、权限与语法实时校验三大关键能力,支持在DataWorks等生产环境中开箱即用、审计可溯、安全可控地构建SQL生成型AI Agent,首次执行成功率提升至94.7%,显著降低人工修正成本。
免费试用