行业实践 | 基于Qwen2-VL实现医疗表单结构化输出
本项目针对不同医院检查报告单样式差异大、手机拍摄质量差等问题，传统OCR识别效果不佳的情况，探索并选定了Qwen2-vl系列视觉语言模型。通过微调和优化，模型在识别准确率上显著提升，能够精准识别并结构化输出报告单信息，支持整张报告单及特定项目的识别。系统采用FastAPI封装接口，Gradio构建展示界面，具备高效、灵活的应用特性。未来该方案可扩展至多种文本识别场景，助力行业数字化转型。
新浪微博AIGC业务应用探索-AIGC应用平台助力业务提效实践
本次分享围绕AIGC技术在新浪微博的应用展开，涵盖四个部分。首先分析AIGC为微博带来的机遇与挑战，特别是在内容安全和模型幻觉等问题上的应对策略；其次介绍通过工程架构快速实现AIGC技术落地的方法，包括统一部署模型和服务编排；接着展示AIGC在微博的具体应用场景，如评论互动、视频总结和智能客服等；最后展望未来，探讨大模型的发展趋势及其在多模态和特定业务场景中的应用前景。
深度揭秘复杂异构硬件推理优化
本文介绍了大语言模型在部署推理层面的性能优化工作，涵盖高性能算子、量化压缩、高效运行时及分布式调度四个方面。面对参数和上下文规模增长带来的显存、缓存与计算开销挑战，文中详细探讨了如何通过优化算子性能、低精度量化压缩、异步运行时框架设计以及多层次分布式架构来提升大模型推理效率。此外，还展示了BladeLLM引擎框架的实际应用效果，证明了这些技术在高并发场景下的显著性能提升。
GPU安全容器面临的问题和挑战
本次分享由阿里云智能集团弹性计算高级技术专家李亮主讲，聚焦GPU安全容器面临的问题与挑战。内容分为五个部分：首先介绍GPU安全容器的背景及其优势；其次从安全、成本和性能三个维度探讨实践中遇到的问题及应对方案；最后分享GPU安全容器带状态迁移的技术路径与应用场景。在安全方面，重点解决GPU MMIO攻击问题；在成本上，优化虚拟化引入的内存开销；在性能上，提升P2P通信和GPU Direct的效率。带状态迁移则探讨了CRIU、Hibernate及VM迁移等技术的应用前景。
分布式大模型训练的性能建模与调优
阿里云智能集团弹性计算高级技术专家林立翔分享了分布式大模型训练的性能建模与调优。内容涵盖四大方面：1) 大模型对AI基础设施的性能挑战，强调规模增大带来的显存和算力需求；2) 大模型训练的性能分析和建模，介绍TOP-DOWN和bottom-up方法论及工具；3) 基于建模分析的性能优化，通过案例展示显存预估和流水线失衡优化；4) 宣传阿里云AI基础设施，提供高效算力集群、网络及软件支持，助力大模型训练与推理。
深度揭秘超长序列生成任务训练技术
阿里自研的TorchAcc训练引擎提出了超长序列训练方案FlashSequence，针对超长文本理解、视频生成等场景。通过2D Context Parallel和Hybrid FSDP混合分布式策略，结合显存、计算和通信优化，实现了百万级别超长序列模型的高效训练。FlashSequence在算力、显存需求及分布式训练方面进行了多项创新，性能提升显著，最大可达48%。该方案大幅降低了企业创新成本，提升了业务应用的可能性。
云上AI Infra解锁大模型创新应用
本节课程由阿里云智能集团资深技术专家王超分享，主题为AI基础设施的发展趋势。课程聚焦于AI Infra设计与Scaling Law，探讨了下一代AI基础设施的设计目标、功能升级及推理场景中的应用。主要内容包括高效支持大规模模型训练和推理、全球调度系统的设计、Rack level的Scale优化以及多租户容器化使用方式。通过这些改进，旨在提升并行效率、资源利用率及稳定性，推动AI基础设施迈向更高性能和更优调度的新阶段。
大模型训练稳定性思考和实践
本次分享由阿里云智能集团高级技术专家张彭城主讲，聚焦大模型训练的稳定性问题。主要内容分为三部分：1) 大模型训练稳定性的关键挑战，包括大规模同步任务中的故障率高和恢复成本大；2) 阿里云大模型训练稳定性系统的介绍，涵盖健康检测、实时可观测系统及自愈系统；3) 实践分享，探讨集群网络故障定位与修复、性能优化等实际问题的解决方案。通过这些措施，确保大模型训练的高效与稳定。
并行文件存储在大模型训练中的探索与实践
阿里云智能集团存储产品专家何邦剑分享了并行文件存储CPFS在大模型训练中的应用。CPFS针对大模型训练的IO特点，优化性能、降低成本、提升用户体验。它支持多计算平台共享访问，具备数据分层存储、生命周期管理、缓存加速等特性，实现高效的数据处理与管理，显著提升训练效率和资源利用率。尤其在大规模集群中，CPFS提供了高吞吐、低延迟及灵活扩展的能力，助力客户如零一万物实现高性能训练。
阿里云服务器租用价格：包年包月收费标准与月付、1年、3年活动价格
租用阿里云服务器3个月、6个月、1年、3年多少钱？云服务器收费标准是怎样的？根据目前的价格信息，阿里云特价云服务器价格38元、99元、199元、298元，本文分享阿里云服务器最新的租用费用，包括包年包月的收费标准和月付3个月和6个月以及1年、3年活动价格表。