AI 助理
备案控制台

异构计算

首页 标签 异构计算
# 异构计算 #
关注
19174内容
最新 热门 文章 问答 视频 电子书
Deephub
|
2月前
|
博文
|
来自： 大数据与机器学习
信息检索重排序技术深度解析：Cross-Encoders、ColBERT与大语言模型方法的实践对比
本文将深入分析三种主流的重排序技术：Cross-Encoders（交叉编码器）、ColBERT以及基于大语言模型的重排序器，并详细阐述各方案在实际应用中的性能表现、成本考量以及适用场景。
# 云解析DNS # 存储 # 缓存 # API # 异构计算 # 索引
小华同学ai
|
2月前
|
博文
GitHub 1.3k 一款能“填色回忆”的神器：DDColor 让老照片鲜活又逼真
DDColor 是阿里达摩院推出的图像自动着色模型，采用双解码器架构与 Colorfulness Loss 技术，实现黑白图到高保真彩色图的智能转换。支持 GPU/CPU 推理，兼容历史照片、动画、游戏截图等多场景，具备高效、真实、多样、易用等特点，广泛适用于影像修复、艺术创作等领域。
# 机器学习/深度学习 # 达摩院 # PyTorch # 算法框架/工具 # 异构计算
蚂蚁数据智能技术
|
2月前
|
博文
大模型推理显存优化系列(3)：FlowMLA——面向高吞吐的DP MLA零冗余显存优化
本文将介绍蚂蚁集团ASystem团队在推理显存优化上的新工作FlowMLA
# 机器学习/深度学习 # 存储 # 并行计算 # 调度 # 异构计算
小华同学ai
|
2月前
|
博文
GitHub热搜，腾讯黑科技炸场！PhotoMaker：10秒定制真人级头像，百万开发者已疯狂
PhotoMaker 是腾讯 ARC 联合南开大学推出的高效人像生成项目，荣膺 CVPR 2024。支持输入人脸照片与文本描述，秒级生成高保真图像，兼容多种风格与插件，无需额外训练，广泛适用于头像定制、影视后制、虚拟角色创建等场景。
# 人工智能 # 搜索推荐 # 物联网 # 开发者 # 异构计算
modelscope
|
2月前
|
博文
|
来自： ModelScope模型即服务
FLUX.1 Kontext 的全生态教程来啦！AIGC专区在线试玩！
Flux.1 Kontext [dev] 开源模型大家都用上了吗？小编汇总了3个使用教程，打包送上！
# 编解码 # 物联网 # 开发者 # 异构计算 # Python
Deephub
|
2月前
|
博文
|
来自： 大数据与机器学习
CUDA性能优化实战：7个步骤让并行归约算法提升10倍效率
https://avoid.overfit.cn/post/af59d0a6ce474b8fa7a8eafb2117a404
# 存储 # 并行计算 # 算法 # 异构计算 # 索引
阿里云云原生
|
3月前
|
博文
|
来自： 云原生
基于 AI 网关和 llmaz，提升 vLLM 推理服务可用性和部署易用性的实践
本文介绍了如何使用 llmaz 快速部署基于 vLLM 的大语言模型推理服务，并结合 Higress AI 网关实现流量控制、可观测性、故障转移等能力，构建稳定、高可用的大模型服务平台。
# 人工智能 # Kubernetes # 调度 # 异构计算 # 容器
小周sir
|
3月前
|
博文
丝般顺滑：Web动画性能优化小技巧
丝般顺滑：Web动画性能优化小技巧
# Web App开发 # 监控 # 前端开发 # UED # 异构计算
Deephub
|
3月前
|
博文
|
来自： 大数据与机器学习
Arctic长序列训练技术：百万级Token序列的可扩展高效训练方法
Arctic长序列训练(Arctic Long Sequence Training, ALST)技术能够在4个H100节点上对Meta的Llama-8B模型进行高达1500万token序列的训练，使得长序列训练在标准GPU集群甚至单个GPU上都能实现快速、高效且易于部署的执行。
# 机器学习/深度学习 # 存储 # PyTorch # 算法框架/工具 # 异构计算
Deephub
|
3月前
|
博文
|
来自： 大数据与机器学习
小模型当老师效果更好：借助RLTs方法7B参数击败671B，训练成本暴降99%
强化学习教师模型代表了训练推理语言模型的范式转变。通过从答案开始并专注于解释生成，RLT将训练过程转化为师生协作游戏，实现多方共赢：教师学会有效教学，学生从定制化课程中受益，工程师获得性能更好且成本更低的模型解决方案。
# 机器学习/深度学习 # 人工智能 # Kubernetes # 异构计算 # 容器
免费试用