备案控制台

分布式计算

首页 标签 分布式计算
# 分布式计算 #
关注
33602内容
最新 热门 文章 问答 视频 电子书 课程
Deephub
|
博文
|
来自： 大数据与机器学习
You Only Cache Once:YOCO 基于Decoder-Decoder 的一个新的大语言模型架构
YOCO是一种新的解码器-解码器架构，旨在解决大型语言模型推理时的内存限制问题。通过只缓存一次键值对，YOCO显著减少了GPU内存占用，与Transformer相比，内存使用降低了约L倍。模型由自解码器和交叉解码器组成，自解码器使用滑动窗口注意力，而交叉解码器利用全局KV缓存。实验表明，YOCO在保持竞争力的性能同时，提高了推理速度，尤其是在处理长序列时。此外，YOCO还减少了预填充时间，提升了吞吐量。
# 存储 # 缓存 # 分布式计算 # 异构计算
穿过生命散发芬芳
|
博文
机器学习库
【5月更文挑战第12天】机器学习流水线是构建、优化和验证学习工作流的工具，帮助用户专注于大数据和学习任务，而非基础设施。
# 机器学习/深度学习 # 数据采集 # 分布式计算 # 算法 # 数据处理
布客飞龙
|
1天前
|
博文
Python 数学应用（四）（4）
Python 数学应用（四）
# 分布式计算 # 调度 # 异构计算 # 索引 # Python
布客飞龙
|
1天前
|
博文
每个程序员都应该知道的 40 个算法（四）（1）
每个程序员都应该知道的 40 个算法（四）
# GPU云服务器 # 分布式计算 # 并行计算 # 算法 # 程序员 # 异构计算
布客飞龙
|
1天前
|
博文
每个程序员都应该知道的 40 个算法（四）（2）
每个程序员都应该知道的 40 个算法（四）
# GPU云服务器 # 分布式计算 # 并行计算 # 算法 # Spark # 异构计算
aliyun7689123603-22772
|
1天前
|
博文
spark用于分析数据并将数据保存到数据库中是
5月更文挑战第8天
# 云数据库 RDS MySQL 版 # 分布式计算 # Java # 关系型数据库 # 数据库 # Spark
以山向海
|
1天前
|
博文
关系型数据库设计集群架构需求分析
关系型数据库设计集群架构的需求分析是一个综合考虑业务需求、性能、可用性、可扩展性、数据一致性、安全性、成本效益和技术选型等多个方面的过程。通过深入分析和评估，可以设计出满足业务需求且高效可靠的数据库集群架构。
# 云原生数据库 PolarDB # 分布式计算 # 负载均衡 # 关系型数据库 # 分布式数据库 # 数据库
听风de歌
|
1天前
|
博文
Hadoop权限问题
【5月更文挑战第6天】Hadoop权限问题
# 分布式计算 # 监控 # Hadoop # Linux # 数据安全/隐私保护
听风de歌
|
1天前
|
博文
Hadoop生态系统集成问题
【5月更文挑战第6天】
# 数据集成 Data Integration # 存储 # 分布式计算 # 资源调度 # Hadoop # Apache
听风de歌
|
1天前
|
博文
Hadoop安全性问题
【5月更文挑战第6天】Hadoop安全性问题
# 密钥管理服务 # 存储 # 分布式计算 # 安全 # Hadoop # 数据安全/隐私保护
免费试用