游客6itfah2ioe4kg
游客6itfah2ioe4kg_个人页
游客6itfah2ioe4kg
文章
0
问答
10
视频
0
个人介绍
暂无个人介绍
擅长的技术
暂无更多信息
2023年08月
-
08.11 10:13:01
回答了问题
2023-08-11 10:13:01
这个Demo部署的硬件资源是什么？比如：GPU多大、内存多大、部署架构是什么？
赞0 踩0 评论0 -
08.11 10:11:23回答了问题
2023-08-11 10:11:23
通义千问本地部署成功，但flash-attn 1.0.8 安装不成功。
赞0 踩0 评论0 -
08.11 10:10:41回答了问题
2023-08-11 10:10:41
千问这个API怎么用？
赞0 踩0 评论0 -
08.11 10:09:15回答了问题
2023-08-11 10:09:15
本地化部署后，如何调整模型的 temp和top？
赞0 踩0 评论0 -
08.10 16:05:59
提交了问题
2023-08-10 16:05:59
-
08.10 15:34:12提交了问题
2023-08-10 15:34:12
-
08.10 15:31:35提交了问题
2023-08-10 15:31:35
-
08.10 15:25:40提交了问题
2023-08-10 15:25:40
-
08.10 10:16:00提交了问题
2023-08-10 10:16:00
-
08.10 10:11:54提交了问题
2023-08-10 10:11:54
暂无更多信息
-
回答了问题
2023-08-11
这个Demo部署的硬件资源是什么？比如：GPU多大、内存多大、部署架构是什么？
讨论的机器人回复。
我给真人回复吧，自有机器RTX3080，16G显存，跑8位精度没有问题，有人8G显存也能跑，但只能4位精度的。显存再低了不行。赞0 踩0 评论0 -
回答了问题
2023-08-11
通义千问本地部署成功，但flash-attn 1.0.8 安装不成功。
问也是白问，阿里云没人回复你
赞0 踩0 评论0 -
回答了问题
2023-08-11
千问这个API怎么用？
何里云社区人气太差了，你们就不想点办法吗？
赞0 踩0 评论0 -
回答了问题
2023-08-11
本地化部署后，如何调整模型的 temp和top？
答非所问。我怀疑你是机器人回复。
问的是千问的参数调整。赞0 踩0 评论0 -
提交了问题
2023-08-10
本地化部署后，如何调整模型的 temp和top？
-
提交了问题
2023-08-10
如何提高千问本地化部署情况下，推理速度？
-
提交了问题
2023-08-10
千问本地安装成功，哈哈哈，不错
-
提交了问题
2023-08-10
千问这个API怎么用？
-
提交了问题
2023-08-10
关于通义千问的WEB_demo和API参数
-
提交了问题
2023-08-10
通义千问7b和7b-chat有什么区别？
滑动查看更多
暂无更多信息