ModelScope中，有codefuse34b gptq量化后的safetensors模型么？
ModelScope中，有codefuse34b gptq量化后的int4 的safetensors模型么？
-
面对过去，不要迷离；面对未来，不必彷徨；活在今天，你只要把自己完全展示给别人看。
ModelScope 中有一款名为 “CodeFuse”的大模型，该模型提供了 int4 量化功能，并可以应用于自然语言处理任务。其中一些示例也使用了 quantization-aware training（Quantization-Aware Training）技术来优化性能。
至于 SAFETensors，它是一种增强训练技术，在模型中增加了一层安全性保护机制，它可以确保数据的安全性和隐私保护。该技术可用来保护模型的输出结果和模型权重不泄露敏感信息。2023-11-29 13:14:03赞同 展开评论 -
在ModelScope中，目前并未提供codefuse34b gptq量化后的int4 safetensors模型。不过CodeFuse是基于蚂蚁基础大模型平台研发的代码语言模型，其得分在HumanEval评测中达到了74.4%，甚至超过了GPT-4的得分。该模型涵盖了设计、需求、编码、测试、部署、运维等关键环节，同时也有对应的4-bit量化版本。虽然当前ModelScope没有直接提供您需要的模型，但您或许可以自行尝试使用相关工具如TensorRT-LLM对CodeFuse-CodeLlama-34B进行int4量化处理，或者寻找其他途径获取所需的safetensors模型。
2023-11-29 11:36:12赞同 展开评论 -
没，有v1-5-pruned-emaonly.safetensors
Stable Diffusion v1.5模型，一种潜在的text-to-image（文本到图像）的扩散模型，能够在给定任何文本输入的情况下生成逼真的图像。https://help.aliyun.com/zh/ecs/use-cases/aigc-text-generated-3-d-model?spm=a2c4g.11186623.0.i16
2023-11-22 14:38:47赞同 展开评论
