问题1:请问modelscope中 数据集无法上传比较大的数据文件(64G)这个问题可以解决吗? 问题2:不能用页面上传吗,我的token不知道从哪里找?
对于第一个问题,ModelScope 平台对于上传数据集的大小有一定限制,因此无法直接上传大小为 64GB 的数据文件。不过可以考虑以下解决方案:
将数据集拆分成多个较小的文件,并逐个上传。这样可以减小单个文件的大小,从而降低上传失败的风险。
将数据集存储到云存储服务中(例如 Amazon S3、Google Cloud Storage 等),然后通过 ModelScope 平台的 API 进行访问。这样可以避免直接上传大文件的问题,并且能够更加灵活地管理数据集。
对于第二个问题,可以在 ModelScope 平台的个人设置页面中查找你的 API Token。具体步骤如下:
登录 ModelScope 平台,并进入个人设置页面。
在个人设置页面中,您可以找到 API Token,将其复制到剪贴板中。
在代码中,将 API Token 作为参数传递给 modelscope 包中的相应函数(例如 modelscope.upload_dataset() 函数)。
"回答1:传到 “数据集文件”那个tab下么, 可以使用sdk 的 MsDataset.upload 函数就行。 回答2:页面上传太大的文件不太好,受限于浏览器。 token的话,登录后 在首页->“访问令牌”-> SDK令牌那里。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352