请问palm是否支持本地自定义数据集呢？
请问palm是否支持本地自定义数据集呢？（文本生成的），官网只看到了从DataHub 加载公开数据的方式，不知道私有数据该如何适配MsDataset呢？ from modelscope.msdatasets import MsDataset ds_dict = MsDataset.load('squad', namespace='damotest') print(ds_dict['train'][0])
写回答
-
本地dataset如果是文本数据可以使用这种方式： 方式1： from modelscope.msdatasets import MsDataset
(需保证 ../data/ 文件夹下平铺所有csv文件，并且文件名字为 train.csv, test.csv)
local_data = MsDataset.load('/Users/xxx/your-local-path/data') train_set = local_data['train'] test_set = local_data['test'] print(next(iter(train_set))) print(next(iter(test_set))) 方式2：
支持自定义文件名
local_data = MsDataset.load('csv', data_files={'train': ['/Users/xxx/your-local-path/my_train.csv'], 'test': ['/Users/xxx/your-local-path/data/my_test.csv']}) train_set = local_data['train'] test_set = local_data['test'] print(next(iter(train_set))) print(next(iter(test_set))) 此答案整理自钉钉群“ModelScope开发者联盟群 ①”
2022-10-31 15:38:16赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
