请问MsDataset可以加载本地路径的dataset吗？
请问MsDataset可以加载本地路径的dataset吗？我把本地dataset编辑成Msdataset一样的格式。
写回答
-
也支持的，参考如下方式： 方式1： from modelscope.msdatasets import MsDataset
(需保证 ../data/ 文件夹下平铺所有csv文件，并且文件名字为 train.csv, test.csv)
local_data = MsDataset.load('/Users/xxx/your-local-path/data') train_set = local_data['train'] test_set = local_data['test'] print(next(iter(train_set))) print(next(iter(test_set)))
方式2：
支持自定义文件名（如果是json格式，则第一个参数替换成'json'; 同理txt格式则替换成'text'）
local_data = MsDataset.load('csv', data_files={'train': ['/Users/xxx/your-local-path/my_train.csv'], 'test': ['/Users/xxx/your-local-path/data/my_test.csv']}) train_set = local_data['train'] test_set = local_data['test'] print(next(iter(train_set))) print(next(iter(test_set)))此答案整理自钉钉群“魔搭ModelScope开发者联盟群 ①”
2022-12-26 21:04:41赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
